تصاویری که توسط مدل‌های مولد OpenAI منتشر می‌شوند شامل ابرداده‌هایی هستند که منشأ آن‌ها را فاش می‌کنند، که به نوبه خود می‌توانند توسط برنامه‌ها برای هشدار دادن به مردم در مورد ماهیت ماشینی آن محتوا استفاده شوند.

به طور خاص، آزمایشگاه فوق‌العاده قهرمان مایکروسافت، همانطور که انتظار می‌رفت، مشخصات Content Credentials را که توسط Coalition for Content Provenance and Authenticity ابداع شده بود، اتخاذ می‌کند.C2PA)، یک بدنه صنعتی که توسط Adobe، Arm، Microsoft، Intel و غیره پشتیبانی می شود.

اعتبار محتوا است خیلی ساده و مشخص شده است به طور کامل در اینجا: استفاده می کند فرمت های استاندارد داده برای ذخیره در فایل های رسانه ای جزئیات مربوط به اینکه چه کسی و چگونه مواد را ساخته است. این ابرداده مستقیماً برای کاربر قابل مشاهده نیست و از نظر رمزنگاری محافظت می شود تا هرگونه تغییر غیرمجاز آشکار باشد.

برنامه‌هایی که از این ابرداده پشتیبانی می‌کنند، زمانی که آن را در محتویات یک فایل شناسایی می‌کنند، انتظار می‌رود که نشان‌واره کوچک «cr» را روی محتوا نشان دهند تا نشان دهد اطلاعات اعتبار محتوا در آن فایل وجود دارد. با کلیک بر روی آن لوگو باید یک پاپ آپ حاوی آن اطلاعات باز شود، از جمله هرگونه افشاگری مبنی بر اینکه این موارد توسط هوش مصنوعی ساخته شده است.

در اینجا ایده این است که برای افرادی که در حال مشاهده یا ویرایش موارد در برنامه‌های کاربردی پشتیبانی می‌کنند – از ویرایشگرهای تصویر گرفته تا مرورگرهای وب، در حالت ایده‌آل – باید فوراً واضح باشد که آیا محتوای روی صفحه‌نمایش ساخته‌شده با هوش مصنوعی است یا خیر.

کمک به افراد در تشخیص تصاویر واقعی و جعلی بدون شک اهمیت فزاینده ای پیدا می کند زیرا محتوای تولید شده توسط هوش مصنوعی به حدی ارتقا می یابد که مشخصاً خروجی یک دستگاه نیست. کارشناسان بیم دارند که چنین رسانه های مصنوعی، کاربران اینترنتی را گمراه کنند و برای افشای اطلاعات نادرست یا حمایت از کمپین های اطلاعات نادرست استفاده شوند. با نزدیک شدن به انتخابات ریاست جمهوری آمریکا در سال 2024، شرکت های فناوری در حال افزایش تلاش ها برای به حداقل رساندن خطرات هستند.

با این حال، استراتژی Content Credentials مانند ما بی‌خطا نیست قبلا گزارش شده است. ابرداده را می توان به راحتی بدون آن حذف یا صادر کرد، یا "cr" را از اسکرین شات ها حذف کرد، بنابراین هیچ نشانی از "cr" در آینده در هیچ برنامه ای روی مطالب ظاهر نخواهد شد. همچنین به برنامه‌ها و سرویس‌ها برای پشتیبانی از مشخصات متکی است، چه در حال ایجاد یا نمایش رسانه باشند.

برای کار در مقیاس و به دست آوردن پذیرش، همچنین به نوعی سیستم ابری نیاز دارد که بتوان از آن برای بازیابی ابرداده حذف شده استفاده کرد، که اتفاقاً Adobe به آن فشار می آورد، و همچنین به یک کمپین بازاریابی برای گسترش آگاهی از نام تجاری. اگر می خواهید، پهنای نام تجاری آن را افزایش دهید.

OpenAI در این هفته زمانی که ChatGPT و DALL-E 3 API این هفته را اعلام کردند، اعتبار محتوای C2PA را در خروجی خود قرار می‌دهند، تأیید کرد.

OpenAI "فراداده مانند C2PA یک گلوله نقره ای برای پرداختن به مسائل منشأ نیست." پذیرفته. "به راحتی می توان آن را به طور تصادفی یا عمدی حذف کرد. به عنوان مثال، امروزه اکثر پلتفرم‌های رسانه‌های اجتماعی ابرداده‌ها را از تصاویر آپلود شده حذف می‌کنند و اقداماتی مانند گرفتن اسکرین شات نیز می‌تواند آن را حذف کند. بنابراین، تصویری که فاقد این ابرداده است ممکن است با ChatGPT یا API ما ایجاد شده باشد یا نباشد.

از نظر تأثیر اندازه فایل، OpenAI اصرار داشت که یک فایل PNG 3.1 مگابایتی که توسط DALL-E API تولید می‌شود، با احتساب ابرداده، حدود سه درصد (یا حدود 90 کیلوبایت) رشد می‌کند. در همین حال، یک فایل WebP 287K با حجم 32 کیلوبایت حدود 90 درصد افزایش می یابد.

C2PA در حال افزایش است: همانطور که برنامه ها و سرویس های بیشتری برای پشتیبانی از آن متعهد می شوند، نرم افزارهای بیشتری می توانند از آن استفاده کنند، افراد بیشتری باید آن را ببینند و بنابراین رشد می کند. متا اعلام کرد این هفته در حال ساخت ابزارهایی برای پشتیبانی از مشخصات گروه صنعتی بود.

OpenAI اعلام کرد: «ما معتقدیم که اتخاذ این روش‌ها برای ایجاد منشأ و تشویق کاربران به شناسایی این سیگنال‌ها کلید افزایش قابلیت اعتماد اطلاعات دیجیتال است.

به ما گفته شده است که ChatGPT از طریق وب و مدل DALL-E 3 از طریق API آن اکنون شامل ابرداده C2PA خواهد شد و کاربران تلفن همراه تا 12 فوریه آن را دریافت خواهند کرد.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/