في محاولة للمساعدة في منع انتشار المعلومات الخاطئة، كشفت شركة غوغل يوم الثلاثاء عن علامة مائية دائمة وغير مرئية على الصور التي ستحددها على أنها تم إنشاؤها بواسطة الكمبيوتر.
ووفقاً لما نشره موقع “CNN”، تقوم التقنية، التي تسمى SynthID، بدمج العلامة المائية مباشرة في الصور التي تم إنشاؤها بواسطة Imagen، أحد أحدث مولدات تحويل النص إلى صورة من غوغل. تظل التسمية التي تم إنشاؤها بواسطة الذكاء الاصطناعي بغض النظر عن التعديلات مثل المرشحات المضافة أو الألوان المتغيرة.
يمكن لأداة SynthID أيضًا فحص الصور الواردة وتحديد احتمالية أن تكون قد تم التقاطها بواسطة Imagen عن طريق المسح بحثًا عن العلامة المائية بثلاثة مستويات من اليقين: تم اكتشافها، ولم يتم اكتشافها، وربما تم اكتشافها.
وكتبت غوغل في تدوينة يوم الثلاثاء: “على الرغم من أن هذه التكنولوجيا ليست مثالية، إلا أن اختباراتنا الداخلية تظهر أنها دقيقة ضد العديد من عمليات التلاعب الشائعة بالصور”.
يتوفر الآن إصدار تجريبي من SynthID لبعض عملاء Vertex AI، منصة غوغل للذكاء الاصطناعي التوليدي للمطورين. وتقول الشركة إن SynthID، الذي أنشأته وحدة DeepMind التابعة لشركة غوغل بالشراكة مع Google Cloud، سيستمر في التطور وقد يتوسع ليشمل منتجات غوغل الأخرى أو أطراف ثالثة.
التزييف العميق والصور المعدلة
نظرًا لأن الصور ومقاطع الفيديو المزيفة والمعدلة أصبحت واقعية بشكل متزايد، تسعى شركات التكنولوجيا جاهدة لإيجاد طريقة موثوقة لتحديد المحتوى الذي تم التلاعب به والإبلاغ عنه. في الأشهر الأخيرة، انتشرت صورة أنشأها الذكاء الاصطناعي للبابا فرانسيس وهو يرتدي سترة منتفخة، وانتشرت على نطاق واسع صور أنشأها الذكاء الاصطناعي للرئيس السابق دونالد ترامب أثناء اعتقاله قبل توجيه الاتهام إليه.
ودعت فيرا جوروفا، نائبة رئيس المفوضية الأوروبية، الموقعين على مدونة ممارسات الاتحاد الأوروبي بشأن المعلومات المضللة – وهي قائمة تضم جوجل وميتا ومايكروسوفت وتيك توك – إلى “وضع التكنولوجيا للتعرف على هذا المحتوى وتصنيفه بوضوح للمستخدمين” فى يونيو.
ومع الإعلان عن SynthID، تنضم غوغل إلى عدد متزايد من الشركات الناشئة وشركات التكنولوجيا الكبرى التي تحاول إيجاد حلول. بعض هذه الشركات تحمل أسماء مثل Truepic وReality Defender، والتي تتحدث عن المخاطر المحتملة لهذا الجهد: حماية إحساسنا بما هو حقيقي وما هو غير حقيقي.
تتبع مصدر المحتوى
كان التحالف من أجل مصدر المحتوى وأصالته (C2PA)، وهو اتحاد مدعوم من شركة Adobe، هو الرائد في جهود العلامات المائية الرقمية، في حين اتبعت غوغل إلى حد كبير نهجها الخاص.
في شهر مايو، أعلنت جوجل عن أداة تسمى “حول هذه الصورة”، والتي توفر للمستخدمين القدرة على معرفة متى تمت فهرسة الصور الموجودة على موقعها في الأصل بواسطة غوغل، والمكان الذي قد تظهر فيه الصور لأول مرة، وأين يمكن العثور عليها عبر الإنترنت.
أعلنت شركة التكنولوجيا أيضًا أن كل صورة تم إنشاؤها بواسطة الذكاء الاصطناعي بواسطة غوغل ستحمل علامة في الملف الأصلي “لإعطاء سياق” إذا تم العثور على الصورة على موقع ويب أو نظام أساسي آخر.
ولكن مع تطور تكنولوجيا الذكاء الاصطناعي بشكل أسرع من قدرة البشر على مواكبته، فمن غير الواضح ما إذا كانت هذه الحلول التقنية ستكون قادرة على معالجة المشكلة بشكل كامل. واعترفت شركة OpenAI، الشركة التي تقف وراء Dall-E وChatGPT، في وقت سابق من هذا العام بأن جهودها الخاصة للمساعدة في اكتشاف الكتابة الناتجة عن الذكاء الاصطناعي، بدلاً من الصور، “غير كاملة”، وحذرت من أنه يجب أن تكون “مشكوكًا فيها”.
