ترند فيه سم قاتل.. ما هي مخاطر صناعة الصور بالذكاء الاصطناعي؟

لم تعد الصورة مجرد ذكرى رقمية، بل بيانًا شخصيًا يُغذي نظامًا يتعلّم من وجوهنا وملامحنا وملابسنا وحتى من أحلامنا، فيقول دكتور ماركو ممدوح، أستاذ هندسة الحاسبات والذكاء الاصطناعي، إنّ أي نموذج من نماذج الذكاء الاصطناعي يعتمد على نوعين من آليات التطوّر، أبرزها ما يُعرف بـ«التعلّم الذاتي»، وهو النظام الذي يُمكّن الأداة من تحسين أدائها استنادًا إلى نتائج المحادثات والتفاعلات السابقة مع المستخدمين.

ويُضيف: «لهذا السبب نرى دائمًا تحذيرات مكتوبة داخل التطبيقات تقول لا تشارك معلوماتك الشخصية أو الأرقام السرية مع الذكاء الاصطناعي، ورغم أن المحادثة تبدو خاصة بين المستخدم والنظام، إلا أن الحقيقة أن النموذج يستفيد من محتواها في تطوير نفسه مرة أخرى».

ويُوضح «ممدوح» أنّ الأمر لا يقتصر على النصوص فحسب، بل يمتد إلى الصور الشخصية أيضًا، مشيرًا إلى أن «الذكاء الاصطناعي يجد في تلك الصور كنزًا ثمينًا، فهي مواد عالية الجودة لأشخاص حقيقيين يوافقون – عن غير قصد – على شروط الاستخدام التي تتضمن السماح بإعادة استخدام صورهم».ويتابع موضحًا: «معظم المستخدمين لا يقرأون اتفاقيات الاستخدام الطويلة، فيضغطون على (موافق) مباشرة، دون إدراك أن تلك الموافقة تمنح الشركة حق استخدام صورهم لأغراض مختلفة قد تشمل التدريب أو إعادة النشر أو حتى التعديل عليها.»

هل تطبيق «جيميناي» تحديدًا يُعد خطرًا؟

بعد تصدر جيميناي الترند بأداة بنانا الجديدة أثيرت التساؤلات حول خطورة جيميناي على وجه التحديد وعنها يقول «ممدوح»، إنّ «جيميناي» ليس وحده في المشهد، بل هناك عشرات الأدوات المشابهة التي تعمل بنفس المبدأ، مُضيفًا أن أي نموذج أو موقع يستخدم وجه الإنسان لصناعة الصور أو دمجها أو تعديلها، فبنسبة كبيرة جدًا يتم إعادة استخدام هذه الصور لاحقًا، لأنّه لا توجد مجانية حقيقية في هذا المجال، فتكاليف تشغيل النماذج مرتفعة، والمقابل الذي تحصل عليه الشركات هو بيانات المستخدمين وصورهم الحقيقية التي يرفعونها بإرادتهم الكاملة».هل الشركات تتعمّد الترويج لتلك الترندات؟

إقرأ أيضًا: لماذا يريد نتنياهو وترامب إنهاء الحرب في غزة قبل 7 أكتوبر ؟

يُجيب أستاذ الذكاء الاصطناعي بإنّ الأمر مدروس بعناية، قائلًا «الحيل التسويقية متعددة، لكن كثيرًا من هذه النماذج صُمم أساسًا لتوليد هذا النوع من الصور بهدف جمع أكبر قدر ممكن من الصور الحقيقية. لذلك نعم، الشركات تستهدف الترويج لمثل هذه الترندات كحملات دعائية لتحقيق غايتها الأساسية، وهي تجميع الصور وامتلاك حقوق استخدامها.»

10 مخاطر خفية خلف صور الذكاء الاصطناعي

1_فقدان السيطرة على الهوية الرقمية:

الصور التي ترفعها يمكن أن تُستخدم لتحديد هويتك أو تدريب أنظمة تعرف الوجوه، دون علمك.

2-صناعة الـDeepfake:

الصور الواقعية التي يحصل عليها الذكاء الاصطناعي تُستخدم في تطوير تقنيات التزييف العميق، ما يفتح الباب أمام استخدام صورك في مشاهد أو فيديوهات مزيفة.

3_انتهاك الخصوصية:

خوارزميات التحليل البصري يمكنها تحديد موقعك، ديكور منزلك، أو حتى الأشخاص الذين يظهرون معك في الصورة.

4_الموافقة غير الواعية:

شروط الاستخدام الطويلة التي يوافق عليها المستخدم تلقائيًا تمنح الشركات الحق في إعادة استخدام الصور لأغراض تجارية أو بحثية.

5_التسريب والاختراق:

أي قاعدة بيانات رقمية عرضة للاختراق، ما يعني أن صور المستخدمين يمكن أن تُسرّب أو تُباع على الإنترنت.

6_التأثير على المصداقية البصرية:

كل صورة تُرفع لتوليد محتوى جديد تجعل من الصعب تمييز الحقيقي من المزيف، ما يهدد الثقة بالصور في الفضاء الرقمي.

7_استغلال الصور تجاريًا:

بعض الشركات تبيع بيانات الصور إلى أطراف ثالثة لتدريب أنظمة أخرى أو لإعلانات موجهة.

8_استخدام الصور في حملات سياسية أو دعائية:

الصورة الشخصية يمكن أن تُدمج في مشهد أو إعلان دون علم صاحبها، فيصبح وجهه جزءًا من خطاب لم يختره.

9_مخاطر نفسية وهوية رقمية مشوّهة:

الإدمان على رؤية نسخ مثالية من الذات في الصور المعدلة قد يؤثر على صورة الجسد والثقة بالنفس.

10_انعدام المساءلة القانونية:

أغلب المنصات تعمل من خارج الحدود المحلية، مما يجعل ملاحقتها قانونيًا في حال إساءة استخدام الصور أمرًا شبه مستحيلنصائح للحفاظ على الأمان عند استخدام هذه الأدوات

يقدم ماركو ممدوح مجموعة من النصائح للحفاظ على الخصوصية والأمان في هذا الجانب قائلًا:تجنب رفع صور تحتوي على معلومات شخصية أو حساسة.

● قراءة وفهم شروط الاستخدام الخاصة بالأداة قبل مشاركة الصور.

● ضبط إعدادات الخصوصية وحذف الصور غير المرغوب فيها من خوادم الأداة إن أمكن.

● استخدام الترندات بشكل واعٍ، مع إدراك أن الصور قد تُعاد استخدامها مستقبلًا.