أثار تحقيق أجرته صحيفة “الغارديان” البريطانية قلقًا حول موثوقية نتائج أداة البحث عبر الإنترنت في ChatGPT، التي تعتمد على الذكاء الاصطناعي لتقديم إجابات مختصرة ودقيقة.
التحقيق أظهر أن الأداة قد تكون عرضة لتقنيات تلاعب، مما قد يؤدي إلى تقديم معلومات مضللة للمستخدمين.
آلية عمل الأداة ومشكلة التلاعب
تعتمد أداة البحث في ChatGPT على جمع ومعالجة البيانات من مصادر مختلفة عبر الإنترنت، لتقديم إجابات مدمجة تلبي استفسارات المستخدمين بسرعة. ومع ذلك، فإن التقنية الحالية تُظهر قابلية للتلاعب من خلال أسلوب يُعرف بـ”حقن الإعلانات” (Ad Injection).
هذه الطريقة تقوم على تضمين تعليمات مخفية في شِفرة المواقع الإلكترونية، مما يجعل محركات البحث المدعومة بالذكاء الاصطناعي تعرض المحتوى بشكل إيجابي، بغض النظر عن الحقائق الفعلية.
في تجربة أجراها فريق “الغارديان”، تم إنشاء صفحة وهمية تحتوي على مراجعات سلبية لمنتج معين، مع تضمين تعليمات برمجية مخفية تُظهر المنتج بشكل إيجابي. نتائج البحث في ChatGPT تجاهلت المراجعات السلبية وركزت على المحتوى الإيجابي المزيف، مما أكد أن الأداة الحالية قد تقدم معلومات منحازة وغير دقيقة.
التحديات أمام OpenAI
رغم أن أداة البحث في ChatGPT ما زالت في مراحلها التجريبية، فإن هذا التحقيق ألقى الضوء على المشكلات التي تواجهها OpenAI.
من المتوقع أن تعمل الشركة على تحسين آليات معالجة البيانات وزيادة الشفافية لتجنب تكرار مثل هذه الأخطاء عند الإطلاق النهائي.
تحذيرات الخبراء
يحذر خبراء التكنولوجيا من الاعتماد الكلي على نتائج محركات البحث المدعومة بالذكاء الاصطناعي، مثل ChatGPT. رغم قدرتها على توفير إجابات سريعة، إلا أن هذه الأدوات ينبغي أن تُستخدم كمساعدات ذكية، وليس كمصادر نهائية للمعلومات.
مشكلات مشابهة مع جوجل
جدير بالذكر أن جوجل واجهت تحديات مشابهة عند إطلاق ميزة “المطالعات الذكية” (AI Overviews) في محرك بحثها، والتي تهدف إلى تقديم ملخصات بالذكاء الاصطناعي.
النتائج المماثلة لهذه المشكلات تشير إلى أن تطوير محركات بحث قائمة على الذكاء الاصطناعي يحتاج إلى تحسينات مستمرة لضمان الموثوقية.
تقنيات الذكاء الاصطناعي تشهد تطورًا سريعًا، ولكنها ليست معصومة من الخطأ. تحتاج الشركات المطورة لهذه التقنيات إلى تعزيز آليات مكافحة التلاعب وضمان الشفافية للحفاظ على ثقة المستخدمين. تحقيق نتائج بحث موثوقة يتطلب مزيدًا من العمل لضمان دقة المعلومات المقدمة ومنع انتشار التضليل.
