تحدي الثقة في الأبحاث المولّدة بالذكاء الاصطناعي

أبرز استكشاف حديث لوسائل التواصل الاجتماعي مخاوف بشأن الثقة في المعلومات، لا سيما مع صعود المحتوى المولّد بالذكاء الاصطناعي. ويسارع كثير من المستخدمين إلى تمييز المنشورات المولّدة آلياً، ما كثيراً ما يعرّض من يشاركونها دون علم للحرج، بينما يجد آخرون متعة في الارتباك الذي تثيره.

وبالعودة إلى الأيام الأولى لـ GPT-3، حين كان بإمكان المستخدمين سؤال النموذج عن أي شيء وتلقي إجابات واثقة لكنها خاطئة في كثير من الأحيان، ارتبط مصطلح “hallucination” بمخرجات الذكاء الاصطناعي. ورغم التقدم في نماذج الذكاء الاصطناعي مثل Claude وGemini، لا يزال التشكيك قائماً في موثوقية إجاباتها. ولم يكن مبدأ “الثقة مع التحقق” أكثر أهمية مما هو عليه الآن.

هذا المبدأ جوهري للحفاظ على نزاهة السجل العلمي، ويشكّل تحدياً كبيراً لدور نشر الأبحاث المحكّمة. وفي مقال بعنوان “I Used AI to Fake a Scientific Paper”، يروي الكاتب المستقل والحاصل على الدكتوراه في الرياضيات التطبيقية Benjamin Skuse محاولاته تجاوز دفاعات IEEE بأوراق علمية مولّدة بالذكاء الاصطناعي.

وأشارت Eliza Strickland، محررة الميزات وتغطية الذكاء الاصطناعي، إلى دهشة Skuse من سهولة إنتاجه ورقة علمية تبدو معقولة. ففي إحدى التجارب، نفّذ ببساطة أوامر “run experiment” و”write paper”، ثم قدّم النتيجة دون تعديلات إضافية.

ووجد Skuse أن مزيج IEEE من عمليات المراجعة البشرية وبرامج فحص نزاهة البحث فعّال حالياً ضد تدفق المحتوى المولّد بالذكاء الاصطناعي. لكن مع تحسّن نماذج اللغة المتقدمة، يقل احتمال ارتكابها الأخطاء التي ترتكبها الأدوات الأبسط، ما يخلق ديناميكية مستمرة من المطاردة بين دور النشر ومن يستغلون أدوات الذكاء الاصطناعي المجانية.

وليس الناشرون العلميون وحدهم في هذه المعركة. فمنصة Wikipedia، بوصفها مستودعاً عالمياً للمعرفة البشرية، تواجه تحديات مماثلة. وفي عدد هذا الشهر من “Five Questions”، أجرت Strickland مقابلة مع Ellia Lebleu، عضو مؤسس في WikiProject AI Cleanup، وهي مبادرة تطوعية تركز على تحديد المحتوى المولّد بالذكاء الاصطناعي وإزالته من المنصة. ويواجه فريق Lebleu المشكلات نفسها التي تواجهها دور النشر التجارية لكن بموارد محدودة.

وشدّدت Strickland على التزام Wikipedia بأن تكون مستودعاً للمعلومات المولّدة بشرياً، متسائلة عن المدة التي يمكنها فيها الحفاظ على هذا المعيار.

ومن دون افتراض جماعي بموثوقية السجل العلمي أو الحقائق الأساسية، يصبح فهمنا للواقع غير مؤكد. وقد يثير ذلك اهتمام علماء الكم ومن يزدهرون في بيئة تخلو من واقع مشترك، لكنه في النهاية يقوّض الثقة في المؤسسات المسؤولة عن تنظيم المعرفة البشرية والنهوض بالعلوم والتكنولوجيا لمصلحة البشرية.

وفي مستقبل يُجري فيه الذكاء الاصطناعي الأبحاث ويكتب الأوراق، قد يصبح سؤال ثقة البشر في هذه المخرجات غير ذي صلة. وعلّقت Strickland: “ألا يبدو الأمر جنونياً أننا سنصل في مرحلة ما إلى ذكاء اصطناعي يكتب لذكاء اصطناعي آخر؟ سنُستبعد ببساطة من الحلقة”.

المصدر: IEEE Spectrum