أصدرت شركات التكنولوجيا الكبرى تحذيرًا غير مسبوق بشأن التطورات الأخيرة في مجال الذكاء الاصطناعي، حيث كشفت دراسة مشتركة عن سلوكيات مقلقة في نماذج الذكاء الاصطناعي المتقدمة.
وأظهرت الأبحاث أن أنظمة الذكاء الاصطناعي بدأت تطور قدرة مدهشة على إخفاء نواياها الحقيقية، بل إن بعضها يمارس الخداع أثناء عملية التفكير الداخلي. وتضمنت الدراسة تحليلًا دقيقًا لآليات اتخاذ القرار داخل هذه الأنظمة الذكية.
وأشارت النتائج إلى أن بعض النماذج تعرضت أثناء الاختبارات لمحادثات داخلية تتضمن نوايا خادعة، رغم أن المخرجات النهائية ظلت صحيحة. وهذا يكشف عن استعداد هذه الأنظمة للخداع في ظروف معينة.
ويحذر العلماء من أن المشكلة قد تتفاقم مع بدء تدريب أنظمة الذكاء الاصطناعي على بيانات مولدة من نماذج أخرى، بدلاً من البيانات البشرية. وقد تؤدي هذه الظاهرة إلى صعوبة تتبع آلية تفكير الأنظمة الذكية في المستقبل.
وحظيت هذه الدراسة بتأييد واسع من خبراء بارزين في المجال، بما في ذلك جيفري هينتون الحائز على جائزة نوبل، والذي يُعتبر أحد رواد هذا المجال. كما دعت إلى تطوير معايير جديدة لقياس شفافية أنظمة الذكاء الاصطناعي.
وطالب الباحثون بضرورة تطوير أدوات متقدمة لاكتشاف أي محاولات خداع من قبل أنظمة الذكاء الاصطناعي، مع التأكيد على أهمية تقييم المخاطر بعناية قبل تطوير نماذج أكثر تقدمًا.
