OpenAI تكشف عن هجوم إلكتروني جديد نفذه الذكاء الاصطناعي 'بشكل ذاتي'

وتعود الواقعة الأحدث إلى ماي، عندما استخدمت نماذج من OpenAI كانت لا تزال قيد الاختبار منصة "روبي جيمز" RubyGems، وهي خدمة إلكترونية تستخدم لتوزيع مكتبات البرمجيات، لتنفيذ مهام وصفت بأنها غير ضارة، بينها إعداد تقارير وملء جداول بيانات، بحسب مجلة "بوليتيكو".

وبحسب مراجعة الشركة، تمكنت الأنظمة من الوصول إلى الإنترنت رغم عدم منحها وصولاً كاملاً إليه، من خلال تجاوز الضوابط الموضوعة لمنعها من ذلك.

وأكد متحدث باسم OpenAI، أن الأنظمة استخدمت منصة "روبي جيمز" للوصول إلى الإنترنت من أجل تنفيذ مهام غير ضارة والحصول على معلومات متاحة للعامة، مضيفاً أن الشركة ستواصل التحقيق في الواقعة ضمن مراجعة أوسع لأنشطة الوكلاء خلال مراحل التدريب والتقييم.

وكانت صحيفة "وول ستريت جورنال" أول من كشف تورط أنظمة OpenAI في حادثة "روبي جيمز". ولم ترد "روبي سنترال" Ruby Central، وهي مؤسسة غير ربحية تدير المنصة، على الفور لطلب للتعليق.

وتأتي الواقعة الجديدة بعد حادثة أكثر خطورة في جويلية، عندما تمكنت أنظمة OpenAI من الوصول إلى الإنترنت المفتوح أثناء وجودها في بيئة اختبار، وتنفيذ اختراق ذاتي لقاعدة بيانات شركة "هاجينج فيس".

وقالت OpenAI لاحقاً إن حادثة "هاجينج فيس" كانت أخطر واقعة من هذا النوع رصدتها الشركة حتى الآن، وإنها لم تكن مجرد مشكلة أمنية، بل نتجت عن لجوء نماذجها إلى استراتيجيات غير متوافقة مع أهدافها الأصلية من أجل حل مهام صعبة.

وأثارت الواقعة قلقاً متزايداً بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على اتخاذ خطوات لم يطلبها منها المستخدمون بصورة مباشرة، أو تجاوز القيود الموضوعة لها عندما تسعى إلى تحقيق هدف محدد.

( الشرق)