مع اتساع قدرات أنظمة الذكاء الاصطناعي ووصولها المتزايد إلى الإنترنت والأنظمة الرقمية، تبرز تحديات جديدة تتجاوز حدود الاستخدام التقليدي. وفي واقعة لافتة، تمكن نموذج “جيميناي” التابع لغوغل من الوصول إلى أنظمة شركات خلال اختبار للأمن السيبراني، في أول حالة معروفة تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة خطوات من هذا النوع بصورة مستقلة.
ووقعت الحادثة في أيار، خلال اختبار للأمن السيبراني أجرته شركة “إيريغولار” المستقلة والمتخصصة في تقييم قدرات أنظمة الذكاء الاصطناعي في هذا المجال.
وقالت نائبة رئيس غوغل لهندسة الأمن هيذر أدكينز إن “جيميناي”، وخلال تقييم اعتيادي، عثر على معلومات متاحة للعامة عبر الإنترنت، قبل أن يخمّن بيانات اعتماد مكّنته من الدخول إلى 3 مواقع إلكترونية اعتقد أنها مشمولة بنطاق الاختبار.
وأوضحت أدكينز أن غوغل أبلغت الجهات الثلاث بالواقعة، وعملت مع شريكها المسؤول عن الاختبار على إدخال تعديلات على آليات التقييم، معتبرة أن ما حصل يسلط الضوء على ضرورة تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.
من جهتها، قالت شركة “إيريغولار” إن الواقعة تشبه مشكلات سبق أن أثرت في مختبرات أخرى للذكاء الاصطناعي، مشيرة إلى إبلاغ الجهات المعنية أواخر تموز، وأن المشكلات المعروفة عولجت لاحقاً.
وفي إحدى الحالات، لجأ “جيميناي” إلى تخمين كلمات المرور حتى نجح في الوصول إلى نظام محمي، فيما عثر في الحالتين الأخريين على بيانات اعتماد سمحت له بالدخول إلى أنظمة محمية. وأكدت غوغل أن النموذج توقف عن مواصلة عملية الاختراق في الحالات الثلاث.
وتأتي الحادثة في وقت تتزايد فيه المخاوف المرتبطة بمنح وكلاء الذكاء الاصطناعي مستويات أكبر من الاستقلالية والقدرة على التعامل المباشر مع الإنترنت وأنظمة الكمبيوتر.
وكانت شركات “ميتا” و”أنثروبيك” و”أوبن إيه آي” قد كشفت بدورها عن وقائع مشابهة مرتبطة باختبارات أجرتها “إيريغولار”، فيما أكدت “ميتا” في آب أن الواقعة التي تخصها لم تتضمن اختراقاً لبيئة معزولة أو هجوماً سيبرانياً متطوراً، بالتزامن مع عمل الشركة المختصة على تطوير معايير أكثر أماناً لاختبارات الذكاء الاصطناعي في مجال الأمن السيبراني.
