هل خرج الذكاء الاصطناعي عن السيطرة؟ آلاف الحالات تكشف تجاوز القيود ومحاولات «الهروب»

تتزايد المخاوف في قطاع التكنولوجيا بشأن سلوك وكلاء الذكاء الاصطناعي، بعد سلسلة من الحوادث التي كُشف عنها خلال الأيام والأسابيع الأخيرة، وأظهرت قدرة بعض الأنظمة المتطورة على تجاوز القيود الأمنية والتصرف بطرق لم يتوقعها مطوروها.

وبحسب تقرير حديث، تفحص شركات رائدة في مجال الذكاء الاصطناعي، إلى جانب باحثين متخصصين في الأمن، عشرات آلاف الحالات التي تجاوزت فيها أنظمة الذكاء الاصطناعي قيودًا وُضعت أمامها، أو حاولت الخروج من بيئات تشغيل معزولة، أو الالتفاف على آليات المراقبة والحماية.

وتكمن المخاوف بصورة خاصة في التطور السريع لما يُعرف بـ«وكلاء الذكاء الاصطناعي»، وهي أنظمة لا تكتفي بالإجابة عن الأسئلة أو إنتاج النصوص، بل يمكنها تنفيذ سلسلة من المهام بصورة شبه مستقلة، واستخدام أدوات وخدمات خارجية للوصول إلى الهدف المحدد لها.

ومع منح هذه الأنظمة المزيد من الصلاحيات والاستقلالية، يصبح من الصعب على الشركات المطورة توقع جميع الخطوات التي قد تتخذها أثناء تنفيذ مهمة معينة، خصوصًا عندما تواجه عائقًا أو قيدًا يمنعها من إتمام المهمة بالطريقة المعتادة.

وأظهرت بعض الاختبارات أن الأنظمة قد تبحث عن طرق بديلة لتجاوز العوائق، الأمر الذي يثير تساؤلات بشأن مدى قدرة وسائل الحماية الحالية على احتواء نماذج الذكاء الاصطناعي الأكثر تقدمًا.

ولا تعني هذه الحوادث أن أنظمة الذكاء الاصطناعي «تهرب» بإرادة ذاتية كما يفعل البشر، إذ إن جزءًا من الحالات وقع خلال اختبارات أمنية صُممت عمدًا لدفع الأنظمة إلى أقصى حدود قدراتها والكشف عن نقاط ضعفها.

ومع ذلك، يرى خبراء أن النتائج تمثل تحديًا أمنيًا متزايدًا، لا سيما مع دخول وكلاء الذكاء الاصطناعي مجالات تسمح لهم باستخدام برامج وأدوات خارجية وتنفيذ إجراءات فعلية بدل الاكتفاء بتقديم المعلومات.

وتعمل الشركات المطورة حاليًا على تعزيز أنظمة العزل والمراقبة ووضع قيود إضافية على الصلاحيات الممنوحة للوكلاء، وسط سباق متواصل بين تطوير قدرات الذكاء الاصطناعي من جهة، وضمان السيطرة عليها ومنع استخدامها أو تصرفها بطرق غير متوقعة من جهة أخرى