مع انتقال أنظمة الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام وكتابة أكواد واستخدام أدوات رقمية بشكل شبه مستقل يبرز سؤال أكثر إزعاجاً: ماذا يحدث إذا حاول نموذج متقدم تجاوز القيود الموضوعة له؟
تقييم جديد أجرته منظمة "غايدلايت إيه آي ستاندردز" شمل 5 من أكبر شركات الذكاء الاصطناعي وهي : اوبن إيه آي، أنثروبيك، غوغل، ميتا، وإكس إيه آي. .. والنتيجة الأساسية كانت أن إجراءات السيطرة موجودة لكنها لا تزال جزئية وغير مكتملة.
وقيّم التقرير الشركات في 6 مجالات، بينها تسجيل ما تفعله النماذج، ومراقبة السلوك المشبوه، ومنع الأفعال عالية الخطورة، وإيقاف الأنظمة عند تزايد الإنذارات، والمراجعة المستقلة، ووضع خطة لاحتواء نموذج يحاول تجاوز السيطرة البشرية.
ولم تحصل أي شركة على تقييم "كامل" في أي من هذه المجالات.
ولا تعني الدراسة أن نموذجاً للذكاء الاصطناعي "تمرّد" فعلاً بالمعنى السينمائي. المقصود هو الاستعداد لسيناريو قد يحاول فيه نظام متقدم إخفاء سلوكه، أو تجاوز صلاحياته، أو تنفيذ أفعال غير مرغوبة أثناء الاختبارات أو الاستخدام الداخلي.
وتؤكد المنظمة أن تقييمها يعتمد أساساً على المعلومات المتاحة علناً.. لذلك قد تكون لدى بعض الشركات إجراءات داخلية لم تكشف عنها.
- من الهاتف للكمبيوتر.. 10 دول تهيمن على 94% من صناعة الأجهزة الرقمية
- «اوبن ايه آي» تتراجع عن إطلاق نموذج ذكاء اصطناعي لصعوبة السيطرة عليه
- غوغل تختبر تشغيل الذكاء الاصطناعي بضوء الشمس فوق الأرض
- «قرقعة» تربك مستخدمي «آيفون 18 برو».. والسبب لايزال غامضاً
- ارتفاع أسعار هواتف هونر وقرار عاجل من الشركة لحماية المشتري
