الذكاء الاصطناعي العام يواجه عيوبًا أمنية جوهرية: خبراء يحذرون من نقاط ضعف متأصلة في التصميم

يحذر بروس شناير وباراث راغافان، وهما اسمان بارزان في مجال الأمن السيبراني، من أن الذكاء الاصطناعي العام (Agentic AI) يعاني من عيوب أمنية جوهرية متأصلة في تصميمه، مما يجعله عرضة للاختراق بشكل أساسي. في مقال لهما في مجلة IEEE Security & Privacy، يوضح الخبراء أن أنظمة الذكاء الاصطناعي العام تعمل ببيانات غير موثوقة، وتستخدم أدوات غير موثوقة، وتتخذ قرارات في بيئات معادية. هذا يعني أن كل جزء من حلقة OODA (الملاحظة، التوجيه، القرار، الفعل) مفتوح للهجوم.

تتضمن طرق الهجوم المحتملة حقن الأوامر (prompt injection)، وتسميم البيانات (data poisoning)، وسوء استخدام الأدوات (tool misuse)، والتي يمكنها إفساد النظام من الداخل. يشير شناير وراغافان إلى أن قوة النموذج، التي تتمثل في معاملة جميع المدخلات على قدم المساواة، تجعله أيضًا نقطة ضعف قابلة للاستغلال. يصفان هذه المعضلة بأنها 'ثالوث أمن الذكاء الاصطناعي': سريع، ذكي، أو آمن - اختر اثنين. وشددا على أن 'النزاهة ليست ميزة يمكن إضافتها لاحقًا. يجب أن تُبنى من البداية'.