باحث يستغل ChatGPT بعبارة 'أستسلم' للكشف عن مفاتيح الأمان

كشف باحث أمني تفاصيل حول كيفية قيام باحثين آخرين بخداع ChatGPT للكشف عن مفتاح منتج Windows باستخدام مطالبة يمكن لأي شخص تجربتها. أوضح ماركو فيغيروا كيف تم استخدام مطالبة 'لعبة تخمين' مع GPT-4 لتجاوز حواجز الأمان التي تهدف إلى منع الذكاء الاصطناعي من مشاركة مثل هذه البيانات، مما أدى في النهاية إلى إنتاج مفتاح واحد على الأقل ينتمي إلى بنك Wells Fargo. كما تمكن الباحثون من الحصول على مفتاح منتج Windows لمصادقة نظام تشغيل Microsoft بشكل غير مشروع، ولكن مجانًا، مما يسلط الضوء على خطورة هذه الثغرة الأمنية.

تُظهر هذه الحالة كيف يمكن استغلال بعض نماذج الذكاء الاصطناعي، بما في ذلك GPT-4، من خلال مطالبات المستخدم البسيطة، وأن الثغرات في حواجز الحماية لا تقوم بعمل جيد في اكتشاف التأطير الخادع. يمكن استغلال هذه الثغرة للحصول على معلومات شخصية أو بيانات حساسة.