اختطاف جوجل جيميني في عمليات التصيد الاحتيالي لعرض ملخصات بريد إلكتروني مزيفة

تم اختطاف جوجل جيميني لعرض ملخصات بريد إلكتروني مزيفة في عمليات التصيد الاحتيالي. يحذر الباحثون من أن جيميني في Workspace يقدم فرصًا فريدة للاحتيال. يمكن خداع أداة الذكاء الاصطناعي لعرض تحذيرات أمنية مزيفة. يجب على الشركات التأكد من أن النص غير المرئي لا تتم معالجته بواسطة الذكاء الاصطناعي. لقد وجد مجرمو الإنترنت طريقة إبداعية جديدة لإساءة استخدام الذكاء الاصطناعي التوليدي (GenAI) من جوجل لسرقة حسابات Gmail الخاصة بالأشخاص.

قدمت جوجل جيميني، مساعدها الروبوتي المدعوم بالذكاء الاصطناعي، إلى مجموعة تطبيقات الإنتاجية Workspace منذ بعض الوقت، وأحد الأشياء التي يمكن لجيميني القيام بها هو تلخيص رسائل البريد الإلكتروني الواردة - لذلك عندما يتلقى شخص ما بريدًا إلكترونيًا، يمكنه إحضار جزء رأسي على الجانب الأيمن من الشاشة، يطلب المساعدة من جيميني في أشياء مختلفة، مثل إحضار معلومات البريد الإلكتروني الحيوية، وإضافة إدخالات التقويم، والمزيد.