أدوات الذكاء الاصطناعي مثل ChatGPT تعرض المستخدمين للخطر من خلال عناوين الويب غير الصحيحة، حسب الأبحاث

كشفت الأبحاث أن أدوات الذكاء الاصطناعي مثل ChatGPT وأدوات الذكاء الاصطناعي الأخرى يمكن أن تعرض المستخدمين للخطر عن طريق توفير عناوين ويب خاطئة للشركات. تشير الأبحاث إلى أن الذكاء الاصطناعي ليس جيدًا بما فيه الكفاية في إنشاء عناوين URL؛ فالعديد منها غير موجود، وبعضها يمكن أن يكون مواقع تصيد احتيالي.

أصبح المهاجمون الآن يقومون بتحسين المواقع لنموذج اللغة الكبير (LLMs) بدلاً من Google، حتى أن المطورين يستخدمون عن غير قصد عناوين URL مشبوهة. كشفت الأبحاث الجديدة أن الذكاء الاصطناعي غالبًا ما يقدم عناوين URL غير صحيحة، مما قد يعرض المستخدمين لخطر الهجمات بما في ذلك محاولات التصيد الاحتيالي والبرمجيات الخبيثة.

يزعم تقرير صادر عن Netcraft أن واحدًا من كل ثلاثة (34%) روابط تسجيل الدخول التي توفرها نماذج اللغة الكبيرة، بما في ذلك GPT-4.1، لم تكن مملوكة للعلامات التجارية التي سئل عنها، حيث يشير 29% منها إلى نطاقات غير مسجلة أو غير نشطة أو متوقفة، و5% منها تشير إلى نطاقات غير ذات صلة ولكن مشروعة، مما يترك 66% فقط ترتبط بالنطاق الصحيح المرتبط بالعلامة التجارية.