زعيم من رواد الذكاء الاصطناعي يكرر تحذيراته بشأن المخاطر الوجودية مع تقدم التكنولوجيا

كرر يوشوا بنجيو، أحد رواد الذكاء الاصطناعي الحائز على جائزة تورينج، مخاوفه العميقة بشأن المخاطر الوجودية الناجمة عن التقدم السريع في الذكاء الاصطناعي. قبل عامين، دعا بنجيو إلى وقف تطوير نماذج الذكاء الاصطناعي للتركيز على معايير السلامة، لكن الشركات بدلاً من ذلك استثمرت مئات المليارات من الدولارات في بناء نماذج أكثر تقدمًا قادرة على تنفيذ سلاسل طويلة من الاستدلال واتخاذ إجراءات مستقلة.

صرح بنجيو، الأستاذ في جامعة مونتريال، لصحيفة وول ستريت جورنال بأن مخاوفه بشأن الخطر الوجودي لم تتضاءل. ويأتي هذا في الوقت الذي أظهرت فيه تجارب حديثة أن أنظمة الذكاء الاصطناعي في بعض الظروف تختار إجراءات تسبب الوفاة البشرية بدلاً من التخلي عن أهدافها المحددة. في وقت سابق من هذا العام، أسس بنجيو منظمة أبحاث غير ربحية باسم LawZero لاستكشاف كيفية بناء نماذج ذكاء اصطناعي آمنة حقًا.

تأتي هذه التحذيرات في ظل إصرار شركات رائدة مثل OpenAI على أن أطر نماذج الواجهة الحالية لن تقضي على 'الهلوسة' (معلومات خاطئة أو غير منطقية تولدها النماذج)، مما يزيد من تعقيد تحدي ضمان سلامة وموثوقية الذكاء الاصطناعي.