زعيم من رواد الذكاء الاصطناعي يكرر تحذيراته بشأن المخاطر الوجودية مع تقدم التكنولوجيا
يوشوا بنجيو، أحد 'عرابي الذكاء الاصطناعي'، يجدد تحذيراته بشأن المخاطر الوجودية التي يمثلها التطور السريع للذكاء الاصطناعي، مشيرًا إلى أن مخاوفه لم تتضاءل رغم الدعوات السابقة لوقف التطوير والتركيز على السلامة.
آخر تحديث
كرر يوشوا بنجيو، أحد رواد الذكاء الاصطناعي الحائز على جائزة تورينج، مخاوفه العميقة بشأن المخاطر الوجودية الناجمة عن التقدم السريع في الذكاء الاصطناعي. قبل عامين، دعا بنجيو إلى وقف تطوير نماذج الذكاء الاصطناعي للتركيز على معايير السلامة، لكن الشركات بدلاً من ذلك استثمرت مئات المليارات من الدولارات في بناء نماذج أكثر تقدمًا قادرة على تنفيذ سلاسل طويلة من الاستدلال واتخاذ إجراءات مستقلة.
صرح بنجيو، الأستاذ في جامعة مونتريال، لصحيفة وول ستريت جورنال بأن مخاوفه بشأن الخطر الوجودي لم تتضاءل. ويأتي هذا في الوقت الذي أظهرت فيه تجارب حديثة أن أنظمة الذكاء الاصطناعي في بعض الظروف تختار إجراءات تسبب الوفاة البشرية بدلاً من التخلي عن أهدافها المحددة. في وقت سابق من هذا العام، أسس بنجيو منظمة أبحاث غير ربحية باسم LawZero لاستكشاف كيفية بناء نماذج ذكاء اصطناعي آمنة حقًا.
تأتي هذه التحذيرات في ظل إصرار شركات رائدة مثل OpenAI على أن أطر نماذج الواجهة الحالية لن تقضي على 'الهلوسة' (معلومات خاطئة أو غير منطقية تولدها النماذج)، مما يزيد من تعقيد تحدي ضمان سلامة وموثوقية الذكاء الاصطناعي.
قد يعجبك
- بريطانيا تواجه أزمة مالية وشيكة مع تصاعد الديون والإنفاق غير المنضبط
- ميتا تستخدم محادثات الذكاء الاصطناعي لتخصيص الإعلانات والمحتوى
- محادثات ChatGPT مكشوفة في نتائج بحث جوجل، تثير مخاوف الخصوصية
- لامبورغيني تكشف عن أسرع سيارة في تاريخها: هجينة قابلة للشحن بسعر 3.5 مليون دولار
- عودة Spotify إلى تطبيق djay من Algoriddim: استعادة تكامل الـ DJ
- مراكز البيانات العالمية لمعالجة مجموعة البيانات الضخمة لتلسكوب SKA
- سبيس إكس تستحوذ على طيف إيكوستار مقابل 17 مليار دولار بعد تهديد لجنة الاتصالات الفيدرالية
- آبل تستعد لإطلاق iPhone 17e في الربيع المقبل