تشغيل نماذج LLM محليًا: دليل البدء على جهاز الكمبيوتر المحمول الخاص بك

سلسلة 'How To' من MIT Technology Review تساعدك على إنجاز المهام.

لدى سيمون ويليسون خطة لنهاية العالم. إنها عبارة عن ذاكرة USB، قام بتحميل عدد من نماذج LLM مفتوحة الوزن المفضلة لديه عليها - وهي نماذج تم مشاركتها علنًا من قبل منشئيها ويمكن، من حيث المبدأ، تنزيلها وتشغيلها باستخدام الأجهزة المحلية. إذا انهارت الحضارة البشرية في أي وقت مضى، يخطط ويليسون لاستخدام كل المعرفة المشفرة في مليارات المعلمات للمساعدة. يقول: 'الأمر يشبه امتلاك نسخة غريبة، مكثفة، ومعيبة من ويكيبيديا، حتى أتمكن من المساعدة في إعادة تشغيل المجتمع بمساعدة ذاكرة USB الصغيرة الخاصة بي'.

لكن ليس عليك أن تخطط لنهاية العالم لترغب في تشغيل نموذج LLM على جهازك الخاص. ويليسون، الذي يكتب مدونة شهيرة حول نماذج LLM المحلية وتطوير البرمجيات، لديه الكثير من الرفاق: r/LocalLLaMA، وهو منتدى فرعي مخصص لتشغيل نماذج LLM على أجهزتك الخاصة، لديه نصف مليون عضو. بالنسبة للأشخاص المهتمين بالخصوصية، أو الذين يرغبون في التحرر من سيطرة شركات LLM الكبيرة، أو الذين يستمتعون فقط بالتجريب، تقدم النماذج المحلية بديلاً مقنعًا لـ ChatGPT ونظرائه المستندين إلى الويب.