أصدر مشروع LLM360 نموذجين لغة كبيرين بمعلمات 7B AMBER وCRYSTALCODER كمصدر مفتوح. تسلط هذه الخطوة الضوء على أهمية LLM مفتوحة المصدر في مجال الذكاء الاصطناعي. تهدف المبادرة إلى تعزيز شفافية نماذج اللغات الكبيرة مفتوحة المصدر العالمية وتعزيز تطبيقها على نطاق واسع في الأوساط الأكاديمية والصناعة. تم أيضًا توضيح أداء التدريب المسبق لنموذج AMBER على أربع مجموعات بيانات، مما يوفر أساسًا موثوقًا لتقييم أدائه. سيساعد ذلك الباحثين على فهم وتحسين تكنولوجيا نماذج اللغة الكبيرة مفتوحة المصدر بشكل أفضل.
تخطط LLM360 لتكون مفتوحة المصدر بالكامل وإصدار اثنين من LLMs ذات معلمات 7B، AMBER وCRYSTALCODER. تؤكد الدراسة على أهمية LLMs مفتوحة المصدر، وتوضح أداء التدريب المسبق لنموذج AMBER على أربع مجموعات من البيانات، وتعزز مبادرة شفافة لنماذج اللغات الكبيرة مفتوحة المصدر العالمية.
توفر مبادرة المصدر المفتوح لبرنامج LLM360 موارد قيمة لباحثي الذكاء الاصطناعي في جميع أنحاء العالم وتؤدي إلى تعزيز تطوير وتطبيق تكنولوجيا نماذج اللغة الكبيرة، كما تعكس التزامها بتعزيز التعاون المفتوح في مجال الذكاء الاصطناعي. ونحن نتطلع إلى رؤية المزيد من التطبيقات المبتكرة بناءً على هذا في المستقبل.