Andromeda
0.0.11
مرحبًا بك في Andromeda، نموذج اللغة الأسرع والأكثر إبداعًا والموثوقية الذي تم إنشاؤه على الإطلاق، قم بتدريب النسخة الخاصة بك، وإجراء الاستدلال، وضبط النسخة الخاصة بك من خلال نصوص التوصيل والتشغيل البسيطة التي تبدأ في 10 ثوانٍ:
python3.11 -m pip install --upgrade andromeda-torch
import torch
from andromeda . configs import Andromeda1Billion
model = Andromeda1Billion ()
x = torch . randint ( 0 , 256 , ( 1 , 1024 )). cuda ()
out = model ( x ) # (1, 1024, 20000)
print ( out ) from andromeda_torch import Tokenizer
from andromeda_torch . configs import Andromeda1Billion
model = Andromeda1Billion ()
tokenizer = Tokenizer ()
encoded_text = tokenizer . encode ( "Hello world!" )
out = model ( encoded_text )
print ( out )
ضبط متغيرات البيئة:
ENTITY_NAME : اسم مشروع wandb الخاص بكOUTPUT_DIR : دليل لحفظ الأوزان (على سبيل المثال، ./weights )MASTER_ADDR : للتدريب الموزعMASTER_PORT للتدريب الموزع على المنفذ الرئيسيRANK - عدد خدمات العقدWORLD_SIZE عدد وحدات معالجة الرسوماتتكوين التدريب:
لمزيد من المعلومات، راجع الإجراء التشغيلي الموحد للتدريب.
ترخيص أباتشي
