Basic UI for GPT Neo with low vram

基本-UI-Gpt-Neo-low-vram

用於在低 VRAM（最低 3 GB VRAM）上運行 gpt neo 2.7B 的基本使用者介面

具有 3gb vram 的 pcie-3 上的預期速度為 0.8 秒/令牌或 25 個令牌為 20 秒
具有 8GB vram 的 pcie-3 上的預期速度為 0.4 秒/令牌，或 25 個令牌為 10 秒
（輸入 2000 個代幣）