Basic UI for GPT Neo with low vram

基本-UI-Gpt-Neo-low-vram

用于在低 VRAM（最低 3 GB VRAM）上运行 gpt neo 2.7B 的基本用户界面

具有 3gb vram 的 pcie-3 上的预期速度为 0.8 秒/令牌或 25 令牌为 20 秒
具有 8GB vram 的 pcie-3 上的预期速度为 0.4 秒/令牌，或 25 个令牌为 10 秒
（输入 2000 个代币）