Chrome AI 是一个演示项目,可在浏览器中本地运行大型语言模型。它展示了现代网络技术的能力,可以直接在浏览器环境中利用先进的人工智能功能,而无需服务器端处理。
本地执行:直接在浏览器中运行大型语言模型。
实时处理:提供即时响应和交互。
注重隐私:在本地处理数据,确保用户隐私和数据安全。
最新版本的 Google Chrome (127+) 或任何兼容的基于 Chromium 的浏览器。
安装 Chrome Canary :确保您拥有版本 127。下载 Chrome Canary。
启用 Prompt API :打开chrome://flags/#prompt-api-for-gemini-nano
,将其设置为“启用”。
启用优化指南:打开chrome://flags/#optimization-guide-on-device-model
,将其设置为“Enabled BypassPerfRequirement”。重新启动浏览器。
下载模型:进入chrome://components/
,找到“设备模型优化指南”,确保其已完全下载。如果版本为“0.0.0.0”,请单击“检查更新”。
故障排除:如果未显示“设备型号优化指南”,请禁用步骤 2 和 3 中的设置,重新启动浏览器并重新启用。
验证设置:打开网页,按F12,然后在控制台中检查window.ai
。
测试代码:
const model = wait window.ai.createTextSession();await model.prompt("你是谁?");
克隆存储库:
git 克隆 https://github.com/yourusername/chromeai.gitcd chromeai PNPM我 PNPM开发
在浏览器中打开localhost:3000
开始使用 AI。
我们欢迎贡献!请分叉存储库并提交拉取请求。对于重大更改,请先打开一个问题来讨论您想要更改的内容。
该项目根据 MIT 许可证获得许可 - 有关详细信息,请参阅许可证文件。
如有任何问题或反馈,请在 Twitter 上联系 Lightning Joyce。