Добро пожаловать в GPTyped! ? Небольшой, но мощный пакет NPM, который позволяет вам взаимодействовать с языковой моделью OpenAI GPT типобезопасным способом. С помощью GPTyped вы можете легко отправлять объекты в виде подсказок и получать структурированные ответы от ИИ LLM, независимо от того, используете ли вы его в Интернете или на сервере.
Отправляет объекты TypeScript в качестве приглашений и получает объекты TypeScript в качестве ответов.
? Полностью настраиваемый с помощью перехватчиков для изменения запросов или ответов в любое время.
? Поставляется с предустановленным клиентом OpenAI для простой интеграции с GPT.
Проверяет схемы возвращаемых объектов с помощью Zod.
Поддержка распространенных шаблонов подсказок, таких как память и метаподсказки.
Вы можете установить GPTyped с помощью NPM или Yarn:
npm установить zod с gptyped
или
пряжа добавить зод gptyped
Готовы начать? Посмотреть полную документацию здесь?
Использовать GPTyped просто. Вот пример того, как вы можете отправлять объекты в виде приглашений и получать ответы на типобезопасные объекты:
import { OpenAiClientBuilder, PrompterForObjectBuilder } from "gptyped"import { z } from "zod"// Схема Zod, описывающая тип ответа AIexport const TweetSchema = z.object({ твит: z.string().min(1), теги: z.array(z.string()).min(3),})type Tweet = z.inferconst gpTypedOpenAiClient = new OpenAiClientBuilder("YOUR_OPEN_AI_SECRET_KEY").build()const PrompterForObject = new PrompterForObjectBuilder( gpTypedOpenAiClient, TweetSchema, { twitter: "Твит по теме. Максимум 140 символов.", tags: "3 хэштега о твите.",}).build()// Используйте объект ввода, чтобы сделать запрос к API OpenAI. Ответ будет типа Safe.const result = await PrompterForObject.send ({ theme: «Почему весна — лучшее время года?»,})// Доступ к безопасному типу твита responseconsole.log(result.tweet) // «Весна — лучшее время года из-за цветов и природы».console.log(result .tags) // ["#весна", "#цветы", "#природа"]
Ответы LLM не являются детерминированными. Это означает, что один и тот же запрос может привести к разным ответам ИИ. Учитывая это, невозможно гарантировать, будет ли ответ допустимой структурой данных или нет. GPTyped проверит ответ на соответствие схеме, которую вы предоставили с помощью Zod, и вернет ответ, если он действителен. Если ответ недействителен, GPTyped выдаст ошибку.
Рекомендуется повторить запрос хотя бы пару раз каждый раз, когда вы сталкиваетесь с ошибкой типа, поскольку обычно последующие запросы возвращают действительный ответ. С помощью GPT OpenAI вы также можете попробовать снизить параметр температуры ИИ, чтобы сделать его более предсказуемым.
Вклады приветствуются! Не стесняйтесь открывать проблемы или отправлять запросы на исправление ошибок, запросы функций или улучшения. Пожалуйста, ознакомьтесь с некоторыми запланированными улучшениями, в которых вы можете принять участие:
Автоматический повтор неудачных запросов
Клиенты для других популярных API LLM
Поддержка запросов/ответов Markdown
Поддержка запросов/ответов CSV
Поддержка других популярных форматов данных.
GPTyped — это программное обеспечение с открытым исходным кодом, выпущенное по лицензии MIT. Не стесняйтесь использовать, изменять и распространять его в соответствии с условиями лицензии.