draive

?️ драйв ?

?️ Ускорьте создание приложений на основе LLM с помощью доступной, готовой к использованию библиотеки. ?️

Вы ищете максимальную гибкость и эффективность в своей следующей библиотеке Python? Устали от ненужных сложностей и неэффективного использования токенов?

Представляем draive — библиотеку Python с открытым исходным кодом в рамках Miquido AI Kickstarter, предназначенную для упрощения и ускорения разработки приложений на основе LLM. Начните работу с draive, чтобы оптимизировать рабочий процесс и с легкостью создавать мощные и эффективные приложения.

Быстрый старт

Погрузитесь прямо в код и научитесь использовать draive с помощью наших интерактивных руководств. Посетите курс Draive AI на YouTube, чтобы понять нашу уникальную архитектуру и увидеть реальное применение Drave в действии. Чтобы быстро решить распространенные проблемы, изучите наши кулинарные книги.

Отлично, а как это выглядит?

 from draive import ctx , generate_text , tool
from draive . openai import OpenAIClient , openai_lmm_invocation


@ tool # simply annotate a function as a tool
async def current_time ( location : str ) -> str :
    return f"Time in { location } is 9:53:22"

async with  ctx . scope ( # create execution context
    "example" , # give it a name
    openai_lmm_invocation (), # define llm provider for this scope
):
    result : str = await generate_text ( # choose the right abstraction, i.e. `generate_text`
        instruction = "You are a helpful assistant" , # provide clear instructions
        input = "What is the time in Kraków?" , # give it some input (including multimodal)
        tools = [ current_time ], # and select any tools you like
    )

    print ( result ) # to finally get the result!
    # output: The current time in Kraków is 9:53:22.

Полнофункциональные примеры использования библиотеки Draive также доступны в репозитории примеров Draive.

❓Что такое драйв?

draive — это библиотека Python с открытым исходным кодом для разработки приложений на основе больших языковых моделей. Он выделяется своей простотой, последовательным поведением и прозрачностью.

Ключевые особенности:

• ? Абстрактные строительные блоки : легко соединяйте несколько функций с помощью LLM и связывайте различные LLM вместе.
• ? Гибкая интеграция : поддерживает любые LLM, внешние услуги и другие решения искусственного интеллекта.
• ? Удобная для пользователя среда : предназначена для простого создания масштабируемых и компонуемых конвейеров обработки данных.
• Функционально-ориентированный дизайн : используются базовые концепции программирования, позволяющие представлять сложные программы как простые функции.
• Компонуемость и возможность повторного использования : объединяйте функции для создания сложных программ, сохраняя при этом возможность использовать их по отдельности.
• Диагностика и метрики : предлагает обширные инструменты для измерения и отладки сложных функций.
• Полностью типизированный и асинхронный : обеспечивает безопасность типов и эффективные асинхронные операции для современных приложений Python.

? Что можно построить с помощью Drive?

? RAG-приложения

RAG расширяет возможности модели и персонализирует результаты.

• Примеры : ответы на вопросы, пользовательские базы знаний.

? Извлечение структурированного вывода

Упрощенное извлечение и структурирование данных.

• Примеры : анализ данных, создание отчетов.

? Чат-боты

Сложные диалоговые агенты.

• Примеры : боты службы поддержки клиентов, виртуальные помощники.

… и многое другое!

Установить

С пипом:

pip install draive

Дополнительные зависимости

Библиотека Drave поставляется с дополнительной интеграцией со сторонними сервисами:

• ОпенАИ:

Используйте клиент сервисов OpenAI, включая GPT, dall-e и встраивание. Также позволяет использовать службы Azure.

pip install draive[openai]

• Антропный:

Используйте клиент сервисов Anthropic, включая Claude.

pip install draive[anthropic]

• Близнецы:

Используйте клиент сервисов Google AIStudio, включая Gemini.

pip install draive[gemini]

• Мистраль:

Используйте клиент сервисов Mistral. Также позволяет использовать службы Azure.

pip install draive[mistral]

• Оллама:

Используйте клиент сервисов Ollama.

pip install draive[ollama]

• Крепление:

Пользовательский клиент сервисов Fastembed.

pip install draive[fastembed]

• Часть предложения:

Пользовательский бегун модели SentencePiece. Его используют Близнецы и Мистрали.

pip install draive[sentencepiece]

Миграция на шоссе

Начиная с версии 0.29.0, Draive инициирует миграцию на Haiway для управления состоянием и зависимостями. Интерфейсы будут постепенно обновляться для новой системы, при этом запланирован полный переход. Интерфейсы, которые могут быть изменены, будут помечены как устаревшие и будут поддерживаться настолько долго, насколько это возможно, но не позднее окончания периода миграции. После завершения перехода все устаревшие интерфейсы будут полностью удалены.

? Содействие

Поскольку это проект с открытым исходным кодом в быстро развивающейся области, мы приветствуем любой вклад. Независимо от того, можете ли вы добавить новую функцию, улучшить нашу инфраструктуру или улучшить нашу документацию, ваш вклад очень ценен для нас.

Мы приветствуем любые отзывы и предложения! Не стесняйтесь открыть проблему или запросить вытягивание.

Лицензия

Лицензия MIT

Авторские права (c) 2024 Miquido

Настоящим бесплатно любому лицу, получившему копию этого программного обеспечения и связанных с ним файлов документации («Программное обеспечение»), предоставляется разрешение на работу с Программным обеспечением без ограничений, включая, помимо прочего, права на использование, копирование, изменение, объединение. публиковать, распространять, сублицензировать и/или продавать копии Программного обеспечения, а также разрешать лицам, которым предоставлено Программное обеспечение, делать это при соблюдении следующих условий:

Вышеупомянутое уведомление об авторских правах и данное уведомление о разрешении должны быть включены во все копии или существенные части Программного обеспечения.

ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ ПРЕДОСТАВЛЯЕТСЯ «КАК ЕСТЬ», БЕЗ КАКИХ-ЛИБО ГАРАНТИЙ, ЯВНЫХ ИЛИ ПОДРАЗУМЕВАЕМЫХ, ВКЛЮЧАЯ, НО НЕ ОГРАНИЧИВАЯСЬ, ГАРАНТИЯМИ ТОВАРНОЙ ЦЕННОСТИ, ПРИГОДНОСТИ ДЛЯ ОПРЕДЕЛЕННОЙ ЦЕЛИ И НЕНАРУШЕНИЯ ПРАВ. НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ АВТОРЫ ИЛИ ОБЛАДАТЕЛИ АВТОРСКИХ ПРАВ НЕ НЕСУТ ОТВЕТСТВЕННОСТИ ЗА ЛЮБЫЕ ПРЕТЕНЗИИ, УБЫТКИ ИЛИ ДРУГУЮ ОТВЕТСТВЕННОСТЬ, БУДЬ В ДЕЙСТВИЯХ ПО КОНТРАКТУ, ПРАВОНАРУШЕНИЮ ИЛИ ДРУГИМ ОБРАЗОМ, ВОЗНИКАЮЩИЕ ОТ, ИЗ ИЛИ В СВЯЗИ С ПРОГРАММНЫМ ОБЕСПЕЧЕНИЕМ ИЛИ ИСПОЛЬЗОВАНИЕМ ИЛИ ДРУГИМИ СДЕЛКАМИ, ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ.