Descarga de ai microcore - Descarga del código fuente de ai microcore

tienes micronúcleo

Otro código fuente

v3.12.0

Descargar

AI MicroCore: una base minimalista para aplicaciones de IA

MicroCore es una colección de adaptadores de Python para modelos de lenguajes grandes y API de búsqueda semántica que permiten comunicarse con estos servicios de manera conveniente, hacerlos fácilmente intercambiables y separar la lógica empresarial de los detalles de implementación.

Define interfaces para funciones que normalmente se utilizan en aplicaciones de IA, lo que le permite mantener su aplicación lo más simple posible y probar varios modelos y servicios sin necesidad de cambiar el código de su aplicación.

Incluso puede cambiar entre los modelos de finalización de texto y finalización de chat solo usando la configuración.

El ejemplo básico de uso es el siguiente:

 from microcore import llm

while user_msg := input ( 'Enter message: ' ):
    print ( 'AI: ' + llm ( user_msg ))

? Campo de golf

Referencia de API
Paquete PyPi
Repositorio GitHub

Instalación

Instalar como paquete PyPi:

 pip install ai-microcore

Alternativamente, puede simplemente copiar la carpeta microcore a la raíz de fuentes de su proyecto.

git clone [email protected]:Nayjest/ai-microcore.git && mv ai-microcore/microcore ./ && rm -rf ai-microcore

? Requisitos

Pitón 3.10/3.11/3.12

Se admiten las versiones del paquete OpenAI v0.28+ y v1.X.

Configurando

Configuración mínima

Tener OPENAI_API_KEY en las variables de entorno del sistema operativo es suficiente para un uso básico.

Las funciones de búsqueda de similitudes funcionarán de inmediato si tiene instalado el paquete chromadb pip.

Métodos de configuración

Hay algunas opciones disponibles para configurar el micronúcleo:

Utilice microcore.configure(**params)
Todas las opciones de configuración deberían estar disponibles en la información sobre herramientas de autocompletado del IDE
Cree un archivo .env en la raíz de su proyecto; ejemplos: basic.env, Mistral Large.env, Anthropic Claude 3 Opus.env, Gemini en Vertex AI.env, Gemini en AI Studio.env
Utilice un archivo de configuración personalizado: mc.configure(DOT_ENV_FILE='dev-config.ini')
Definir variables de entorno del sistema operativo

Para obtener la lista completa de opciones de configuración disponibles, también puede consultar microcore/config.py .

Instalación de paquetes específicos del proveedor

Para los modelos que no funcionan a través de la API OpenAI, es posible que necesite instalar paquetes adicionales:

Claude antrópico 3

pip install anthropic

Google Géminis a través de AI Studio

pip install google-generativeai

Google Géminis a través de Vertex AI

pip install vertexai

Además, para trabajar a través de Vertex AI, debe instalar Google Cloud CLI y configurar la autorización.

Modelos en el idioma local a través de Hugging Face Transformers

Deberá instalar transformadores y una biblioteca de aprendizaje profundo de su elección (PyTorch, TensorFlow, Flax, etc.).

Ver instalación de transformadores.

Prioridad de las fuentes de configuración

Las opciones de configuración pasadas como argumentos a microcore.configure() tienen la máxima prioridad.
La prioridad de las opciones del archivo de configuración ( .env de forma predeterminada o el valor de DOT_ENV_FILE ) es mayor que las variables de entorno del sistema operativo.
Establecer USE_DOT_ENV en false deshabilita la lectura de archivos de configuración.
Las variables de entorno del sistema operativo tienen la prioridad más baja.

? Funciones principales

llm(mensaje: str, **kwargs) → str

Realiza una solicitud a un modelo de lenguaje grande (LLM).

Variante asincrónica: allm(prompt: str, **kwargs)

 from microcore import *

# Will print all requests and responses to console
use_logging ()

# Basic usage
ai_response = llm ( 'What is your model name?' )

# You also may pass a list of strings as prompt
# - For chat completion models elements are treated as separate messages
# - For completion LLMs elements are treated as text lines
llm ([ '1+2' , '=' ])
llm ( '1+2=' , model = 'gpt-4' )

# To specify a message role, you can use dictionary or classes
llm ( dict ( role = 'system' , content = '1+2=' ))
# equivalent
llm ( SysMsg ( '1+2=' ))

# The returned value is a string
assert '7' == llm ([
 SysMsg ( 'You are a calculator' ),
 UserMsg ( '1+2=' ),
 AssistantMsg ( '3' ),
 UserMsg ( '3+4=' )]
). strip ()

# But it contains all fields of the LLM response in additional attributes
for i in llm ( '1+2=?' , n = 3 , temperature = 2 ). choices :
    print ( 'RESPONSE:' , i . message . content )

# To use response streaming you may specify the callback function:
llm ( 'Hi there' , callback = lambda x : print ( x , end = '' ))

# Or multiple callbacks:
output = []
llm ( 'Hi there' , callbacks = [
    lambda x : print ( x , end = '' ),
    lambda x : output . append ( x ),
])

tpl(ruta_archivo, **parámetros) → cadena

Representa una plantilla de aviso con parámetros.

De forma predeterminada se utilizan plantillas Jinja2 con todas las funciones.

Opciones de configuración relacionadas:

 from microcore import configure
configure (
    # 'tpl' folder in current working directory by default
    PROMPT_TEMPLATES_PATH = 'my_templates_folder'
)

texts.search(colección: str, consulta: str | lista, n_resultados: int = 5, donde: dict = Ninguno, **kwargs) → lista[str]

Búsqueda de similitud

texts.find_one(self, colección: str, consulta: str | lista) → str | Ninguno

Encuentra el texto más similar

texts.get_all(self, colección: str) -> lista[str]

Volver colección de textos

texts.save(colección: str, texto: str, metadatos: dict = Ninguno))

Almacene texto y metadatos relacionados en la base de datos incrustada

texts.save_many(colección: str, elementos: lista[tuple[str, dict] | str])

Almacene múltiples textos y metadatos relacionados en la base de datos integrada

textos.clear(colección: str):

Borrar colección

Soporte para proveedores y modelos de API

LLM Microcore admite todos los modelos y proveedores de API que tienen API OpenAI.

Lista de proveedores y modelos de API probados con LLM Microcore:

Proveedor de API	Modelos
AbiertoAI	Todos los modelos GPT-4 y GTP-3.5-Turbo todos los modelos de finalización de texto (davinci, gpt-3.5-turbo-instruct, etc.)
MicrosoftAzure	Todos los modelos OpenAI, Mistral Grande
antrópico	Claude 3 modelos
MistralAI	Todos los modelos Mistral
Estudio de IA de Google	Modelos de Google Géminis
IA de vértice de Google	Géminis Pro y otros modelos
Infraestructura profunda	infrarrojo profundo/airoboros-70b jondurbin/airoboros-l2-70b-gpt4-1.4.1 meta-llama/Llama-2-70b-chat-hf y otros modelos que tienen API OpenAI
cualquier escala	meta-llama/Llama-2-70b-chat-hf meta-llama/Llama-2-13b-chat-hf meta-llama/Llama-7b-chat-hf
Groq	LLaMA2 70b Mixtral 8x7b gema 7b
Fuegos artificiales	Más de 50 modelos de lenguaje de código abierto

API de modelo de idioma local admitidas:

HuggingFace Transformers (ver ejemplos de configuración aquí).
Modelos locales personalizados al proporcionar su propia función para completar chat/texto, sincronización/inferencia asíncrona.

?️ Ejemplos

Herramienta de revisión de código

Realiza revisión de código por parte de LLM para detectar cambios en archivos git .patch en cualquier lenguaje de programación.

Análisis de imágenes (Google Colab)

Determinar el número de pétalos y el color de la flor a partir de una foto (gpt-4-turbo)

LLM de Banchmark sobre problemas matemáticos (Kaggle Notebook)

Precisión de referencia de más de 20 modelos de última generación para resolver problemas matemáticos de las Olimpiadas. Inferencia de modelos de lenguaje local a través de HuggingFace Transformers, inferencia paralela.

Otros ejemplos

Python funciona como herramientas de inteligencia artificial

@HACER

? Módulos de IA

Esta es una característica experimental.

Modifica el sistema de importación de Python para proporcionar una configuración automática del entorno MicroCore basada en metadatos en las cadenas de documentación del módulo.