Free GenAI APIs in 2024
1.0.0
Многие небольшие компании предлагают мощные API бесплатно или предоставляют бесплатную пробную версию, которая может продлиться до года в зависимости от вашего использования. Мы рассмотрим некоторые из этих API и изучим их преимущества и использование.
Voyage — это команда ведущих исследователей и инженеров в области искусственного интеллекта, создающая модели внедрения для лучшего поиска и RAG.
Не хуже моделей встраивания OpenAI.
Цена: на данный момент бесплатно (февраль 2024 г.)
Документация: https://docs.voyageai.com/.
Начало работы: https://docs.voyageai.com/
Поддерживаемые модели внедрения и многое другое.
<iframe src="https://medium.com/media/f8464a95617451325678308e64d14308"frameborder=0></iframe>Чтобы установить библиотеку путешествий:
# Use pip to insatll the 'voyageai' Python package to the latest version.
pip install voyageaiдавайте воспользуемся одной из моделей внедрения voyage-2 и посмотрим ее результат:
# Import the 'voyageai' module
import voyageai
# Create a 'Client' object from the 'voyageai' module and initialize it with your API key
vo = voyageai . Client ( api_key = "<your secret voyage api key>" )
# user query
user_query = "when apple is releasing their new Iphone?"
# The 'model' parameter is set to "voyage-2", and the 'input_type' parameter is set to "document"
documents_embeddings = vo . embed (
[ user_query ], model = "voyage-2" , input_type = "document"
). embeddings
# printing the embedding
print ( documents_embeddings )
########### OUTPUT ###########
[ 0.12 , 0.412 , 0.573 , ... 0.861 ] # dimension is 1024
########### OUTPUT ########### Anyscale, компания, стоящая за Ray, выпускает API-интерфейсы для разработчиков LLM, позволяющие быстро, экономично и в масштабе запускать и настраивать LLM с открытым исходным кодом.
Запуск/тонкая настройка мощного LLM с открытым исходным кодом по очень низким ценам или бесплатно.
Цена (без кредитной карты): бесплатный уровень 10 долларов США, где 0,15 доллара США за миллион/токенов.
Документация: https://docs.endpoints.anyscale.com/.
Начало работы: https://app.endpoints.anyscale.com/welcome.
Поддерживаемые модели LLM и внедрения
<iframe src="https://medium.com/media/d063ecf567aa49f3bab642c0704e6d6e"frameborder=0></iframe>Конечные точки Anyscale работают с библиотекой OpenAI:
# Use pip to insatll the 'openai' Python package to the latest version.
pip install openaiдавайте воспользуемся одним из LLM для генерации текста и посмотрим его результат:
# Import necessary modules
import openai
# Define the Anyscale endpoint token
ANYSCALE_ENDPOINT_TOKEN = "<your secret anyscale api key>"
# Create an OpenAI client with the Anyscale base URL and API key
oai_client = openai . OpenAI (
base_url = "https://api.endpoints.anyscale.com/v1" ,
api_key = anyscale_key ,
)
# Define the OpenAI model to be used for chat completions
model = "mistralai/Mistral-7B-Instruct-v0.1"
# Define a prompt for the chat completion
prompt = '''hello, how are you?
'''
# Use the AnyScale model for chat completions
# Send a user message using the defined prompt
response = oai_client . chat . completions . create (
model = model ,
messages = [
{ "role" : "user" , "content" : prompt }
],
)
# printing the response
print ( response . choices [ 0 ]. message . content )
########### OUTPUT ###########
Hello ! I am just a computer program , so I dont have
feelings or emotions like a human does ...
########### OUTPUT ########### Возможно, вы уже знаете об этом, но стоит упомянуть, что в прошлом году Google выпустила свою мультимодель Gemini, и использование API бесплатного уровня делает ее более интересной.
Чат с текстом и изображениями (аналогично GPT-4) и внедрение моделей
Цена: Бесплатная версия (60 запросов в минуту).
Документация: https://ai.google.dev/docs.
Начало работы: https://makersuite.google.com/app/apikey.
Поддерживаемые модели
<iframe src="https://medium.com/media/b1f73ec8466b9931984f97394495355c"frameborder=0></iframe>Для установки необходимых библиотек
# Install necessary libraries
pip install google - generativeai grpcio grpcio - toolsЧтобы использовать текстовую модель Gemini-Pro
# importing google.generativeai as genai
import google . generativeai as genai
# setting the api key
genai . configure ( api_key = "<your secret gemini api key>" )
# setting the text model
model = genai . GenerativeModel ( 'gemini-pro' )
# generating response
response = model . generate_content ( "What is the meaning of life?" )
# printing the response
print ( response . text )
########### OUTPUT ###########
he query of life purpose has perplexed people
across centuries ...
########### OUTPUT ###########Чтобы использовать модель изображения Gemini-Pro-Vision
# importing google.generativeai as genai
import google . generativeai as genai
# setting the api key
genai . configure ( api_key = "<your secret gemini api key>" )
# setting the text model
model = genai . GenerativeModel ( 'gemini-pro-vision' )
# loading Image
import PIL . Image
img = PIL . Image . open ( 'cat_wearing_hat.jpg' )
# chating with image
response = model . generate_content ([ img , "Is there a cat in this image?" ])
# printing the response
print ( response . text )
########### OUTPUT ###########
Yes there is a cat in this image
########### OUTPUT ########### Оценка глубины изображения заключается в выяснении того, насколько далеко находятся объекты на изображении. Это важная проблема в компьютерном зрении, поскольку она помогает в таких задачах, как создание беспилотных автомобилей. Пространство Hugging Face от Lihe Young предлагает API, с помощью которого вы можете определить глубину изображения.
найдите глубину изображения за секунды, не сохраняя и не загружая модель
Цена: бесплатно (требуется токен HuggingFace)
Получите токен HuggingFace: https://huggingface.co/settings/tokens
Веб-демо: https://huggingface.co/spaces/LiheYoung/Depth-Anything
Поддерживаемые модели:
Для установки необходимых библиотек
# Install necessary libraries
pip install gradio_client
Finding image depth using depth - anything model .
from gradio_client import Client
# Your Hugging Face API token
huggingface_token = "YOUR_HUGGINGFACE_TOKEN"
# Create a Client instance with the URL of the Hugging Face model deployment
client = Client ( "https://liheyoung-depth-anything.hf.space/--replicas/odat1/" )
# Set the headers parameter with your Hugging Face API token
headers = { "Authorization" : f"Bearer { huggingface_token } " }
# image link or path
my_image = "house.jpg"
# Use the Client to make a prediction, passing the headers parameter
result = client . predict (
my_image ,
api_name = "/on_submit" ,
headers = headers # Pass the headers with the Hugging Face API token
)
# loading the result
from IPython . display import Image
image_path = result [ 0 ][ 1 ]
Image ( filename = image_path )Вы можете создать шаблон веб-страницы, используя API, предоставляемый HuggingFace M4.
Просто сделайте снимок экрана веб-страницы и передайте его в API.
Цена: бесплатно (требуется токен HuggingFace)
Получите токен HuggingFace: https://huggingface.co/settings/tokens
Веб-демо: https://huggingface … скриншот2html
Для установки необходимых библиотек
# Install necessary libraries
pip install gradio_clientПреобразование скриншота веб-сайта в код с использованием модели «скриншот в код».
# Installing required library
from gradio_client import Client
# Your Hugging Face API token
huggingface_token = "YOUR_HUGGINGFACE_TOKEN"
# Create a Client instance with the URL of the Hugging Face model deployment
client = Client ( "https://huggingfacem4-screenshot2html.hf.space/--replicas/cpol9/" )
# Set the headers parameter with your Hugging Face API token
headers = { "Authorization" : f"Bearer { huggingface_token } " }
# website image link or path
my_image = "mywebpage_screenshot.jpg"
# Use the Client to generate code, passing the headers parameter
result = client . predict (
my_image ,
api_name = "/model_inference" ,
headers = headers # Pass the headers with the Hugging Face API token
)
# printing the output
printing ( result )
########### OUTPUT ###########
< html >
< style >
body {
...
< / body >
< / html >
########### OUTPUT ########### Преобразуйте аудио в текст с помощью Whisper API.
Просто конвертируйте аудио в текст с помощью API, не загружая модель шепота.
Цена: бесплатно (требуется токен HuggingFace)
Получите токен HuggingFace: https://huggingface.co/settings/tokens
Веб-демо: https://обнимаю… шепотом
Для установки необходимых библиотек
# Install necessary libraries
pip install gradio_clientПреобразование аудио в текст с использованием модели Whisper.
# Installing required library
from gradio_client import Client
# Your Hugging Face API token
huggingface_token = "YOUR_HUGGINGFACE_TOKEN"
# Create a Client instance with the URL of the Hugging Face model deployment
client = Client ( "https://huggingfacem4-screenshot2html.hf.space/--replicas/cpol9/" )
# Set the headers parameter with your Hugging Face API token
headers = { "Authorization" : f"Bearer { huggingface_token } " }
# audio link or path
my_image = "myaudio.mp4"
# Use the Client to generate a response, passing the headers parameter
result = client . predict (
my_audio ,
"transcribe" , # str in 'Task' Radio component
api_name = "/predict"
headers = headers # Pass the headers with the Hugging Face API token
)
# printing the output
printing ( result )
########### OUTPUT ###########
Hi , how are you ?
########### OUTPUT ########### Есть еще много API, которые вы можете изучить с помощью Hugging Face Spaces. Многие компании малого и среднего бизнеса предоставляют мощные генеративные инструменты искусственного интеллекта по очень низкой цене, такие как встраивания OpenAI, стоимость которых составляет 0,00013 доллара США за 1 тыс. токенов. Обязательно проверьте их лицензии, так как многие бесплатные API на бесплатном уровне либо ограничивают число запросов в день, либо предназначены для некоммерческого использования.
