cape webservices

мыс-вебсервисы

Точка входа для всех серверных веб-сервисов Cape.

Демо-версия фронтенда находится здесь (работает только в том случае, если вы уже запустили бэкенд).

Обзор мыса

Cape — это набор библиотек с открытым исходным кодом для управления моделью ответов на вопросы, которая отвечает на вопросы путем автоматического «чтения» документов. Он основан на современных моделях машинного чтения, обученных на огромных наборах данных, и включает в себя несколько механизмов, упрощающих его использование и улучшающих его на основе отзывов пользователей. Он был разработан как портативный , т. е. работает на одном ноутбуке или на кластере параллельных машин для ускорения вычислений, и совместим с открытым исходным кодом, чтобы его можно было использовать на любом уровне знаний.

Это позволяет пользователям

• загружать документы и отвечать на извлеченные из них вопросы,
• обновить модели, добавив «сохраненный ответ», т.е. заранее определенный ответ,
• управлять пользователями, документами и сохраненными ответами.

Есть несколько способов использования Кейпа:

• В качестве библиотеки Python:

 from cape_responder.responder_core import Responder
 Responder.get_answers_from_documents('my-token','How easy is Cape to use', text ="Cape is an open source large-scale question answering system and is super easy to use!")

• В качестве службы Python: python3 -m cape_webservices.run
• В качестве автономного контейнера Docker: docker run -p 5050:5050 bloomsburyai/cape
• Как приложение с пользовательским интерфейсом
• Как распределенный кластер
• В качестве слабого бота (видео здесь, подробнее здесь)
• Система ответов на электронные письма с использованием искусственного интеллекта (видео здесь, дополнительная информация здесь)
• Как бот Facebook (подробнее здесь)
• В качестве бота Hangouts (подробнее здесь)

Быстрый старт

Минимальные требования

Мы рекомендуем не менее 3 ГБ ОЗУ и не менее 2 современных ядер ЦП (4, если они виртуальные). Если вы используете Docker, убедитесь, что вы увеличили ограничения ресурсов памяти в настройках Docker.

Автономное веб-приложение с Docker

Вы можете запустить автономную версию веб-приложения, включающую панель управления. После установки докера обновите и запустите образ Cape:

docker pull bloomsburyai/cape && docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape

Это запустит как серверную, так и веб-службу внешнего интерфейса, по умолчанию также будут созданы туннели для обоих, выводящие общедоступные URL-адреса:

• Чтобы использовать интерфейс, просто перейдите по указанному URL-адресу, он будет выглядеть примерно так: **https:// RANDOM_STRING_HERE .ngrok.io?configuration={"api":{"backendURL":"https:// RANDOM_STRING_HERE .ngrok .io:5050","timeout":"15000"}}
• Чтобы использовать серверную часть, вы можете использовать наш клиент (документация здесь или создать свою собственную, интегрировав наш HTTP API (документация здесь))

Краткое руководство по началу работы с Docker

1. Загрузите последнюю версию образа Docker (загрузка всех зависимостей и модели машинного чтения займет несколько минут): docker pull bloomsburyai/cape

2. Запустите контейнер Docker и запустите в нем консоль IPython, используя следующую команду: docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape ipython3

3. Импортировать ответчик: from cape_responder.responder_core import Responder

4. Задайте вопрос, сохраните ответ (который представляет собой список ответов) и отобразите первый ответ response = Responder.get_answers_from_documents('my-token','How easy is Cape to use?', text="Cape is an open source large-scale question answering system and is super easy to use!"); print(response[0]['answerText']) используя: response = Responder.get_answers_from_documents('my-token','How easy is Cape to use?', text="Cape is an open source large-scale question answering system and is super easy to use!"); print(response[0]['answerText'])

5. Если вы хотите узнать больше о том, как выглядит ответ, отобразите полный ответ, используя: print(response)

Установка без докера

Чтобы установить Cape в системе Linux, взгляните на файл Deployment/Dockerfile.

Структура

Вкратце, вот как устроен Кейп:

• cape-webservices Внутренний сервер, предоставляющий полный HTTP API, зависит от:
  • cape-responder Уникальный высокоуровневый интерфейс для распределения и создания задач машинного чтения в зависимости от:
    • cape-machine-reader Модуль для интеграции моделей машинного чтения
    • cape-document-qa Интеграция современной модели машинного чтения со сценариями обучения и оценки.
  • cape-document-manager Интерфейс для управления документами и аннотациями с использованием SQLite в качестве примера серверной части хранилища зависит от:
    • cape-splitter Пакет для разделения документов на части без разрыва предложений.
  • cape-userdb, Пакет для управления и хранения пользователей и конфигураций
  • cape-api-helpers, служебные функции HTTP API
  • Дополнительные плагины:
    • cape-slack-plugin, предоставляет конечные точки веб-сервиса для создания ботов Slack.
    • cape-facebook-plugin, предоставляет конечные точки веб-сервиса для интеграции с Facebook Messenger.
    • cape-hangouts-plugin, предоставляет конечные точки веб-сервиса для создания ботов Hangouts.
    • cape-email-plugin, обеспечивает поддержку получения вопросов и ответов на них по электронной почте.
• cape-frontend Интерфейсный сервер (нет на схеме) использует API внутреннего сервера для предоставления пользователям панели управления.