cape webservices

케이프 웹 서비스

모든 백엔드 Cape 웹 서비스의 진입점입니다.

프론트엔드 데모가 여기에 있습니다(이미 백엔드를 시작한 경우에만 작동합니다).

케이프 개요

Cape는 문서를 자동으로 "읽어" 질문에 대답하는 질문 답변 모델을 관리하는 오픈 소스 라이브러리 모음입니다. 이는 대규모 데이터 세트에 대해 훈련된 최첨단 기계 판독 모델을 기반으로 하며 사용자 피드백을 기반으로 사용하기 쉽고 개선할 수 있는 여러 메커니즘을 포함합니다. 이는 이식 가능 하도록 설계되었습니다. 즉, 단일 랩탑이나 병렬 시스템 클러스터에서 작동하여 계산 속도를 높이고 오픈 소스 친화적 이므로 모든 전문 수준에서 사용할 수 있습니다.

이를 통해 사용자는 다음을 수행할 수 있습니다.

• 문서를 업로드하고 그 문서에서 추출된 질문에 답합니다.
• "저장된 답변", 즉 사전 정의된 답변을 추가하여 모델을 업데이트합니다.
• 사용자, 문서, 저장된 답변을 관리하세요.

Cape를 사용하는 방법에는 여러 가지가 있습니다.

• 파이썬 라이브러리로서:

 from cape_responder.responder_core import Responder
 Responder.get_answers_from_documents('my-token','How easy is Cape to use', text ="Cape is an open source large-scale question answering system and is super easy to use!")

• Python 서비스로 : python3 -m cape_webservices.run
• 독립형 Docker 컨테이너: docker run -p 5050:5050 bloomsburyai/cape
• UI가 있는 앱으로
• 분산 클러스터로서
• Slack 봇으로서(동영상은 여기, 자세한 정보는 여기)
• AI-in-the-middle 이메일 응답 시스템(동영상은 여기, 자세한 정보는 여기)
• Facebook 봇으로서(자세한 내용은 여기에서 확인하세요)
• 행아웃 봇(자세한 내용은 여기에서 확인)

빠른 시작

최소 요구 사항

최소 3GB RAM과 최소 2개의 최신 CPU 코어(가상인 경우 4개)를 권장합니다. Docker를 사용하는 경우 Docker 기본 설정에서 메모리 리소스 제한을 늘려야 합니다.

Docker가 포함된 독립형 웹앱

관리 대시보드가 ​​포함된 웹앱의 독립형 버전을 실행할 수 있습니다. Docker를 설치한 후 Cape 이미지를 업데이트하고 실행합니다.

docker pull bloomsburyai/cape && docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape

이렇게 하면 백엔드와 프런트엔드 웹 서비스가 모두 시작되고, 기본적으로 두 가지 모두에 대한 터널도 생성되어 공개 URL이 출력됩니다.

• 프런트엔드를 사용하려면 지정된 URL을 찾아보세요. **https:// RANDOM_STRING_HERE .ngrok.io?configuration={"api":{"backendURL":"https:// RANDOM_STRING_HERE .ngrok와 유사합니다. .io:5050","시간 초과":"15000"}}
• 백엔드를 사용하려면 클라이언트를 사용할 수 있습니다(여기에 문서가 있거나 HTTP API를 통합하여 직접 만들 수 있습니다(여기에 문서)).

Docker를 사용한 빠른 시작 가이드

1. Docker 이미지의 최신 버전을 가져옵니다(모든 종속성과 기계 판독 모델을 다운로드하는 데 몇 분 정도 걸립니다): docker pull bloomsburyai/cape

2. Docker 컨테이너를 실행하고 다음 명령을 사용하여 그 안에서 IPython 콘솔을 시작합니다. docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape ipython3

3. 응답자 가져오기: from cape_responder.responder_core import Responder

4. 질문을 하고 응답(답변 목록)을 저장하고 다음을 사용하여 첫 번째 답변을 표시합니다. response = Responder.get_answers_from_documents('my-token','How easy is Cape to use?', text="Cape is an open source large-scale question answering system and is super easy to use!"); print(response[0]['answerText'])

5. 응답이 어떻게 보이는지에 대해 좀 더 이해하고 싶다면 다음을 사용하여 전체 응답을 표시하십시오. print(response)

도커 없이 설치

Linux 시스템에 Cape를 기본적으로 설치하려면 배포/Dockerfile을 살펴보세요.

구조

요약하면 Cape가 구성되는 방식은 다음과 같습니다.

• 전체 HTTP API를 제공하는 cape-webservices 백엔드 서버는 다음에 따라 달라집니다.
  • cape-responder 다음에 따라 기계 판독 작업을 배포하고 생성하기 위한 고유한 고급 인터페이스:
    • cape-machine-reader 기계 판독 모델을 통합하는 모듈
    • cape-document-qa 훈련 및 평가 스크립트와 함께 최첨단 기계 판독 모델 통합
  • cape-document-manager 예제 스토리지 백엔드로 SQLite를 사용하여 문서 및 주석을 관리하는 인터페이스는 다음에 따라 달라집니다.
    • 문장을 끊지 않고 문서를 덩어리로 분할하는 cape-splitter 패키지
  • cape-userdb, 사용자 및 구성을 관리하고 저장하는 패키지
  • cape-api-helpers, HTTP API 유틸리티 함수
  • 선택적 플러그인:
    • cape-slack-plugin, Slack 봇 생성을 위한 웹 서비스 엔드포인트 제공
    • cape-facebook-plugin, Facebook Messenger와 통합하기 위한 웹 서비스 엔드포인트 제공
    • cape-hangouts-plugin, 행아웃 봇 생성을 위한 웹 서비스 엔드포인트 제공
    • cape-email-plugin, 이메일을 통한 질문 수신 및 응답 지원 제공
• cape-frontend 프런트엔드 서버(다이어그램에는 없음)는 백엔드 서버 API를 사용하여 사용자에게 관리 대시보드를 제공합니다.