danGPT

단GPT

https://dangpt.vercel.app/에서 사용해 보세요.

이 프로젝트에서는 Generative AI를 통해 AI 서비스를 구성하고 RAG(Retrieval Augmented Generation)를 구현하는 방법을 보여줍니다.

작동 방식은 다음과 같습니다.

1. 이 저장소의 범위를 벗어나서 우리는 엄청난 양의 데이터를 스크랩했습니다. 이 경우에는 Dan의 게시물입니다.
2. 그런 다음 텍스트의 의미를 다차원 숫자 공간에 매핑하는 기계 학습 모델을 사용하여 검색하려는 모든 텍스트를 벡터(숫자 목록)로 변환합니다. "임베딩 모델"을 사용하여 벡터 공간에 텍스트를 "임베딩"합니다. 이 경우 OpenAI의 text-embedding-3-small .
3. 그런 다음 해당 벡터를 벡터 데이터베이스에 저장합니다. 여기서 우리가 선택한 무기는 DataStax의 AstraDB입니다.

그런 다음 사용자가 쿼리를 제출하면 우리는 다음을 수행합니다.

1. 동일한 임베딩 모델을 사용하여 쿼리를 벡터로 변환합니다.
2. 쿼리 벡터와 가장 유사한 벡터 또는 차원 공간에서 쿼리 벡터 "인근" 벡터를 벡터 데이터베이스에서 검색합니다.
3. 가장 유사한 벡터에서 많은 원본 텍스트를 검색합니다.
4. 원본 텍스트를 가져와 생성 AI 모델에 컨텍스트로 제공합니다. 이 경우 OpenAI의 gpt-3.5-turbo . ChatGPT의 무료 계층과 동일한 모델입니다.
5. 그런 다음 생성 AI 모델은 제공된 컨텍스트를 기반으로 Dan인 것처럼 가장하여 응답을 생성합니다.

이것은 단지 어리석은 사이드 프로젝트 데모일 뿐이며 틀릴 가능성이 높다는 점은 주목할 가치가 있습니다. 다른 어떤 것보다 교육을 위한 것입니다.