더 많은 사람들에게 신속한 단어 엔지니어를 알리기 위해 PR & Star를 환영합니다.
참조 비디오 과정 : 개발자를위한 Chatgpt 프롬프트 엔지니어링
중국 자막 전송 : 신속한 단어 엔지니어와 함께 시작하기위한 안내서 [Wu Enda] -Qilian AI 오픈 소스 자막 그룹 - 자막 번역에 오신 것을 환영합니다.
구현 언어 : Python, Golang, Nodejs
코퍼스 : 영어, 중국어
PR에 오신 것을 환영합니다!
재료 | 재료 |
---|---|
가르치는 비디오 | 중국인, 영어 ✅ |
파이썬 | 중국인, 영어 ✅ |
nodejs | 중국인, 영어 ✅ |
골랑 | 중국인, 영어 ✅ |
부제 | 중국인, 영어 ✅ |
LLM은 Base-LLM과 Instruction-Tuned-Llm의 두 가지 기본 범주로 나뉩니다.
전자는 기본 언어 모델로 미리 훈련 된 데이터를 기반으로 다음 단어를 예측합니다. 후자는 인간의 지시를 완료 할 가능성이 높아짐에 대한 지침을 미세 조정합니다.
OpenAI의 모델에서 습국 모델에는 명령에 최적화 된 모델이 나열됩니다. 이 표에는 또한 SFT, FeedME, PPO 등과 같은 다양한 지침 미세 조정 훈련 방법이 나와 있습니다.
작성 지침에 대한 지침은 다음과 같습니다.
명확하고 구체적이지만 반드시 짧은 것은 아닙니다.
Propt 주입을 방지하고 LLM에 대한 혼란스러운 이해를 만들기 위해 "" ",```, ---, <>와 같은 구분 제를 사용하십시오.
HTML 또는 JSON 형식으로 출력하는 데 필요한 경우 구조화 된 출력을 사용하십시오.
필요한 검사 : LLM은 조건이 충족되지 않으면 직접 알릴 수 있습니다.
몇 가지 샘플을 사용하여 학습하기 위해 LLM에 원하는 예를 표시하십시오.
모델에 그것에 대해 생각할 시간을주고 너무 간단하거나 어려운 문제를주지 마십시오.
답변을 따라 대답하고 분리기를 설정하십시오. 예를 들어 "Text : <>"을 사용하여 텍스트를 나타냅니다.
모델이 결과뿐만 아니라 프로세스 자체를 추론하도록하십시오. LLM에 문제 해결 프로세스가있는 예를 보여줍니다.
모델의 환각을 피하십시오 : 모델에 관련 정보를 먼저 찾아서 관련 정보를 기반으로 질문에 답하십시오. (그러나 모델의 환상을 피하기가 어렵고 모델 연구 분야에서 현재 노력의 방향이기도합니다).
쓰기 프롬프트 과정은 지속적으로 반복됩니다.
기본 단계 :
프롬프트를 작성하십시오
테스트를 수행하고
이유 분석
프롬프트 수정 (아이디어 명확화)
만족스러운 결과가 달성 될 때까지 위의 단계를 순환합니다.
많은 수의 사용자 리뷰가 포함 된 전자 상거래 웹 사이트를 실행하는 경우 언어 모델의 "요약"및 "추출"의 능력을 활용하여 워크로드를 단순화하여 워크로드를 단순화 할 수 있습니다.
LLM을 사용하면 단어 수 제한, 주제 제한 주제, 가격 중점 및 정보를 추출하여 요약을 대체하려고하는 일련의 테스트를 수행 할 수 있습니다.
For Loop을 사용하여 동일한 프롬프트 템플릿을 사용하여 다른 컨텐츠를 배치 할 수 있습니다. 이렇게하면 많은 수의 의견을보다 효율적으로 처리하는 데 도움이 될 수 있습니다.
사용자 의견에서 긍정적이고 부정적인 피드백의 양을 알고 싶다면 "LLM 추론"을 사용할 수있는 능력이 필요합니다.
예를 들어, LLM은 사용자 정서에 대해 추론하고 감정 유형 (예 : 행복, 만족, 감사, 감명, 콘텐츠), 브랜드 및 제품 정보 추출 및 JSON 형식으로 출력 할 수 있으며 동시에 여러 작업을 수행 할 수 있습니다. (예를 들어, 사용자 의견에서 제품 추출 및 사용자 감정의 추론), 주제를 추론하며 추론 된 주제를 기반으로하는 알림 프로그램 설계 등.
따라서 사용자 의견에 "LLM 추론"을 적용하는 능력은 긍정적이고 부정적인 피드백이 무엇인지 정확하게 이해하는 데 도움이 될 수 있습니다.
전환 응용 프로그램은 한 언어를 다른 언어로 변환하는 응용 프로그램입니다.
예를 들어, 변환 응용 프로그램을 통해 텍스트 단락 하나는 다른 언어로 번역 될 수 있고, 텍스트 단락에서 사용되는 언어를 식별 할 수 있으며, 텍스트조차도 동시에 두 개 이상의 언어로 번역 될 수 있습니다. 또한 전환의 톤이 공식적인지 비공식적인지 여부를 지정하고 비즈니스 행사를위한 이메일과 같은 다양한 경우에 적합한 언어를 지정할 수 있습니다. 전환 응용 프로그램은 자연어 번역에 국한되지 않지만 JSON을 HTML로 변환하는 등 프로그래밍 언어 변환을 수행 할 수도 있습니다. 동시에 LLM에 구문 오류를 수정하도록 도와달라고 요청할 수도 있습니다.
LLM은 짧은 텍스트를 확장하고 추가하고 특정 언어 스타일을 통합 할 수 있습니다.
다음 예에서는 LLM이 이메일 답장 어시스턴트 역할을합니다. LLM에 이메일을 작성하여 고객에게 답장을 보내고 고객의 편지의 세부 정보를 활용하여 응답의 진위를 높이도록 요청할 수 있습니다. 또한 온도 값을 조정하여 응답을 덜 견고하게 보이게 할 수 있습니다.
LLM 기능을 활용하면 고객 편지의 세부 사항을 기반으로 답장 이메일을 작성할 수 있으며 필요에 따라 답장의 톤을 유연하게 조정할 수도 있습니다. 이를 통해 고객과의 이메일 커뮤니케이션은보다 개인화되고 정통합니다.
OpenAI API를 사용하여 메시지를 보낼 때 메시지의 역할에는 시스템, 사용자 및 조수의 세 가지 역할이 포함될 수 있습니다.
시스템 역할은 글로벌 스타일 및 제한 및 기타 정보를 설정하는 데 사용됩니다.
사용자 역할 (사용자)은 인간 사용자, 즉 메시지를 보낸 실제 사용자를 나타냅니다.
어시스턴트는 LLM, 즉 언어 모델을 의미하며 대화에서 답장과 상호 작용의 역할을 수행합니다.
def get_completion(prompt, model="gpt-3.5-turbo"):
messages = [{"role": "user", "content": prompt}]
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=0, # this is the degree of randomness of the model's output
)
return response.choices[0].message["content"]
def get_completion_from_messages(messages, model="gpt-3.5-turbo", temperature=0):
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=temperature, # this is the degree of randomness of the model's output
)
return response.choices[0].message["content"] # print(str(response.choices[0].message))
messages = [
{'role':'system', 'content':'You are an assistant that speaks like Shakespeare.'},
{'role':'user', 'content':'tell me a joke'},
{'role':'assistant', 'content':'Why did the chicken cross the road'},
{'role':'user', 'content':'I don't know'} ]
response = get_completion_from_messages(messages, temperature=1)
print(response)
다음 설명에서는 원칙 및 기능과 관련된 몇 가지 문제에 대해 설명합니다.
1. 원칙 :
지시문에는 명확하고 특이성이 필요하므로 모델이 귀하의 요구 사항을 명확하게 이해하도록합니다.
모델에 생각하고 처리 할 시간을 제공하십시오.
2. 개발 프로세스 프롬프트는 지속적인 반복 과정으로 지속적인 디버깅 및 개선이 필요합니다.
3. 모델에는 다음과 같은 능력이 있습니다 : 요약, 추론, 변환 및 확장. 이러한 기능은 다양한 응용 프로그램 시나리오에서 역할을 수행 할 수 있습니다.