IncognitoPilot

ล่ามโค้ด AI สำหรับข้อมูลที่ละเอียดอ่อน ขับเคลื่อนโดย GPT-4 หรือ Code Llama / Llama 2

Incognito Pilot ผสมผสาน Large Language Model (LLM) เข้ากับล่าม Python เพื่อให้สามารถเรียกใช้โค้ดและดำเนินการงานต่างๆ ให้คุณได้ คล้ายกับ ChatGPT Code Interpreter แต่ล่ามทำงาน ในพื้นที่ และสามารถใช้โมเดลโอเพ่นซอร์สเช่น Code Llama / Llama 2 ได้

Incognito Pilot ช่วยให้คุณทำงานกับ ข้อมูลที่ละเอียดอ่อน โดยไม่ต้องอัปโหลดไปยังคลาวด์ ไม่ว่าคุณจะใช้ LLM ภายในเครื่อง (เช่น Llama 2) หรือ API (เช่น GPT-4) สำหรับกรณีหลังนี้ มี กลไกการอนุมัติ ใน UI ซึ่งจะแยกข้อมูลในเครื่องของคุณออกจากบริการระยะไกล

ด้วย Incognito Pilot คุณสามารถ:

• ✅ วิเคราะห์ข้อมูลและสร้างภาพข้อมูล
• ✅ แปลงไฟล์ของคุณ เช่น วิดีโอเป็น GIF
• ✅ เข้าถึงอินเทอร์เน็ต เช่น ดาวน์โหลดข้อมูล

และอีกมากมาย!

การสาธิต

วิดีโอ.mp4

วิดีโอนี้แสดงให้เห็นนักบินที่ไม่ระบุตัวตนด้วย GPT-4 ขณะที่การสนทนาและผลลัพธ์โค้ดที่ได้รับอนุมัติของคุณถูกส่งไปยัง API ของ OpenAI ข้อมูลของคุณจะถูกเก็บไว้ ในเครื่องของคุณ ล่ามกำลังทำงานอยู่ในเครื่องเช่นกันและประมวลผลข้อมูลของคุณที่นั่น และคุณยังสามารถไปไกลกว่านั้นได้โดยใช้ Code Llama / Llama 2 เพื่อให้ทุกอย่างทำงานบนเครื่องของคุณ

- การติดตั้ง (GPT ผ่าน OpenAI API)

ส่วนนี้จะแสดงวิธีการติดตั้ง Incognito Pilot โดยใช้โมเดล GPT ผ่าน API ของ OpenAI สำหรับ

• รหัส Llama / Llama 2 ตรวจสอบการติดตั้งสำหรับ Llama 2 แทน และสำหรับ
• GPT บน Azure ให้ตรวจสอบการติดตั้งด้วย Azure แทน
• หากคุณไม่มีนักเทียบท่า คุณสามารถติดตั้ง Incognito Pilot บนระบบของคุณได้โดยตรง โดยใช้การตั้งค่าการพัฒนา (ดูด้านล่าง)

ทำตามขั้นตอนเหล่านี้:

1. ติดตั้งนักเทียบท่า
2. สร้างโฟลเดอร์ว่างที่ไหนสักแห่งในระบบของคุณ นี่จะเป็นไดเร็กทอรีการทำงานที่ Incognito Pilot สามารถเข้าถึงได้ ล่ามโค้ดสามารถอ่านไฟล์ของคุณในโฟลเดอร์นี้และจัดเก็บผลลัพธ์ใดๆ ได้ ต่อไปนี้ เราถือว่าเป็น /home/user/ipilot
3. สร้างบัญชี OpenAI เพิ่มบัตรเครดิต และสร้างคีย์ API
4. ตอนนี้เพียงรันคำสั่งต่อไปนี้ (แทนที่ไดเร็กทอรีการทำงานและคีย์ API ของคุณ):

docker run -i -t 
  -p 3030:80 
  -e OPENAI_API_KEY= " sk-your-api-key " 
  -e ALLOWED_HOSTS= " localhost:3030 " 
  -v /home/user/ipilot:/mnt/data 
  silvanmelchior/incognito-pilot:latest-slim

ในคอนโซล คุณควรเห็น URL แล้ว เปิดมันแล้วคุณจะเห็นอินเทอร์เฟซ Incognito Pilot

นอกจากนี้ยังสามารถใช้งาน Incognito Pilot ด้วยเครดิตทดลองใช้ฟรีของ OpenAI ได้โดยไม่ต้องเพิ่มบัตรเครดิต อย่างไรก็ตาม ในขณะนี้ยังไม่รวม GPT-4 โปรดดูวิธีเปลี่ยนโมเดลเป็น GPT-3.5 ด้านล่าง

การเริ่มต้นใช้งาน (GPT)

ในอินเทอร์เฟซ Incognito Pilot คุณจะเห็นอินเทอร์เฟซแชทซึ่งคุณสามารถโต้ตอบกับโมเดลได้ มาลองดูกัน!

1. คำทักทาย : พิมพ์ "สวัสดี" และดูว่าแบบจำลองตอบสนองต่อคุณอย่างไร
2. Hello World : พิมพ์ "พิมพ์ข้อความสวัสดีชาวโลกให้ฉัน" คุณจะเห็นว่าส่วน โค้ด ของ UI แสดงตัวอย่าง Python ให้คุณเห็นอย่างไร ทันทีที่คุณอนุมัติ รหัสจะถูกดำเนินการบนเครื่องของคุณ (ภายในคอนเทนเนอร์นักเทียบท่า) คุณจะเห็นผลลัพธ์ในส่วน ผลลัพธ์ ของ UI ทันทีที่คุณอนุมัติก็จะถูกส่งกลับไปยังโมเดล ในกรณีของการใช้ API เช่นโมเดล GPT ของ OpenAI ที่นี่ แน่นอนว่าผลลัพธ์นี้จะถูกส่งไปยังบริการของพวกเขาด้วย
3. การเข้าถึงไฟล์ : พิมพ์ "สร้างไฟล์ข้อความที่มีตัวเลขทั้งหมดตั้งแต่ 0 ถึง 100" หลังจากการอนุมัติ แบบจำลองจะยืนยันการดำเนินการของคุณ ตรวจสอบไดเร็กทอรีการทำงานของคุณตอนนี้ (เช่น /home/user/ipilot ): คุณควรเห็นไฟล์!

ตอนนี้คุณควรพร้อมที่จะใช้ Incognito Pilot สำหรับงานของคุณเองแล้ว เพียงจำไว้ว่า:

• ทุกสิ่งที่คุณพิมพ์หรือทุกผลลัพธ์โค้ดที่คุณอนุมัติจะถูกส่งไปยัง OpenAI / Azure API
• ข้อมูลของคุณยังคงอยู่และได้รับการประมวลผลภายในเครื่อง

อีกประการหนึ่ง: เวอร์ชันที่คุณเพิ่งใช้แทบไม่มีแพ็คเกจที่มาพร้อมกับล่าม Python ซึ่งหมายความว่าสิ่งต่างๆ เช่น การอ่านรูปภาพหรือไฟล์ Excel จะไม่ทำงาน หากต้องการเปลี่ยนแปลง ให้กลับไปที่คอนโซลแล้วกด Ctrl-C เพื่อหยุดคอนเทนเนอร์ ตอนนี้รันคำสั่งอีกครั้ง แต่ลบส่วนต่อท้าย -slim ออกจากอิมเมจ จะเป็นการดาวน์โหลดเวอร์ชันที่ใหญ่กว่ามากซึ่งมีแพ็คเกจมากมาย

เปลี่ยนรุ่น

หากต้องการใช้รุ่นอื่นที่ไม่ใช่รุ่นเริ่มต้น (GPT-4) ให้ตั้งค่าตัวแปรสภาพแวดล้อม LLM โมเดล GPT ของ OpenAI มีคำนำหน้า gpt: ดังนั้นหากต้องการใช้ GPT-3.5 เช่น (ChatGPT ดั้งเดิม) ให้เพิ่มคำสั่งต่อไปนี้ในคำสั่ง docker run:

-e LLM= " gpt-openai:gpt-3.5-turbo "

โปรดทราบว่า GPT-4 มีการตั้งค่าล่ามได้ดีกว่า GPT-3.5 มาก

การตั้งค่า

เปลี่ยนพอร์ต

หากต้องการให้บริการ UI ที่พอร์ตอื่นที่ไม่ใช่ 3030 คุณสามารถเปิดเผยพอร์ตภายใน 80 เป็นพอร์ตอื่นได้ เช่น 8080 คุณควรเปลี่ยนตัวแปรโฮสต์ที่อนุญาตในกรณีนี้:

docker run -i -t 
  -p 8080:80 
  -e ALLOWED_HOSTS= " localhost:8080 " 
  ... 
  silvanmelchior/incognito-pilot

การรับรองความถูกต้อง

ตามค่าเริ่มต้น โทเค็นการตรวจสอบสิทธิ์ซึ่งเป็นส่วนหนึ่งของ URL ที่คุณเปิดจะถูกสร้างขึ้นแบบสุ่มเมื่อเริ่มต้นระบบ ซึ่งหมายความว่าเมื่อใดก็ตามที่คุณรีสตาร์ทคอนเทนเนอร์ คุณจะต้องคัดลอก URL อีกครั้ง หากคุณต้องการป้องกันสิ่งนี้ คุณยังสามารถแก้ไขโทเค็นให้เป็นค่าที่กำหนดได้ด้วยการเพิ่มคำสั่งต่อไปนี้ในคำสั่ง docker run:

  -e AUTH_TOKEN= " some-secret-token " 

เมื่อคุณเปิด URL ด้วยโทเค็นใหม่ เบราว์เซอร์จะจดจำมัน ดังนั้น จากนี้ไป คุณสามารถเข้าถึง Incognito Pilot ได้โดยเพียงแค่เปิด http://localhost:3030 โดยไม่ต้องเพิ่มโทเค็นใน URL

หมดเวลา

ตามค่าเริ่มต้น ล่าม Python จะหยุดหลังจากผ่านไป 30 วินาที หากต้องการเปลี่ยนแปลง ให้ตั้งค่าตัวแปรสภาพแวดล้อม INTERPRETER_TIMEOUT ตัวอย่างเช่น เป็นเวลา 2 นาที ให้เพิ่มคำสั่งต่อไปนี้ในคำสั่ง docker run:

-e INTERPRETER_TIMEOUT= " 120 "

สตาร์ทอัตโนมัติ

หากต้องการเริ่ม Incognito Pilot โดยอัตโนมัติด้วย docker / เมื่อเริ่มต้น ให้ลบ -i -t ออกจากคำสั่ง run และเพิ่มข้อมูลต่อไปนี้:

--restart always

เมื่อรวมกับบุ๊กมาร์กของ URL ของ UI แล้ว คุณจะมี Incognito Pilot อยู่เพียงปลายนิ้วสัมผัสทุกครั้งที่คุณต้องการ หรือคุณสามารถใช้นักเทียบท่าเขียน

- การพึ่งพาตนเอง

ไม่พอใจกับแพ็คเกจที่ติดตั้งไว้ล่วงหน้าของเวอร์ชันเต็ม (หรือที่เรียกว่าไม่บาง) ใช่หรือไม่ ต้องการเพิ่มแพ็คเกจ Python (หรือ Debian) เพิ่มเติมให้กับล่ามหรือไม่

คุณสามารถจัดเก็บการพึ่งพาของคุณเองได้อย่างง่ายดายด้วย Incognito Pilot โดยสร้าง Dockerfile ดังนี้:

 FROM silvanmelchior/incognito-pilot:latest-slim
SHELL [ "/bin/bash" , "-c" ]

# uncomment the following line, if you want to install more packages
# RUN apt update && apt install -y some-package

WORKDIR /opt/app

COPY requirements.txt .

RUN source venv_interpreter/bin/activate && 
    pip3 install -r requirements.txt

ใส่การขึ้นต่อกันของคุณลงในไฟล์ Requirement.txt และรันคำสั่งต่อไปนี้:

docker build --tag incognito-pilot-custom .

จากนั้นรันคอนเทนเนอร์ดังนี้:

docker run -i -t 
  ... 
  incognito-pilot-custom

❓ คำถามที่พบบ่อย

ดีเท่ากับ ChatGPT Code Interpreter หรือไม่?

ไม่ มันมีข้อจำกัดของมัน การแลกเปลี่ยนระหว่างความเป็นส่วนตัวและความสามารถไม่ใช่เรื่องง่ายในกรณีนี้ สำหรับสิ่งต่างๆ เช่น รูปภาพ มีประสิทธิภาพพอๆ กับล่ามโค้ด ChatGPT เนื่องจากไม่จำเป็นต้องรู้เกี่ยวกับเนื้อหาของรูปภาพจึงจะแก้ไขได้ แต่สำหรับเรื่องอย่าง Spreadsheet ถ้า ChatGPT ไม่เห็นเนื้อหา ก็ต้องเดา เช่น รูปแบบข้อมูลจากส่วนหัวซึ่งอาจผิดพลาดได้

อย่างไรก็ตาม ในบางแง่มุม ยังดีกว่าล่ามโค้ด ChatGPT อีกด้วย ล่ามมีการเข้าถึงอินเทอร์เน็ต ทำให้สามารถทำงานใหม่ๆ มากมายที่ไม่เคยทำได้มาก่อน นอกจากนี้คุณยังสามารถเรียกใช้ล่ามบนเครื่องใดก็ได้ รวมถึงเครื่องที่ทรงพลังมาก ดังนั้นคุณจึงสามารถแก้ไขงานที่ใหญ่กว่าการใช้ล่ามโค้ด ChatGPT ได้

ทำไมไม่ใช้ ChatGPT เพื่อสร้างโค้ดและรันด้วยตัวเองล่ะ

แน่นอนคุณสามารถทำได้ อย่างไรก็ตาม การใช้ Incognito Pilot มีข้อดีอยู่บ้าง:

• Incognito Pilot สามารถรันโค้ดได้หลายรอบ (เช่น รับชื่อไฟล์ csv ก่อน จากนั้นจึงรับโครงสร้าง จากนั้นวิเคราะห์เนื้อหา) มันสามารถแก้ไขตัวเองได้ด้วย โดยเห็นการติดตามสแต็กของการดำเนินการที่ล้มเหลว แน่นอนว่าคุณสามารถคัดลอกโค้ดไปมาและผลลัพธ์เพื่อให้ได้ทั้งหมดนี้ด้วยตนเอง แต่จะยุ่งยากค่อนข้างเร็ว
• คุณมีการอ้างอิงที่ติดตั้งไว้ล่วงหน้ามากมายใน Incognito Pilot
• รหัสทำงานในแซนด์บ็อกซ์เพื่อปกป้องคอมพิวเตอร์ของคุณ

จะเป็นส่วนตัวได้อย่างไรหากคุณใช้ API คลาวด์สาธารณะ

ไม่ว่าคุณจะพิมพ์อะไรและผลลัพธ์โค้ดทั้งหมดที่คุณอนุมัติจะไม่เป็นส่วนตัวอย่างแน่นอน ในแง่ที่ว่าผลลัพธ์จะถูกส่งไปยัง Cloud API ข้อมูลของคุณยังคงอยู่ในท้องถิ่น ล่ามยังทำงานในพื้นที่เช่นกัน โดยประมวลผลข้อมูลของคุณจากที่ที่มันอยู่ สำหรับบางสิ่ง คุณจะต้องบอกโมเดลบางอย่างเกี่ยวกับข้อมูลของคุณ (เช่น ชื่อไฟล์ของโครงสร้าง) แต่โดยปกติแล้วจะเป็นข้อมูลเมตาที่คุณอนุมัติใน UI ไม่ใช่ข้อมูลจริง ในทุกขั้นตอนในการดำเนินการ คุณสามารถปฏิเสธได้ว่ามีบางสิ่งถูกส่งไปยัง API

- สถาปัตยกรรม

- การพัฒนา

ต้องการมีส่วนร่วมใน Incognito Pilot หรือไม่ หรือเพียงแค่ติดตั้งโดยไม่มีนักเทียบท่า? ตรวจสอบคำแนะนำและแนวทางการสนับสนุน