IncognitoPilot

Penerjemah kode AI untuk data sensitif, didukung oleh GPT-4 atau Kode Llama / Llama 2.

Incognito Pilot menggabungkan Model Bahasa Besar (LLM) dengan juru bahasa Python, sehingga dapat menjalankan kode dan menjalankan tugas untuk Anda. Ini mirip dengan Penerjemah Kode ChatGPT , tetapi penerjemahnya berjalan secara lokal dan dapat menggunakan model sumber terbuka seperti Kode Llama / Llama 2 .

Incognito Pilot memungkinkan Anda bekerja dengan data sensitif tanpa mengunggahnya ke cloud. Entah Anda menggunakan LLM lokal (seperti Llama 2), atau API (seperti GPT-4). Untuk kasus terakhir, terdapat mekanisme persetujuan di UI, yang memisahkan data lokal Anda dari layanan jarak jauh.

Dengan Pilot Penyamaran , Anda dapat:

• ✅ menganalisis data dan membuat visualisasi
• ✅ konversi file Anda, misalnya video menjadi gif
• ✅ mengakses internet misalnya mengunduh data

dan banyak lagi!

Demo

video.mp4

Video tersebut menunjukkan Pilot Penyamaran dengan GPT-4. Saat percakapan Anda dan hasil kode yang disetujui dikirim ke API OpenAI, data Anda disimpan secara lokal di mesin Anda. Penerjemah juga berjalan secara lokal dan memproses data Anda di sana. Dan Anda dapat melangkah lebih jauh dan menggunakan Kode Llama / Llama 2 agar semuanya berjalan di mesin Anda.

? Instalasi (GPT melalui OpenAI API)

Bagian ini menunjukkan cara menginstal Incognito Pilot menggunakan model GPT melalui API OpenAI. Untuk

• Kode Llama / Llama 2 , periksa Instalasi untuk Llama 2, dan untuk
• GPT di Azure , periksa Instalasi dengan Azure sebagai gantinya.
• Jika Anda tidak memiliki buruh pelabuhan, Anda dapat menginstal Incognito Pilot di sistem Anda secara langsung, menggunakan pengaturan pengembangan (lihat di bawah).

Ikuti langkah-langkah berikut:

1. Instal buruh pelabuhan.
2. Buat folder kosong di suatu tempat di sistem Anda. Ini akan menjadi direktori kerja yang dapat diakses oleh Incognito Pilot . Penerjemah kode dapat membaca file Anda di folder ini dan menyimpan hasil apa pun. Berikut ini, kami menganggapnya sebagai /home/user/ipilot .
3. Buat akun OpenAI, tambahkan kartu kredit dan buat kunci API.
4. Sekarang, jalankan saja perintah berikut (ganti direktori kerja dan kunci API Anda):

docker run -i -t 
  -p 3030:80 
  -e OPENAI_API_KEY= " sk-your-api-key " 
  -e ALLOWED_HOSTS= " localhost:3030 " 
  -v /home/user/ipilot:/mnt/data 
  silvanmelchior/incognito-pilot:latest-slim

Di konsol, Anda sekarang akan melihat URL. Buka, dan Anda akan melihat antarmuka Incognito Pilot .

Anda juga dapat menjalankan Incognito Pilot dengan kredit uji coba gratis OpenAI, tanpa menambahkan kartu kredit. Saat ini, ini tidak termasuk GPT-4, jadi lihat di bawah cara mengubah model ke GPT-3.5.

Memulai (GPT)

Di antarmuka Incognito Pilot , Anda akan melihat antarmuka obrolan, yang dengannya Anda dapat berinteraksi dengan model. Mari kita mencobanya!

1. Salam : Ketik "Hai" dan lihat bagaimana model merespons Anda.
2. Hello World : Ketik "Cetak pesan hello world untuk saya". Anda akan melihat bagaimana bagian Kode pada UI menampilkan cuplikan Python. Segera setelah Anda menyetujuinya, kode tersebut akan dieksekusi di mesin Anda (dalam wadah buruh pelabuhan). Anda akan melihat hasilnya di bagian Hasil di UI. Segera setelah Anda menyetujuinya, itu akan dikirim kembali ke model. Dalam kasus penggunaan API seperti model GPT OpenAI di sini, tentu saja ini juga berarti bahwa hasil ini akan dikirim ke layanan mereka.
3. Akses File : Ketik "Buat file teks dengan semua angka dari 0 hingga 100". Setelah persetujuan, model akan mengonfirmasi eksekusi Anda. Periksa direktori kerja Anda sekarang (misalnya /home/user/ipilot ): Anda akan melihat filenya!

Sekarang Anda harus siap menggunakan Incognito Pilot untuk tugas Anda sendiri. Ingat saja:

• Segala sesuatu yang Anda ketik atau setiap hasil kode yang Anda setujui dikirim ke OpenAI/Azure API
• Data Anda tetap ada dan diproses secara lokal

Satu hal lagi: Versi yang baru saja Anda gunakan hampir tidak memiliki paket yang dikirimkan dengan juru bahasa Python. Artinya, hal-hal seperti membaca gambar atau file Excel tidak akan berfungsi. Untuk mengubahnya, kembali ke konsol dan tekan Ctrl-C untuk menghentikan container. Sekarang jalankan kembali perintahnya, tetapi hapus akhiran -slim dari gambar. Ini akan mengunduh versi yang jauh lebih besar, dilengkapi dengan banyak paket.

Ubah modelnya

Untuk menggunakan model lain selain model default (GPT-4), atur variabel lingkungan LLM . Model GPT OpenAI memiliki awalan gpt: , jadi untuk menggunakan GPT-3.5 misalnya (ChatGPT asli), tambahkan perintah berikut ke perintah docker run:

-e LLM= " gpt-openai:gpt-3.5-turbo "

Harap perhatikan bahwa GPT-4 jauh lebih baik dalam penyiapan juru bahasa dibandingkan GPT-3.5.

Pengaturan

Ubah pelabuhan

Untuk melayani UI pada port yang berbeda dari 3030, Anda dapat mengekspos port internal 80 ke port lain, misalnya 8080. Anda juga harus mengubah variabel host yang diizinkan dalam kasus ini:

docker run -i -t 
  -p 8080:80 
  -e ALLOWED_HOSTS= " localhost:8080 " 
  ... 
  silvanmelchior/incognito-pilot

Otentikasi

Secara default, token autentikasi, yang merupakan bagian dari URL yang Anda buka, dibuat secara acak saat startup. Artinya, setiap kali Anda memulai ulang penampung, Anda perlu menyalin ulang URL-nya. Jika Anda ingin mencegah hal ini, Anda juga dapat memperbaiki token ke nilai tertentu, dengan menambahkan perintah berikut ke perintah docker run:

  -e AUTH_TOKEN= " some-secret-token " 

Setelah Anda membuka URL dengan token baru, browser akan mengingatnya. Jadi, mulai sekarang Anda bisa mengakses Incognito Pilot hanya dengan membuka http://localhost:3030, tanpa harus menambahkan token ke URL.

Batas waktu

Secara default, juru bahasa Python berhenti setelah 30 detik. Untuk mengubahnya, setel variabel lingkungan INTERPRETER_TIMEOUT . Misalnya selama 2 menit, tambahkan perintah berikut ke perintah docker run:

-e INTERPRETER_TIMEOUT= " 120 "

Mulai otomatis

Untuk memulai Incognito Pilot secara otomatis dengan buruh pelabuhan / saat startup, hapus -i -t dari perintah run dan tambahkan yang berikut ini:

--restart always

Bersama dengan penanda URL UI, Anda akan memiliki Incognito Pilot di ujung jari Anda kapan pun Anda membutuhkannya. Alternatifnya, Anda dapat menggunakan komposisi buruh pelabuhan.

? Ketergantungan sendiri

Tidak puas dengan paket pra-instal versi lengkap (alias non-slim)? Ingin menambahkan lebih banyak paket Python (atau Debian) ke penerjemah?

Anda dapat dengan mudah memasukkan dependensi Anda sendiri ke dalam container dengan Incognito Pilot . Untuk melakukannya, buat Dockerfile seperti ini:

 FROM silvanmelchior/incognito-pilot:latest-slim
SHELL [ "/bin/bash" , "-c" ]

# uncomment the following line, if you want to install more packages
# RUN apt update && apt install -y some-package

WORKDIR /opt/app

COPY requirements.txt .

RUN source venv_interpreter/bin/activate && 
    pip3 install -r requirements.txt

Masukkan dependensi Anda ke dalam file persyaratan.txt dan jalankan perintah berikut:

docker build --tag incognito-pilot-custom .

Kemudian jalankan container seperti ini:

docker run -i -t 
  ... 
  incognito-pilot-custom

❓ FAQ

Apakah ini sebagus Penerjemah Kode ChatGPT?

Tidak, itu ada batasnya. Pertukaran antara privasi dan kemampuan bukanlah hal yang mudah dalam kasus ini. Untuk hal-hal seperti gambar, ini sama kuatnya dengan penerjemah kode ChatGPT, karena tidak perlu mengetahui konten gambar untuk mengeditnya. Namun untuk hal-hal seperti spreadsheet, jika ChatGPT tidak melihat kontennya, ia harus menebak misalnya format data dari header, yang bisa saja salah.

Namun, dalam aspek tertentu, ini bahkan lebih baik daripada penerjemah kode ChatGPT: Penerjemah memiliki akses internet, memungkinkan banyak tugas baru yang sebelumnya tidak mungkin dilakukan. Selain itu, Anda dapat menjalankan penerjemah di mesin apa pun, termasuk mesin yang sangat canggih, sehingga Anda dapat menyelesaikan tugas yang jauh lebih besar dibandingkan dengan penerjemah kode ChatGPT.

Mengapa tidak menggunakan ChatGPT saja untuk membuat kode dan menjalankannya sendiri?

Anda tentu saja bisa melakukan ini. Namun ada beberapa keuntungan menggunakan Incognito Pilot :

• Incognito Pilot dapat menjalankan kode dalam beberapa putaran (misalnya, pertama-tama mendapatkan nama file csv, lalu strukturnya, lalu menganalisis kontennya). Ia bahkan dapat mengoreksi dirinya sendiri, melihat jejak tumpukan dari eksekusi yang gagal. Tentu saja Anda juga dapat menyalin kode dan hasil bolak-balik untuk mencapai semua ini secara manual, tetapi ini menjadi rumit dengan cepat.
• Anda memiliki banyak dependensi pra-instal di Incognito Pilot
• Kode berjalan di kotak pasir, melindungi komputer Anda

Bagaimana bisa menjadi pribadi jika Anda menggunakan API cloud publik?

Apa pun yang Anda ketik dan semua hasil kode yang Anda setujui memang tidak bersifat pribadi, dalam artian dikirim ke cloud API. Namun data Anda tetap lokal. Penerjemah juga berjalan secara lokal, memproses data Anda tepat di tempatnya. Untuk hal-hal tertentu, Anda harus memberi tahu model sesuatu tentang data Anda (misalnya nama file struktur), tetapi biasanya meta-data yang Anda setujui secara aktif di UI dan bukan data sebenarnya. Di setiap langkah eksekusi, Anda bisa menolak sesuatu yang dikirim ke API.

? Arsitektur

? Perkembangan

Ingin berkontribusi pada Incognito Pilot ? Atau cukup instal tanpa buruh pelabuhan? Lihat instruksi & pedoman kontribusi.