Anthropic baru-baru ini merilis prompt sistem untuk model seri Claude-nya, tetapi hal ini menimbulkan kontroversi karena kurangnya deskripsi fitur Artefak terbaru. Para peneliti mencatat bahwa kekurangan ini mempengaruhi pemahaman penuh tentang perilaku model. Anthropic menjawab bahwa fungsi Artifacts diluncurkan lebih lambat dari system prompt, sehingga tidak disertakan, dan berjanji akan menambahkan informasi lengkap dalam beberapa minggu ke depan. Insiden ini menyoroti pentingnya pengungkapan petunjuk sistem model AI dan tantangan yang dihadapi pengembang dalam hal transparansi.
Minggu lalu, Anthropic merilis perintah sistem untuk model seri Claude, yang merupakan instruksi pengoperasian model tersebut, tetapi rilis ini belum lengkap. Menanggapi masalah ini, Anthropic berjanji akan mengumumkan perintah sistem untuk fitur terbarunya, Artifacts, dalam beberapa minggu mendatang. Sebelumnya, peneliti menunjukkan bahwa tips terkait Artefak tidak disertakan dalam rilis terbaru.
Seorang juru bicara Anthropic mengkonfirmasi bahwa mereka akan "menambahkan rincian lebih lanjut tentang perintah sistem, termasuk informasi tentang Artefak, dalam beberapa minggu mendatang." Perlu disebutkan bahwa fitur Artefak baru saja dibuka untuk semua pengguna Claude minggu lalu, yang memungkinkan pengguna menjalankan cuplikan kode di sebelah antarmuka obrolan Claude.
Rilis prompt sistem Claude dari Anthropic dipuji oleh media sebagai perusahaan yang berada di garis depan transparansi, tetapi peneliti seperti Mohammed Sahli percaya bahwa pernyataan perusahaan tersebut kurang lengkap, terutama karena prompt sistem Artifacts dikecualikan.
Anthropic menjelaskan bahwa prompt sistem untuk Artefak gagal muncul pada rilis minggu lalu, terutama karena fitur tersebut tidak tersedia untuk semua pengguna Claude sebelum minggu lalu. Faktanya, Artefak dipublikasikan setelah sistem mengeluarkan pengumuman.
Jadi, seberapa pentingkah perintah sistem?
Meskipun pengembang model AI tidak diharuskan untuk mempublikasikan perintah sistem untuk model bahasa besar, pengungkapan instruksi pengoperasian ini telah menjadi hal yang "menyenangkan" bagi banyak penggemar AI. Hal ini tidak hanya membantu pengembang lebih memahami perilaku model yang diharapkan, namun juga memungkinkan pengguna memahami mengapa model menolak permintaan tertentu.
Menurut file prompt sistem yang dirilis oleh Anthropic, Claude3.5Sonnet adalah versi paling canggih dalam seri ini, menekankan akurasi dan kesederhanaan dalam menjawab pertanyaan. Model ini tidak secara eksplisit memberi label informasi sebagai informasi sensitif dan menghindari penggunaan kata-kata pengisi yang berlebihan atau permintaan maaf.
Claude3Opus adalah model yang lebih besar dengan basis pengetahuan yang diperbarui hingga Agustus 2023 yang memungkinkan diskusi topik kontroversial dan memberikan banyak perspektif, namun menghindari stereotip dan memastikan keseimbangan perspektif. Versi terkecil, Claude3Haiku, berfokus pada kecepatan dan tidak memiliki panduan perilaku seperti Claude3.5Sonnet.
Sedangkan untuk perintah sistem Artefak, konten spesifiknya belum diketahui. Sahli menyebutkan dalam postingan Mediumnya bahwa fitur tersebut mungkin diarahkan untuk menyelesaikan permasalahan kompleks secara sistematis dan fokus pada jawaban yang ringkas.
Menyorot:
- ? Anthropic berjanji akan merilis prompt sistem Artefak untuk model Claude dalam beberapa minggu ke depan untuk menjawab pertanyaan para peneliti.
- ? Fitur Artefak, yang memungkinkan pengguna menjalankan cuplikan kode di sebelah antarmuka obrolan Claude, baru saja tersedia untuk semua pengguna minggu lalu.
- ? Pengungkapan perintah sistem membantu pengguna memahami perilaku model dan mendorong pengembang AI untuk bersikap transparan.
Secara keseluruhan, insiden ini mencerminkan pentingnya pengungkapan perintah sistem model bahasa berskala besar, dan juga mencerminkan masalah transparansi dan tanggung jawab di bidang Penelitian dan Pengembangan AI. Tindakan Anthropic selanjutnya akan berdampak signifikan pada reputasi dan kepercayaan penggunanya. Kami berharap dapat menyelesaikan informasinya secepat mungkin dan terus mempertahankan posisi terdepan dalam transparansi di bidang AI.