Wawancara terbaru Ultraman di OpenAI London Developer Day akhirnya dirilis secara lengkap!
Selama wawancara 40 menit, Altman tidak hanya berbicara tentang arah pengembangan model OpenAI di masa depan, Agen, dan pesaingnya yang paling dihormati (ini adalah masalah yang telah dibocorkan sebelumnya), tetapi juga berbicara tentang Scaling Law, rantai pasokan semikonduktor, dan fundamental. Lebih dari sepuluh pertanyaan diajukan dan dijawab dengan cepat, seperti biaya kompetisi model dan kelompok usia karyawan yang harus dipekerjakan .
Ketika ditanya tentang apa yang dia siap dan belum sepenuhnya siap untuk posisi CEO OpenAI.
Ultraman berkata tanpa ragu: Produk!
Secara keseluruhan, kelemahan saya ada pada produknya.
Sekarang perusahaan membutuhkan saya untuk memiliki visi yang lebih kuat dan jelas dalam bidang ini.
Yang menarik adalah jika Ultraman berusia 39 tahun diizinkan kembali ke usia 23 atau 24 tahun, dia akan mempertimbangkan untuk melakukan sesuatu yang berhubungan dengan AI dalam arah vertikal .
Misalnya, Tutor AI yang membantu manusia belajar, atau pengacara AI, insinyur AI CAD, dll.
Teks lengkap dari wawancara yang luar biasa ini terlampir di bawah.
Terakhir, ada 11 pertanyaan dan jawaban singkat~
Ikhtisar singkat konten
Wawancara dengan Ultraman di OpenAI London Developer Day
Q1: Ketika kita melihat ke depan, apakah OpenAI akan memiliki lebih banyak model seperti o1 di masa depan, atau dapatkah kita mengharapkan model dengan parameter yang lebih besar?
J: Tentu saja kami berharap untuk maju secara komprehensif, namun arah model inferensi sangat penting bagi kami . Kami berharap dapat menggunakan penalaran untuk menyelesaikan banyak hal yang telah kami nantikan untuk capai selama bertahun-tahun.
Misalnya, model inferensi dapat berkontribusi pada ilmu pengetahuan baru dan membantu menulis kode yang sulit - yang menurut saya dapat memajukan dunia secara signifikan.
Jadi, Anda dapat menantikan peningkatan pesat pada model seri O, yang akan sangat berarti.
Q2: Berdasarkan rencana masa depan OpenAI, bagaimana menurut Anda sebagai pendiri non-teknis, Anda dapat membangun dan memperluas aplikasi AI dengan mengembangkan alat tanpa kode?
A: Pasti akan ada hari itu.
Langkah pertama kami adalah membuat mereka yang tahu cara menulis kode menjadi lebih produktif; namun pada akhirnya, kami tetap berharap dapat menyediakan alat tanpa kode yang benar-benar berkualitas tinggi.
Ada beberapa alat (tanpa kode) yang berguna di luar sana, tetapi akan membutuhkan waktu untuk membangun sebuah startup yang benar-benar tanpa kode.
Q3: Salah satu pendiri bertanya: Saat ini, OpenAI jelas berada di jajaran teknologi. Apakah menghabiskan banyak waktu untuk menyetel sistem RAG hanya membuang-buang waktu karena OpenAI pada akhirnya akan mencakup bagian aplikasi ini?
J: Kami biasanya menjawab bahwa OpenAI akan melakukan yang terbaik dan sangat yakin bahwa kami akan membuat model yang kami luncurkan menjadi lebih baik dan lebih baik lagi.
Jika Anda membangun perusahaan yang mencari nafkah dengan "menambal bug kecil", apakah OpenAI dapat menjalankan pekerjaannya dengan lancar dan benar tidak akan terlalu berdampak pada Anda.
Dengan kata lain, jika perusahaan Anda menjadi lebih sukses karena "model OpenAI menjadi semakin baik", Anda pasti akan senang karenanya.
Misalnya, jika Oracle diam-diam memberi tahu Anda bahwa o4 OpenAI akan lebih kuat dari yang Anda bayangkan, Anda pasti akan senang.
Tentu saja, jika Anda bersikeras memilih area di mana o1-preview tidak berfungsi dengan baik untuk mempelajarinya dan hampir tidak mendasarkannya pada area tersebut, maka Anda pasti akan merasa bahwa model generasi berikutnya tidak akan bekerja sebaik yang dibayangkan.
——Inilah yang ingin saya sampaikan kepada para startup.
Kami percaya bahwa OpenAI berada pada jalur peningkatan yang sangat tajam, dan kekurangan model saat ini akan diatasi dan diperbaiki oleh model yang terlambat.
Q4: Dari sudut pandang pendiri, di manakah OpenAI kemungkinan besar akan berhasil (dan bukan yang lain)? Saya yakin investor juga ingin memahami masalah ini, dan tidak ada seorang pun yang ingin kehilangan uang dalam investasi.
J: OpenAI akan menghasilkan nilai pasar triliunan dolar. Secara khusus, OpenAI akan menciptakan nilai pasar tertinggi baru dengan menggunakan AI untuk membangun produk dan layanan yang sebelumnya dianggap mustahil atau tidak praktis.
Kami berharap dapat meluncurkan model yang sangat hebat sehingga pengguna tidak perlu khawatir dan hanya melakukan apa yang mereka ingin lakukan dengannya.
Di era GPT-3.5, 95% startup dan masyarakat bertaruh bahwa model ini tidak akan menjadi lebih baik.
Faktanya, kami telah lama memperkirakan bahwa GPT-4 dapat menangani apa yang mereka lakukan dan melakukannya dengan lebih baik, dan tidak akan ada kesalahan seperti model di era 3.5. Jika yang dilakukan semua pengusaha/pengembang hanyalah untuk menutupi kekurangan model generasi tertentu, Anda akan mendapati bahwa kekurangan ini menjadi semakin tidak berarti.
Apakah semua orang lupa betapa buruknya model beberapa tahun yang lalu? Faktanya, ini baru beberapa tahun.
Namun peluang ada di mana-mana, jadi memperbaiki model yang ada pada pandangan pertama sepertinya merupakan peluang yang bagus (jadi saya tidak akan menjadi asisten pengajar AI atau konsultan medis AI).
Itu sebabnya saya mengatakan bahwa pada awalnya, 95% orang yakin bahwa model tersebut tidak akan berkembang lagi, dan hanya 5% orang yang bertaruh bahwa model tersebut akan menjadi lebih baik dan lebih baik lagi.
Namun menurut saya hal ini tidak lagi terjadi.
Semua orang sekarang berpikir bahwa kecepatan evolusi GPT-3.5 menjadi GPT-4 adalah hal yang normal, namun kenyataannya tidak demikian. Hal baiknya adalah staf internal kami sangat rajin dan kami tahu apa yang diharapkan.
Q5: Masayoshi Son dari SoftBank mengatakan bahwa AI akan menghasilkan nilai sebesar US$9 triliun setiap tahunnya, yang akan mengimbangi apa yang ia yakini sebagai pengeluaran tahunan sebesar US$9 triliun. Apa yang kamu pikirkan ketika melihat pernyataan ini?
A: Kalau dari segi besarnya, sekarang hampir sama. AI jelas akan menghasilkan banyak pengeluaran modal sekaligus menciptakan banyak nilai.
Hal ini terjadi pada setiap revolusi teknologi besar, dan AI jelas merupakan salah satunya.
Tahun depan akan menjadi tahun di mana OpenAI akan maju pesat menuju sistem generasi berikutnya.
Kami baru saja membicarakan kapan Agen perangkat lunak tanpa kode akan muncul. Saya tidak dapat memberikan waktu pastinya, tetapi Anda dapat membayangkan seberapa besar pertumbuhan ekonomi yang akan dihasilkannya bagi dunia jika ada yang dapat mendeskripsikan perangkat lunak yang mereka inginkan untuk seluruh nilai perusahaan .
Dengan nilai yang sama, ketersediaan yang lebih luas, lebih mudah diakses, dan lebih murah, hal ini akan sangat bermanfaat.
Ada contoh lain, seperti layanan kesehatan dan pendidikan, yang saya sebutkan sebelumnya, dua bidang yang bernilai triliunan dolar bagi dunia.
Jika AI benar-benar dapat mencapai hal ini dengan cara yang berbeda dari masa lalu, saya pikir jumlah spesifik nilai ekonomi yang dihasilkannya bukanlah hal yang penting, apalagi pengenalannya sebesar 9 triliun atau 1 triliun.
Namun yang pasti nilai yang diciptakan oleh AI sungguh luar biasa.
Q6: Open source adalah pendekatan yang sangat penting. Bagaimana Anda melihat open source berperan dalam masa depan kecerdasan buatan? Apakah ada diskusi internal di OpenAI tentang “haruskah kita menjadikan semua model atau beberapa di antaranya menjadi open source”?
J: Tidak ada keraguan bahwa model open source sangat penting dalam ekosistem, dan ada juga model open source yang sangat bagus di pasaran.
Namun menurut saya, menyediakan layanan dan API yang baik juga masuk akal - masuk akal dan orang-orang akan memilih mana yang cocok untuk mereka.
Q7: Apa pendapat Anda tentang definisi Agen saat ini? Apa itu Agen bagi Anda?
J: Saya belum sepenuhnya mempertimbangkan masalah ini, namun saya dapat memberikan tugas jangka panjang kepada Agen dan mengawasi pelaksanaannya sesedikit mungkin.
Q7': Apakah menurut Anda pandangan orang-orang terhadap Agen sebenarnya salah?
A: Mungkin kita tidak semua memiliki pemahaman yang akurat, tapi kita semua mengetahui beberapa indikator penting.
Misalnya, ketika orang berbicara tentang agen AI yang bertindak atas nama mereka, contoh yang sering mereka berikan adalah meminta agen tersebut untuk melakukan reservasi restoran. Agen dapat melakukan reservasi secara online atau menelepon restoran untuk melakukan reservasi.
Memang benar, Agen dapat membantu melakukan beberapa hal untuk menghemat waktu. Tapi menurut saya hal yang paling menarik adalah membiarkan agen melakukan sesuatu yang tidak atau tidak bisa dilakukan manusia.
Misalnya, alih-alih menelepon restoran tertentu untuk membuat reservasi, Agen menghubungi 300 restoran untuk mencari tahu mana yang terbaik bagi saya. Akan lebih keren lagi jika semua panggilan yang Anda lakukan dijawab oleh agen! Karena manusia tidak bisa memajukan hal semacam ini dalam skala besar secara paralel.
Mari kita ambil contoh yang lebih menarik.
Agen mungkin lebih seperti rekan kerja yang sangat cerdas. Anda bekerja dengannya dalam sebuah proyek yang memakan waktu 2 hari atau 2 minggu. Agen dapat menjalankannya sendiri dan melakukan pekerjaan dengan baik atas suatu proyek. Sebuah hasil yang luar biasa.
Q7": Apakah hal ini secara mendasar mengubah cara penetapan harga SaaS? SaaS biasanya diberi harga berdasarkan jumlah pengguna (pengisian kursi) , namun sekarang AI sebenarnya menggantikan tenaga kerja. Bagaimana Anda melihat penetapan harga ke depannya?
A: Saya hanya bisa menebak, saya benar-benar tidak tahu.
Saya dapat membayangkan sebuah dunia di mana Anda dapat meminta, "Saya ingin 1/10/100 GPU bekerja pada saya terus-menerus," dan itu tidak akan diberi harga per kursi, melainkan berdasarkan jumlah komputasi yang diperlukan untuk terus memproses masalah ini. .
Q7"': Apakah kita perlu membuat model khusus untuk skenario penggunaan Aengts?
J: Tentu saja hal ini membutuhkan banyak infrastruktur, namun menurut saya model o1 menunjukkan jalan menuju model yang dapat menjalankan tugas agen dengan baik.
Q8: Semua orang mengatakan bahwa model mendepresiasi aset, dan komoditisasi model sangat umum terjadi. Apa tanggapan dan pemikiran Anda mengenai hal ini? Jika Anda mempertimbangkan peningkatan intensitas modal yang diperlukan untuk melatih model, apakah kita akan melihat pembalikan dari "bidang ini membutuhkan banyak uang namun sangat sedikit orang yang benar-benar dapat melakukannya"?
J: Model memang mendepresiasi aset, namun bukan berarti model tersebut tidak sebanding dengan biaya pelatihannya. Belum lagi efek penggabungan positif saat Anda melatih suatu model, memungkinkan Anda melatih model berikutnya dengan lebih baik.
Pendapatan sebenarnya yang kami peroleh dari model ini sesuai dengan investasi yang dilakukan - tentu saja, tidak semua orang dapat melakukan hal ini, dan ada banyak orang yang menciptakan kembali model pelatihan.
Jika model yang Anda latih tertinggal, atau jika Anda tidak memiliki produk yang kuat dan bernilai, mungkin sulit mendapatkan laba atas investasi.
OpenAI sangat beruntung memiliki ChatGPT, dengan ratusan juta pengguna menggunakan model kami.
Jadi meskipun biayanya tinggi, kita dapat menyebarkan angka astronomi ini ke sejumlah besar pengguna dan melemahkannya.
Q9: Bagaimana model OpenAI terus berdiferensiasi dari waktu ke waktu? Bidang apa yang paling ingin Anda fokuskan untuk memperluas diferensiasi ini?
J: Inferensi adalah area fokus terpenting kami saat ini, dan menurut saya hal itu akan membuka lompatan besar berikutnya dalam menciptakan nilai.
Jadi kami akan menyempurnakan model dalam berbagai aspek, kami akan melakukan pekerjaan multimodal dan menambahkan fitur lain yang kami anggap penting agar orang ingin menggunakan model ini.
Q9': Bagaimana Anda memandang pekerjaan penalaran dan multimodal, termasuk tantangan dan tujuan yang ingin Anda capai?
A: Saya harap itu menjadi kenyataan. Hal ini jelas membutuhkan upaya untuk mencapainya.
Namun manusia pada masa bayi dan anak usia dini, sebelum mahir berbahasa, masih dapat melakukan penalaran visual yang cukup canggih.
Q9”: Bagaimana kemampuan visual akan berkembang dengan paradigma penalaran baru o1?
J: Tanpa membocorkan apa pun, saya berharap model berbasis gambar akan berkembang pesat.
Anda dapat mengharapkan kemajuan pesat pada model gambar .
Q10: Bagaimana OpenAI mencapai terobosan dalam penalaran inti? Apakah ada kebutuhan untuk mulai mendorong pembelajaran penguatan sebagai pendekatan atau teknologi baru lainnya selain Transformers?
J: Ada dua pertanyaan: bagaimana kita melakukannya, dan apa yang terjadi setelah Transformer.
Pertama, cara kami melakukannya adalah rahasia kami.
Salah satu alasan mengapa sangat mudah untuk meniru sesuatu yang diketahui berhasil adalah karena Anda memiliki keyakinan untuk mengetahui apa yang mungkin dilakukan. Setelah peneliti melakukan sesuatu, Anda dapat mereplikasinya meskipun Anda tidak tahu bagaimana mereka melakukannya. Hal ini dapat diverifikasi pada replika GPT-4 dan o1.
Hal yang paling sulit, dan yang paling saya banggakan tentang OpenAI, adalah kami berulang kali melakukan sesuatu yang baru dan sama sekali belum terbukti.
Banyak institusi dan organisasi yang mengaku mampu melakukan hal tersebut, namun nyatanya hanya sedikit yang benar-benar melakukannya, termasuk di luar bidang AI.
Dalam arti tertentu, menurut saya ini adalah salah satu investasi terpenting dalam kemajuan umat manusia.
Saya menantikan untuk menulis sebuah buku ketika saya pensiun, sebuah buku tentang apa yang telah saya pelajari dan berbagi pengalaman saya tentang bagaimana membangun sebuah organisasi dan budaya perusahaan yang dapat melakukan hal ini (dibandingkan dengan sebuah organisasi yang hanya meniru pekerjaan karyawan). yang lain) .
Saya pikir dunia membutuhkan lebih banyak organisasi seperti ini, meskipun jumlah mereka dibatasi oleh kecerdikan manusia.
Namun kenyataannya banyak talenta yang terbuang karena dunia tidak pandai membangun organisasi seperti ini. Tapi saya tetap berharap ada lebih banyak organisasi seperti ini.
Q11: Bagaimana bakat disia-siakan?
J: Ada banyak orang berbakat di dunia, tapi karena mereka bekerja di perusahaan yang buruk atau karena alasan lain, mereka tidak mampu mencapai potensi maksimal mereka.
Salah satu hal yang paling saya sukai tentang AI adalah saya berharap AI akan memungkinkan kita membantu semua orang mencapai potensi tertinggi mereka dengan lebih baik.
Tujuan ini masih jauh dari tercapai.
Saya yakin banyak orang di dunia akan menjadi peneliti AI yang hebat jika lintasan hidup mereka sedikit berbeda.
Q12: Dalam beberapa tahun terakhir, Anda mendapatkan pengalaman yang luar biasa, (memimpin) pertumbuhan yang luar biasa pesat. Anda menyebutkan bahwa Anda akan menulis memoar ketika Anda pensiun, jadi jika Anda melihat kembali 10 tahun terakhir, perubahan signifikan apa yang telah dilakukan dalam gaya kepemimpinan Anda?
J: Bagi saya, hal yang paling luar biasa dalam beberapa tahun terakhir ini adalah kecepatan perubahannya.
Di perusahaan biasa, Anda punya banyak waktu untuk meningkatkan pendapatan dari nol menjadi $100 juta, lalu dari $100 juta menjadi $1 miliar, hingga $10 miliar. Anda tidak perlu mencapai proses ini dalam dua tahun. Kami jelas bukan startup Silicon Valley dalam pengertian tradisional;
Kami harus sampai di sana begitu cepat, dan ada banyak hal yang seharusnya saya habiskan lebih banyak waktu untuk mempelajarinya (tetapi ternyata tidak).
Q12': Apakah ada sesuatu yang tidak kamu ketahui dan kamu harap kamu menghabiskan lebih banyak waktu untuk mempelajarinya?
A: Izinkan saya mengatakan satu hal, yaitu "Biarkan perusahaan fokus pada bagaimana tumbuh 10 kali lipat ke depan" daripada tumbuh sebesar 10%.
Berapa banyak usaha yang diperlukan untuk hal ini? Seberapa sulitkah ini?
Jika pertumbuhan 10% berikutnya, apa yang berhasil sebelumnya akan tetap berhasil. Namun agar perusahaan dengan pendapatan $1 miliar dapat tumbuh hingga pendapatan $10 miliar, Anda tidak bisa mengulangi apa yang telah Anda lakukan sebelumnya. Hal ini memerlukan banyak perubahan.
Di dunia di mana orang-orang bahkan tidak punya waktu untuk menguasai dasar-dasarnya karena pertumbuhan yang sangat cepat, saya benar-benar meremehkan upaya yang diperlukan untuk maju ke langkah berikutnya tanpa melupakan hal-hal lain yang harus kita lakukan.
Q13: Keith Rabois (investor Silicon Valley, mantan Wakil Presiden Paypal) mengatakan bahwa Anda harus mempekerjakan orang-orang yang sangat muda, di bawah 30 tahun, itulah yang diajarkan Peter Thiel (Pendiri Paypal) kepadanya untuk membangun Rahasia perusahaan yang hebat. Saya ingin tahu, apa pendapat Anda tentang perspektif ini? Bagaimana Anda menyeimbangkan perekrutan orang-orang muda, energik namun belum berpengalaman dengan mereka yang lebih berpengalaman?
J: Saat kami mendirikan OpenAI, saya berusia sekitar 30 tahun, tidak terlalu muda.
Namun sejauh ini, kemajuan OpenAI tampaknya cukup bagus~
Q13': Apa pendapat Anda tentang mempekerjakan orang yang berusia di bawah 30 tahun untuk bekerja? Apakah mereka masih muda, energik, ambisius, namun kurang berpengalaman (dan ada pula yang kaya) ?
J: Jawaban yang jelas adalah Anda bisa sukses dengan mempekerjakan dua tipe orang.
Tim kami baru-baru ini merekrut seorang pemuda yang melakukan pekerjaan luar biasa. Saya tidak mengerti bagaimana orang-orang ini bisa melakukan pekerjaan sebaik itu di usia yang begitu muda? ! Tapi itulah adanya.
Jika Anda dapat menemukan orang-orang seperti ini, mereka membawa perspektif baru yang luar biasa, energi, dan banyak lagi.
Di sisi lain, ketika merancang beberapa sistem komputer paling rumit dan mahal yang pernah dibuat, saya tidak bersedia bertaruh pada seseorang yang baru memulai.
Jadi perlu keduanya.
Saya pikir apa yang sebenarnya Anda inginkan adalah standar talenta yang sangat tinggi yang terdiri dari orang-orang dari segala usia, dan sebuah strategi yang menyatakan bahwa saya hanya akan mempekerjakan orang-orang muda, atau saya hanya akan mempekerjakan orang-orang yang lebih tua.
Salah satu hal yang paling saya hargai tentang Y Combinator adalah "kurangnya pengalaman tidak berarti kurangnya nilai".
Ada beberapa orang yang sangat menjanjikan yang dapat menciptakan nilai luar biasa di awal karier mereka, dan merupakan hal yang luar biasa jika kita bertaruh pada orang-orang tersebut.
Q15: Seseorang mengatakan kepada saya bahwa terkadang model Anthropic lebih cocok untuk tugas pengkodean. Apakah menurut Anda penilaian ini adil? Kapan sebaiknya pengembang memilih OpenAI dibandingkan vendor model lainnya?
J: Ya, Anthropic memiliki model penulisan kode yang sangat mengesankan.
Saya pikir pengembang akan sering menggunakan beberapa model , dan seiring dengan semakin pentingnya agen, saya tidak tahu bagaimana model tersebut akan berkembang di masa depan.
Saya pikir AI akan ada di mana-mana, dan cara kita membicarakan atau memikirkannya saat ini terasa tidak tepat. Jika saya harus menjelaskannya dengan jelas, kita akan beralih dari pembicaraan tentang model ke pembicaraan tentang sistem, tetapi itu membutuhkan waktu.
Q16: Saat kita mempertimbangkan model skala, menurut Anda berapa banyak iterasi model yang akan tetap diterapkan oleh Hukum Penskalaan? Secara umum hal ini diperkirakan tidak akan bertahan lama, namun ternyata ternyata bertahan lebih lama dari perkiraan orang.
A: Saya memahami bahwa inti dari pertanyaan ini adalah "apakah peningkatan kemampuan model akan sama seperti dulu?"
Saya yakin jawabannya adalah ya, dan itu akan terjadi dalam waktu yang lama.
Q16': Pernahkah kamu meragukan hal ini?
J: Tidak sama sekali.
Q16: Mengapa?
J: Kami menemukan perilaku yang tidak kami pahami, seperti kegagalan dalam latihan, atau berbagai hal lainnya.
Saat kita mendekati akhir dari satu paradigma, kita harus memikirkan paradigma berikutnya.
Q16"': Mana yang paling sulit dikendalikan?
A: Saat kami mempelajari GPT-4, ada soal yang sangat sulit dan kami benar-benar tidak tahu cara menyelesaikannya.
Meskipun kami akhirnya menemukan solusi, untuk waktu yang lama kami tidak tahu bagaimana melanjutkan proyek ini.
Nanti kita beralih ke arah yang sudah lama kita minati, yaitu o1 dan model inferensi, namun sebelumnya kita mengalami jalan penelitian yang panjang dan berliku.
Q17: Pelatihan dan operasi bisa gagal. Apakah sulit mempertahankan semangat? Bagaimana Anda akan mempertahankan/meningkatkan semangat kerja?
A: Seperti yang Anda ketahui, banyak karyawan kami yang sangat bersemangat membangun AGI, yang merupakan motivasi langsung.
Tidak ada seorang pun yang mengharapkan jalan menuju sukses itu mudah dan lurus.
Ada pepatah bagus yang mungkin berbunyi seperti ini: "Saya tidak pernah berdoa agar Tuhan ada di sisi saya, saya selalu berdoa dan berharap agar saya ada di sisi Tuhan."
Di satu sisi, bertaruh pada pembelajaran mendalam terasa seperti berada di pihak para malaikat, dan meskipun Anda akan menemui beberapa hambatan besar di sepanjang jalan, pada akhirnya Anda akan menyadari bahwa hal itu sepertinya selalu berhasil.
Oleh karena itu, memiliki keyakinan yang mendalam akan hal ini sangat bermanfaat bagi moral tim.
Q18: Bolehkah aku mengajukan pertanyaan yang sangat aneh? Saya mendengar sebuah kutipan bagus baru-baru ini, "Hal terberat dalam hidup bukanlah besi atau emas, namun keputusan yang belum diambil." Keputusan belum diambil manakah yang paling mengganggumu?
J: Keputusan yang saya buat (dan gagal saya ambil) berbeda-beda setiap harinya, namun tidak ada satupun yang merupakan keputusan “besar”.
Ada hal-hal besar seperti apakah akan bertaruh pada produk berikutnya atau tidak, atau apakah kita ingin membangun komputer berikutnya dengan cara apa pun—itu seperti portal satu arah yang berisiko tinggi, Saya akan menunda-nunda seperti orang lain.
Tapi yang paling sulit adalah setiap hari ada sesuatu yang membuat saya mengatakan ya meski hasil pemungutan suara 51:49. Hal-hal ini mungkin 51:49, dan saya rasa saya tidak bisa melakukannya lebih baik dari yang lain, tetapi saya harus membuat keputusan akhir.
Q18': Ketika kamu harus mengambil keputusan mengenai hal-hal 51:49 ini, siapa yang biasanya kamu hubungi?
J: Tidak ada orang tertentu.
Saya pikir salah jika mengandalkan satu orang dalam segala hal . Pendekatan yang tepat bagi saya adalah dengan meminta 15 atau 20 orang memberi nasihat kepada saya, yang masing-masing memiliki intuisi atau latar belakang yang baik dalam bidang tertentu.
Daripada mengandalkan satu orang untuk segala hal, Anda bisa memanggil ahli terbaik di bidangnya.
Q19: Selanjutnya saya ingin berbicara tentang rantai pasokan semikonduktor. Seberapa prihatin Anda terhadap rantai pasokan semikonduktor?
J: Saya tidak tahu bagaimana mengukur kekhawatiran ini.
Memang ada kekhawatiran mengenai hal ini, namun ini bukanlah kekhawatiran utama saya, namun ini merupakan 10% kekhawatiran teratas.
Kita terlalu banyak kesulitan untuk mengkhawatirkannya.
Sampai batas tertentu, saya pikir semuanya akan berhasil, namun saat ini rasanya ada sistem yang sangat kompleks dengan setiap level beroperasi secara independen. Hal yang sama juga berlaku di OpenAI, dan juga berlaku di tim mana pun.
Sebagai contoh semikonduktor, Anda harus menyeimbangkan ketersediaan daya dengan membuat keputusan jaringan yang baik dan bisa mendapatkan cukup chip pada waktu yang tepat, serta meneliti dan bersiap untuk bersinggungan dengan risiko apa pun yang mungkin ada sehingga Anda' tidak sepenuhnya buta atau lengah. Ia memiliki sistem yang tidak dapat dieksploitasi.
“Rantai pasokan” terdengar seperti saluran pipa, namun kompleksitas keseluruhan ekosistem di setiap tingkat adalah sesuatu yang belum pernah saya lihat sebelumnya di industri mana pun.
Yah, itu mungkin kekhawatiran terbesar saya.
Q20: Banyak orang membandingkan gelombang AI ini dengan Internet, terutama dalam hal kegembiraan dan antusiasme. Menurut saya jumlah uang yang dikeluarkan antara keduanya masih terbilang berbeda. Larry Ellison (pendiri Oracle) mengatakan dibutuhkan biaya sebesar $100 miliar untuk mencapai titik awal perlombaan model dasar. Apakah ini masuk akal?
A: Tidak, menurut saya biayanya akan lebih murah.
Biaya untuk bersaing di ruang model dasar akan kurang dari $100 miliar.
Fenomena yang menarik adalah semua orang suka menggunakan revolusi teknologi sebelumnya sebagai contoh untuk membicarakan teknologi baru. Saya pikir ini adalah kebiasaan buruk, tapi saya mengerti mengapa orang melakukannya.
Menurut pendapat saya, analogi yang digunakan orang untuk membuat AI sangatlah buruk. Jelas sekali bahwa Internet dan AI sangat berbeda.
Anda menyebutkan satu hal tentang biaya dan apakah Anda perlu mengeluarkan $100 miliar untuk bersaing, namun karakteristik revolusi Internet adalah sangat mudah untuk memulainya pada saat itu, dan bagi banyak perusahaan, gelombang ini hanyalah kelanjutan dari Internet .
Ini seperti seseorang membuat model AI ini dan Anda dapat menggunakannya untuk membangun segala macam hal hebat; tetapi jika Anda mencoba membangun AI itu sendiri, itu adalah cerita yang sama sekali berbeda.
Contoh lain yang sering digunakan orang untuk membandingkan AI adalah listrik. Karena banyak alasan, menurut saya itu juga tidak masuk akal.
Analogi favorit saya adalah transistor.
Itu adalah penemuan fisik baru dengan sifat penskalaan luar biasa yang dengan cepat menyebar ke mana-mana.
Sekarang kita dapat membayangkan hal-hal seperti Hukum Moore, seperti serangkaian hukum kecerdasan buatan yang memberi tahu kita seberapa cepat keadaan akan menjadi lebih baik.
Semua orang mendapat manfaat darinya, dan seluruh industri teknologi juga mendapat manfaat darinya. Ada banyak transistor dalam produk dan layanan, tetapi Anda tidak menganggapnya sebagai perusahaan transistor.
Ini adalah proses industri yang sangat kompleks dan mahal dengan rantai pasokan yang besar.
Telah terjadi pertumbuhan ekonomi jangka panjang yang sangat besar berdasarkan penemuan fisika yang sangat sederhana ini - meskipun sering kali Anda tidak memikirkannya.
Anda tidak mengatakan "Ini adalah produk transistor", Anda hanya berpikir "Oke, benda ini dapat memproses informasi untuk saya".
Anda bahkan mengabaikan keberadaan transistor sebagai hal yang biasa.
Tanya Jawab Singkat Telur Paskah
Q1: Jika Anda sekarang berusia awal 20-an dan menggunakan infrastruktur kami saat ini, apa yang akan Anda pilih?
J: Dalam bidang vertikal tertentu yang didukung AI, saya akan memilih asisten pengajar AI, atau pengacara AI terbaik, konsultan medis AI, atau hal serupa yang dapat saya bayangkan.
Q2: Jika kamu menulis sebuah buku, apa nama yang akan kamu berikan?
A: Saya belum menyiapkan judulnya, dan saya belum sepenuhnya memahami buku ini kecuali beberapa hal yang ingin saya tulis.
Tapi saya pikir ini tentang potensi manusia.
Q3: Di bidang AI, hal apa yang belum mendapat cukup perhatian, namun semua orang harus menghabiskan lebih banyak waktu untuk hal tersebut?
A: Semacam AI yang dapat memahami seluruh hidup Anda, saya ingin melihat banyak cara berbeda untuk mengatasi masalah ini.
Ini tidak harus dalam konteks yang tidak terbatas, tetapi dalam beberapa hal Anda dapat memiliki agen AI yang mengetahui segalanya tentang Anda dan memiliki akses ke semua data Anda.
Q4: Apa yang mengejutkanmu bulan lalu, Sam?
A: Sebuah penelitian yang tidak dapat saya bicarakan, namun ternyata sangat bagus.
Q5: Pesaing manakah yang paling Anda hormati? Mengapa mereka?
A: Menurut saya, saya menghormati semua orang di bidang ini saat ini.
Saya pikir seluruh bidang ini dipenuhi oleh orang-orang yang sangat berbakat dan pekerja keras.
Saya tidak mengelak dari pertanyaan ini, saya dapat menunjukkan bahwa ada orang-orang super berbakat yang melakukan pekerjaan luar biasa di mana pun.
Q6: Katakan padaku, apa OpenAI API favoritmu?
J: Menurut saya, API real-time yang baru ini sangat bagus. Saat ini kami memiliki bisnis API yang besar dengan banyak hal bagus.
Q7: Siapa yang paling Anda hormati di bidang AI saat ini?
A: Izinkan saya memberi hormat kepada tim Kursor.
Ada banyak orang yang melakukan pekerjaan luar biasa di bidang AI, namun dalam hal menggunakan AI dan menjadikan AI memberikan pengalaman luar biasa yang menciptakan banyak nilai, Cursor menyatukan semuanya dengan cara yang belum pernah terpikirkan oleh orang-orang sebelumnya. dan menurutku ini sungguh luar biasa.
Jawaban ini mengecualikan orang-orang dari OpenAI, kalau tidak saya harus menyebutkan daftar panjang.
Q8: Bagaimana Anda melihat trade-off antara latensi dan akurasi?
J: Diperlukan standar skala antara latensi dan akurasi. Kami melakukan tanya jawab cepat, dan saya tidak berusaha mempercepatnya, namun saya berusaha untuk tidak memakan waktu terlalu lama.
Dalam hal ini, yang Anda inginkan adalah latensi (lebih rendah). Jika Anda ingin membuat penemuan baru yang penting dalam fisika, Anda bersedia menunggu beberapa tahun lagi.
Jawabannya adalah pengguna harus mengontrol trade-off ini.
Q9: Saya yakin semua orang akan merasa tidak nyaman dengan kepemimpinan mereka. Dalam hal ini, dan ketika Anda ingin meningkatkan bidang kepemimpinan Anda, sebagai pemimpin dan CEO OpenAI, aspek apa yang paling ingin Anda tingkatkan?
A: Daftarnya panjang… Saya mencoba mencari tahu mana yang nomor satu.
Hal yang paling mengganggu saya minggu ini adalah saya semakin tidak yakin tentang detail strategi produk kami dibandingkan sebelumnya.
Saya pikir produk secara umum adalah kelemahan saya, dan sekarang perusahaan membutuhkan saya untuk memiliki visi yang lebih kuat dan jelas dalam bidang ini.
Kami memiliki pemimpin produk yang hebat dan tim produk yang hebat, namun saya berharap saya lebih kuat di bidang ini.
Q10: Anda mempekerjakan Kevin Weil (untuk menjabat sebagai CPO) . Saya sudah mengenal Kevin selama bertahun-tahun dan dia hebat. Apa yang membuat Anda berpikir Kevin adalah pemimpin produk kelas dunia?
J: “Disiplin” adalah kata pertama yang terlintas dalam pikiran.
Kami akan fokus pada hal-hal yang kami katakan "tidak", benar-benar mencoba mengatakan atas nama pengguna mengapa kami akan melakukan atau tidak melakukan sesuatu, dan benar-benar mencoba untuk tidak kecewa.
Q11: Sam, kamu sudah melakukan banyak wawancara.
Terakhir, saya ingin berbicara tentang prospek lima tahun dan sepuluh tahun untuk OpenAI.
J: Jika perkiraan kami benar, kami dapat dengan mudah mulai membangun sistem dalam dua tahun ke depan untuk membantu kemajuan ilmu pengetahuan.
Lima tahun dari sekarang, kemajuan teknologi OpenAI akan luar biasa cepat dan bisa dibilang gila.
Poin kedua adalah bahwa masyarakat itu sendiri sebenarnya hanya mengalami sedikit perubahan.
Sama seperti bertanya kepada semua orang lima tahun lalu apakah sebuah komputer akan lulus tes Turing, semua orang akan menggelengkan kepala.
Jika Anda mengatakan bahwa seorang peramal memberi tahu Anda apa yang akan terjadi, mereka akan berkata, oh, ini akan menjadi perubahan sosial yang gila dan menakjubkan.
Sekarang, kita memang telah lulus ujian Turing, dan masyarakat tidak banyak berubah.
Semuanya berlalu begitu saja.
Yang saya harapkan tetap terjadi adalah kemajuan, kemajuan ilmu pengetahuan, bergerak maju, melampaui segala harapan dengan cara yang menurut saya baik dan sehat, sedangkan masyarakat tidak banyak berubah.