Artikel ini melaporkan berita bahwa Microsoft dan mantan CEO Google bersama-sama berinvestasi di Synth Labs, yang didedikasikan untuk memecahkan masalah sistem kecerdasan buatan yang menyimpang dari niat manusia. Perusahaan ini lahir dari EleutherAI Labs dan berfokus pada tantangan model bahasa, mengembangkan alat untuk mengevaluasi model, dan memandu AI untuk menghindari topik sensitif, yang sangat penting untuk membangun AI yang aman dan andal. Investasi ini menyoroti fokus industri dalam memecahkan masalah keselamatan dan penyelarasan AI.
Microsoft dan mantan CEO Google telah bergabung untuk mendukung Synth Labs guna memecahkan masalah sistem kecerdasan buatan yang tidak bertindak sesuai dengan niat manusia. Synth Labs berasal dari EleutherAI Labs dan berfokus pada tantangan model bahasa. Perusahaan mengembangkan alat untuk mengevaluasi model dan memandu AI untuk menghindari topik sensitif.
Pekerjaan Synth Labs sangat penting bagi pengembangan bidang kecerdasan buatan. Masalah keamanan dan pengendalian AI yang menjadi fokusnya adalah salah satu tantangan utama yang dihadapi perkembangan AI saat ini. Di masa depan, kami berharap Synth Labs dapat membuat lebih banyak terobosan dalam memecahkan masalah penyelarasan AI dan berkontribusi dalam membangun kecerdasan buatan yang lebih aman dan andal.