Artikel ini mengeksplorasi keterbatasan pendekatan Yann LeCun terhadap Model Bahasa Besar (LLM) dan potensi manfaat dari Joint Embedding Architecture (JEPA). LeCun percaya bahwa LLM yang ada kurang memiliki pemahaman yang benar tentang dunia fisik dan dukungan untuk kemampuan cerdas utama seperti memori persisten, penalaran, dan perencanaan. Dia menekankan pentingnya membangun model yang dapat memahami dunia secara mendalam, dan menunjukkan bahwa keunggulan JEPA dalam mengekstraksi representasi abstrak memungkinkannya mempelajari karakteristik penting dunia dengan lebih baik, sehingga menutupi kekurangan LLM.
Yann LeCun menunjukkan bahwa meskipun LLM memiliki kegunaannya, LLM tidak dapat memahami dunia fisik secara akurat dan kurang mendukung fitur-fitur kecerdasan dasar seperti memori persisten, penalaran, dan perencanaan. Dia membahas kemungkinan membangun model dengan pemahaman mendalam tentang dunia, dan memperkenalkan keunggulan Joint Embedding Architecture (JEPA) dibandingkan LLM. JEPA dapat mengekstraksi representasi abstrak dengan lebih baik, memungkinkan sistem mempelajari fitur-fitur abstrak dunia.Secara keseluruhan, perspektif LeCun menyoroti arah masa depan bidang kecerdasan buatan, yang beralih dari pemrosesan bahasa murni ke arah pemahaman yang lebih mendalam tentang dunia fisik dan konsep abstrak. Sebagai alternatif potensial, JEPA memerlukan penelitian dan eksplorasi lebih lanjut untuk membangun sistem kecerdasan buatan yang lebih kuat dan cerdas.