Dario Amodei ซีอีโอของ Anthropic ซึ่งเป็นสตาร์ทอัพด้าน AI มูลค่า 19 พันล้านดอลลาร์ กล่าวสุนทรพจน์ที่การประชุม AI ที่ซานฟรานซิสโก และแสดงมุมมองที่สำคัญเกี่ยวกับความเสี่ยงของการพัฒนาปัญญาประดิษฐ์ เขาเชื่อว่าแม้ว่าโมเดล AI ในปัจจุบันจะไม่ได้เป็นภัยคุกคามโดยตรง แต่ทัศนคติที่ไม่ใส่ใจของเพื่อนร่วมงานบางคนต่อความเสี่ยงของ AI ก็ยังน่ากังวล บรรณาธิการของ Downcodes จะอธิบายรายละเอียดของมุมมองของ Amodei และความแตกต่างของเขากับผู้ประกอบการด้านเทคโนโลยีรายอื่นในการควบคุมการพัฒนา AI
Amodei หักล้างมุมมองของ Marc Andreessen ผู้ร่วมทุนชื่อดังที่ว่า AI เป็นเพียงคณิตศาสตร์ โดยชี้ให้เห็นว่าตรรกะนี้มีข้อบกพร่อง เขาเชื่อว่าการลดทุกสิ่งทุกอย่างลงเป็นคณิตศาสตร์ไม่สามารถอธิบายความเสี่ยงที่อาจเกิดขึ้นจาก AI ได้ Amodei อดีตรองประธานของ OpenAI ก่อตั้ง Anthropic ในปี 2021 เขาสนับสนุนกฎระเบียบระดับปานกลางของอุตสาหกรรม AI มาโดยตลอด และเคยสนับสนุนร่างกฎหมายควบคุม AI ของแคลิฟอร์เนีย ซึ่งตรงกันข้ามกับทัศนคติแบบไม่มีเงื่อนไขของ Andreessen อย่างชัดเจน
หมายเหตุแหล่งที่มาของรูปภาพ: รูปภาพนี้สร้างขึ้นโดย AI และรูปภาพนั้นได้รับอนุญาตจากผู้ให้บริการ Midjourney
Amodei ยอมรับว่าความสามารถของโมเดล AI ในปัจจุบันมีจำกัด แต่ย้ำว่าเทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว เขาชี้ให้เห็นโดยเฉพาะว่าเมื่อมีการเกิดขึ้นของเจ้าหน้าที่ AI ที่สามารถดำเนินการตามคำสั่งของมนุษย์ได้โดยอัตโนมัติ อันตรายที่อาจเกิดขึ้นจาก AI จะเด่นชัดมากขึ้น ดังนั้นจึงต้องสร้างกลไกการควบคุมที่ดีขึ้น ผู้คนอาจหัวเราะเยาะพฤติกรรมที่คาดเดาไม่ได้ของแชทบอทในขณะนี้ แต่สำหรับตัวแทน AI ในอนาคต ต้องมีการกำหนดการควบคุมและกฎระเบียบที่ดีขึ้น
การอภิปรายครั้งนี้สะท้อนถึงความแตกต่างในประเด็นด้านความปลอดภัยในชุมชน AI และเน้นย้ำถึงความสำคัญของการสร้างสมดุลระหว่างนวัตกรรมและกฎระเบียบในขณะที่ AI พัฒนาอย่างรวดเร็ว มุมมองของ Amodei เตือนเราว่าในขณะที่เพลิดเพลินกับความก้าวหน้าทางเทคโนโลยี เราต้องประเมินอย่างมีเหตุผลและป้องกันความเสี่ยงที่อาจเกิดขึ้นเพื่อให้แน่ใจว่า AI มีการพัฒนาที่ดี
การอภิปรายเกี่ยวกับความเสี่ยงของ AI นี้ไม่เพียงแต่เป็นการอภิปรายทางเทคนิคเท่านั้น แต่ยังเป็นประเด็นสำคัญที่เกี่ยวข้องกับชะตากรรมในอนาคตของมนุษยชาติอีกด้วย ทุกวันนี้ ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI เราจำเป็นต้องมีการคิดอย่างมีเหตุผลมากขึ้น แสวงหาความสมดุลระหว่างนวัตกรรมและความปลอดภัย และร่วมกันสร้างอนาคต AI ที่ปลอดภัยและเชื่อถือได้