ฟังก์ชัน "การใช้คอมพิวเตอร์" ของ Claude AI ที่เปิดตัวโดย Anthropic Company ทำให้สามารถควบคุมอุปกรณ์ได้ อย่างไรก็ตาม หลังจากเปิดตัวฟังก์ชันนี้ไม่ถึงสองเดือน นักวิจัยด้านความปลอดภัยก็ค้นพบช่องโหว่ด้านความปลอดภัยที่ร้ายแรง การวิจัยโดยผู้เชี่ยวชาญด้านความปลอดภัย Johann Rehnberger แสดงให้เห็นว่าด้วยการแทรกคำง่ายๆ ทำให้ Claude สามารถถูกชักจูงให้ดาวน์โหลดและเรียกใช้มัลแวร์ เช่น คำสั่งและเฟรมเวิร์กการควบคุมโอเพ่นซอร์สของ Sliver สิ่งนี้ทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยของ AI และเน้นย้ำถึงความสำคัญของปัญหาด้านความปลอดภัยที่ไม่สามารถเพิกเฉยได้ในขณะที่เทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว
ไม่ถึงสองเดือนหลังจากที่ Anthropic เปิดตัว Computer Use ซึ่งเป็นฟีเจอร์ที่ช่วยให้ Claude ควบคุมอุปกรณ์ได้ นักวิจัยด้านความปลอดภัยได้ค้นพบช่องโหว่ที่อาจเกิดขึ้น ผลการวิจัยล่าสุดที่เปิดเผยโดยผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ Johann Rehnberger น่าตกตะลึง: ด้วยการแทรกคำที่ใช้งานง่าย AI สามารถกระตุ้นให้ดาวน์โหลดและเรียกใช้มัลแวร์ได้
Rehnberger ตั้งชื่อช่องโหว่นี้ว่า "ZombAIs" ในการสาธิต เขาประสบความสำเร็จในการให้ Claude ดาวน์โหลด Sliver ซึ่งเป็นคำสั่งโอเพ่นซอร์สและเฟรมเวิร์กการควบคุมที่เดิมใช้สำหรับการทดสอบทีมแดง แต่ปัจจุบันแฮ็กเกอร์ใช้เป็นเครื่องมือมัลแวร์อย่างกว้างขวาง สิ่งที่น่ากังวลยิ่งกว่าคือนี่เป็นเพียงส่วนเล็กของภูเขาน้ำแข็งเท่านั้น นักวิจัยชี้ให้เห็นว่า AI ยังสามารถถูกชักจูงให้เขียน คอมไพล์ และรันโค้ดที่เป็นอันตรายได้ และวิธีการโจมตีนั้นป้องกันได้ยาก
หมายเหตุแหล่งที่มาของรูปภาพ: รูปภาพนี้สร้างขึ้นโดย AI และผู้ให้บริการอนุญาตรูปภาพ Midjourney
เป็นที่น่าสังเกตว่าความเสี่ยงด้านความปลอดภัยประเภทนี้ไม่ได้เกิดขึ้นเฉพาะกับ Claude ผู้เชี่ยวชาญด้านความปลอดภัยได้ค้นพบว่าแชทบอท DeepSeek AI ยังมีช่องโหว่ในการแทรกคำ ซึ่งอาจทำให้ผู้โจมตีเข้าควบคุมคอมพิวเตอร์ของผู้ใช้ได้ นอกจากนี้ โมเดลภาษาขนาดใหญ่ยังอาจส่งออกรหัส Escape ANSI ซึ่งกระตุ้นให้เกิดการโจมตีที่เรียกว่า "Terminal DiLLMa" ซึ่งจะเป็นการแย่งชิงเทอร์มินัลของระบบ
ในเรื่องนี้ Anthropic ได้เตือนผู้ใช้แล้วในแถลงการณ์เบต้า: "ฟังก์ชันการใช้คอมพิวเตอร์อาจไม่ทำงานตามที่คาดไว้เสมอไป ขอแนะนำให้ใช้ความระมัดระวังในการแยก Claude ออกจากข้อมูลที่ละเอียดอ่อนและการดำเนินการ เพื่อหลีกเลี่ยงความเสี่ยงที่เกี่ยวข้องกับการแทรกคำทันที"
เหตุการณ์นี้ตอกย้ำเราอีกครั้งว่าในขณะที่เทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว แต่ปัญหาด้านความปลอดภัยก็ไม่สามารถละเลยได้ นักพัฒนาจำเป็นต้องค้นหาสมดุลระหว่างฟังก์ชันการทำงานและความปลอดภัย และผู้ใช้ยังจำเป็นต้องเพิ่มความตระหนักด้านความปลอดภัย และใช้มาตรการป้องกันที่จำเป็นเมื่อใช้เครื่องมือ AI
เหตุการณ์นี้เน้นย้ำถึงความสำคัญของความปลอดภัยของ AI อีกครั้ง ทั้งนักพัฒนาและผู้ใช้จำเป็นต้องระมัดระวังมากขึ้นและทำงานร่วมกันเพื่อสร้างสภาพแวดล้อมแอปพลิเคชัน AI ที่ปลอดภัยและเชื่อถือได้ ด้วยวิธีนี้เท่านั้นที่ทำให้เรามั่นใจได้ว่าเทคโนโลยี AI สามารถให้บริการมนุษยชาติได้ดีขึ้นและหลีกเลี่ยงความเสี่ยงที่อาจเกิดขึ้น