ในช่วงไม่กี่ปีที่ผ่านมา เทคโนโลยีปัญญาประดิษฐ์ได้พัฒนาอย่างรวดเร็ว แต่ก็นำมาซึ่งความท้าทายใหม่ๆ ด้วย ปรากฏการณ์ของ "ภาพหลอน" ของ AI มีความโดดเด่นมากขึ้นเรื่อยๆ กรณีของระบบ AI ที่สร้างข้อมูลที่ไม่ถูกต้อง ปลอมแปลงข้อมูล และแม้แต่ให้คำแนะนำที่เป็นอันตรายเป็นเรื่องปกติ ซึ่งส่งผลกระทบร้ายแรงต่อชื่อเสียงและผลประโยชน์ขององค์กร บรรณาธิการของ Downcodes จะแนะนำให้คุณรู้จักกับบริษัทสตาร์ทอัพและผลิตภัณฑ์นวัตกรรมของบริษัทที่อุทิศตนเพื่อแก้ไขปัญหานี้โดยเฉพาะ
ปัจจุบัน ด้วยการพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ ทำให้ "ภาพหลอน" ของ AI มีมากขึ้นเรื่อยๆ ทำให้เกิดปัญหาอย่างมากกับหลายๆ บริษัท แชทบอทบริการลูกค้าอธิบายผลิตภัณฑ์ที่ไม่มีอยู่อย่างมั่นใจ AI ทางการเงินสร้างข้อมูลตลาด และบอททางการแพทย์ให้คำแนะนำทางการแพทย์ที่เป็นอันตราย ปัญหาเหล่านี้ไม่ได้เป็นเพียงเกร็ดเล็กเกร็ดน้อยอีกต่อไป แต่เป็นอันตรายร้ายแรงที่ซ่อนอยู่ซึ่งส่งผลกระทบต่อชื่อเสียงและความสามารถในการทำกำไรของบริษัท
เพื่อรับมือกับความท้าทายนี้ Patronus AI สตาร์ทอัพในซานฟรานซิสโกได้ประกาศเปิดตัวแพลตฟอร์มบริการตนเองแห่งแรกของโลก ซึ่งออกแบบมาเพื่อตรวจจับและป้องกันความล้มเหลวของระบบ AI ในแบบเรียลไทม์ แพลตฟอร์มนี้ทำหน้าที่เหมือน “เครื่องตรวจสอบการสะกด” สำหรับระบบ AI ตรวจจับปัญหาก่อนที่จะเกิดขึ้น
อานันท์ กรรณพันธ์ ซีอีโอของ Patronus AI กล่าวในการให้สัมภาษณ์ว่า หลายบริษัทเผชิญกับความล้มเหลวของ AI ในสภาพแวดล้อมการผลิต โดยมีปัญหาต่างๆ เช่น ภาพหลอน ช่องโหว่ด้านความปลอดภัย และพฤติกรรมที่คาดเดาไม่ได้ จากการวิจัยของบริษัท โมเดล AI ชั้นนำ เช่น GPT-4 มีโอกาส 44% ในการสร้างเนื้อหาที่มีลิขสิทธิ์ซ้ำเมื่อได้รับแจ้ง และแม้แต่โมเดลขั้นสูงก็มีโอกาสมากกว่า 20% ในการสร้างเนื้อหาที่ไม่ปลอดภัยในการทดสอบความปลอดภัยขั้นพื้นฐาน
เพื่อช่วยให้องค์กรต่างๆ ปรับปรุงความปลอดภัยของระบบ AI Patronus AI จึงมอบชุดฟีเจอร์ที่เป็นนวัตกรรมใหม่ ฟังก์ชัน "ผู้ประเมิน" ที่สำคัญที่สุดช่วยให้บริษัทต่างๆ สามารถเขียนกฎการประเมินที่กำหนดเองเป็นภาษาอังกฤษง่ายๆ ได้ ความยืดหยุ่นนี้ช่วยให้บริษัทต่างๆ ในอุตสาหกรรมสามารถปรับตัวตามความต้องการได้ ตั้งแต่บริษัทที่ให้บริการทางการเงินที่มุ่งเน้นการปฏิบัติตามกฎระเบียบไปจนถึงองค์กรด้านการดูแลสุขภาพที่เน้นความเป็นส่วนตัวของผู้ป่วยและความถูกต้องทางการแพทย์
หัวใจของแพลตฟอร์มนี้คือโมเดลการตรวจจับอาการประสาทหลอนสุดล้ำที่เรียกว่า Lynx ซึ่งมีความแม่นยำมากกว่า GPT-4 ถึง 8.3% ในการระบุความไม่ถูกต้องทางการแพทย์ นอกจากนี้ แพลตฟอร์มยังมีโหมดการทำงานสองโหมด: โหมดหนึ่งสำหรับการตรวจสอบแบบเรียลไทม์ และอีกโหมดสำหรับการวิเคราะห์เชิงลึก นอกเหนือจากการตรวจสอบข้อผิดพลาดแบบดั้งเดิมแล้ว บริษัทยังได้พัฒนาเครื่องมือพิเศษ เช่น CopyrightCatcher (เครื่องมือตรวจจับลิขสิทธิ์) และ FinanceBench (เกณฑ์มาตรฐานการประเมินประสิทธิภาพทางการเงิน) เพื่อให้องค์กรต่างๆ ได้รับการป้องกันข้อบกพร่องของ AI ที่ครอบคลุม
เพื่อให้เครื่องมือรักษาความปลอดภัยเหล่านี้มีราคาไม่แพงสำหรับองค์กรจำนวนมากขึ้น Patronus AI จึงใช้รูปแบบการกำหนดราคาแบบจ่ายตามการใช้งาน โดยเริ่มต้นที่ 10 ดอลลาร์ต่อการเรียก API 1,000 ครั้ง ผู้ใช้งานในช่วงแรกๆ ได้รวมเอาองค์กรขนาดใหญ่ เช่น HP, AngelList และ Pearson ไว้แล้ว ซึ่งแสดงให้เห็นถึงความสำคัญที่พวกเขาแนบไปกับการลงทุนด้านความปลอดภัยของ AI
ปัจจุบัน ด้วยการพัฒนาอย่างรวดเร็วของ AI เครื่องมือต่างๆ เช่น แพลตฟอร์มของ Patronus AI ไม่เพียงแต่ช่วยให้องค์กรลดความเสี่ยงเท่านั้น แต่ยังช่วยให้ปฏิบัติตามกฎหมายและข้อบังคับที่กำลังจะมีขึ้นอีกด้วย ในขณะที่ระบบ AI มีการพัฒนาอย่างต่อเนื่อง วิธีการจับภาพและแก้ไข "ภาพลวงตา" เหล่านี้อย่างแม่นยำจะเป็นความท้าทายที่สำคัญสำหรับองค์กรต่างๆ
ทางเข้าผลิตภัณฑ์: https://www.patronus.ai/
การเกิดขึ้นของ Patronus AI ทำให้เกิดวิธีคิดใหม่ในการแก้ปัญหาภาพลวงตาของ AI ในขณะที่เทคโนโลยี AI ยังคงพัฒนาอย่างต่อเนื่อง เครื่องมือรักษาความปลอดภัย AI ที่คล้ายกันจะมีบทบาทสำคัญมากขึ้นเรื่อยๆ ช่วยให้องค์กรต่างๆ ใช้เทคโนโลยี AI ได้ดีขึ้น ขณะเดียวกันก็ควบคุมความเสี่ยงได้อย่างมีประสิทธิภาพ