ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์ปัญหาของ "ภาพลวงตา" ของ AI กำลังโดดเด่นมากขึ้นเรื่อย ๆ ทำให้เกิดชื่อเสียงและความสูญเสียทางเศรษฐกิจอย่างมากต่อองค์กร ระบบ AI มีข้อมูลที่ผิดและไม่ปลอดภัยในด้านการบริการลูกค้าการเงินและการดูแลทางการแพทย์ซึ่งส่งผลกระทบอย่างรุนแรงต่อความน่าเชื่อถือและความน่าเชื่อถือ เพื่อแก้ปัญหานี้ บริษัท จำนวนมากเริ่มให้ความสนใจกับความปลอดภัยของ AI และหาทางออกที่มีประสิทธิภาพ
ด้วยการพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ปรากฏการณ์ AI "Illusion" กลายเป็นบ่อยครั้งมากขึ้นเรื่อย ๆ ซึ่งทำให้เกิดปัญหามากมายให้กับหลาย บริษัท การบริการลูกค้าแชทบอทอธิบายผลิตภัณฑ์ที่ไม่มีอยู่อย่างมั่นใจ AI ทางการเงินประดิษฐ์ข้อมูลตลาดและหุ่นยนต์ทางการแพทย์ให้คำแนะนำทางการแพทย์ที่อันตราย ปัญหาเหล่านี้ไม่ได้เป็นเพียงสิ่งที่น่าสนใจอีกต่อไป แต่เป็นอันตรายที่ซ่อนเร้นที่สำคัญซึ่งส่งผลกระทบต่อชื่อเสียงและผลกำไรของ บริษัท
เพื่อจัดการกับความท้าทายนี้ Startup Patronus AI เริ่มต้นจากซานฟรานซิสโกประกาศเปิดตัวแพลตฟอร์มบริการตนเองครั้งแรกของโลกที่ออกแบบมาเพื่อตรวจจับและป้องกันระบบ AI จากความล้มเหลวแบบเรียลไทม์ แพลตฟอร์มนี้เป็นเหมือน "ตัวตรวจสอบการสะกดคำ" ของระบบ AI ซึ่งสามารถจับได้ก่อนที่ปัญหาจะเกิดขึ้น
Anand Kannappan ซีอีโอของ Patronus AI กล่าวในการให้สัมภาษณ์ว่าหลาย บริษัท ต้องเผชิญกับความล้มเหลวของ AI ในสภาพแวดล้อมการผลิตรวมถึงภาพหลอนการละเมิดความปลอดภัยและพฤติกรรมที่คาดเดาไม่ได้ จากการวิจัยของ บริษัท , รูปแบบ AI ที่เป็นผู้นำเช่น GPT-4 มีโอกาส 44% ในการทำซ้ำเนื้อหาที่มีลิขสิทธิ์เมื่อได้รับแจ้งและแม้กระทั่งโมเดลขั้นสูงมีโอกาสมากกว่า 20% ในการสร้างการทดสอบความปลอดภัยขั้นพื้นฐานมากกว่า 20%
เพื่อช่วยให้องค์กรปรับปรุงความปลอดภัยของระบบ AI Patronus AI มีคุณสมบัติที่เป็นนวัตกรรมมากมาย ในหมู่พวกเขาฟังก์ชั่น "ผู้ประเมินผล" ที่โดดเด่นที่สุดช่วยให้องค์กรสามารถเขียนกฎการประเมินที่กำหนดเองเป็นภาษาอังกฤษอย่างง่าย ความยืดหยุ่นนี้ช่วยให้ บริษัท ต่าง ๆ จากทุกสาขาอาชีพปรับตัวตามความต้องการของพวกเขาเช่น บริษัท ที่ให้บริการทางการเงินสามารถมุ่งเน้นไปที่การปฏิบัติตามกฎระเบียบในขณะที่สถาบันการแพทย์สามารถมุ่งเน้นไปที่ความเป็นส่วนตัวของผู้ป่วยและความแม่นยำทางการแพทย์
หัวใจสำคัญของแพลตฟอร์มคือรูปแบบการตรวจจับภาพหลอนที่ก้าวหน้าที่เรียกว่า Lynx ซึ่งแม่นยำกว่า GPT-4 8.3% ในการระบุความไม่ถูกต้องทางการแพทย์ นอกจากนี้แพลตฟอร์มมีสองโหมดการทำงาน: โหมดสำหรับการตรวจสอบแบบเรียลไทม์และอื่น ๆ สำหรับการวิเคราะห์เชิงลึก นอกเหนือจากการตรวจสอบข้อผิดพลาดแบบดั้งเดิม บริษัท ยังได้พัฒนาเครื่องมือพิเศษเช่น CopyrightCatcher และ FinanceBench เพื่อให้องค์กรได้รับการป้องกันความล้มเหลวของ AI ที่ครอบคลุม
เพื่อให้เครื่องมือรักษาความปลอดภัยเหล่านี้มีราคาไม่แพงสำหรับธุรกิจที่มากขึ้น Patronus AI ได้ใช้รูปแบบการกำหนดราคาแบบจ่ายตามการใช้งานเริ่มต้นที่ $ 10 ต่อการโทร 1,000 API ผู้ใช้งานยุคแรก ๆ รวมถึงองค์กรขนาดใหญ่เช่น HP, Angellist และ Pearson ซึ่งแสดงให้เห็นถึงความสำคัญต่อการลงทุนด้านความปลอดภัยของ AI
วันนี้ด้วยการพัฒนาอย่างรวดเร็วของ AI แพลตฟอร์มเช่น Patronus AI ไม่เพียง แต่ช่วยให้ธุรกิจลดความเสี่ยง แต่ยังช่วยให้สอดคล้องกับกฎหมายและข้อบังคับที่กำลังจะมาถึง ด้วยการวิวัฒนาการอย่างต่อเนื่องของระบบ AI วิธีการจับภาพและแก้ไข "ภาพลวงตา" เหล่านี้อย่างถูกต้องจะเป็นความท้าทายที่สำคัญที่ต้องเผชิญกับองค์กร
พอร์ทัลสินค้า: https://www.patronus.ai/
ประเด็นสำคัญ:
Patronus AI เปิดตัว API บริการตนเองครั้งแรกของโลกโดยมีเป้าหมายเพื่อตรวจจับและป้องกันภาพหลอน AI แบบเรียลไทม์
แพลตฟอร์มช่วยให้ธุรกิจสามารถสร้างกฎการประเมินที่กำหนดเองเป็นภาษาอังกฤษง่าย ๆ ให้บริการโซลูชั่นที่ยืดหยุ่น
การใช้รูปแบบการจ่ายตามที่คุณทานช่วยให้ธุรกิจมีเครื่องมือรักษาความปลอดภัย AI มากขึ้น
การเกิดขึ้นของ Patronus AI เป็นวิธีแก้ปัญหาที่มีประสิทธิภาพในการแก้ปัญหาภาพหลอน AI การพัฒนาเทคโนโลยี AI