การพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์ได้นำโอกาสที่ไม่เคยมีมาก่อนมาสู่องค์กร แต่ก็นำความเสี่ยงและความท้าทายใหม่ ๆ การเพิ่มขึ้นของการกำเนิด AI ได้ดึงดูดความสนใจเป็นพิเศษกับความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น บทความนี้จะวิเคราะห์รายงานความเสี่ยงล่าสุดที่ปล่อยออกมาเพื่อสำรวจความยากลำบากที่องค์กรต้องเผชิญในการจัดการกับความเสี่ยง AI ที่เกิดขึ้นและวิธีการใช้มาตรการที่มีประสิทธิภาพเพื่อให้แน่ใจว่าความปลอดภัยและการปฏิบัติตามกฎระเบียบของตนเอง
ในช่วงไม่กี่ปีที่ผ่านมาการพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) ได้นำโอกาสมากมายมาสู่องค์กร แต่ในขณะเดียวกันภัยคุกคามที่อาจเกิดขึ้นก็ยิ่งชัดเจนขึ้นเรื่อย ๆ จากรายงานล่าสุดของปีพ. ศ. 2567 "รายงานความเสี่ยงรุ่นใหม่" การสำรวจแสดงให้เห็นว่ามากถึง 80% ของ บริษัท ที่ทำการสำรวจยังไม่ได้กำหนดแผนการตอบสนองพิเศษสำหรับความเสี่ยง AI ที่เกิดขึ้นรวมถึงความเสี่ยงด้านความปลอดภัยเช่นการฉ้อโกงออนไลน์ที่ขับเคลื่อนด้วย AI
การสำรวจดำเนินการโดย Risk Connect บริษัท ซอฟต์แวร์การจัดการความเสี่ยงและผู้ตอบแบบสอบถามรวมถึงการปฏิบัติตามความเสี่ยงระดับโลกและผู้เชี่ยวชาญด้านความยืดหยุ่นทั่วโลก 218 คน ผลการวิจัยพบว่า 24% ของผู้ตอบแบบสอบถามเชื่อว่าภัยคุกคามความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI เช่น ransomware ฟิชชิ่งและการปลอมแปลงอย่างลึกซึ้งจะมีผลกระทบอย่างมีนัยสำคัญต่อองค์กรในอีก 12 เดือนข้างหน้า ในขณะเดียวกัน 72% ของผู้ตอบแบบสอบถามกล่าวว่าความเสี่ยงด้านความปลอดภัยทางไซเบอร์มีผลกระทบอย่างมีนัยสำคัญหรือร้ายแรงต่อองค์กรของพวกเขาเพิ่มขึ้นจาก 47% ข้อมูลของปีที่แล้ว
เนื่องจากความกังวลเกี่ยวกับจริยธรรม AI ความเป็นส่วนตัวและความปลอดภัยทวีความรุนแรงมากขึ้นรายงานชี้ให้เห็นว่าแม้ว่าความกังวลของ บริษัท เกี่ยวกับ AI จะเพิ่มขึ้น แต่พวกเขาก็ล้มเหลวในการติดตามในเวลาในกลยุทธ์การจัดการความเสี่ยงและยังมีช่องว่างสำคัญอีกมากมาย ตัวอย่างเช่น 65% ของ บริษัท ไม่มีนโยบายสำหรับการใช้ AI Generative ในพันธมิตรและซัพพลายเออร์แม้ว่าบุคคลที่สามเป็นช่องทางทั่วไปของการบุกรุกสำหรับนักต้มตุ๋นไซเบอร์
ภัยคุกคามภายในไม่ควรประเมินต่ำเกินไป ตัวอย่างของการใช้ AI Generative เพื่อผลิตเนื้อหาการตลาดผู้เชี่ยวชาญด้านการตลาด Anthony Miyazaki เตือนว่าแม้ว่า AI Generative จะทำงานได้ดีในการเขียนข้อความ แต่สำเนาสุดท้ายยังคงต้องได้รับการแก้ไขด้วยตนเองเพื่อให้แน่ใจว่าการโน้มน้าวใจและความแม่นยำ นอกจากนี้การพึ่งพา AI เพื่อสร้างเนื้อหาเว็บไซต์ยังสามารถนำไปสู่ผลกระทบเชิงลบได้ การเพิ่มประสิทธิภาพเครื่องยนต์ (SEO)
เพื่อจัดการกับความท้าทายเหล่านี้ บริษัท จำเป็นต้องให้ความมั่นใจในการครอบคลุมนโยบายภายในอย่างเต็มที่ตรวจสอบความปลอดภัยของข้อมูลที่ละเอียดอ่อนและปฏิบัติตามกฎระเบียบที่เกี่ยวข้อง John Skimoni หัวหน้าเจ้าหน้าที่รักษาความปลอดภัยของ DEL Technology กล่าวว่าพวกเขาได้กำหนดหลักการก่อนการบูม AI ที่เกิดขึ้นเพื่อให้แน่ใจว่าแอปพลิเคชัน AI นั้นยุติธรรมโปร่งใสและรับผิดชอบ
ที่ Empathy First Media รองประธานาธิบดี Ryan Doser ยังเน้นถึงมาตรการที่เข้มงวดของ บริษัท ในการใช้ AI โดยพนักงานรวมถึงการห้ามการป้อนข้อมูลของข้อมูลที่มีความอ่อนไหวต่อลูกค้าในเครื่องมือ AI แบบกำเนิด มาตรการเหล่านี้ได้รับการออกแบบมาเพื่อเพิ่มความโปร่งใสและสร้างความไว้วางใจจากลูกค้า
ประเด็นสำคัญ:
80% ขององค์กรไม่ได้พัฒนาแผนพิเศษสำหรับความเสี่ยง AI กำเนิดและเผชิญกับความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
72% ของ บริษัท เชื่อว่าความเสี่ยงด้านความปลอดภัยทางไซเบอร์มีผลกระทบอย่างมีนัยสำคัญต่อพวกเขาและเรียกร้องให้มีการจัดการความเสี่ยงที่เพิ่มขึ้น
องค์กรควรใช้มาตรการเชิงบวกเพื่อให้แน่ใจว่าการรักษาความปลอดภัยและการปฏิบัติตามแอปพลิเคชัน AI และหลีกเลี่ยงภัยคุกคามภายในและภายนอก
โดยสรุปแล้วองค์กรจำเป็นต้องตอบสนองต่อความเสี่ยงด้านความปลอดภัยที่เกิดจาก AI Generative กำหนดกลยุทธ์การจัดการความเสี่ยงที่สมบูรณ์และเสริมสร้างการควบคุมความปลอดภัยภายในเพื่อรักษาความสามารถในการแข่งขันในยุค AI และพัฒนาต่อไปอย่างต่อเนื่อง การเพิกเฉยต่อความเสี่ยงของ AI จะนำไปสู่อุบัติเหตุด้านความปลอดภัยที่ร้ายแรงและการสูญเสียทางเศรษฐกิจ