ในยุคดิจิตอลในปัจจุบันปัญหาด้านความปลอดภัยออนไลน์ของเด็กกำลังมีความสำคัญมากขึ้นเรื่อย ๆ เมื่อเร็ว ๆ นี้ Roblox, Discord, OpenAI และ Google ได้เปิดตัวองค์กรที่ไม่แสวงหาผลกำไรที่เรียกว่า Roost (เครื่องมือรักษาความปลอดภัยออนไลน์ที่แข็งแกร่งแบบเปิด) โดยมีวัตถุประสงค์เพื่อสร้างโครงสร้างพื้นฐานด้านความปลอดภัยที่ปรับขนาดได้และเชื่อมโยงถึงกันสำหรับยุค AI องค์กรใหม่มีจุดมุ่งหมายเพื่อจัดหาเครื่องมือรักษาความปลอดภัยโอเพนซอร์สสำหรับสถาบันสาธารณะและเอกชนเพื่อช่วยให้พวกเขาเสริมสร้างการป้องกันบนแพลตฟอร์มของตนเองโดยมุ่งเน้นที่ความปลอดภัยของเด็กเป็นพิเศษ
หมายเหตุแหล่งที่มาของภาพ: ภาพถูกสร้างขึ้นโดย AI และผู้ให้บริการที่ได้รับอนุญาตภาพ Midjourney
Roost ก่อตั้งขึ้นเพื่อตอบสนองต่อการพัฒนาอย่างรวดเร็วของ AI Generative เมื่อสภาพแวดล้อมของเครือข่ายเปลี่ยนแปลงไปเด็ก ๆ ต้องเผชิญกับความเสี่ยงที่เพิ่มขึ้นดังนั้นความต้องการ“ โครงสร้างพื้นฐานด้านความปลอดภัยที่เชื่อถือได้และเข้าถึงได้” จึงกลายเป็นเรื่องเร่งด่วนมากขึ้น Roost หวังที่จะหลีกเลี่ยง บริษัท ขนาดเล็กหรือองค์กรตั้งแต่เริ่มต้นเมื่อพัฒนาเครื่องมือเหล่านี้โดยการจัดหาเครื่องมือรักษาความปลอดภัยแบบสำเร็จรูป แต่สามารถใช้โซลูชันฟรีเหล่านี้ได้โดยตรง
ในโปรแกรมของ Roost องค์กรจะมุ่งเน้นไปที่การจัดหาเครื่องมือสำหรับการตรวจจับทบทวนและรายงานสื่อการล่วงละเมิดทางเพศเด็ก (CSAM) การย้ายครั้งนี้จะช่วยให้แพลตฟอร์มต่าง ๆ ระบุและประมวลผลเนื้อหาที่ไม่เหมาะสมและปกป้องความปลอดภัยของเด็กในสภาพแวดล้อมเครือข่าย ด้วยเหตุนี้ บริษัท ที่เข้าร่วมจะไม่เพียง แต่ให้การสนับสนุนทางการเงิน แต่ยังจะมีส่วนร่วมในความแข็งแกร่งทางเทคนิคที่สอดคล้องกัน
ปัญหาด้านความปลอดภัยออนไลน์ของเด็ก ๆ ได้รับความสนใจโดยเฉพาะอย่างยิ่งในช่วงเวลาที่พระราชบัญญัติการคุ้มครองความเป็นส่วนตัวของเด็กและเยาวชนออนไลน์และพระราชบัญญัติความปลอดภัยออนไลน์ของเด็ก ๆ ได้รับการพิจารณาในสภาคองเกรส แม้ว่าตั๋วเงินไม่สามารถผ่านการลงคะแนนได้ แต่ บริษัท เทคโนโลยีที่เข้าร่วมรวมถึง Google และ Openai ได้มุ่งมั่นที่จะหยุดใช้เทคโนโลยี AI เพื่อสร้างเนื้อหาการล่วงละเมิดทางเพศเด็ก
สำหรับ Roblox ปัญหาด้านความปลอดภัยของเด็กมีความสำคัญอย่างยิ่ง จากข้อมูลของปี 2020 เด็กสองในสามอายุเก้าถึงสิบสองปีในสหรัฐอเมริกาใช้ Roblox แพลตฟอร์มนี้เผชิญกับความท้าทายมากมายในด้านความปลอดภัยของเด็ก เร็วเท่าที่ 2024 Bloomberg Business Week รายงานว่า บริษัท กำลังทุกข์ทรมานจาก "ปัญหาเฒ่าหัวงู" ดังนั้น Roblox จึงต้องเสริมสร้างข้อ จำกัด เกี่ยวกับข้อความส่วนตัวของเด็กและการดำเนินการตามนโยบายใหม่
แม้ว่าการเปิดตัว Roost ไม่สามารถแก้ปัญหาทั้งหมดได้ แต่ก็ให้การตอบสนองที่ง่ายขึ้นสำหรับ Roblox และแพลตฟอร์มอื่น ๆ ที่คล้ายคลึงกันทำให้ความพยายามเพื่อความปลอดภัยของเด็กในยุค AI