في العصر الرقمي اليوم ، أصبحت مشكلات السلامة على الإنترنت للأطفال ذات أهمية متزايدة. في الآونة الأخيرة ، أطلقت Roblox و Discord و Openai و Google بشكل مشترك مؤسسة غير ربحية تسمى Roost (أداة أمان قوية مفتوحة عبر الإنترنت) ، تهدف إلى بناء بنية أمنية قابلة للتطوير ومترابطة لعصر الذكاء الاصطناعي. تهدف المنظمة الجديدة إلى توفير أدوات أمان مفتوحة المصدر للمؤسسات العامة والخاصة لمساعدتها على تعزيز الحماية على منصاتهم الخاصة ، مع التركيز بشكل خاص على سلامة الأطفال.
ملاحظات مصدر الصورة: يتم إنشاء الصورة بواسطة الذكاء الاصطناعي ، ومزود الخدمة المعتمد Midjourney
تأسست ROOST استجابة للتطور السريع لوكالة الذكاء الاصطناعى. مع تغير بيئة الشبكة ، تواجه الأطفال مخاطر متزايدة ، وبالتالي أصبحت الحاجة إلى "بنية أمنية موثوقة ويمكن الوصول إليها" أكثر إلحاحًا. تأمل Roost في تجنب الشركات أو المؤسسات الصغيرة من نقطة الصفر عند تطوير هذه الأدوات من خلال توفير أدوات أمان جاهزة ، ولكن بدلاً من ذلك يمكنها استخدام هذه الحلول المجانية مباشرة.
في برنامج Roost ، ستركز المؤسسات على توفير أدوات لاكتشاف ومراجعة وإبلاغ مواد الاعتداء الجنسي على الأطفال (CSAM). ستساعد هذه الخطوة العديد من المنصات على تحديد محتوى غير لائق ومعالجته وحماية سلامة الأطفال في بيئة الشبكة. تحقيقًا لهذه الغاية ، لن تقدم الشركات المشاركة الدعم المالي فحسب ، بل ستساهم أيضًا في القوة التقنية المقابلة.
كانت قضايا السلامة على الإنترنت للأطفال على الإنترنت تحظى بالاهتمام ، خاصة خلال الوقت الذي كان فيه قانون حماية الخصوصية على الإنترنت للأطفال والشباب وقانون السلامة عبر الإنترنت للأطفال قيد النظر في الكونغرس. على الرغم من أن الفواتير فشلت في اجتياز تصويت المنزل ، إلا أن شركات التكنولوجيا المشاركة ، بما في ذلك Google و Openai ، قد التزمت بالتوقف عن استخدام تقنية الذكاء الاصطناعى لتوليد مواد الاعتداء الجنسي على الأطفال.
بالنسبة إلى Roblox ، تعد قضايا سلامة الطفل مهمة بشكل خاص. وفقًا لبيانات عام 2020 ، يستخدم ثلثي الأطفال الذين تتراوح أعمارهم بين تسعة إلى اثني عشر في الولايات المتحدة Roblox. واجهت المنصة العديد من التحديات في سلامة الطفل. في وقت مبكر من عام 2024 ، ذكرت Bloomberg Business Week أن الشركة كانت تعاني من "مشاكل الجنس" ، لذلك كان على Roblox تعزيز القيود المفروضة على الرسائل الخاصة للأطفال وتنفيذ سياسات جديدة.
على الرغم من أن إطلاق Roost لا يمكن أن يحل جميع المشكلات ، إلا أنه يوفر استجابة أبسط لـ Roblox وغيرها من المنصات المماثلة ، مما يبذل جهودًا لضمان سلامة الأطفال في عصر الذكاء الاصطناعي.