เมื่อเร็ว ๆ นี้วุฒิสมาชิกรัฐแคลิฟอร์เนียสตีฟปาดิลลาได้เปิดตัว SB243 Bill เพื่อปกป้องเด็ก ๆ จากอันตรายที่อาจเกิดขึ้นกับการแชทปัญญาประดิษฐ์ หัวใจสำคัญของการเรียกเก็บเงิน บริษัท AI จะต้องเตือนผู้เยาว์อย่างสม่ำเสมอว่า chatbots เป็น AI ไม่ใช่มนุษย์เพื่อป้องกันไม่ให้เด็กติดติดโดดเดี่ยวและทำให้เข้าใจผิด การเรียกเก็บเงินยัง จำกัด "โหมดปฏิสัมพันธ์ระหว่างติดยาเสพติด" และกำหนดให้ บริษัท ต้องส่งรายงานประจำปีไปยังแผนกบริการสุขภาพและสุขภาพของแคลิฟอร์เนียรวมถึงจำนวนการทดสอบสำหรับความคิดฆ่าตัวตายของวัยรุ่นและจำนวนครั้งที่แชทบอทกล่าวถึงหัวข้อ การเคลื่อนไหวครั้งนี้เกิดขึ้นในบริบทของคดีความตายที่ผิดต่อตัวละครซึ่งกล่าวหาว่าแชทบ็อตของการฆ่าตัวตายในเด็ก การแนะนำของการเรียกเก็บเงินสะท้อนให้เห็นถึงความกังวลที่เพิ่มขึ้นของสังคมเกี่ยวกับความปลอดภัยของ AI chatbots
เมื่อเร็ว ๆ นี้แคลิฟอร์เนียได้เปิดตัวบิลที่เรียกว่า SB243 เพื่อปกป้องเด็ก ๆ จากความเสี่ยงที่อาจเกิดขึ้นจากการแชทปัญญาประดิษฐ์ การเรียกเก็บเงินที่ได้รับการแนะนำโดยสตีฟปาดิลล่าวุฒิสมาชิกแคลิฟอร์เนียส่วนใหญ่ต้องการให้ บริษัท AI เตือนผู้เยาว์อย่างสม่ำเสมอว่า chatbots เป็นปัญญาประดิษฐ์จริง ๆ ไม่ใช่มนุษย์
จุดประสงค์หลักของการเรียกเก็บเงินคือการป้องกันไม่ให้เด็ก ๆ เผชิญกับการติดยาเสพติดการแยกและทำให้เข้าใจผิดเมื่อใช้ chatbots นอกเหนือจากการกำหนดให้ บริษัท AI ออกการแจ้งเตือนเป็นประจำแล้วบิล จำกัด บริษัท จากการใช้“ รูปแบบการโต้ตอบกับการติดยาเสพติด” และกำหนดให้พวกเขาส่งรายงานประจำปีไปยังแผนกบริการสุขภาพของรัฐแคลิฟอร์เนีย รายงานเหล่านี้จำเป็นต้องรวมจำนวนการตรวจจับความคิดฆ่าตัวตายของวัยรุ่นและจำนวนครั้งที่แชทบอตกล่าวถึงหัวข้อนี้ นอกจากนี้ บริษัท AI จำเป็นต้องแจ้งให้ผู้ใช้ทราบว่าแชทบอทของพวกเขาอาจไม่เหมาะสำหรับเด็กบางคน
พื้นหลังของการเรียกเก็บเงินนั้นเกี่ยวข้องอย่างใกล้ชิดกับคดีความตายเท็จของผู้ปกครองต่อตัวละคร คดีอ้างว่า AI chatbots ที่กำหนดเองของ บริษัท นั้น "อันตรายอย่างยิ่ง" เพราะในที่สุดลูก ๆ ของพวกเขาเลือกที่จะฆ่าตัวตายหลังจากมีปฏิสัมพันธ์กับแชทบอทนาน มีคดีอีกคดีหนึ่งที่กล่าวหา บริษัท ในการส่ง "วัสดุที่เป็นอันตราย" ให้กับวัยรุ่น ด้วยเหตุนี้ตัวละครก็ประกาศว่ากำลังพัฒนาคุณสมบัติการควบคุมของผู้ปกครองและเปิดตัวโมเดล AI ใหม่ที่ออกแบบมาเพื่อบล็อกเนื้อหา "อ่อนไหวหรือชี้นำ" เพื่อความปลอดภัยของวัยรุ่น
“ เด็ก ๆ ของเราไม่ใช่หนูขาวที่ทดลองกับ บริษัท เทคโนโลยีและไม่สามารถทดสอบได้ด้วยค่าใช้จ่ายด้านสุขภาพจิตของพวกเขาเราจำเป็นต้องให้การปกป้องสามัญสำนึกสำหรับผู้ใช้ Chatbot เพื่อป้องกันไม่ให้นักพัฒนาใช้พวกเขา” Padilla กล่าวในงานแถลงข่าว วิธีการเสพติดและนักล่า” ในขณะที่รัฐและรัฐบาลกลางมุ่งเน้นไปที่ความปลอดภัยของแพลตฟอร์มโซเชียลมีเดียมากขึ้น AI Chatbots คาดว่าจะเป็นจุดสนใจของผู้ร่างกฎหมายต่อไป
ประเด็นสำคัญ:
การเรียกเก็บเงินใหม่ของแคลิฟอร์เนียกำหนดให้ บริษัท AI เตือนเด็ก ๆ ว่าแชทบอทเป็นปัญญาประดิษฐ์มากกว่ามนุษย์
บริษัท AI จำเป็นต้องส่งรายงานไปยังรัฐบาลที่เกี่ยวข้องกับแนวคิดการฆ่าตัวตายของเด็กและความถี่แชท
การเรียกเก็บเงินมีวัตถุประสงค์เพื่อปกป้องสุขภาพจิตของเด็กและ จำกัด "รูปแบบการตอบสนองการติดยาเสพติด"
การแนะนำพระราชบัญญัติ SB243 นับเป็นการเสริมสร้างความเข้มแข็งของการกำกับดูแลของ AI chatbots และยังบ่งชี้ว่าการพัฒนาเทคโนโลยี AI ในอนาคตจะให้ความสำคัญกับจริยธรรมและความปลอดภัยมากขึ้น วิธีการสร้างสมดุลระหว่างการพัฒนาเทคโนโลยี AI ด้วยความปลอดภัยของเด็กจะเป็นปัญหาสำคัญที่ต้องให้ความสนใจและแก้ไขในอนาคต