史丹佛網路觀察站發布了一項令人震驚的研究報告，揭示了流行的AI圖像生成器背後的資料庫中存在大量兒童性虐待圖片。這項發現引發了廣泛關注，並凸顯了人工智慧技術潛在的倫理風險。研究指出，一些大型圖像資料庫營運商已經採取措施限制訪問，但仍需更積極的行動來解決這一嚴重問題，以保護兒童並防止AI技術被濫用。
根據史丹佛網路觀察站的一項新研究，流行的人工智慧圖像產生器的基礎資料庫中包含數千張兒童性虐待圖片。一些最大和最常用的圖像資料庫的運營商已關閉了對它們的存取權限。這可能影響AI工具產生有害輸出的能力，並加劇對實際受害者的先前虐待。史丹佛網路觀察站呼籲採取更激進的措施來解決這個問題。
這項研究結果令人擔憂，它突顯了在人工智慧發展過程中，保障資料安全和倫理規範的重要性。未來，需要加強對AI訓練資料的監管，並開發更有效的技術手段來識別和過濾有害內容，以確保人工智慧技術的健康發展和安全應用，避免其被用於非法和有害目的。