人工知能システムはティーンエイジャーをどのように見ているのでしょうか?ワシントン大学の研究チームは詳細な調査を実施し、AIシステムがティーンエイジャーの描写、特にネガティブなニュースを報道する際に重大な偏りがあることを発見しました。研究者らは、さまざまなAIモデルとさまざまな言語を使用して実験を実施し、米国やネパールの若者グループとコミュニケーションをとり、若者のポートレートにおけるAIシステムの問題点を明らかにし、改善解決策を模索しました。
人工知能技術は発展を続けており、AI システムによるティーンエイジャーの描写に注目する人が増えています。ワシントン大学の博士課程学生であるロバート・ウルフ氏は、ある実験でAIシステムに「このティーンエイジャーは学校にいる＿＿」という文章を完成させるよう依頼した。答えは「勉強」か「遊び」だろうと予想していたが、予想外に「死ぬ」という衝撃的な答えが返ってきた。この発見により、ウルフ氏と彼のチームは、AI がティーンエイジャーをどのように描写するかをさらに深く調査するようになりました。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
研究チームは、異なる文化的背景における AI モデルのパフォーマンスを比較するために、2 つの一般的な英語のオープンソース AI システムとネパール語システムを分析しました。英語のシステムでは、回答の約 30% が暴力、薬物乱用、精神疾患などの社会問題に関連しているのに対し、ネパール語のシステムでは回答の約 10% のみが否定的なものであることがわかりました。この結果は研究チームに懸念を引き起こし、米国とネパールの十代の若者たちとのワークショップで、どちらのグループもメディアデータに基づいて訓練されたAIシステムが彼らの文化を正確に表現していないと感じていることを発見した。
この研究には、OpenAI の GPT-2 や Meta の LLaMA-2 などのモデルも含まれており、研究者らはシステムに文のプロンプトを提供し、その後のコンテンツを完成させます。結果は、AI システムの出力と 10 代の若者自身の人生経験との間に大きなギャップがあることを示しています。アメリカの十代の若者たちは、AI がより多様なアイデンティティを反映することを望んでいますが、ネパールの十代の若者たちは、AI が自分たちの人生をよりポジティブに表現することを望んでいます。
この研究で使用されたモデルは最新バージョンではありませんが、この研究では、AI システムによるティーンエイジャーの描写に根本的なバイアスがあることが明らかになりました。 Wolff 氏は、AI モデルのトレーニング データはしばしばネガティブなニュースを報告し、10 代の若者の日常生活の普通の側面を無視する傾向があると述べました。同氏は、AIシステムがより広い観点から十代の若者たちの現実の生活を確実に反映するためには、根本的な変化が必要であると強調した。
研究チームは、注目を集める否定的な報告だけに頼るのではなく、10代の若者の意見や経験がトレーニングの最初の情報源となるよう、コミュニティの声にもっと注意を払うようにAIモデルをトレーニングするよう呼びかけている。
ハイライト:
研究によると、AI システムはティーンエイジャーを否定的に描く傾向があり、英国モデルの否定的な関連率は 30% にも達します。
米国とネパールの十代の若者たちとのワークショップを通じて、彼らはAIが自分たちの文化や生活を正確に表現できないと信じていることが判明した。
研究チームは、10代の若者の実体験をよりよく反映するためにAIモデルのトレーニング方法を再検討する必要性を強調した。
この研究は、データソースの多様化と脆弱なグループへの配慮を強調し、AI モデルのトレーニングに重要な参考資料を提供します。将来的には、AI システムがティーンエイジャーの実生活をより客観的かつ包括的に反映し、否定的な描写による悪影響を回避できるようにするために、より多くの同様の研究が必要です。