最近、Downcodes の編集者は、イーロン・マスクとサム・アルトマンの間の訴訟により、OpenAI の初期の内部電子メールが誤って暴露され、人工知能の制御をめぐる同社の創設者間の激しい権力闘争が明らかになったということを知りました。この電子メールの内容は、人工知能の将来の開発の方向性とセキュリティ、特に人間レベルの人工知能（AGI）の制御の問題について広く懸念を引き起こしました。 OpenAIの共同創設者イリヤ・スズコベル氏は電子メールの中で、マスク氏によるAIの過度な制御について懸念を表明し、これがAGI独裁のリスクにつながる可能性があると考え、これを防ぐための合理的なメカニズムの確立を求めた。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
2017年9月にマスク氏とアルトマン氏に宛てた電子メールの中で、サスコヴィア氏はマスク氏の支配欲が将来の人間レベルの人工知能（AGI）に潜在的な脅威となる可能性があると指摘した。同氏は電子メールの中で、「現在の構造は、最終的にはAGIを一方的に絶対的に制御できる道を提供するものである」と強調したが、マスク氏は最終的なAGIを制御するつもりはないと述べているが、彼の行動は絶対性を重視していることを示していると信じている。コントロール。
注目すべきは、このメールが届いたのは、マスク氏が会社への資金調達方法に関する意見の相違を理由にOpenAIを辞任してから6カ月も経たないうちだったということだ。サツコウワー氏は電子メールで懸念を明らかにし、「会社がAGIで本格的に進歩するにつれて、たとえそれがあなたの現在の意図ではなかったとしても、あなたは会社の絶対的支配を維持することを選択するかもしれない」と述べた。
電子メールの後半で、Suzkwer 氏はさらに、OpenAI の目標はより良い未来を創造し、AGI 独裁の出現を回避することであると指摘しました。同氏は、Google DeepMindの創設者であるデミス・ハサビス氏がAGIの独裁政権を生み出す可能性があるというマスク氏の懸念に言及し、この懸念は合理的であると信じていた。したがって同氏は、特にその可能性を可能にするテクノロジーの文脈において、マスク氏が独裁者になることを防ぐ構造の構築を求めた。
この電子メールの内容は、人間の知能を使って人工知能を作成する場合、制御の問題が複雑かつデリケートなテーマであることを明らかにしているため、今日特に衝撃的です。時間が経つにつれ、ススコヴィア氏自身も OpenAI を離れ、人工知能のセキュリティに重点を置いた新会社を設立したが、この変更により電子メールの内容が重みを増した。
この電子メールの暴露は、人工知能が急速に発展するにつれて、技術的倫理と安全性に注意を払うことが重要であることを改めて思い出させます。人工知能テクノロジーが人類の未来を脅かすツールになるのではなく、人類に利益をもたらすことができるようにするためのより良いメカニズムを確立する必要があります。 Downcodes の編集者は、人工知能分野の最新の発展に引き続き注目し、より価値のある情報を読者に提供していきます。