最近、イーロン・マスク氏とOpenAIの間の法的紛争により初期の内部電子メールが暴露され、人工知能の制御を巡るOpenAI創設者間の激しい対立が明らかになった。メールの内容からは、共同創設者のイリヤ・スズコベル氏がマスク氏の人工知能をコントロールしたいという願望に強い懸念を表明し、これが将来的に人工知能の独裁につながる可能性があると考えていることが分かる。この電子メールはマスク氏が OpenAI を去った直後に書かれたもので、その重要性を強調し、人工知能の開発の方向性について人々が考えるきっかけとなった。
最近、イーロン・マスク氏がサム・アルトマン氏に対して訴訟を起こした際、初期の OpenAI 内部電子メールが暴露され、同社の創業者間の権力闘争に対する幅広い注目が集まった。 OpenAIの共同創設者イリヤ・サツケヴァー氏は電子メールの中で、人工知能を制御したいというマスク氏の強い願望について深い懸念を表明した。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
2017年9月にマスク氏とアルトマン氏に宛てた電子メールの中で、サスコヴィア氏はマスク氏の支配欲が将来の人間レベルの人工知能（AGI）に潜在的な脅威となる可能性があると指摘した。同氏は電子メールの中で、「現在の構造は、最終的にはAGIを一方的に絶対的に制御できる道を提供するものである」と強調したが、マスク氏は最終的なAGIを制御するつもりはないと述べているが、彼の行動は絶対性を重視していることを示していると信じている。コントロール。
注目すべきは、このメールが届いたのは、マスク氏が会社への資金調達方法に関する意見の相違を理由にOpenAIを辞任してから6カ月も経たないうちだったということだ。サツコウワー氏は電子メールで懸念を明らかにし、「会社がAGIで本格的に進歩するにつれ、たとえそれがあなたの現在の意図ではなかったとしても、あなたは会社の絶対的支配を維持することを選択するかもしれない」と述べた。
電子メールの後半で、Suzkwer 氏はさらに、OpenAI の目標はより良い未来を創造し、AGI 独裁の出現を回避することであると指摘しました。同氏は、Google DeepMindの創設者であるデミス・ハサビス氏がAGIの独裁政権を生み出すのではないかというマスク氏の懸念に言及し、この懸念は合理的であると信じていた。したがって同氏は、特にその可能性を可能にするテクノロジーの文脈において、マスク氏が独裁者になることを防ぐ構造の構築を求めた。
この電子メールの内容は、人間の知能を使って人工知能を作成する場合、制御の問題が複雑かつデリケートなテーマであることを明らかにしているため、今日特に衝撃的です。時間が経つにつれ、ススコヴィア氏自身も OpenAI を離れ、人工知能のセキュリティに重点を置いた新会社を設立したが、この変更により電子メールの内容が重みを増した。
ハイライト:
OpenAI の初期の社内電子メールによると、マスク氏が人工知能の分野を支配したいという願望について従業員が懸念していたことがわかります。
ススコワール氏は、マスク氏によるAGIに対する絶対的な支配は深刻な結果をもたらす可能性があると警告した。
OpenAI の目標は、AGI の独裁を回避してより良い未来を創造することです。
この電子メールの暴露により、私たちは人工知能の開発における権力と制御の問題を再び検討することになります。イノベーションとセキュリティのバランスをどう取るか、人工知能テクノロジーの悪用をどう回避するかは、検討に値する重要な問題です。人工知能の将来の方向性は、この強力なテクノロジーを私たちがいかに効果的に管理、制御できるかにかかっています。