人工知能分野の先駆者であるジェフリー・ヒントン教授は最近、人工知能が今後10年以内に人類を滅亡させる可能性があると厳しい警告を発した。 「人工知能のゴッドファーザー」は、この技術の創造に自分が関わったことを深く後悔していると彼は、人工知能の急速な発展を産業革命に例えたが、この「革命」は機械に支配され、最終的には人間がコントロールを失う可能性があると指摘した。同氏は政府に対し、潜在的な巨大リスクに対処するために人工知能企業の監督を強化するよう求め、人工知能の将来の発展方向について懸念を表明した。
「人工知能のゴッドファーザー」と呼ばれるジェフリー・ヒントン教授は、人工知能が今後10年以内に人類を滅亡させる可能性があると警告した。このコンピューター科学者は、テクノロジーの創造における自分の役割を後悔していることを認め、人工知能の急速な発展を産業革命に例えたが、今回は機械が「すべてを乗っ取る」可能性があると警告した。
AI分野における先駆的な業績でノーベル物理学賞を受賞した77歳の英国のコンピューター科学者は、各国政府に対し人工知能企業の監督を強化するよう求めた。ヒントン教授は以前、人工知能が30年以内に人類を滅亡させる可能性は10％あると予測している。
BBCラジオ4の番組「トゥデイ」でのインタビューで自身の分析に何か変化があったのかとの質問に対し、同氏は「特にはない。10年から20年、もしかしたらもっと短い期間だと思う。我々はこれまでそんなことをしたことがない。人間よりももっとインテリジェントなものに対処することだ」と語った。あなた自身、より知性の高いものがより知性の低いものによって制御されている例をいくつ知っていますか?
1980 年代にヒントン教授は、データの属性を自律的に見つけて写真内の特定の要素を識別できる方法を発明し、これが現代の人工知能の基礎を築きました。同氏は、このテクノロジーは「予想よりもはるかに速く」発展しており、人間を「3歳児」相当に減らし、AIは「大人」になれる可能性があると述べた。
同氏はさらに、「これは産業革命に似ていると思う。産業革命では、機械の方が強力だったため、人間の力は重要ではなくなった。溝を掘ろうと思えば、機械で掘ることになるだろう」と述べた。人間の知性を置き換えています。普通の人間の知性は最前線に立つことはなくなり、機械が人間に取って代わるでしょう。 」
ヒントン教授は、チャールズ・ディケンズが記録した産業革命と同じように、人工知能が一般の人々の生活に地球を揺るがすような変化をもたらすだろうと予測しています。このテクノロジーによって将来の生活がどうなるかは、「私たちの政治システムがこのテクノロジーをどのように利用するかに大きく左右される」と同氏は述べた。
同氏はさらに、「私の懸念は、それが生産性の大幅な向上につながり、それは社会にとって良いことだったとしても、すべての恩恵が富裕層に行き、多くの人が職を失い、より貧しくなってしまえば、最終的には社会が崩壊する可能性があるということだ」と付け加えた。社会にとって非常に悪影響を及ぼします。」
「これらのものは私たちよりも賢いのです。したがって、産業革命において、機械がより強力であるという理由だけで、機械が人間に取って代わることはできませんでした。私たちは知性を持っているので、今でもすべてを制御しています。今では、これらのものがすべてを制御することが可能であるため、それは大きなことです」違い。"
同氏は、この分野の他の「非常に知識豊富な」専門家がこの技術の将来について楽観的であることを「期待している」と述べた。
しかし、ヒントン教授は、「見えざる手が私たちの安全を守ってくれないのではないかと心配している。したがって、大企業の利益動機に任せるだけでは、安全な開発を保証するのに十分ではない。」と付け加えた。
「こうした大企業にさらなるセキュリティ研究を強制できるのは、政府の規制だけです。」「ですから、政府は大企業に多くのセキュリティ研究を強制する必要があると私は強く信じています。」
ヒントン教授は以前、この技術を世界に導入したことについて後悔していると述べていた。彼は、「後悔には2種類ある。1つは、すべきではないとわかっていることをしたことに対して感じる罪悪感、もう1つは、同じ状況でもう一度同じことをしてしまうかもしれないが、状況は好転しないかもしれないという後悔である」と語った。結局はうまくいきました。」
「二度目の後悔があります。同じ状況ならもう一度やりたいと思いますが、この結果の全体的な結果として、最終的には私たちよりも賢いシステムがすべてを制御するようになるのではないかと心配しています。私たちは私たちより賢いものを経験したことがありません。のようなものです。」
ヒントン教授の警告は、人工知能の将来の発展に警鐘を鳴らし、監視と倫理的配慮を強化することの重要性を強調し、人工知能の潜在的なリスクについて人々が深く考えるきっかけとなった。人類に役立つテクノロジーの発展は続きます。