70年前、米国のマサチューセッツ工科大学で、私たちの現在の苦境を明らかにした有名な会話がありました。当時、人工知能研究の先駆者であるマービン・ミンスクは、「私たちは機械に知性を与え、機械に自己認識をさせたいのです」と宣言しましたが、ワープロとマウスを発明したダグラス・エンゲルバートは、「あなたは機械に知能を与えたいのです」と答えました。たくさんの良いことがありますか？それでは、あなたは人類のために何をするつもりですか？」
今日に至るまで、これは全人類を覆う「暗雲」となっているようです。『ターミネーター』から『マトリックス』、『アイ、ロボット』、『ウエストワールド』に至るまで、数え切れないほどの SF 映画が、非常に憂慮すべき状況を描いてきました。未来 - 自己認識を獲得した機械が人間を乗っ取り、さらには人間を排除するでしょう。近年、人工知能（AI）の急速な発展により、多くの人が「人間は人工知能の奴隷になるのではないか？」と不安を強めています。
単なる「別のツール」ではない
ユヴァル・ハラリの新しい本「ホモ・サピエンスを超えて」は、このことについてかなり警戒しており、その可能性は非常に高いと固く信じている。人間は、制御方法を知らない勢力を作り出し、これらの新しいものが人間の制御を逃れると、今度は奴隷化するか絶滅させるだろう。人類。彼の見解では、コンピュータネットワークによって生み出された人間以外の知性は、自ら意思決定を行い、新しいアイデアを生み出すことができる史上初のテクノロジーをもたらし、現在の人間社会の秩序とシステムに破壊的な影響を与える可能性がある。
破壊的な影響?もちろんあるはずです。サンスティーン氏は著書『ネットワーク・リパブリック』の中で、インターネットの特性が「協調フィルタリング」や「グループ二極化」を引き起こし、時間の経過とともにますます多くの人々が自分たちの声だけを聞くようになるだろうと、かねてから警告してきた。社会が危機に陥ること。今日私たちが目にしている情報のコクーンはこれを裏付けています。それが悪いことであることは誰もが知っていますが、問題はそれがどの程度悪いことなのかということです。
ハラリ氏の見解では、人工知能の課題はそれをはるかに超えている。人工知能は単なる「別のツール」ではなく、人間のコミュニケーションのための情報ネットワークを習得する可能性を秘めているからだ。これまで、新しいツールがどれほど強力であったとしても、それを使用するかどうかの決定は人間に委ねられていましたが、人工知能によってこれが初めて変わりました。これはまさに人類文明の致命的な弱点です。「人間は大規模な協力ネットワークを確立して強大な力を得ることができますが、そのネットワークの構築方法は、結果として人間がこれらの力を利用する際にしばしば賢明でないことを意味します。」このようなネットワークを賢明に制御できなければ、私たち自身が破滅する危険があります。
人類文明の出現は協力に依存しており、協力は情報交換に依存しなければなりません。そうでなければ大きな社会は不可能です。この観点から見ると、歴史上のすべての組織形態は、メンバーが集団的に遵守する一連の言葉にほとんど依存しています。これは「間主観的現実」です。メンバーがそれを「真実」であると信じている限り、それは彼らにとって真実であり、協力と信頼はすべてこの暗黙の合意に基づいています。
ここで問題が発生します。人工知能は、情報の一元管理を技術的にサポートするだけでなく、独自の学習を通じて、プログラムに書かれていないことを学習したり、新しいアイデアを生み出したりすることもできます。経営陣が予見していなかった決断を自ら下す。私たちがコンピューターと対話すればするほど、より多くの情報を明らかにするほど、最終的にはロボット プログラムがコンピューターに意見を与え、私たちの意見を揺さぶり、人間社会を操作できるようになるでしょう。人間を操作して引き金を引くだけです。」
このような悲惨な事態を避けるために最も重要なことは、常に問題を特定して解決するための強力な自己修正メカニズムを持つことです。しかし、コンピューター プログラムではよくあることですが、バグを修正すると新たなバグが発生することがよくあります。「自己修正メカニズムは真実の追求には役立ちますが、秩序を維持するコストが大幅に増加します。自己修正メカニズムは強力すぎます。」疑念、意見の相違、対立、亀裂が生じることはよくあります。「人工知能は社会の進化のパターンを変えることはできないかもしれませんが、この進化を危険な方向に導くかもしれません。
一見すると、これは人工知能と情報ネットワークについての話ですが、実際のところ、現在の社会システムがそのような影響に対処できるかどうか、そしてどのように対処できるかが懸念されています。ハラリ氏は危機の緊急性を強調したが、危険を誇張した可能性がある。彼は、「シリコンカーテン」が人間のコンピュータネットワークを分断し、相互に通信することが困難な情報の繭を作り出すことを非常に懸念しています。しかしその一方で、多元的な世界では、「世界はフラットだ」信仰？情報のコクーンは確かに終焉をもたらしますが、同時に多様な文化の避難所を提供することになります。そうでなければ、私たちは数多くのニッチな文化が消滅するのを目撃することになるかもしれません。この種の情報の集中は、一見するとテクノロジーの恩恵を受けているように見えますが、時間が経つにつれて、この種の自己隔離は本当に内生的な力を増し、最終的には活気に満ちたオープンネットワークに耐えることができるのでしょうか?
人工知能は制御不能になるのでしょうか？
特にテクノロジーが社会意識に先行することが多く、人工知能が実際に何を意味するのか理解できない人が多すぎるため、彼の警告が実際に必要であることは否定できません。 30年前、米国議会議員エドワード・マーキーはこう言った、「ワシントンからの良いニュースは、議会の全員が情報スーパーハイウェイの考えを支持しているということだ。悪いニュースは、それが何を意味するのか誰も知らないということだ」政治家の愚かさ、しかし実際には新しいものには必ずこの特徴があります。印刷が初めて誕生したとき、それが無数の本やアーカイブを生み出し、紙幣を発明することになるとは想像できなかったでしょう。ソーシャル ソフトウェアのチャット ツールが今日まで進化し、これほど多くのツールが存在することを想像できた人がどれだけいるでしょうか。その多機能性により、私たちの生活はそれらから切り離せないものになっています。
言い換えれば、新しいものの影響は徐々に現れ、それが最終的にどのような複雑で広範囲にわたる社会的影響をもたらすかは、最初から誰にも予測できません。ハラリの指摘は正しい。問題が起きたときに過剰反応するのではなく、社会の自己修正メカニズムに鍵があり、この危険な新発明をゆりかごの中で締め上げて、より大きな災害を引き起こさないようにしたいと考えているが、ハラリの考えは正しい。意見 人工知能の自己進化が人間の制御の外にあることを非常に心配しています。当初は A を取得したかったのですが、最終的には B になりました。しかし、なぜ「意図せぬ結果」が良くないのでしょうか。
人間の創造物が最終的に反動を起こすことを心配することは、主体と客体の二項対立の論理に由来する長い伝統であり、現代SFの先駆けとなった作品に描かれた「フランケンシュタインの怪物」もそのような物語である。この懸念は確かに必要ですが、この種の「制御された進化」は、人間の知性の上限がテクノロジーの進歩の上限を設定することも意味するのでしょうか?
ケビン・ケリーもまた、『アウト・オブ・コントロール：全人類の最終運命と終焉』の中で、人間が機械の制御を失う可能性があると予見しています。ワイルドさを追求し、驚きや驚きを得る一方で、すべてのクリエイターが直面しなければならないジレンマがあります。それは、自分たちの最高のものを完全に所有できなくなるということです。しかし、彼はそのような未来を恐れる価値があるとは考えておらず、代わりに、ある程度の制御を手放し、機械が自ら「自然な進化」をシミュレートできるようにする必要があると信じています。自分自身の計画能力、私たちにはできないことを切り開くことができる、進化は私たちが管理できない世界を処理できる、しかし...進化の代償は制御を失うことだ。
お互いに共存することを学ぶ
はい、人工知能は現在の社会システムに重大な影響を与える可能性がありますが、コンピューターネットワークの特性はテクノロジーではなくソーシャルネットワーク自体の特性に依存することが多いため、テクノロジーではなく社会そのものをターゲットにする必要があります。率直に言って、どのような社会がどのような情報ネットワークや人工知能の応用を生み出すのか、率直に言ってテクノロジーを責めないほうがよいでしょう。
これは、人工知能が制御不能になることを心配する必要がないという意味ではありませんが、少なくとも現段階では、その応用と発展は依然として社会そのものに依存していることを意味します。これは私たちの体の細胞分裂のようなもので、生物が成長、適応、回復、修復することで私たちは生き残ることができます。しかし、ひとたびこの仕組みががん細胞に乗っ取られ、異常な細胞増殖が起こると、人体にとって致命的となります。私たちはがんについて話す必要も、座ってリラックスすることもできません。その代わりに、正常な成長を損なうことなく変異細胞を排除して、細胞と仲良くなる方法を見つける必要があります。
私たちは人工知能を破壊することはできませんし、人工知能によって排除されたくないので、これを制御をめぐる闘争として捉えるのではなく、生物学の論理についてもっと学び、互いに共存することを学ぶ必要があります。