インテリジェンスの時代は新たな章に入り、AI（人工知能）などの新技術が現実世界のさまざまな産業との融合を加速させています。また、AI の押し寄せる波は私たちをどこへ導くのか?という疑問も生じます。私たちはテクノロジーの変化にどう向き合えばいいのでしょうか？
9月5日から7日まで、上海で2024年外灘会議が開催された。世界的に影響力のある金融テクノロジーと最先端テクノロジーの会議として、外灘会議はテクノロジーと人文科学の間に架け橋を築き、中国の AI 産業の実装と発展を観察するための重要な窓口となっています。
黄山景勝地のインテリジェントエージェントが正式にリリースされ、iFlytek Spark Medicalの大型モデル、Guodun Quantum製品の展示、中国科学技術大学サイバースペースセキュリティ学部がグローバルディープフェイクの展示コンテストの主催者の1つとなった攻撃と防御の挑戦...多くの「安徽のシーン」「安徽の要素」も同時に登場し、外灘会議とともに科学技術の人間味あふれる深さと温かさを実証し、「テクノロジーが進歩すればするほど、すべての人に利益がもたらされる」ようになりました。現実になり続けています。
よりプロフェッショナルなAI
蒸気機関が船舶、電車、繊維機械と統合され始めて世界を変えたのと同じように、AI の分野も「数百機種の戦い」から「産業応用」へと重要な進化を遂げています。
デジタル アバターは仕事の完了を支援し、ブレイン コンピューターは深い睡眠を支援し、人工筋肉繊維は温かい抱擁を与えてくれます...外灘会議は、AI 業界における現在の世界的な流行を具体的に示すものでした。専門家は、5 年以内の産業実装が大型モデル技術の継続的な進化の鍵となると予測しています。
「プロのことはプロに任せる」という言葉があります。何千もの業界に力を与える人工知能にとって、より専門的な問題を解決するには、より専門的な AI が必要となる場合があります。
したがって、一般的な機能からパーソナライズされたアプリケーションまで大規模なモデルを推進することは、AI 業界の中核的な提案の 1 つです。
今回の外灘会議で、黄山景勝地とアリペイは、蟻百陵の大型モデルを技術ベースとして初めて「空間」サービスコンセプトを持つ「黄山スペースインテリジェンス」を立ち上げ、その結果、黄山景勝地が最初となった。中国の景勝地を「フルAIエスコート」。
生成型人工知能の製品形態として、インテリジェント エージェントは現在の大型モデル アプリケーションの中核的な方向性であり、大型モデルの「手足」の成長を可能にします。空間インテリジェントエージェントは、主なサービス構成と提示方法として「AOI」（Area of Interest）を使用し、ユーザーが黄山風景区に入ったことを感知すると、AIを使用してサービスを分析し、プッシュします。ユーザーはおそらく を必要とします。
たとえば、ユーザーがチケットを購入する前に、「黄山スペース インテリジェンス」はユーザーに景勝地の気温、推奨服装を通知し、景勝地の入り口に到着したときにルート ガイドをインテリジェントに推奨します。ユーザーが登山を開始すると、途中の各景勝地がユーザーに説明され、旅行に関する興味深いデータが表示されます。ワンクリックで生成されます。さらに、シェア自転車、オンライン配車サービス、旅行中によく利用されるその他のサービスをすぐに呼び出して開くことができます。
黄山観光開発有限公司の張徳輝会長は、「AI開発の波を受けて、文化観光産業もテクノロジーとシナリオにおいて前例のない革命に乗り出し、経験している」と述べた。 「コードツアー」と「ワンマシンツアー」モデル、「黄山風景区インテリジェント」は大型モデル技術を統合テクノロジー、文化観光知識ベース、ビッグデータアルゴリズム、音声インタラクション、そして自主的な学習と自己進化を実現できる最新のアプリケーション製品を備えています。「これは探索と試用のための初期製品ではありますが、継続的な反復アップグレードが必要ですが、これは私たちの成果です。文化と観光の発展における進歩。旅行業界のデジタル変革は新たな革命的な一歩を踏み出しました。」
「科学技術と人文科学の問い」からの啓蒙
人類の歴史におけるあらゆる技術革新には「興奮」と「不安」が伴います。
人間と仕事を奪い合うAIにどう対処するのか？ AIによって人間の思考能力は低下するのか？ 「人機共生」の時代はどこまで？ AIは道具の性質を超え、意識を獲得し、AI文明を確立することさえ可能でしょうか？ … 外灘会議で発表された科学、技術、人文科学に関する 10 の質問から、AI に対する国民の感情はより複雑で、テクノロジーに対する多くの不安を抱えていることがわかります。
未来は上向きであり、科学技術は素晴らしく美しいものです。どんなに画期的なテクノロジーが変化しても、常に人間本位が第一原則です。
外灘会議で、12歳で右腕を失った24歳の男性、周建は、人工知能とブレイン・コンピューター・インターフェース技術を利用して、バイオニック・ハンドでピアノ曲「ビッグ・フィッシュ」を演奏し、聴衆は人類に役立つテクノロジーの発展に感謝の気持ちを表します。
新しい技術の変化は、新しいシナリオ、新しいビジネス、新しい市場をもたらす一方で、技術倫理の観点から前例のないリスクと課題ももたらすことは注目に値します。 AI が人間社会により責任を持って利益をもたらすことができるように、安全性、信頼性、制御性を確保しながら AI テクノロジーの急速な発展を促進するにはどうすればよいでしょうか?
AI の大型モデルを例に挙げると、現在、さまざまな業界で大規模モデルの導入が加速しています。特に、医療や金融などの厳しい業界では、最も高い倫理性が求められています。基準と最も複雑な倫理関係の分野。
iFlytek Medical Research Instituteの副所長であるZhao Jinghe氏は、外灘カンファレンスでiFlytekのSpark医療モデルの現在の応用の進捗状況と安全倫理の探求について共有した。医療シナリオで大規模モデルを適用する際に直面する問題について、彼は次のように考えています。「主な問題は、データのプライバシー、知的財産権、道義的責任です。これらの問題を大規模モデルで真に解決できるようにすることによってのみ、医師、患者、医療機関を真に支援できるようになります。」科学研究やその他のシナリオ。」
「法律の解釈に関しては、大規模モデルの合法性とコンプライアンスを確保するために政府レベルでの規制と立法が必要なだけでなく、企業は医療の性質を遵守し、データを強化するための措置を講じる必要があります。透明性を高め、公教育を強化しながら、モデルの公平性とコンプライアンスを確保し、必要な著作権許可を取得する」と趙静和氏は述べた。
安徽省の重要な科学技術イノベーション企業の 1 つである国屯量子は、オフィス情報セキュリティに関連するさまざまな製品も展示しました。 「たとえば、当社の Bluetooth ヘッドセットには、Guodun Quantum が独自に開発した音声通信プライバシー保護技術が組み込まれており、通話や音声メッセージなどの際にユーザーの個人情報を効果的に保護できるため、ユーザーはより安心して通信できます。」と Guo 氏は述べています。 Shield Quantum Solutionsのテクニカルディレクター、Zhang Rutong氏が紹介した。
一部の専門家は、テクノロジーが人類の福祉に常に利益をもたらすことを保証する方法について、より楽観的です。 「私たちが今日心配している問題の多くは、解決するのが最も難しいものではないかもしれません。本当の課題は、私たちがまだ想像していない未知の問題かもしれません。私たちが望む AI 主導の未来を実現する最良の方法の 1 つは、積極的に関与することです。 」と著名な未来学者ケビン・ケリー氏が外灘会議で述べた。
AIを活用して「AI詐欺」を抑制
AI技術の急速な発展に伴い、ディープラーニングアルゴリズムを用いて音声や映像のコンテンツを模倣・偽造するディープフェイク技術（ディープフェイク）が成熟化しており、近年発生する「AI顔を変える詐欺」などの悪質な事件も発生しています。テクノロジーの応用に対する人々の関心を引き起こしました。
「AIの顔変わり」や「AIを使ってAIを倒す」リスクを正確に特定し、防止するにはAI技術を活用することが有効かもしれません。しかし、AIが作った偽物はAIで見分けられるのでしょうか？
「AI 顔変更」テクノロジーの不正リスクに焦点を当てたコンテストがその答えを提供します。外灘会議の AI イノベーション コンペティションとグローバル ディープフェイク攻防チャレンジの展示コンペでは、中国科学技術大学サイバースペース セキュリティ学部とアント デジタル ディメンシティ研究所が共同で問題を発表しました。出場者は研究した AI モデルを使用して、処理された画像やビデオを検出して識別しました。
画像トラックには、肉眼では真偽の区別が難しい9枚の写真が含まれていますが、出場者は自身の参加モデルを使用して各写真の偽造確率を出し、2枚の写真を比較する必要があります。正解の確率が最も高い値。ビデオ トラックでは、プレイヤーは AI モデルを使用してビデオの信頼性を識別する必要もあります。
注目に値するのは、現場の参加者のスコアに関しては、中程度の難易度の問題では両者の結果が僅差であり、偽造認識率はほぼ 80% を超えていたのに対し、一部の非常に難しい問題ではモデルの結果が得られたことです。は大きく異なっていました。
現場にいた人は、「なぜAIは、肉眼で偽物に見える写真に完全に答えることができないのですか？また、肉眼では区別するのが難しい写真でも、AIは1秒で認識できるのですか？」と尋ねました。
この点に関して、シンガポール科学技術研究庁のフロンティア人工知能研究センターの主任研究員、周天儀氏は、人間は直感と論理に頼って画像が偽物かどうかを判断すると考えています。映画俳優の顔に置き換えられても、人間は一目でその背後にあるストーリーを理解できません。しかし、AIは人間ほど感情的な干渉を受けにくく、指示を綿密に遂行します。この観点から見ると、AIは作業効率や安定性において人間よりも「優れている」と言えます。
ただし、検出アルゴリズムの開発は、ディープフェイク技術の悪用を抑制するための 1 つの方法にすぎません。ゲーム問題作成者の 1 人、Yao Weibin 氏は、この方法が比較的遅れていることを認めました。根本的な原因から不正行為を防ぐには、規格や法律の観点から AIGC コンテンツの普遍的な識別子の確立を要求する必要があります。たとえば、AIGC によって生成されたすべてのビデオや画像には、ファイル情報に署名や透かしが含まれる必要があります。プラットフォーム管理にはさらに多くの根拠があります。
中国科学技術大学サイバースペースセキュリティ学部の周文博教授は、「一般の人々にとって、ディープフェイクが行われる可能性は非常に高く、徐々に私たちの生活に入り込んでおり、さらには人々のプライバシーを漏洩することさえある」と述べ、安易に偽造を行わないよう示唆した。公共の場では自分の顔データを公開し、顔データの漏洩を極力避けてください。それでも大きな影響を与える可能性があります。「詐欺によって確率が損なわれることはありません。」