Awesome Foundation Models

素晴らしいファウンデーションモデル

基礎モデルは、広範囲のダウンストリームアプリケーションに適合させることができる大規模な前提型モデル（Bert、Dall-E、GPT-3）です。この用語は、人間中心の人工知能のためのスタンフォード大学によって最初に普及しました。このリポジトリは、ビジョンと言語のタスクのための基礎モデルのキュレーションされたリストを維持しています。コードのない研究論文は含まれていません。

調査

2024

• 言語エージェント（プリンストン・シューニュヤオの博士論文から。Blog1、Blog2から）
• アルゴリズム設計のための大規模な言語モデルに関する体系的な調査（香港の都市大学から）
• 基礎モデル時代の画像セグメンテーション：調査（北京工科大学から）
• Vision-Language Geo-Foundationモデルに向けて：調査（Nanyang Technological Universityから）
• ビジョン言語モデリングの紹介（メタから）
• マルチモーダルモデルアーキテクチャの進化（Purdue Universityから）
• 効率的なマルチモーダル大手言語モデル：調査（Tencentから）
• ビデオ理解のための財団モデル：調査（Aalborg Universityから）
• ソラは世界のシミュレーターですか？一般的な世界モデルとそれ以降（Gigaaiから）に関する包括的な調査
• 自動運転車の前進における基礎モデルの将来の役割（Tongji Universityから）
• 大規模なモデルのパラメーター効率の高い微調整：包括的な調査（ノースイースタン大学から）
• 大規模なビジョンモデルの背景、テクノロジー、制限、および機会に関するレビュー（リーハイから）
• 大規模なマルチモーダルエージェント：調査（cuhkから）
• 不気味な谷：拡散モデルの包括的な分析（MILAから）
• 基礎モデルの現実世界のロボットアプリケーション：レビュー（東京大学から）
• GPT-4からGeminiなど：4つのモダリティ（上海AIラボから）を通じて、一般化、信頼性、因果関係に関するMLLMの景観の評価
• 生成的および差別的な視覚基盤モデルの統一に向けて：調査（JHUから）

2024年以前

• 医療イメージングの基礎モデル：包括的な調査と将来のビジョン（SDSUから）
• マルチモーダルファンデーションモデル：スペシャリストから汎用アシスタントまで（Microsoftから）
• 放射線科のジェネラリスト財団モデルに向けて（SJTUから）
• ビジョンの新しい時代を定義する基礎モデル：調査と見通し（MBZ AIの大学から）
• Generalist Biomedical AI（Googleから）に向けて
• Vision-Language Foundationモデルに関する迅速なエンジニアリングの体系的な調査（オックスフォードから）
• 大規模なマルチモーダルモデル：CVPR 2023チュートリアルに関するメモ（Chunyuan Li、Microsoftから）
• マルチモーダルの大手言語モデル（USTCおよびTencentから）に関する調査
• ビジョンタスクのビジョン言語モデル：調査（ナンヤンテクノロジー大学から）
• ジェネラリストの医療人工知能のための基礎モデル（スタンフォードから）
• 事前に守られた基礎モデルに関する包括的な調査：BertからChatGptへの歴史
• AI-Generatedコンテンツ（AIGC）の包括的な調査：GanからChatGptへの生成AIの歴史
• ビジョン言語の事前トレーニング：基本、最近の進歩、将来の傾向
• Foundationモデルの機会とリスクについて（この調査は、Standfordからの基礎モデルの概念を最初に普及させています）

日付ごとに論文

2024

• [11/14]精度のための法律のスケーリング（ハーバードから）
• [11/13]ニューラルフィールドを持つ神経保護区：手の操作のための視覚触覚認識（メタから）
• [11/07] Dino-WM：事前に訓練された視覚機能に関する世界モデルは、ゼロショット計画を可能にします（ニューヨーク大学から）
• [10/31]プロジェクトSID：AI文明に対する多くのエージェントシミュレーション（Altera.alから）
• [10/30]トークンフォーマー：トークン化されたモデルパラメーターで変圧器スケーリングを再考する（Max Planck Institute for Informatics）
• [10/30]報酬センター（アルバータ大学リチャードサットンから）
• [10/21]長期記憶：AI自己進化の基礎（TianqiaoとChrissy Chen Instituteから）
• [10/10]カーネルのスケーリング：普遍的な表現に向けてコンベネットの大規模なカーネルデザイン（cuhkから）
• [10/04]映画gen：メディア財団モデルのキャスト（メタから）
• [10/02]必要なのはRNNでしたか？ （ミラから）
• [10/01] NGPT：ハイパースフィアの表現学習を備えた正規化された変圧器（nvidiaから）
• [09/30] MM1.5：マルチモーダルLLM微調整（Appleから）からの方法、分析、洞察
• [09/27] EMU3：次のトークン予測だけが必要です（baaiから）
• [09/25] Molmo and Pixmo：最先端のマルチモーダルモデルの重量とオープンデータ（Allen AIから）
• [09/18] QWEN2-VL：任意の解像度での視覚言語モデルの世界に対する認識の強化（Alibabaから）
• [09/18] Moshi：リアルタイムの対話のための音声テキストファンデーションモデル（Kyutaiから）
• [08/27]拡散モデルはリアルタイムゲームエンジン（Googleから）です
• [08/22] Sapiens：人間の視覚モデルの基礎（メタから）
• [08/14] Imagen 3（Google Deepmindから）
• [07/31]モデルのラマ3群（メタから）
• [07/29] SAM 2：画像やビデオの何かをセグメント（メタから）
• [07/24] Partglee：すべてのオブジェクトを認識して解析するための基礎モデル（HustとBytedance）
• [07/17] Eve：エンコーダーフリーのビジョン言語モデル（Baaiから）を発表する
• [07/12]画家としての変圧器層（サカナAIから）
• [06/24] Cambrian-1：マルチモーダルLLMS（NYUから）の完全にオープンな視覚中心の探索
• [06/13] 4M-21：多くのタスクとモダリティのための任意のビジョンモデル（EPFLとAppleから）
• [06/10]マーリン：3Dコンピューター断層撮影のVision Language Foundationモデル（スタンフォードから。コードが利用可能になります。）
• [06/06] Vision-LSTM：一般的なビジョンバックボーンとしてのXLSTM（LSTM著者から）
• [05/31] Meshxl：生成3Dファンデーションモデルのニューラル座標フィールド（Fudanから）
• [05/25] Moeut：Experts Universal Transformers（Stanfordから）混合
• [05/22] RNNとしての注意（Mila＆Borealis aiから）
• [05/22] Gigapath：現実世界データからのデジタル病理学のための全面的な基礎モデル（自然から）
• [05/21] BiomedParse：生物医学画像解析の生物医学的基盤モデル（Microsoft。Journalバージョンから）
• [05/20] Octo：オープンソースのジェネラリストロボットポリシー（UC Berkeleyから）
• [05/17]観察スケーリング法と言語モデルのパフォーマンスの予測可能性（Standford Fro）
• [05/14]オンラインとオフラインのアライメントアルゴリズムの間のパフォーマンスギャップを理解する（Googleから）
• [05/09] Lumina-T2X：フローベースの大型拡散トランスを介してテキストを任意のモダリティ、解像度、および期間に変換する（上海AIラボから）
• [05/08]一度だけキャッシュ：言語モデル用のデコーダーデコーダーアーキテクチャ
• [05/07] XLSTM：拡張長い短期記憶（LSTMの著者であるSepp Hochreiterから）
• [05/06] Geminiのマルチモーダル医療能力の進行（Googleから）
• [05/04] U-dits：U字型の拡散変圧器のトークンをダウンサンプル（北京大学から）
• [05/03] Vibe-Eval：マルチモーダル言語モデルの進捗を測定するためのハード評価スイート
• [04/30] Kan：Kolmogorov-Arnold Networks（MLPの有望な代替案。MITから）
• [04/26] GPT-4Vまでどれくらい離れていますか？オープンソーススイートを備えた商用マルチモーダルモデルとのギャップを締めくくる（internvl1.5。shanghaiAIラボから）
• [04/14] Transformerfam：フィードバックの注意はワーキングメモリです（Googleから。効率的な注意。）
• [04/10]コンテキストを残さない：インフィニティンションを備えた効率的な無限コンテキストトランス（Googleから）
• [04/02] Octopus V2：スーパーエージェントのオンデバイス言語モデル（スタンフォードから）
• [04/02]詳細混合：トランスベースの言語モデルでのコンピューティングを動的に割り当てる（Googleから）
• [03/22] Internvideo2：マルチモーダルビデオ理解のためのビデオファンデーションモデルのスケーリング（上海AIラボから）
• [03/18] arc2face：人間の顔の基礎モデル（インペリアルカレッジロンドンから）
• [03/14] MM1：マルチモーダルLLMプリトレーニングからの方法、分析、洞察（30Bパラメーター。Appleから）
• [03/09] Unigradicon：医療画像登録の基礎モデル（UNC-Chapel Hillから）
• [03/05]高解像度画像合成のための整流フロートランスのスケーリング（安定性拡散3。安定性AIから）
• [03/01]視覚表現学習における世界モデルの学習と活用（メタから）
• [03/01] Visionllama：ビジョンタスクの統一されたラマインターフェイス（Meituanから）
• [02/28] cllms：一貫性の大きな言語モデル（SJTUから）
• [02/27]潜在的な透明性を使用した透明な画像層拡散（スタンフォードから）
• [02/22] Mobilellm：オンデバイスユースケース（METAから）の20億サブパラメーター言語モデルの最適化
• [02/21] ∗を超えて：検索ダイナミクスを介した変圧器によるより良い計画ブートストラップ（メタから）
• [02/20]ニューラルネットワーク拡散（拡散モデルを介してネットワークパラメーターを生成します。NUSから）
• [02/20] VideoPrism：ビデオ理解のための基礎ビジュアルエンコーダー（Googleから）
• [02/19] FIT：拡散モデル用の柔軟な視覚変圧器（上海AIラボから）
• [02/06] MobileVLM V2：ビジョン言語モデルのより速く、より強力なベースライン（Meituanから）
• [01/30] Yolo-World：リアルタイムのオープンボキャブラリーオブジェクト検出（Tencent and Hustから）
• [01/23] Lumiere：ビデオ生成のための時空拡散モデル（Googleから）
• [01/22] Chexagent：胸部X線の解釈の基礎モデル（スタンフォードから）に向けて
• [01/19]深さ何か：大規模な非標識データの力を解き放つ（Tiktokから）
• [01/16] SIT：スケーラブルな補間トランスを使用したフローと拡散ベースの生成モデルの探索（NYUから）
• [01/15] InstantID：ゼロショットアイデンティティプレゼント生成の数秒（Xiaohongshuから）

2023

• Bioclip：生命の木のビジョンファンデーションモデル（CVPR 2024 Best Student Paper）
• MAMBA：選択的状態空間を使用した線形時間シーケンスモデリング（Mambaは、CMUからのシーケンス長で直線的にスケーリングしながら、同様にサイズの変圧器を上回るように見えます）
• FoundationPose：統一された6Dポーズ推定と新しいオブジェクトの追跡（NVIDIAから）
• すべての場所を一度にすべての場所を追跡する（コーネル、ICCV 2023最高の学生論文から）
• ジェネラリストの地理空間人工知能の基礎モデル（IBMとNASAから）
• ラマ2：オープンファンデーションと微調整されたチャットモデル（メタから）
• Internlm-XComposer：高度なテキストイメージの理解と構成のためのビジョン言語大規模モデル（上海AIラボから）
• オールシーイングプロジェクト：オープンワールドのパノプティックな視覚認識と理解に向けて（上海AIラボから）
• メタトランスフォーマー：マルチモーダル学習のための統一されたフレームワーク（CuhkおよびShanghai AIラボから）
• 保持ネットワーク：大規模な言語モデルのためのトランスの後継者（MicrosoftおよびTsinghua Universityから）
• コンピュータービジョンのニューラルワールドモデル（ケンブリッジ大学のアンソニーhuの博士論文）
• 何でも認識：強力な画像タグ付けモデル（画像タグ付けの強力な基礎モデル。OPPOから）
• 物理シーンの視覚的基礎モデルに向けて（トレーニング基準としての画像予測のみを使用して、物理シーンの汎用視覚表現を学習するための最初のステップを説明します。AWSから）
• LIMA：アラインメントの方が少ない（メタから65bパラメーター）
• Palm 2テクニカルレポート（Googleから）
• ImageBind：それらをすべてバインドするための1つの埋め込みスペース（メタから）
• ビジュアルインストラクションチューニング（Llava、U of Wisconsin-MadisonおよびMicrosoftから）
• Seeg：すべての場所を一度にセグメント化する（ウィスコンシン大学マディソン大学、HKUST、およびMicrosoftから）
• SAM：Anything（画像セグメンテーションの最初の基礎モデル、メタから）
• seggpt：コンテキストですべてをセグメント化する（baai、zju、およびpkuから）
• 画像は画像で話す：コンテキスト内の視覚学習のためのジェネラリストの画家（Baai、Zju、およびPKUから）
• Unidector：オープンワールドのすべての検出：ユニバーサルオブジェクト検出（CVPR、TsinghuaおよびBnristから）
• マスクされていない教師：トレーニング効率の良いビデオ財団モデルに向けて（中国科学アカデミー、中国科学アカデミー、上海AI研究所から）
• 視覚的なプロンプトマルチモーダル追跡（ダリアン工科大学およびペンチェン研究所から）
• 言語、ビジョン、ビジョンと言語の理解タスクのための一般的な基盤モデルの構築（バイテダンスから）
• EVA-Clip：大規模なクリップ用の改善されたトレーニングテクニック（BaaiとHustから）
• EVA-02：ネオンジェネシスの視覚的表現（BaaiとHustから）
• EVA-01：大規模なマスクされた視覚表現学習の限界を探る（CVPR、Baai and Hust）
• Llama：オープンで効率的な基礎言語モデル（7Bから65Bのパラメーターの範囲の基礎言語モデルのコレクション; Metaから）
• 数十億個のスケールの事前トレーニングに対するMAEの有効性（メタから）
• Bloomberggpt：金融の大規模な言語モデル（5,000億パラメーター、ブルームバーグから）
• Bloom：176B-Parameterオープンアクセス多言語言語モデル（この作業は、LLMを民主化することを目標とするBigScienceによって調整されました。）
• フリップ：マスキングを介した言語イメージのスケーリング前トレーニング（メタから）
• BLIP-2：フローズン画像エンコーダーと大規模な言語モデルを使用したブートストラップ言語イメージプリトレーニング（Saleforce Researchから）
• GPT-4テクニカルレポート（Openaiから）
• Visual ChatGpt：Visual Foundationモデルとの会話、描画、編集（Microsoft Research Asiaから）
• uninext：オブジェクトの発見と検索としてのユニバーサルインスタンス知覚（10インスタンス知覚タスクの統一モデル、cvpr、bytedanceから）
• Internvideo：生成および識別学習を介した一般的なビデオ財団モデル（上海AIラボから）
• Indermage：変形可能な畳み込みで大規模なVision Foundationモデルの探索（上海AIラボからのCVPR）
• Bridgetower：ビジョン言語表現学習のエンコーダー間の橋を構築する（Harbin Institute of TechnologyとMicrosoft Research Asia）

2022

• BEVT：ビデオトランスのBert Pretraining（CVPR、Shanghai Key Lab of Intelligent Information Processing）
• 基礎変圧器（Microsoftから）
• ジェネラリストのエージェント（GATO、マルチモーダル、マルチタスク、マルチボジメントジェネラリストエージェント、DeepMindから）
• 繊維：バックボーンでの融合を伴う粗からファインのビジョン言語前トレーニング（Microsoft、UCLA、New York University）
• フラミンゴ：少数のショット学習のための視覚言語モデル（deepmindから）
• Metalm：言語モデルは汎用インターフェイスです（Microsoftから）
• Point-E：複雑なプロンプトから3Dポイントクラウドを生成するためのシステム（テキスト間拡散モデルを使用した効率的な3Dオブジェクト生成; OpenAIから）
• テキストと画像プロンプトを使用した画像セグメンテーション（Göttingen大学からのCVPR）
• 統一フロー、ステレオ、深度推定（3つの動きおよび3D知覚タスクの統一モデル、ETHチューリッヒから）
• Pali：共同でスケーリングされた多言語言語イメージモデル（Googleから）
• VideoMomae：マスクされた自動エンコーダーは、自己監視ビデオ前トレーニング（Neurips、Nanjing University、Tencent、およびShanghai AI Labのデータ効率の高い学習者）です。
• スリップ：セルフスーパービジョンは言語イメージの事前トレーニング（ECCV、カリフォルニア州バークレーとメタから）に会います）
• Glipv2：統合ローカリゼーションとVLの理解（UW、Meta、Microsoft、およびUCLAからのNeurips'22）
• グリップ：接地言語イメージ前訓練（UCLAおよびMicrosoftからのCVPR）
• ブリップ：統一されたビジョン言語の理解と生成のためのブートストラップ言語イメージ事前トレーニング（Salesforce Researchから）
• Nuwa-Infinity：無限の視覚合成のための自己回帰の生成（Microsoftから）
• パーム：経路を使用した言語モデリングのスケーリング（Googleから）
• COCA：対照的なキャプションは画像テキストファンデーションモデルです（Googleから）
• PARTI：コンテンツが豊富なテキストから画像の生成のための自己回帰モデルのスケーリング（Googleから）
• ビジョンタスクの統一されたシーケンスインターフェイス（Google Research、Brain Teamから）
• 画像：深い言語理解を備えたフォトリアリスティックテキストからイメージの拡散モデル（Googleから）
• 安定した拡散：潜在的な拡散モデルを使用した高解像度画像合成（CVPR、安定性と滑走路から）
• 模倣ゲームを超えて：言語モデルの機能を定量化して推定します（Big-Bench：A 204タスクは、LLMSの非常に困難で多様なベンチマーク、132機関の444人の著者）
• CRIS：クリップ駆動型の参照画像セグメンテーション（シドニー大学とOPPOから）
• 空間的学習者としてのマスクされた自動エンコーダー（MAEのビデオへの拡張;ニューリップ、メタから）
• マスクされた自動エンコーダーはスケーラブルなビジョン学習者です（CVPR 2022、FAIRから）
• instructgpt：人間のフィードバックで指示に従うための言語モデルをトレーニングする（ループで人間で訓練された; Openaiから）
• ビジョンタスクの統一されたシーケンスインターフェイス（GoogleからのNeurips2022）
• DALL-E2：クリップ潜在性のある階層的なテキストコンディショナル画像生成（OpenAIから）
• セルフスーパービジョンを備えた堅牢で効率的な医療イメージング（Google、Georgia Tech、Northwestern Universityから）
• ビデオスウィントランス（CVPR、Microsoft Research Asiaから）
• ofa：単純なシーケンスからシーケンス学習フレームワーク（ICML2022。Alibabaからのアーキテクチャ、タスク、およびモダリティを統合します。）
• mask2former：ユニバーサル画像セグメンテーション用のマスクされたマスクトランス
• フラバ：基本的な言語とビジョンアライメントモデル（Facebook AI ResearchからのCVPR）
• マルチモーダル財団モデル（自然コミュニケーション、中国の大学出身）を介した人工的な一般情報に向けて
• FILIP：微調整されたインタラクティブな言語イメージ前訓練（ICLR、HuaweiおよびHkustから）
• SIMVLM：監督が弱い（ICLR、CMUおよびGoogleからのシンプルな視覚言語モデルの事前削除）
• グライド：テキスト誘導拡散モデルを使用したフォトリアリスティックな画像生成と編集に向けて（Openaiから）

2021

• テキスト生成によるビジョンと言語のタスクを統合する（UNC-Chapel Hillから）
• align：騒々しいテキスト監督（PMLR、Googleから）で視覚的およびビジョン言語表現学習を拡大する
• ユニット：統一された変圧器を使用したマルチモーダルマルチタスク学習（ICCV、フェアから）
• Wenlan：大規模なマルチモーダルプレトレーニングによる橋渡しと言語（このホワイトペーパーでは、Brivlと呼ばれる最初の大規模な中国のマルチモーダル前トレーニングモデルを紹介します。
• Codex：コードでトレーニングされた大規模な言語モデルの評価（Github、Openaiおよび人類AIのパブリックコードで微調整されたGPT言語モデル）
• フィレンツェ：コンピュータービジョンの新しい基礎モデル（Microsoftから）
• Dall-E：ゼロショットテキストからイメージの生成（Openaiから）
• クリップ：自然言語監督からの移転可能な視覚モデルの学習（Openaiから）
• 凍結言語モデルを使用したマルチモーダルの少数の学習（Neurips、DeepMindから）
• Swin Transformer：シフトウィンドウを使用した階層ビジョントランス
• 画像は16x16の価値があります：大規模な画像認識のためのトランス

2021年以前

• GPT-3：言語モデルは少ないショット学習者です（175bパラメーター、GPT-2と比較してコンテキスト学習を許可します。
• Uniter：ユニバーサル画像テキスト表現学習（Microsoftから）
• T5：統一されたテキストツーテキストトランス（Googleから）を使用した転送学習の限界を探る
• GPT-2：言語モデルは監視されていないマルチタスク学習者です（1.5bパラメーター、Openaiから）
• LXMERT：トランスフォーマーからのクロスモダリティエンコーダー表現の学習（EMNLP、UNC-Chapel Hillから）
• バート：言語理解のための深い双方向トランスの事前訓練（Google AI言語から）
• GPT：生成前のトレーニングによる言語理解の向上（Openaiから）
• 注意が必要です（GoogleとUOTからのニューリップ）

トピック別の論文

大規模な言語/マルチモーダルモデル

• Llava：視覚的な指導の調整（ウィスコンシン大学マディソン校から）
• MINIGPT-4：高度な大手言語モデル（Kaustから）による視覚言語の理解の向上
• GPT-4テクニカルレポート（Openaiから）
• GPT-3：言語モデルは少ないショット学習者です（175bパラメーター、GPT-2と比較してコンテキスト学習を許可します。
• GPT-2：言語モデルは監視されていないマルチタスク学習者です（1.5Bパラメーター、Openaiから）
• GPT：生成前のトレーニングによる言語理解の向上（Openaiから）
• ラマ2：オープンファンデーションと微調整されたチャットモデル（メタから）
• llama：オープンで効率的な基礎言語モデル（7bから65bのパラメーターの範囲、メタからのモデル）
• T5：統一されたテキストツーテキストトランス（Googleから）を使用した転送学習の限界を探る

線形注意

• Flashattention-2：より良い並列処理と作業分割により、より速い注意
• Flashattention：IO認識を伴う高速およびメモリ効率の高い正確な注意

大きなベンチマーク

• Ophnet：眼科用外科用ワークフロー理解のための大規模なビデオベンチマーク（眼科手術のための大規模な注釈付きビデオベンチマーク。
• MMTベンチ：マルチタスクAGIに向けて大規模なビジョン言語モデルを評価するための包括的なマルチモーダルベンチマーク（上海AIラボ、2024年）
• ブリンク：マルチモーダルの大手言語モデルは見ることができますが、知覚できません（マルチモーダルベンチマーク。ペンシルベニア大学、2024年）
• CAD-ESTATE：RGBビデオでの大規模なCADモデル注釈（CADアノテーションを使用したRGBビデオ。Google2023から）
• Imagenet：大規模な階層画像データベース（VisionBenchmark。FromStanford、2009）

ビジョン言語の前oraining

• フリップ：マスキングを介した言語イメージのスケーリング前トレーニング（メタから）
• BLIP-2：フローズン画像エンコーダーと大規模な言語モデルを使用したブートストラップ言語イメージ前トレーニング前（既製の凍結視覚および言語モデルに基づいた一般的で効率的なVLP戦略を提案します。
• ブリップ：統一されたビジョン言語の理解と生成のためのブートストラップ言語イメージ事前トレーニング（Salesforce Researchから）
• スリップ：セルフスーパービジョンは言語イメージの事前トレーニング（ECCV、カリフォルニア州バークレーとメタから）に会います）
• グリップ：接地言語イメージ前訓練（UCLAおよびMicrosoftからのCVPR）
• align：騒々しいテキスト監督（PMLR、Googleから）で視覚的およびビジョン言語表現学習を拡大する
• RegionClip：リージョンベースの言語イメージ前削除
• クリップ：自然言語監督からの移転可能な視覚モデルの学習（Openaiから）

知覚タスク：検出、セグメンテーション、およびポーズ推定

• SAM 2：画像やビデオの何かをセグメント（メタから）
• FoundationPose：統一された6Dポーズ推定と新しいオブジェクトの追跡（NVIDIAから）
• Seeg：すべての場所を一度にセグメント化する（ウィスコンシン大学マディソン大学、HKUST、およびMicrosoftから）
• SAM：Anything（画像セグメンテーションの最初の基礎モデル、メタから）
• seggpt：コンテキストですべてをセグメント化する（baai、zju、およびpkuから）

トレーニング効率

• Green AI（Red AI vs Green AIの概念を紹介します）
• 宝くじのチケット仮説：まばらで訓練可能なニューラルネットワークを見つける（MITからの宝くじチケット仮説）

人工的な一般情報（AGI）に向けて

• コンピュータービジョンのAGIに向けて：GPTおよび大規模な言語モデルから学んだ教訓（Huaweiから）

AIの安全性と責任

• AIからの危害の確率を制限してGuardrailを作成する（Yoshua Bengioのブログ）
• 急速な進歩の中で（科学から、2024年5月から）極端なAIのリスクを管理すること

関連する素晴らしいリポジトリ

• 素晴らしい拡散モデル
• 素晴らしいビデオ拡散モデル
• Awesome-Diffusion-Modelベースのイメージ - 編集メソッド
• 素晴らしいCVファウンドモデル
• Awesome-HealthCare-Foundation-Models
• 素晴らしいとマルチモーダルエージェント
• 野生のコンピュータービジョン（CVINW）