AGI调查

很棒的 AGI 调查
_{通用人工智能必读论文}

？消息

• [2024年10期] ？我们的论文被 TMLR 2024 接收。
• [2024年05期] ？我们正在 ICLR 2024 上组织 AGI 研讨会，并发布了我们的立场文件“我们距离 AGI 还有多远？”。

我们的项目是一个持续的、开放的计划，将与 AGI 的进步同步发展。我们热烈欢迎社区的反馈和请求，并计划每年更新我们的论文。在未来的修订中，我们将衷心感谢项目网站上的贡献者。

如果您发现我们的工作/资源有用，请引用 BibTex：

 @article { feng2024far ,
  title = { How Far Are We From AGI } ,
  author = { Feng, Tao and Jin, Chuanyang and Liu, Jingyu and Zhu, Kunlun and Tu, Haoqin and Cheng, Zirui and Lin, Guanyu and You, Jiaxuan } ,
  journal = { arXiv preprint arXiv:2405.10313 } ,
  year = { 2024 }
}

内容

• 内容
  • 一、简介
  • 2. AGI 内部：揭示 AGI 的思想
    • 2.1 人工智能感知
    • 2.2 人工智能推理
    • 2.3 人工智能记忆
    • 2.4 人工智能元认知
  • 3. AGI接口：用AGI连接世界
    • 3.1 人工智能与数字世界的接口
    • 3.2 人工智能与物理世界的接口
    • 3.3 AI与智能的接口
      • 3.3.1 AI 与 AI 代理的接口
      • 3.3.2 人工智能与人类的接口
  • 4. AGI系统：实现AGI的机制
    • 4.2 可扩展模型架构
    • 4.3 大规模培训
    • 4.4 推理技术
    • 4.5 成本与效率
    • 4.6 计算平台
  • 5. AGI一致性：确保AGI满足各种需求
    • 5.1 AGI 协调的期望
    • 5.2 当前的对准技术
    • 5.3 如何实现 AGI 对齐
  • 6. AGI 路线图：负责任地迈向 AGI
    • 6.1 人工智能级别：描绘人工智能的演变
    • 6.2 AGI评估
      • 6.2.1 对AGI评估的期望
      • 6.2.2 当前的评估及其局限性
    • 6.5 AGI 开发过程中的进一步考虑
  • 7. 案例研究
    • 7.1 人工智能用于科学发现和研究
    • 7.2 生成视觉智能
    • 7.3 世界模型
    • 7.4 去中心化法学硕士
    • 7.5 人工智能编码
    • 7.6 机器人技术在现实世界中的应用
    • 7.7 人机协作

->我们论文的框架设计。 <-

一、简介

->人类活动的比例被人工智能超越。 <-

2. AGI 内部：揭示 AGI 的思想

2.1 人工智能感知

1. Flamingo：用于少样本学习的视觉语言模型。让-巴蒂斯特·阿莱拉克等人。 NeurIPS 2022。[论文]
2. BLIP-2：使用冻结图像编码器和大型语言模型引导语言图像预训练。李俊南等人。 ICML 2023。[论文]
3. SPHINX：多模态大型语言模型的权重、任务和视觉嵌入的联合混合。林子怡等人。 EMNLP 2023。[论文]
4. 视觉指令调整。刘浩天等人。 NeurIPS 2023。[论文]
5. GPT4Tools：通过自学教授大型语言模型使用工具。瑞阳等人。 NeurIPS 2023。[论文]
6. Otter：具有上下文指令调整的多模态模型。李波等人。 arXiv 2023。[论文]
7. VideoChat：以聊天为中心的视频理解。李昆昌等人。 arXiv 2023。[论文]
8. mPLUG-Owl：模块化赋予大型语言模型多模态能力。叶庆浩等。 arXiv 2023。[论文]
9. 多模态大语言模型调查。尹树康等。 arXiv 2023。[论文]
10. PandaGPT：一种指导模型 - 全部遵循。苏逸轩等人。 arXiv 2023。[论文]
11. LLaMA-Adapter：利用零初始注意力对语言模型进行高效微调。张仁瑞等人。 arXiv 2023。[论文]
12. Gemini：一系列高性能多模式模型。罗汉·阿尼尔等人。 arXiv 2023。[论文]
13. Shikra：释放多模式法学硕士的参考对话魔力。陈克勤等人。 arXiv 2023。[论文]
14. ImageBind：一个嵌入空间将它们全部绑定。罗希特·格达尔等人。 CVPR 2023。[论文]
15. MobileVLM：适用于移动设备的快速、强大且开放的视觉语言助手。楚湘湘等人。 arXiv 2023。[论文]
16. 大型语言模型的良好视觉分词器的要素是什么？ 。王广志等人。 arXiv 2023。[论文]
17. MiniGPT-4：利用先进的大语言模型增强视觉语言理解。朱德耀等人。 ICLR 2024。[论文]
18. LanguageBind：通过基于语言的语义对齐将视频语言预训练扩展到 N 模态。朱斌等人。 ICLR 2024。[论文]

2.2 人工智能推理

1. 思路链提示引发大型语言模型中的推理。贾森·韦等人。 NeurIPS 2022。[论文]
2. 神经心理理论？论大型 LM 中社交智能的局限性。马丁·萨普等人。 EMNLP 2022。[论文]
3. 内心独白：通过语言模型规划进行具身推理。黄文龙等。 CoRL 2022。[论文]
4. 自然语言生成中的幻觉调查。季紫薇等人。 2022 年 ACM 计算调查。[论文]
5. ReAct：在语言模型中协同推理和行动。姚舜宇等人。 ICLR 2023。[论文]
6. 分解提示：解决复杂任务的模块化方法。图沙尔·科特等人。 ICLR 2023。[论文]
7. 基于复杂性的多步骤推理提示。姚福等. ICLR 2023。[论文]
8. 从最少到最多的提示可以在大型语言模型中进行复杂的推理。丹尼周等人。 ICLR 2023。[论文]
9. 大型语言模型中的推理：调查。黄杰等人。 ACL 调查结果 2023。[论文]
10. ProgPrompt：使用大型语言模型生成情境机器人任务计划。石卡·辛格等人。 ICRA 2023。[论文]
11. 用语言模型推理就是用世界模型规划。郝世博等人。 EMNLP 2023。[论文]
12. 评估大型视觉语言模型中的物体幻觉。李一凡等人。 EMNLP 2023。[论文]
13. 思想之树：用大型语言模型有意识地解决问题。姚舜宇等人。 NeurIPS 2023。[论文]
14. 自我细化：通过自我反馈进行迭代细化。阿曼·马达安等人。 NeurIPS 2023。[论文]
15. 反思：具有言语强化学习的语言代理。诺亚·辛恩等人。 NeurIPS 2023。[论文]
16. 描述、解释、规划和选择：使用大型语言模型的交互式规划可实现开放世界的多任务代理。王子豪等人。 NeurIPS 2023。[论文]
17. LLM+P：以最佳规划能力增强大型语言模型的能力。刘博等人。 arXiv 2023。[论文]
18. 语言模型、代理模型和世界模型：机器推理和规划的法则。胡志廷等人。 arXiv 2023。[论文]
19. MMToM-QA：多模态心理理论问答。金传阳等。 arXiv 2024。[论文]
20. 思维图：用大型语言模型解决复杂的问题。马切伊·贝斯塔等人。 AAAI 2024。[论文]
21. 在 GSM8K 上实现 >97%：深入理解问题使法学硕士成为完美的推理者。钟其黄等。 arXiv 2024。[论文]待定

2.3 人工智能记忆

1. 用于开放域问答的密集段落检索。弗拉基米尔·卡尔普欣等人。 EMNLP 2020。[论文]
2. 知识密集型 NLP 任务的检索增强生成。帕特里克·刘易斯等人。 NeurIPS 2020。[论文]
3. REALM：检索增强语言模型预训练。凯尔文·顾等人。 ICML 2020。[论文]
4. 检索增强减少了谈话中的幻觉。库尔特·舒斯特等人。 EMNLP 2021 年调查结果。[论文]
5. 通过从数万亿个令牌中检索来改进语言模型。塞巴斯蒂安·博尔若等人。 ICML 2022。[论文]
6. 生成代理：人类行为的交互式拟像。朴俊成等人。 UIST 2023。[论文]
7. 语言代理的认知架构。西奥多·R·苏默斯 (Theodore R. Sumers)等人。 TMLR 2024。[论文]
8. Voyager：具有大型语言模型的开放式实体代理。王观志等人。 arXiv 2023。[论文]
9. 基于大型语言模型的Agent记忆机制的调查。张泽宇等人。 arXiv 2024。[论文]
10. 递归总结可以在大型语言模型中实现长期对话记忆。王庆越等人。 arXiv 2023。[论文]待定

2.4 人工智能元认知

1. 隐性知识外化和组织学习中元能力的思考。乔蒂·乔德里等人。 HICSS 2006。[论文]
2. 进化的自我监督神经网络自主智能来自进化的自学。南乐. arXiv 2019。[论文]
3. 使预训练的语言模型更好地进行小样本学习。高天宇等人。 ACL 2021。[论文]
4. 识别和操纵语言模型的人格特征。格雷厄姆·卡伦等人。 arXiv 2022。[论文]
5. Brainish：形式化智力和意识的多模态语言。梁保罗等人。 arXiv 2022。[论文]
6. 从理论计算机科学角度看意识理论：意识图灵机的见解。莱诺·布鲁姆等人。 PNAS 2022。[论文]
7. WizardLM：使大型语言模型能够遵循复杂的指令。徐灿等人。 arXiv 2023。[论文]
8. 自指导：使语言模型与自生成的指令保持一致。王一中等。 ACL 2023。[论文]
9. ReST 与 ReAct 的结合：多步推理 LLM 代理的自我改进。雷纳特·阿克西托夫等人。 arXiv 2023。[论文]
10. 大语言模型的文化心理学：ChatGPT 是整体思考者还是分析思考者？ 。金传阳等。 arXiv 2023。[论文]
11. 人工智能中的意识：意识科学的见解。帕特里克·布特林等人。 arXiv 2023。[论文]
12. 重新审视大型语言模型上心理量表的可靠性。黄仁泽等人。 arXiv 2023。[论文]
13. 在预训练语言模型中评估和诱导个性。姜光远等。 NeurIPS 2024。[论文]
14. AGI 的级别：实现 AGI 之路上的进展。梅雷迪思·林格尔·莫里斯等人。 arXiv 2024。[论文]待定
15. 调查-巩固-利用：任务间智能体自我进化的一般策略。程潜等. arXiv 2024。[论文]待定

3. AGI接口：用AGI连接世界

3.1 人工智能与数字世界的接口

1. 混合主动用户界面的原则。埃里克·霍维茨。 SIGCHI 1999。[论文]
2. 基于大型语言模型的代理的兴起和潜力：一项调查。奚志恒等人。 arXiv 2023。[论文]
3. 使用基础模型进行工具学习。秦雨佳等。 arXiv 2023。[论文]
4. Creator：通过工具创建解开大型语言模型的抽象和具体推理。程潜等. arXiv 2023。[论文]
5. AppAgent：作为智能手机用户的多模式代理。赵阳等. arXiv 2023。[论文]
6. Mind2Web：迈向网络多面手代理。邓翔等人。 NeurIPS 基准 2023。[论文]
7. ToolQA：使用外部工具进行 LLM 问答的数据集。庄雨辰等。 arXiv 2023。[论文]
8. 生成代理：人类行为的交互式拟像。朴俊成等人。 arXiv 2023。[论文]
9. Toolformer：语言模型可以自学使用工具。蒂莫·希克等人。 arXiv 2023。[论文]
10. Gorilla：与海量 API 连接的大型语言模型。希希尔·G·帕蒂尔 (Shishir G Patil) 等人arXiv 2023。[论文]
11. Voyager：具有大型语言模型的开放式实体代理。王观志等人。 arXiv 2023。[论文]
12. OS-Copilot：迈向自我改进的通才计算机代理。吴志勇等人。 arXiv 2024。[论文]
13. WebArena：用于构建自治代理的现实 Web 环境。周书彦等。 ICLR 2024。[论文]
14. 作为工具制造者的大型语言模型。蔡天乐等。 ICLR 2024。[论文]

3.2 人工智能与物理世界的接口

1. 亚马逊拣货挑战的经验教训：构建机器人系统的四个方面。克莱门斯·埃普纳等人。 RSS 2016。[论文]
2. Perceiver-Actor：用于机器人操作的多任务变压器。莫希特·施里达尔等人。 arXiv 2022。[论文]
3. Vima：具有多模式提示的一般机器人操作。蒋云帆等. arXiv 2022。[论文]
4. 尽我所能，而不是照我说的：在机器人可供性中奠定语言基础。迈克尔·安等人。 arXiv 2022。[论文]
5. Voxposer：使用语言模型进行机器人操作的可组合 3D 值图。黄文龙等。 arXiv 2023。[论文]
6. MotionGPT：人体运动作为外语。蒋彪等. arXiv 2023。[论文]
7. Rt-2：视觉-语言-动作模型将网络知识转移到机器人控制。安东尼·布罗汉等人。 arXiv 2023。[论文]
8. 导航到现实世界中的对象。泰奥菲尔·格维特等人。科学机器人 2023。[论文]
9. Lm-nav：具有大型预训练语言、视觉和动作模型的机器人导航。德鲁夫·沙阿等人。 CRL 2023。[论文]
10. Palm-e：一种具体的多模式语言模型。丹尼·德里斯等人。 arXiv 2023。[论文]
11. LLM-Planner：针对具有大型语言模型的具体代理的少样本扎根规划。陈熙宋等人。 ICCV 2023。[论文]
12. Instruct2Act：使用大型语言模型将多模态指令映射到机器人动作。黄思源等。 arXiv 2023。[论文]
13. DROID：大规模野外机器人操作数据集。亚历山大·哈扎茨基等人。 arXiv 2024。[论文]
14. BEHAVIOR-1K：以人为中心的具体 AI 基准，包含 1,000 项日常活动和真实模拟。李成书等人。 arXiv 2024。[论文]

3.3 AI与智能的接口

3.3.1 AI 与 AI 代理的接口

1. 反事实多主体策略梯度。雅各布·福斯特等人。 AAAI 2018。[论文]
2. 大型语言模型的解释使小型推理机变得更好。李世阳等人。 arXiv 2022。[论文]
3. 上下文学习蒸馏：迁移预训练语言模型的小样本学习能力。黄玉坤等人。 arXiv 2022。[论文]
4. Autoagents：自动代理生成的框架。陈光耀等人。 arXiv 2023。[论文]
5. 用于嵌套多智能体推理的神经摊销推理。库纳尔·贾等人。 arXiv 2023。[论文]
6. 大型语言模型的知识蒸馏。顾玉贤等。 arXiv 2023。[论文]
7. Metagpt：多智能体协作框架的元编程。洪思瑞等人。 arXiv 2023。[论文]
8. 描述、解释、规划和选择：使用大型语言模型进行交互式规划可实现开放世界的多任务代理。王子豪等人。 arXiv 2023。[论文]
9. Agentverse：促进多智能体协作并探索智能体中的紧急行为。陈伟泽等人。 arXiv 2023。[论文]
10. 基于自然语言的心灵社会中的头脑风暴。诸葛明臣等. arXiv 2023。[论文]
11. Jarvis-1：具有记忆增强多模式语言模型的开放世界多任务代理。王子豪等人。 arXiv 2023。[论文]
12. 符号思维链蒸馏：小模型也能一步步“思考” 。刘年哈罗德·李等人。 ACL 2023。[论文]
13. 一步步蒸馏！使用较少的训练数据和较小的模型大小优于较大的语言模型。谢正宇等人。 arXiv 2023。[论文]
14. 弱到强泛化：通过弱监督激发强能力。科林·伯恩斯等人。 arXiv 2023。[论文]
15. 通过扩展高质量的教学对话来增强聊天语言模型。丁宁等. arXiv 2023。[论文]
16. GAIA：通用人工智能助手的基准。格雷瓜尔·米隆等人。 ICLR 2024。[论文]
17. Voyager：具有大型语言模型的开放式实体代理。王观志等人。 arXiv 2023。[论文]
18. 骆驼：大规模语言模型社会“心灵”探索的交流代理。李国豪等。 arXiv 2023。[论文]
19. 通过多重奖励蒸馏来定制自我合理化。萨哈纳·拉姆纳特等人。 arXiv 2023。[论文]
20. 视觉超对齐：视觉基础模型的弱到强泛化。郭建元等。 arXiv 2024。[论文]
21. WebArena：用于构建自治代理的现实 Web 环境。周书彦等。 ICLR 2024。[论文]
22. 在最少的人类监督下从头开始进行原则驱动的语言模型自我调整。孙志清等。 NeurIPS 2024。[论文]
23. Mind2web：迈向网络多面手代理。邓翔等人。 NeurIPS 2024。[论文]
24. 迈向通用计算机控制：以 Red Dead Redemption 2 的多模式代理为案例研究。谭伟豪等人。 arXiv 2024。[论文]

3.3.2 人工智能与人类的接口

1. 人机交互指南。萨莱玛·阿默什等人。 CHI 2019。[论文]
2. 生成式人工智能应用程序的设计原则。贾斯汀·D·韦兹等人。 CHI 2024。[论文]
3. Graphologue：用交互式图表探索大型语言模型响应。蒋佩玲等。 UIST 2023。[论文]
4. Sensecape：利用大型语言模型实现多层次探索和意义建构。苏桑戈等人。 UIST 2023。[论文]
5. 支持大规模大型语言模型输出的意义建构。凯蒂·伊隆卡·格罗等人。 CHI 2024。[论文]
6. Luminate：利用大型语言模型对设计空间进行结构化生成和探索，以实现人类与人工智能的共同创造。苏桑戈等人。 CHI 2024。[论文]
7. 人工智能链：通过链接大型语言模型提示实现透明且可控的人机交互。吴同双等人。 CHI 2022。[论文]
8. Promptify：通过大型语言模型的交互式提示探索生成文本到图像。斯蒂芬·布雷德等人。 CHI 2023。[论文]
9. ChainForge：用于快速工程和 LLM 假设检验的可视化工具包。伊恩·阿拉霍等人。 CHI 2024。[论文]
10. CoPrompt：支持协作自然语言编程中的提示共享和引用。李峰等. CHI 2024。[论文]
11. 使用大型语言模型生成 UI 模型的自动反馈。段培同等人。 CHI 2024。[论文]
12. Rambler：通过 LLM 辅助要点操作支持语音写作。苏珊林等人。 CHI 2024。[论文]
13. 将大型语言模型嵌入到扩展现实中：包容性、参与度和隐私的机遇和挑战。埃菲·博兹克尔等人。 arXiv 2024。[论文]
14. GenAssist：使图像生成变得容易。米娜胡等人。 UIST 2023。[论文]
15. “我输入的内容越少越好”：AI 语言模型如何增强或阻碍 AAC 用户的沟通。斯蒂芬妮·瓦伦西亚等人。 CHI 2023。[论文]
16. 重新审视人机交互是否、为何以及如何独特地难以设计。钱阳等人。 CHI 2020。[论文]

4. AGI系统：实现AGI的机制

4.2 可扩展模型架构

1. 极其庞大的神经网络：稀疏门控的专家混合层。诺姆·沙泽尔等人。 arXiv 2017。[论文]
2. Transformer 是 RNN：具有线性注意力的快速自回归变压器。安杰洛斯·卡塔罗普洛斯等人。 arXiv 2020。[论文]
3. Longformer：长文档变压器。伊兹贝尔塔吉等人。 arXiv 2020。[论文]
4. LightSeq：Transformers 的高性能推理库。王晓慧等人。 arXiv 2021。[论文]
5. 开关变压器：通过简单高效的稀疏性扩展到万亿参数模型。威廉·费杜斯等人。 arXiv 2022。[论文]
6. 使用结构化状态空间对长序列进行有效建模。阿尔伯特·顾等人。 arXiv 2022。[论文]
7. MegaBlocks：混合专家的高效稀疏训练。特雷弗·盖尔等人。 arXiv 2022。[论文]
8. 训练计算最优的大型语言模型。乔丹·霍夫曼等人。 arXiv 2022。[论文]
9. 基础模型的有效长上下文扩展。熊文汉等. arXiv 2023。[论文]
10. 鬣狗层次结构：迈向更大的卷积语言模型。迈克尔·波利等人。 arXiv 2023。[论文]
11. 斯坦福羊驼：遵循指令的 LLaMA 模型。罗汉·陶里等人。 GitHub 2023。[代码]
12. Rwkv：为 Transformer 时代重新发明 RNN 。彭波等. arXiv 2023。[论文]
13. Deja Vu：推理时高效法学硕士的上下文稀疏性。刘子长等人。 arXiv 2023。[论文]
14. Flash-LLM：实现具有非结构化稀疏性的经济有效且高效的大型生成模型推理。夏浩军等人。 arXiv 2023。[论文]
15. ByteTransformer：针对可变长度输入而增强的高性能变压器。翟玉佳等。 arXiv 2023。[论文]
16. Tutel：大规模的自适应专家混合。黄昌浩等人。 arXiv 2023。[论文]
17. Mamba：具有选择性状态空间的线性时间序列建模。顾艾伯特，Tri Dao。 arXiv 2023。[论文]
18. 饥饿的饥饿河马：利用状态空间模型进行语言建模。丹尼尔·Y·傅等人。 arXiv 2023。[论文]
19. 保持网络：大型语言模型 Transformer 的后继者。孙玉涛等。 ArXiv，2023。
20. 混合架构的机械设计和扩展。迈克尔·波利等人。 arXiv 2024。[论文]
21. 重新审视自回归语言模型的知识蒸馏。钟其黄等。 arXiv 2024。[论文]
22. DB-LLM：高效 LLM 的精确双二值化。陈红等人。 arXiv 2024。[论文]
23. 通过跨层注意力减少 Transformer 键值缓存大小。威廉·布兰登等人。 arXiv 2024.[论文]
24. 你只缓存一次：语言模型的解码器-解码器架构Yutao Sun等人。 arXiv 2024。[论文]

4.3 大规模培训

1. 使用次线性内存成本训练深度网络。陈天琪等人。 arXiv 2016。[论文]
2. 超越深度神经网络的数据和模型并行性。贾志浩等。 arXiv 2018。[论文]
3. GPipe：使用管道并行性对巨型神经网络进行高效训练。黄艳萍等。 arXiv 2019。[论文]
4. NLP 的参数高效迁移学习。尼尔·霍尔斯比等人。 ICML 2019. 论文
5. Megatron-LM：使用模型并行性训练数十亿参数语言模型。穆罕默德·舒伊比等人。 arXiv 2020。[论文]
6. Alpa：分布式深度学习的算子间和算子内并行自动化。郑连民等。 arXiv 2022。[论文]
7. DeepSpeed 推理：以前所未有的规模实现变压器模型的高效推理。礼萨·亚兹达尼·阿米纳巴迪等人。 arXiv 2022。[论文]
8. 不过度拟合的记忆：分析大型语言模型的训练动态。库沙尔·蒂鲁马拉等人。 arXiv 2022。[论文]
9. SWARM 并行性：训练大型模型可以实现令人惊讶的通信效率。马克斯·里亚宾宁等人。 arXiv 2023。[论文]
10. 跨尺度语言模型的训练轨迹。夏孟周等。 arXiv 2023。[论文]
11. HexGen：异构分散环境下基础模型的生成推理。蒋友和等。 arXiv 2023。[论文]
12. FusionAI：使用大规模消费级 GPU 进行分散式培训和部署 LLM 。唐振恒等人。 arXiv 2023。[论文]
13. 使用 Blockwise Transformers 实现近乎无限上下文的环注意力。刘浩等人。 arXiv 2023。[论文]
14. Pythia：用于跨训练和扩展分析大型语言模型的套件。斯特拉·比德曼等人。 arXiv 2023。[论文]
15. 使用带保证的激活压缩在慢速网络上微调语言模型。王珏等人。 arXiv 2023。[论文]
16. LLaMA-Adapter：利用零初始注意力对语言模型进行高效微调。张仁瑞等人。 arXiv 2023。[论文]
17. QLoRA：量化 LLM 的高效微调。蒂姆·德特默斯等人。 arXiv 2023。[论文]
18. 使用 PagedAttention 进行大型语言模型的高效内存管理。权宇石等人。 arXiv 2023。[论文]
19. Infinite-LLM：具有 DistAttention 和分布式 KVCache 的长上下文的高效 LLM 服务。林斌等人。 arXiv 2024。[论文]
20. OLMo：加速语言模型科学。德克·格罗内维尔德等人。 arXiv 2024。[论文]
21. 关于大规模深度学习模型的高效训练：文献综述。李申等. arXiv 2023。[论文]待定

4.4 推理技术

1. FlashAttention：具有 IO 感知功能的快速、内存高效的精确注意力。 Tri Dao等人。 NeurIPS 2022。[论文]
2. 起草和验证：通过自推测解码进行无损大型语言模型加速。张军等人。 arXiv 2023。[论文]
3. 迈向高效的生成大型语言模型服务：从算法到系统的调查。苗旭鹏等。 arXiv 2023。[论文]
4. FlashDecoding++：GPU 上更快的大型语言模型推理。柯宏等. arXiv 2023。[论文]
5. 通过推测解码从 Transformer 进行快速推理。亚尼夫·利维坦等人。 arXiv 2023。[论文]
6. 大型语言模型的快速分布式推理服务。吴冰阳等人。 arXiv 2023。[论文]
7. S-LoRA：为数千个并发 LoRA 适配器提供服务。应胜等人。 arXiv 2023。[论文]
8. TensorRT-LLM：用于优化大型语言模型推理的 TensorRT 工具箱。英伟达。 GitHub 2023。[代码]
9. Punica：多租户 LoRA 服务。陈乐群等人。 arXiv 2023。[论文]
10. S$^3：在生成推理期间提高 GPU 利用率以提高吞吐量。金允浩等人。 arXiv 2023。[论文]
11. 多 LoRA 推理服务器，可扩展至 1000 个经过微调的 LLM 。预碱基。 GitHub 2023。[代码]
12. 提示查找解码。阿普尔夫萨克塞纳。 GitHub 2023。[代码]
13. 更快的变压器。英伟达。 GitHub 2021。[论文]
14. DeepSpeed-FastGen：通过 MII 和 DeepSpeed-Inference 为法学硕士生成高通量文本。康纳霍姆斯等人。 arXiv 2024。[论文]
15. SpecInfer：通过基于树的推测推理和验证加速生成大型语言模型。苗旭鹏等。 arXiv 2024。[论文]
16. Medusa：具有多个解码头的简单 LLM 推理加速框架。蔡天乐等。 arXiv 2024。[论文]
17. 模型告诉您要放弃什么：LLM 的自适应 KV 缓存压缩。苏玉格等人。 ICLR 2024。[论文]
18. 具有注意力接收器的高效流式语言模型。肖光轩等人。 ICLR 2024。[论文]
19. DeFT：具有 IO 意识的 Flash 树注意，用于基于树搜索的高效 LLM 推理。姚金伟等。 arXiv 2024。[论文]
20. 使用 SGLang 高效编程大型语言模型。郑连民等。 arXiv 2023。[论文]
21. SPEED：高效解码的推测流水线执行。科尔曼·胡珀等人。 arXiv 2023。[论文]
22. Sequoia：可扩展、稳健且硬件感知的推测解码。陈卓明等人。 arXiv 2024。[论文]待定

4.5 成本与效率

1. 演示-搜索-预测：为知识密集型 NLP 构建检索和语言模型。奥马尔·哈塔布等人。 arXiv 2023。[论文]
2. 自动化机器学习：方法、系统、挑战。弗兰克·哈特等人。施普林格出版公司，2019 年。
3. 模型汤：对多个微调模型的权重进行平均可以提高准确性，而不会增加推理时间。米切尔·沃茨曼等人。 arXiv 2022。[论文]
4. 使用 Shapley 进行数据调试对端到端机器学习管道的重要性。博扬·卡拉什等人。 arXiv 2022。[论文]
5. 用于大型语言模型生成推理的经济高效的超参数优化。王驰等人。 arXiv 2023。[论文]
6. 大型语言模型是人类水平的提示工程师。周永超等人。 arXiv 2023。[论文]
7. 通过任务子空间中的匹配模型进行合并。德里克·谭 (Derek Tam) 等人arXiv 2023。[论文]
8. 使用任务算术编辑模型。加布里埃尔·伊尔哈科等人。 arXiv 2023。[论文]
9. PriorBand：深度学习时代的实用超参数优化。 Neeratyoy Mallik 等人。 arXiv 2023。[论文]
10. 多模态模型合并的实证研究。宋宜林等人。 arXiv 2023。[论文]
11. DSPy：将声明性语言模型调用编译到自我改进的管道中。奥马尔·哈塔布等人。 arXiv 2023。[论文]
12. FrugalGPT：如何使用大型语言模型，同时降低成本并提高性能。陈凌娇等人。 arXiv 2023。[论文]
13. 用于推理高效法学硕士的串联变压器。艾西瓦娅 PS 等人。 arXiv 2024。[论文]
14. AIOS：LLM 代理操作系统。凯梅等人。 arXiv 2024。[论文]
15. LoraHub：通过动态 LoRA 组合实现高效的跨任务泛化。黄成松等人。 arXiv 2024。[论文]
16. 大型语言模型时代的 AutoML：当前挑战、未来机遇和风险。亚历山大·托内德等人。 arXiv 2024。[论文]
17. 将专家合而为一：提高专家混合的计算效率。何秀伟等人。 EMNLP 2023。[论文]待定

4.6 计算平台

1. TVM：用于深度学习的自动端到端优化编译器。陈天琪等人。 arXiv 2018。[论文]
2. TPU v4：用于机器学习的光学可重构超级计算机，具有嵌入的硬件支持。诺曼·P·朱皮 (Norman P. Jouppi) 等人。 arXiv 2023。[论文]

5. AGI一致性：确保AGI满足各种需求

5.1 AGI 协调的期望

1. 人类兼容：人工智能和控制问题。斯图尔特·拉塞尔.维京人，2019。
2. 人工智能、价值观和一致性。伊森·加布里埃尔.思想与机器，2020。[论文]
3. 语言代理的对齐。扎卡里·肯顿等人。 arXiv，2021。[论文]
4. 价值学习问题。内特·苏亚雷斯。机器智能研究院技术报告[论文]
5. 人工智能安全的具体问题。达里奥·阿莫代等人。 arXiv，2016。[论文]
6. 语言模型造成的道德和社会伤害风险。劳拉·魏丁格等人。 arXiv，2021。[论文]
7. 关于随机鹦鹉学舌的危险：语言模型会太大吗？ 。艾米丽·M·本德等人。 FACCT 2021。[论文]
8. 人工智能道德准则的全球格局。安娜·乔宾等人。自然机器智能，2019。[论文]
9. 大型语言模型中持续存在的反穆斯林偏见。阿布巴卡尔·阿比德等人。 AIES，2021。[论文]
10. 迈向性别包容的共指解决方案。杨·特里斯塔·曹等人。 ACL，2020。[论文]
11. 自然语言处理的社会影响。德克·霍维等人。 ACL 2016。[论文]
12. TruthfulQA：衡量模型如何模仿人类的谎言。斯蒂芬妮林等人。 ACL 2022。[论文]
13. GPT-3 和高级神经语言模型的激进化风险。克里斯·麦加菲等人。 arXiv，2020。[论文]
14. 法学硕士时代的人工智能透明度：以人为本的研究路线图。问：维拉廖等人。 arXiv 2023。[论文]
15. 超越专业知识和角色：描述可解释机器学习的利益相关者及其需求的框架。哈里尼·苏雷什等人。 CHI 2021。[论文]
16. 识别并减轻生成人工智能的安全风险。克拉克·巴雷特等人。 arXiv，2023。[论文]
17. LLM 代理可以自主入侵网站。理查德·方等人。 arXiv，2024。[论文]
18. Deepfakes、颅相学、监视等等！人工智能隐私风险分类。李浩平等人。 CHI 2024。[论文]
19. 人工智能时代的隐私。索维克·达斯等人。 ACM 通讯，2023 年。[论文]

5.2 当前的对准技术

1. 学习根据人类反馈进行总结。尼桑·斯蒂农等人。 NeurIPS 2020。[论文]
2. 最好再考虑一下：学习从文本编辑中重新调整人类价值观。刘瑞波等人。 NeurIPS 2022。[论文]
3. 训练语言模型遵循人类反馈的指令。欧阳龙等。 NeurIPS 2022。[论文]
4. 释放内心的恶魔：语言模型的自我解毒。徐灿文等人。 AAAI 2022. 论文
5. 使生成语言模型与人类价值观保持一致。刘瑞波等人。 NAACL 2022。[论文]
6. 通过人类反馈的强化学习来训练一个有用且无害的助手。白云涛等。 arXiv 2022。[论文]
7. 宪法人工智能：人工智能反馈的无害性。白云涛等。 arXiv 2022。[论文]
8. Raft：生成基础模型对齐的奖励排名微调。韩泽东等人。 arXiv 2023。[论文]
9. 利用基于优势的离线策略梯度改进语言模型。阿舒托什·巴赫蒂等人。 arXiv 2023。[论文]
10. 通过大规模语言反馈来训练语言模型。杰里米·舍勒等人。 arXiv 2023。[论文]
11. 理解从人类偏好中学习的通用理论范式。穆罕默德·格什拉吉·阿扎尔等人。 arXiv 2023。[论文]
12. 我们来一步步验证一下。亨特·莱特曼等人。 arXiv 2023。[论文]
13. 来自人类反馈的强化学习的开放问题和基本局限性。斯蒂芬·卡斯珀等人。 arXiv 2023。[论文]
14. 通过综合反馈调整大型语言模型。金成东等人。 arXiv 2023。[论文]
15. RLAIF：通过人工智能反馈扩展人类反馈的强化学习。哈里森·李等人。 arXiv 2023。[论文]
16. 人类对齐的偏好排名优化。宋飞凡等. arXiv 2023。[论文]
17. 通过多智能体辩论提高语言模型的事实性和推理能力。杜依伦等人。 arXiv 2023。[论文]
18. 大语言模型对齐：一项调查。沉天浩等. arXiv 2023。[论文]
19. 直接偏好优化：你的语言模型实际上是一个奖励模型。拉斐尔·拉法洛夫等人。 NeurIPS 2024。[论文]
20. 利马：对于一致性来说，少即是多。周春亭等人。 NeurIPS 2024。[论文]

5.3 如何实现 AGI 对齐

1. 语言伤害的道德和社会风险。梅勒·魏丁格等人。 arXiv 2021。[论文]
2. 北京人工智能安全国际共识。北京人工智能研究院. 2024.[论文]
3. 无需打开黑匣子的反事实解释：自动决策和 GDPR 。桑德拉·瓦赫特等人。哈佛法律与技术杂志，2017 年。[论文]
4. 通过奖励建模实现可扩展的代理对齐：研究方向。扬·雷克等人。 arXiv 2018。[论文]
5. 将道德融入人工智能。韩愈等. IJCAI 2018. 论文
6. 人类兼容：人工智能和控制问题。斯图尔特·拉塞尔.维京人，2019。[论文]
7. 负责任的人工智能：如何以负责任的方式开发和使用AI 。弗吉尼亚贵族。施普林格大自然，2019年。[纸]
8. 机器伦理：道德AI和自治系统的设计和治理。 Alan F. Winfield等。 IEEE会议录，2019年。[纸]
9. 合作AI中的开放问题。 Allan Dafoe等。 Arxiv 2020。[纸]
10. 人工智能，价值和一致性。艾森·加布里埃尔（Iason Gabriel ）。思想和机器，2020年。[纸]
11. 合作AI：机器必须学会找到共同点。 Allan Dafoe等。大自然2021。[纸]
12. 机器道德，道德进步和迫在眉睫的环境灾难。 Ben Kenward等。 Arxiv 2021。[纸]
13. AI研究的X风险分析。 Dan Hendrycks等。 Arxiv 2022。[纸]
14. 可扩展监督的任务分解（AGISF蒸馏） 。 Charbel-RaphaëlSegerie。博客2023。[博客]
15. 弱到紧密的概括：通过弱监督引起强大的能力。 Collin Burns等。 Arxiv 2023。[纸]
16. 语言模型反映出谁的意见？ 。 Shibani Santurkar等。 ICML 2023。[纸]
17. AI对齐：一项综合调查。 Jiaming Ji等。 Arxiv 2023。[纸]
18. 从人类反馈中学习的开放问题和基本局限性。斯蒂芬·卡斯珀（Stephen Casper ）等。 Arxiv 2023。[纸]
19. 基本LLMS上的解锁法术：通过封闭式学习重新思考对齐。 Bill Yuchen Lin等。 Arxiv 2023。[纸]
20. 大型语言模型对齐：调查。 Tianhao Shen等。 Arxiv 2023。[纸]

6. AGI路线图：负责任地接近AGI

6.1 AI级别：绘制人工智能的演变

1. 人工通用智能的火花：GPT-4的早期实验。 SébastienBubeck等。 Arxiv 2023。[纸]
2. AGI的水平：在AGI的道路上操作进度。 Meredith Ringel Morris等。 Arxiv 2024。[纸]

6.2 AGI评估

6.2.1对AGI评估的期望

1. 朝着系统地报告机器学习的能量和碳足迹。彼得·亨德森等。机器学习研究杂志，2020。
2. 绿色AI 。 ACM的Roy Schwartz Communications，2020年。
3. 评估经过代码训练的大型语言模型。 Mark Chen等。没有日记，2021年。
4. 记录大型WebText Corpora：关于巨大清洁爬行语料库的案例研究。杰西·道奇等。 Arxiv 2021。[纸]
5. 关于基础模型的机会和风险。 Rishi Bommasani等。 Arxiv 2021。[纸]
6. 通过元学习神经网络人类的系统概括。 Brenden M Lake等。大自然，2023年。[纸]
7. Superbench正在开放中测量LLM：一个批判性分析。超级基金会团队。 arXiv 2023。
8. 语言模型的整体评估。 Percy Liang等。 Arxiv 2023。[纸]

6.2.2当前评估及其局限性

1. 小队：100,000多个用于机器理解文本的问题。 Pranav Rajpurkar等。 Arxiv 2016。[纸]
2. Triviaqa：一个大规模监督的挑战数据集，用于阅读理解。普兰达·乔希（Joshi）等。 Arxiv 2017。[纸]
3. COQA：回答挑战的会话问题。 Siva Reddy等。计算语言学协会的交易，2019年。
4. 准确，可靠和快速鲁棒性评估。 Wieland Brendel等。 Neurips 2019。[纸]
5. 测量大量的多任务语言理解。 Dan Hendrycks等。 Arxiv 2020。[纸]
6. 评估模型的鲁棒性和稳定性到数据集偏移。 Adarsh Subbaswamy等。在国际人工智能与统计会议上发表，2021年。
7. mmdialog：大规模多转向对话数据集，用于多模式开放域对话。冯家占等. Arxiv 2022。[纸]
8. 自我建造：与自我生成的指示结合语言模型。 Yizhong Wang等。 Arxiv 2022。[纸]
9. 超天然结构：通过1600多个NLP任务的声明说明进行概括。 Yizhong Wang等。 Arxiv 2022。[纸]
10. GPT-4V（ISION）中幻觉的整体分析：偏见和干扰挑战。 Chenhang Cui等。 Arxiv 2023。[纸]
11. 评估大语模型指令的鲁棒性。 Yuansheng Ni等。 Arxiv 2023。[纸]
12. 盖亚：通用AI助手的基准。 GrégoireMialon等。 Arxiv 2023。[纸]
13. 深度模型鲁棒性的全面评估框架。 Jun Guo等。模式识别，2023年。[纸]
14. Agieval：用于评估基础模型的以人为本的基准。 Wanjun Zhong等。 Arxiv 2023。[纸]
15. MMMU：对专家AGI的巨大多学科多模式理解和推理基准。翔等人。 Arxiv 2023。[纸]
16. 从文学角度评估大型语言模型的创造力。 Murray Shanahan等。 Arxiv 2023。[纸]
17. AgentBench：评估LLM 。小刘等人。 ICLR 2024。[纸]
18. 评估和理解大语言模型中的创造力。 Yunpu Zhao等。 Arxiv 2024。[纸]
19. 与MT Bench和Chatbot Arena一起评判LLM-AS-A-A-A-A-A-A-A-Gudge 。 Lianmin Zheng等。神经2024。[纸]

6.5 AGI开发期间的进一步考虑

1. 确保大语模型的一致性和安全性方面的基本挑战。 Usman Anwar等。 Arxiv 2024。[纸]
2. 关于语言模型的合成数据的最佳实践和经验教训。 Ruibo Liu等。 Arxiv 2024。[纸]
3. 推进AI代理商的社会情报：技术挑战和开放问题。 Leena Mathur等。 Arxiv 2024。[纸]

7. 案例研究

7.1科学发现和研究的AI

1. 高准确的蛋白质结构预测用αFold 。 Jumper，John等。大自然，2021年。[纸]
2. 自动化科学发现：从方程发现到自主发现系统。 Kramer，Stefan等。 Arxiv 2023。[纸]
3. 通过基于深度学习的序列模型来预测非编码变体的影响。周，江等。自然方法，2015。
4. 学会通过视觉消失观察物理。 Wu，Jijun等。 Neurips 2017。[纸]
5. 实时重力波检测和参数估计的深度学习：带有高级LIGO数据的结果。乔治，丹尼尔等。物理字母B，2018年。[纸]
6. 通过对抗性神经网络识别量子相变。 REM，Bart-Jan等。自然物理学，2019年。[纸]
7. Openagi：LLM遇到领域专家时。 GE，Yingqiang等。神经，2023年。[纸]
8. 从暗物质到带有卷积网络的星系。张，Xinyue等。 Arxiv 2019。[纸]
9. 全球对量子动力学的优化，并进行了深度探索。 Dalgaard，Mogens等。 NPJ量子信息，2020年。[纸]
10. 学习利用时间结构进行生物医学视觉处理。 Shruthi Bannur等。 CVPR，2023。[纸]
11. Mathbert：用于数学教育中一般NLP任务的预先训练的语言模型。 Shen，Jia Tracy等。 Arxiv 2021。[纸]
12. 使用语言模型的分子优化。 Maziarz，Krzysztof等。 Arxiv 2022。[纸]
13. 逆转录：带有变压器的原子环境的倒角翻译。 UCAK，UMIT VOLKAN等人。没有日记，2022年。[纸]
14. Scholarbert：更大并不总是更好。 Hong，Zhi等。 Arxiv 2022。[纸]
15. Galactica：科学的大型语言模型。泰勒，罗斯等。 Arxiv 2022。[纸]
16. 正式的数学声明课程学习。 Polu，Stanislas等。 Arxiv 2022。[纸]
17. 证明与语言模型证明的定理的伪像训练。杰西·迈克尔·汉等人。 ICLR 2022。[纸]
18. 通过语言模型解决定量推理问题。 Lewkowycz，Aitor等。 Arxiv 2022。[纸]
19. Miogpt：生成的预训练的变压器，用于生物医学文本生成和采矿。 Luo，Ren​​qian等。生物信息学的简报，2022年。
20. Chemcrow：使用化学工具增强大型模型。 Bran，Andres M等。 Arxiv 2023。[纸]
21. 具有大语言模型的自动化学研究。 Boiko，Daniil A等。大自然，2023年。[纸]
22. 大型语言模型的新兴自主科学研究能力。 Daniil A. Boiko等。 Arxiv 2023。[纸]
23. MathProppter：使用大语言模型的数学推理。 Imani，Shima等。在计算语言学协会第61届年会论文集（第5卷：行业轨道），2023年。
24. 学习利用时间结构进行生物医学视觉处理。 Shruthi Bannur等。 Arxiv 2023。[纸]
25. LLMS科学：代码生成和数据分析的使用情况。 Nejjar，Mohamed等。 Arxiv 2023。[纸]
26. 奖章：大型语言模型作为零射门医学推理的合作者。 Xiangru Tang等。 Arxiv 2024。[纸]

7.2生成视觉智能

1. 使用非平衡热力学的深度无监督学习。 Jascha Sohl-Dickstein等。 ICML 2015。[纸]
2. 通过估计数据分布的梯度来产生建模。 Yang Song等。 Neurips 2019。[纸]
3. 剥离扩散概率模型。 Jonathan Ho等。神经2020。[纸]
4. 通过随机微分方程进行基于得分的生成模型。 Yang Song等。 ICLR 2021。[纸]
5. Glide：使用文本引导的扩散模型迈向影像逼真的图像生成和编辑。 Alex Nichol等。 ICML 2022。[纸]
6. SDEDIT：带有随机微分方程的引导图像合成和编辑。 Chenlin Meng等。 ICLR 2022。[纸]
7. 视频扩散模型。 Jonathan Ho等。神经2022。[纸]
8. 分层文本条件图像生成带有剪辑潜在的图像。 Aditya Ramesh等。 Arxiv 2022。[纸]
9. 无分类器扩散指南。 Jonathan Ho等。 Arxiv 2022。[纸]
10. 调色板：图像到图像扩散模型。 Chitwan Saharia等。 Siggraph 2022。[纸]
11. 高分辨率图像合成具有潜在扩散模型。 Robin Rombach等。 CVPR 2022。[纸]
12. 将条件控制添加到文本对图像扩散模型中。 LVMin Zhang等。 ICCV 2023。[纸]
13. 具有变压器的可扩展模型。 William Peebles等。 ICCV 2023。[纸]
14. 顺序建模可为大视力模型提供可扩展的学习。 Yutong Bai等。 Arxiv 2023。[纸]
15. 视频生成模型作为世界模拟器。蒂姆·布鲁克斯等。 Openai 2024。[纸]

7.3世界模型

1. 学会通过视觉消失观察物理。 Wu，Jijun等。 Neurips 2017。[纸]
2. 基于模型的安全增强学习具有稳定性的保证。 Berkenkamp，Felix等。 Neurips，2017年。[纸]
3. SIMNET：学习基于模拟的物理推理的世界模型。 Vicol，Paul，Menapace等。 ICLR 2022。[纸]
4. Dreamix：通过迭代时空混合进行DreamFusion 。 Khalifa，Anji等。 Arxiv 2022。[纸]
5. 通用用途通过互联网规模知识的增强学习来体现AI代理。 Guo，Siaoxiao等。 Arxiv 2022。[纸]
6. VQGAN-CLIP：开放域图像生成和编辑自然语言指导。克罗森，凯瑟琳。 Arxiv 2022。[纸]
7. 通往自动驾驶机器智能的道路。 Lecun Yann OpenReview，2022。[纸]
8. 语言模型符合世界模型：体现体验增强语言模型。 Jiannan Xiang等。神经2023。[纸]
9. 通过世界模型来掌握各种领域。 Hafner，Danijar等。 Arxiv 2023。[纸]
10. 通过检索获得多模型。里德，斯科特等。 Arxiv 2023。[纸]
11. 语言模型作为零击计划者：为具体代理提取可行的知识。 Dohan，David等。 Arxiv 2023。[纸]
12. 语言模型，代理模型和世界模型：机器推理和计划的定律。 Zhiting Hu等。 Arxiv 2023。[纸]
13. 语言模型的推理是通过世界模型进行计划。 Hao，Shibo等。 Arxiv 2023。[纸]
14. metasim：学习生成合成数据集。张，Yuxuan等。 Arxiv 2023。[纸]
15. 世界上的世界模型和语言和语言。 Hao Liu等。 Arxiv 2024。[纸]
16. 精灵：生成互动环境。杰克·布鲁斯（Jake Bruce ）等。 Arxiv 2024。[纸]

7.4分散的LLM

1. 花瓣：大型模型的合作推断和微调。 Alexander Borzunov等。 Arxiv 2022。[纸]
2. 深度学习区块链：审查和开放挑战。经济时报。集群计算2021。[纸]
3. FlexGEN：具有单个GPU的大语言模型的高通量生成推断。 Ying Sheng等。 Arxiv 2023。[纸]
4. 在异质环境中对基础模型的分散培训。 Binhang Yuan等。 Arxiv 2023。[纸]

7.5 AI用于编码

1. 评估代码生成模型的框架。本·阿拉尔等人。 Github，2023。[代码]
2. 评估经过代码训练的大型语言模型。 Mark Chen等。 Arxiv 2021。[纸]
3. 与大语言模型的程序合成。雅各布·奥斯汀等。 Arxiv 2021。[纸]
4. 竞争级代码生成具有字母。 Yujia Li等人。科学，2022年。[纸]
5. 有效培训语言模型以填补中间。穆罕默德·巴伐利亚等人。 Arxiv 2022。[纸]
6. Santacoder：不要伸手去拿星星！ 。 Loubna Ben Allal等。 Mind，2023。[纸]
7. Starcoder：愿来源与您同在！ 。 Raymond Li等人。 Arxiv 2023。[纸]
8. 用于编译器优化的大型语言模型。克里斯·康明斯（Chris Cummins ）等。 Arxiv 2023。[纸]
9. 教科书就是您所需要的。 Suriya Gunasekar等。 Arxiv 2023。[纸]
10. 交叉代码：用执行反馈标准化和基准进行交互式编码。 John Yang等人。 Arxiv 2023。[纸]
11. 从自动反馈中学习高质量单元测试的增强学习。本杰明·斯滕霍克（Benjamin Steenhoek ）等人。 Arxiv 2023。[纸]
12. 启动器：代码填充和合成的生成模型。丹尼尔·弗里德（Daniel Fried）等人。 Arxiv 2023。[纸]
13. 使用大语言模型精炼了C代码。 Wai Kin Wong等。 Arxiv 2023。[纸]
14. SWE-bench：语言模型可以解决现实世界的 GitHub 问题吗？ 。 Carlos E等。 Arxiv 2023。[纸]
15. 自动启动：用于代码级神经体系结构搜索的语言模型。当归Chen等。 Arxiv 2023。[纸]
16. 大型语言模型可以识别和理由有关安全漏洞吗？还没有。 Saad Ullah等。 Arxiv 2023。[纸]
17. Scenecraft：将3D场景合成为搅拌器代码的LLM代理。 Ziniu Hu等。 Arxiv 2024。[纸]
18. Debugbench：评估大语言模型的调试能力。 Runchu Tian等。 Arxiv 2024。[纸]
19. AI辅助代码按大规模创作：微调，部署和混合方法评估。 Vijayaraghavan Murali等。 Arxiv 2024。[纸]
20. 代码骆驼：代码开放基础模型。巴蒂斯特·罗齐埃等人。 Arxiv 2024。[纸]
21. llm 已经可以作为数据库接口了吗？大规模数据库接地文本到SQL的大长凳。 Jinyang Li等。神经2024。
22. OOP：大型语言模型的面向对象的编程评估基准。 Shuai Wang等。 Arxiv 2024。[纸]

7.6 AI用于现实世界应用中的机器人技术

1. 第二个机器时代：在精彩技术时期的工作，进步和繁荣。 Brynjolfsson，Erik WW Norton＆Company，2014年。
2. 机器人的崛起：技术和失业未来的威胁。福特，马丁。基本书籍，2015年。
3. 亚马逊采摘挑战的教训：构建机器人系统的四个方面。 。埃普纳（Eppner），克莱门斯（Clemens），h“ o。
4. 生命3.0：在人工智能时代成为人类​​。 Tegmark，最高。 Knopf，2017年。
5. 自动驾驶的语言代理。 Jiageng Mao等。 Arxiv 2023。[纸]
6. 用于机器人技术的GPT-4V（ISION）：人类演示的多模式任务计划。 Naoki Wake等。 Arxiv 2023。[纸]
7. 黑色：神经信号为日常活动操作智能机器人。 Ruohan Zhang等。 Corl 2023。[纸]
8. GPT-Driver：学习与GPT一起驾驶。 Jiageng Mao Arxiv 2023。[纸]
9. 对您的机器人大喊：从语言校正中立即改进。露西·肖阳等。 Arxiv 2024。[纸]
10. DILU：通过大型语言模型进行自主驾驶的知识驱动方法。 Licheng Wen等。 ICLR 2024。[纸]
11. AdmentCodriver：大型语言模型通过终身学习授权协作驾驶。 Senkang Hu等。 Arxiv 2024。[纸]

7.7人类合作

1. 合着者：设计一个人类协作写作数据集，用于探索语言模型功能。 Mina Lee等。 Chi 2022。[纸]
2. 智能和互动写作助理的设计空间。 Mina Lee等。 CHI 2024。[纸]
3. creativeConnect：使用生成AI支持图形设计构想的参考重组。 Daeun Choi等人。 CHI 2024。[纸]
4. 我领导，您的帮助，但只有足够的细节：了解用户与人工智能共同创造的体验。 Changhoon OH等人。 Chi 2018。[纸]
5. 代码：评估平衡学生和教育工作者需求的基于LLM的编程助理的课堂部署。 Majeed Kazemitabaar等人。 CHI 2024。[纸]
6. a-Aignation Braintriting：研究LLM在小组构想中的使用。 Orit Shaer等。 CHI 2024。[纸]
7. 最准确的AI是最好的队友吗？为团队合作优化AI 。 Gagan Bansal等。 AAAI 2021。[纸]
8. 人类AI团队的更新：理解和解决绩效/兼容性权衡。 Gagan Bansal等。 AAAI 2019。[纸]
9. 利用生物医学文献校准临床医生对AI决策支持系统的信任。 Qian Yang等人。 CHI 2023。[纸]
10. AI链：通过链接大语言模型提示，透明且可控制的人类互动。 Tongshuang Wu等。 Chi 2022。[纸]
11. 通过调整众包工作流程的技术来设计LLM链。 Madeleine Grunde-McLaughlin等。 Arxiv，2023。[纸]
12. 为什么约翰尼无法提示：非AI专家如何尝试（和失败）设计LLM提示。 JD Zamfirescu-Pereira等。 CHI 2023。[纸]
13. 设计以理论驱动的用户为中心的可解释AI 。 Dand Wang等人。 Chi 2019。[纸]
14. 人们会认知与人工智能互动吗？ AI援助对偶然学习的影响。 Krzysztof Z. Gajos等。 IUI 2022。[纸]

？贡献

贡献了本文清单

加入我们，改善此存储库！如果您知道我们错过的任何重要工作，请做出贡献。您的努力非常有价值！

贡献者

---