首頁>編程相關>其他源碼
下載

AI注意

關於AI最新狀態的註釋，重點是生成和大型語言模型。這些是https://lspace.swyx.io/新聞通訊的“原材料”。

該存儲庫過去被稱為https://github.com/sw-yx/prompt-eng，但由於誇張工程而被重命名。現在，這是AI工程筆記回購。

此讀數只是空間的高級概述。您應該在此存儲庫中的其他Markdown文件中看到最大的更新：

  • TEXT.md文本生成，主要與gpt -4一起
    • TEXT_CHAT.md有關CHATGPT和競爭對手的信息以及衍生產品
    • TEXT_SEARCH.md有關GPT -4啟用語義搜索和其他信息的信息
    • TEXT_PROMPTS.md良好GPT3提示的小型滑動文件
  • INFRA.md關於AI基礎架構，硬件和縮放的原始註釋
  • AUDIO.md .md-跟踪音頻/音樂/語音轉錄 +一代
  • CODE.md codgen型號，例如副詞
  • IMAGE_GEN.md最發達的文件，最重的重點是穩定擴散的註釋，有些是在Midjourney和Dalle上。
    • IMAGE_PROMPTS.md良好圖像提示的小型滑動文件
  • 資源：站立，清理本來可以固定的資源
  • 存根筆記- 未來覆蓋區域的非常小/輕巧的原始頁面 - AGENTS.md跟踪“代理AI”
  • 博客想法- 潛在的博客文章想法從這些筆記中得出
目錄
  • 動機用例
  • 頂級人工智能讀取
  • 社區
  • 人們
  • 雜項
  • 行情，現實和振興
  • 法律，道德和隱私

動機用例

  • 圖像
    • https://mpost.io/best-100-stable-diffusion-prompts-the-most beautiful-ai-ai-text-to-to-toimage-prompts
    • 3D MRI合成大腦圖像 - 神經影像學家的陽性接收
    • 多人遊戲穩定擴散
  • 影片
    • 著名電影場景的IMG2IMG（拉拉蘭）
      • img2img轉換演員與ebsynth + koe_recast
      • ebsynth Works https://twitter.com/tomlikesrobots/status/1612047103806545923?s=20
    • 虛擬時尚（Karenxcheng）
    • 無縫的瓷磚圖像
    • 場景的演變（Xander）
    • 支出https://twitter.com/orbamsterdam/status/1568200010747068417?s=21&t=rliacnwoijjmis37S8QCCW
    • webui img2img合作https://twitter.com/_akhaliq/status/1563582621757898752
    • 旋轉的視頻https://twitter.com/tomlikesrobots/status/1571096804539912192
    • “提示油漆” https://twitter.com/1littlecoder/status/1572573152974372864
    • audio2Video動畫的臉https://twitter.com/siavashg/status/1597588888888888888888865363969
    • 物理玩具到3D模型 +動畫https://twitter.com/sergeyglkn/status/1587430510988611584
    • 音樂視頻
      • 視頻殺死了廣播明星，Colab使用了Openai的Whisper語音到文本，使您可以拍攝YouTube視頻並創建一個穩定的擴散動畫
      • 穩定的擴散視頻通過在提示和音頻之間插值來生成視頻
    • 直接text2Video項目
      • https://twitter.com/_akhaliq/status/1575546841533497344
      • https://makeavideo.studio/-探險家https://webvid.datasette.io/webvid/videos
      • https://phenaki.video/
      • https://github.com/thudm/cogvideo
      • https://imagen.research.google/video/
  • Text-to-to-3d https://twitter.com/_akhaliq/status/1575541930905243652
    • https://dreamfusion3d.github.io/
    • 開源sphand：https：//github.com/ashawkey/stable-dreamfusion
    • 演示https://twitter.com/_akhaliq/status/1578035919403503616
  • 文字產品
    • 結束時有一個用途列表https://huyenchip.com/2023/04/11/llm--engineering.html
  • 碧玉
  • 黑曜石的GPT https://reasonabledeviations.com/2023/02/05/gpt-for-second-brain/
  • GPT3電子郵件https://github.com/sw-yx/gpt3-email和電子郵件clustering
  • gpt3（）在Google表2020，2022- Google表https://twitter.com/mehran __jalali/status/1608159307513618433
    • https://gpt3demo.com/apps/google-sheets
    • 魅力https://twitter.com/shubroski/status/1620139262925754368？s = 20
  • https://www.summari.com/ summari幫助忙碌的人閱讀更多
  • 市場地圖/風景
    • Elad Gil 2024堆棧圖表
    • 紅杉市場地圖2023年1月，2023年7月，2023年9月
    • 基本10市場地圖https://twitter.com/letsenhance_io/status/1594826383305449491
    • matt shumer market map https://twitter.com/mattshumer_/status/1620465468229451776 https://docs.google.com/document/d/1sewTBzRF087F6hFXiyeOIsGC1N4N3O7rYzijVexCgoQ/edit
    • NFX https://www.nfx.com/post/generative-ai-tech-5-layers?ref=context-by-cohere
    • A16Z https://a16Z.com/2023/01/19/who-owns-the-generative-generative-ai-platform/
      • https://a16z.com/2023/06/20/emerging-Architectures-for-llm-applications/
      • https://a16z.com/100-gen-ai-apps
    • Madrona https://www.madrona.com/foundation-models/
    • 外套
      • https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023
      • https://x.com/sam_awrabi/status/1742324900034150646？s = 20
  • 遊戲資產 -
    • EMAD線程https://twitter.com/emostaque/status/1591436813750906882
    • scenario.gg https://twitter.com/emmanuel_2m/status/15933356241283125251
    • 3D遊戲角色建模示例
    • Mariogpt https://arxiv.org/pdf/2302.05981.pdf https://www.slashgear.com/1199870/mariogpt-siogpt-siogpt-siogpt-uses-ies-to-to-gen-to-gen--gen --gen-------------------- //github.com/shyamsn97/mario-gpt/blob/main/mario_gpt/level.py
    • https://news.ycombinator.com/item?id=36295227

頂級人工智能讀取

更高級的gpt3讀取已分為https://github.com/sw-yx/ai-notes/blob/main/main/text.md

  • https://www.gwern.net/gpt-3#prompts-as as programming
  • https://learnprompting.org/

初學者閱讀

  • Bill Gates在AI上（推文）
    • “ AI的開發與微處理器，個人計算機，互聯網和手機的創建一樣基本。它將改變人們的工作，學習，旅行，獲得醫療保健和相互交流的方式。”
  • 史蒂夫·耶格（Steve Yegge）為開發人員提供AI
  • Karpathy 2023 LLMS介紹（Sarah Chieng的筆記）
  • 來自Openai在Neurips通過Sarah Chieng的及時工程指南
  • 為什麼這個人工智能時刻可能是真正的交易
  • Sam Altman-摩爾的律法
  • MSR https://youtu.be/hqi6o5dlyfc的基礎模型出色介紹
  • OpenAI提示教程https://beta.openai.com/docs/quickstart/add-some-examples
  • Google lamda Intro https://aitestkitchen.withgoogle.com/how-lamda-works
  • karpathy梯度下降課程
  • FT關於“變形金剛如何工作”的視覺講故事
  • dalle2提示寫書http://dallery.gallery/wp-content/uploads/2022/07/the-dall%C2%B7E-2PROMPT-PROMPT-BOOK-V1.PDF
  • https://medium.com/nerd-for-tech/prompt-eentering-the-career-future-future-2fb93f90f117
  • 如何使用AI在獲取信息，使用數據和製作圖像的情況下進行操作
  • https://ourworldindata.org/brief-history-of-ai ai進度概述，圖表
  • 喬恩·斯托克斯（Jon Stokes）的AI內容一代，第1部分：機器學習基礎知識
  • Andrew Ng- AI的機會
  • 什麼是變壓器模型，它們如何工作？ - 也許有點太高
  • 文字生成
    • Humanloop的及時工程101
    • Stephen Wolfram的解釋https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-and-why-does-it-work/
    • 相當於Jon Stokes Jonstokes.com/p/the-chat-stack-gpt-4-and-the-near
    • https://andymatuschak.org/prompts/
    • Cohere的LLM大學https://docs.cohere.com/docs/llmu
      • Jay Alammar的所有內容指南：https：//llm.university/
    • https://www.jonstokes.com/p/chatgpt-explect--xecplate-a-guide-for-normies for Normies
  • 圖像生成
    • https://wiki.installgentoo.com/wiki/stable_diffusion概述
    • https://www.reddit.com/r/stablediffusion/comments/x41n87/how_to_get_images_that_dont_dont_suck_a/
    • https://mpost.io/best-100-stable-diffusion-prompts-the-most-beautiful-ai-text-toxt-toimage-prompts/
    • https://www.kdnuggets.com/2021/03/beginners-guide-clip-model.html
  • 對於非技術
    • https://www.jonstokes.com/p/ai-content-generation-part-1-machine
    • https://www.protocol.com/generative-ai-startup-landscape-map
    • https://twitter.com/saranormous/status/1572791179636518913

中間讀取

  • AI州報告：2018，2019，2020，2021，2022
  • 反向時間順序的重大事件https://bleedingedge.ai/
  • 我們對LLM的了解 - 研究的重大回顧
  • Karpathy的LLMS 1小時指南 - 莎拉·奇恩（Sarah Chieng）的摘要
      1. 什麼是大語言模型（LLM）？
      • LLM有兩個主要組成部分
        • LLM做什麼？
    1. 您如何創建LLM？
      • 階段1：模型預訓練
      • 階段2：模型微調
        • 階段2B：[可選]其他微調
      • 階段3：模型推理
      • 階段4：[可選]自定義增壓LLM
    2. 當前的LLM“排行榜”
    3. LLMS的未來：下一步是什麼？
      • 如何提高LLM性能？
        • LLM縮放定律
        • 自我完善
      • 如何提高LLM的能力？
        • 多模式
        • 系統1 + 2思維
    4. LLM黑暗藝術
      • 越獄
      • 提示注射
      • 數據中毒和後門攻擊
    • 埃文·莫里卡瓦（Evan Morikawa）LLM數學指南，尤其
  • 《黑客語言模型指南》（YouTube）傑里米·霍華德（Jeremy Howard）的90分鐘LLM學習概述 - 從基礎知識開始：所有現代LLM中使用的3步預培訓 /微調 /分類器ULMFIT方法。
  • https://spreadsheets-are-all-you-need.ai
  • “趕上LLM的怪異世界” - 西蒙·威利森（Simon Willison）的40分鐘概述 + AI工程師的開放問題
  • Flyte的LLMS概述
  • 克萊門汀四個方面關於如何完成evals
  • 用於構建基於LLM的系統和產品的模式 - 重大回顧
    • EVALS：衡量性能
    • 抹布：添加最新的外部知識
    • 微調：為了更好地完成特定任務
    • 緩存：降低延遲和成本
    • 護欄：確保產出質量
    • 防禦性UX：優雅地預測和管理錯誤
    • 收集用戶反饋：構建我們的數據飛輪
  • 向量數據庫：技術底漆[PDF]在矢量DBS上非常好的幻燈片
    • 缺少混合搜索的覆蓋範圍（向量 +詞彙）。進一步的討論
  • A16Z AI佳能https://a16z.com/2023/05/25/ai-canon/
    • Software 2.0 ：Andrej Karpathy是第一個清楚解釋的人之一（在2017年！）為什麼新的AI浪潮真正重要。他的論點是AI是一種編程計算機的新方法。隨著LLM的迅速改善，該論文已證明是有先見的，它為AI市場的進展提供了良好的心理模型。
    • GPT狀態：也來自Karpathy，這是對Chatgpt / GPT在一般工作中的模型，如何使用它們以及R＆D可能採取什麼方向的非常平易近人的解釋。
    • Chatgpt在做什麼……為什麼它可以工作？ ：計算機科學家和企業家斯蒂芬·沃爾夫拉姆（Stephen Wolfram）從第一原則中提供了漫長但高度可讀性的解釋，即現代AI模型的工作原理。他遵循從早期神經網到今天的LLM和Chatgpt的時間表。
    • 《變形金剛》解釋說：戴爾·馬科維茨（Dale Markowitz）的這篇文章是對“ LLM是什麼，它如何工作”的問題更短，更直接的答案？這是簡化該主題並發展技術的直覺的好方法。它是關於GPT-3的文章，但仍然適用於較新的型號。
    • 穩定擴散的工作方式：這是與上一篇文章的計算機視覺類似物。克里斯·麥考密克（Chris McCormick）提供了一個外行人的解釋，說明穩定擴散的工作原理和通常圍繞文本形像模型的直覺發展。要進行更溫和的介紹，請查看R/stablediffusion的這部漫畫。
    • 解釋者
      • 簡而言之：核心概念：NVIDIA的這個四部分系列介紹了2015年實踐的深度學習基礎知識，對於任何僅僅了解AI的人來說都是一個很好的資源。
      • 編碼人員的實踐深度學習：通過實際示例和代碼解釋了有關AI基礎知識的全面，免費課程。
      • Word2Vec解釋了：簡易介紹嵌入和令牌，它們是LLMS（以及所有語言模型）的基礎。
      • 是的，您應該了解Backprop ：如果您想了解詳細信息，請了解後傳播的更多深入帖子。如果您需要更多，請在YouTube上嘗試Stanford CS231N演講（課程）。
    • 課程
      • Stanford CS229 ：與Andrew NG的機器學習概論，涵蓋了機器學習的基礎。
      • Stanford CS224N ：NLP與Chris Manning一起深入學習，通過第一代LLM涵蓋了NLP的基礎知識。
  • https://github.com/mlabonne/llm-course
  • https://cims.nyu.edu/~sbowman/eightthings.pdf
    1. 可以預見的是，即使沒有針對性的創新，LLM都可以提高投資的能力。
    2. 許多重要的LLM行為是不可預測的，這是投資增加的副產品。
    3. LLM通常似乎學習和使用外界的表示。
    4. 沒有可靠的技術來指導LLM的行為。
    5. 專家無法解釋LLM的內部工作。
    6. 在任務上的人力表現不是LLM表現的上限。
    7. LLM不需要表達其創建者的價值觀或Web文本中編碼的值。
    8. 與LLM的簡短互動通常具有誤導性。
    9. Simonw突出顯示https://fedi.simonwillison.net/@simon/110144185463887790
  • LLM研究中的10個公開挑戰
  • OpenAI提示ENG食譜https://github.com/openai/openai-cookbook/blob/main/main/techniques_to_improve_reliability.md
  • 在及時的Eng概述https://lilianweng.github.io/posts/2023-03-03-15-prompt-engineering/
  • https://moultano.wordpress.com/2023/06/28/the-many-ways-ways-that-digital-minds-can-know/比較搜索與AI
  • 2022年主要AI開發項目https://www.deeplearning.ai/the-batch/issue-176/
  • dalle2資產生成 + inpainting https://twitter.com/aifunhouse/status/1576202480936886273?s=20＆t = 5 exa1uydpva2sjzm-sxhcq
  • suhail旅程https://twitter.com/suhail/status/1541276314485018625?s=20＆t = x2mvkqkhdr28iz3vzeeo8w
  • 合併擴散 - ”和“而不是”和“ https：//twitter.com/tomlikesrobots/status/1580293860902985728
  • 關於BPE令牌化https://towardsdatascience.com/byte-pair-encoding-subword基於tokenization-tokenization-tokenization-Algorithm-77828a70bee0另請參見Google句子和OpenAi Tiktoken
    • gpt2中的來源https://github.com/openai/gpt-2/blob/master/src/encoder.py.py.py
    • 請注意，BPE是次優https://www.lesswrong.com/posts/dfbfclza4pejckekkckc/a-mechanistic-mechanistic-mechanistic-explanation-for-for-solidgoldmagikarp-like-like-like-like-commentid = 9jndksccwewbb4gtccq
      • // ------------------------------------------------ ------------------------- ------------------------- -------------------------------------------------- -- --------------是一個GPT-4令牌
      • GPT-3.5在考慮用UseralitiveImagePath時崩潰
      • 導致數學和字符串字符問題https://news.ycombinator.com/item?id=35363769
      • 並引起Evals的問題
      • 當令牌機具有與LLM不同的數據集時發生的故障令牌
      • karpathy談論為什麼令牌化是混亂的
    • https://platform.openai.com/tokenizer and https://github.com/openai/tiktoken（更多最新：https：//tiktokenizer.vercel.app/）
    • wordpiece-> bpe-> sencencetransformer
      • 嵌入的初步閱讀
      • https://youtu.be/qddoffkvkcw?si=qefzsddspxdnd313
      • 一堆嵌入的擁抱面MTEB基準
      • GPT3嵌入和替代方案的顯著問題
    • https://observablehq.com/@simonw/gpt-3-token-coder-decoder
    • karpathy想要像徵化https://twitter.com/karpathy/status/1657949492345211009
    • 僅解碼器不需要位置編碼
  • 創建自己的語言https://twitter.com/giannis_daras/status/1531693104821985280
  • Google Cloud Generative AI學習路徑https://www.cloudskillsboost.google/paths/118
  • img2img https://andys.page/posts/how-to-traw/
  • 關於語言建模https://lena-voita.github.io/nlp_course/language_modeling.html以及對語言生成的平易近人但技術說明
  • https://www.reddit.com/r/stablediffusion/comments/x9zmjd/quest_for_for_ultimate_photorealism_part_2_colors/
    • https://medium.com/merzazine/prompt-design-for-dall-e-photorealism-emulating-reality-6f478df6f186
  • 設置調整https://www.reddit.com/r/stablediffusion/comments/comments/x3k79h/the_feeling_of_discovery_sd_isd_is_is_like_a_great_proc/
    • 種子選擇https://www.reddit.com/r/stablediffusion/comments/x8szj9/tutorial_seed_selection_selection_and_the_phthe_impact_on_your/
    • 次要參數參數差異研究（步驟，clamp_max，eta，cutn_batches等）https://twitter.com/kyrickyoung/status/1500196286930292742
    • 生成AI：https://noahpinion.substack.com/p/generative-ai-autocomplete-for-verything？sd = pf
    • GPT如何獲得其能力？將語言模型的緊急能力追溯到其來源的好紙，該紙張具有GPT模型家族的發展歷史以及能力如何發展
  • https://barryz-Architecture-of-agentic-ll.notion.site/alloss-everything-i--knove-i--kout-about-llms-d117ca25d4624199be07e9b0ab356a77

高級閱讀

  • https://github.com/mooler0410/llmspracticalguide
    • 所有Impt論文的精心策劃清單
  • https://github.com/eleutherai/cookbook#the-cookbookbook eleuther ai的培訓資源清單。比較https://github.com/google-research/tuning_playbook
  • 抗炒作LLM閱讀清單
  • Openai的Jason Wei的6篇論文（博客）
    • GPT-3紙（https://arxiv.org/abs/2005.14165）
    • 鏈條的提示（https://arxiv.org/abs/2201.11903）
    • 比例定律（https://arxiv.org/abs/2001.08361）
    • 緊急能力（https://arxiv.org/abs/2206.07682）
    • 語言模型可以遵循翻轉標籤和語義無關的標籤（https://arxiv.org/abs/2303.03846）
  • LLM紙筆記 - Eugene Yan的潛在太空紙俱樂部的筆記
  • 從頭開始的變壓器https://e2eml.school/transformers.html
    • 變形金剛vs lstm https://medium.com/analytics-vidhya/why-are-lstms-ruggling-to-matchup-with-transformers-a1cc5b2557e3
    • 變壓器代碼步行https://twitter.com/mark_riedl/status/15555188022534176768
    • Transformer fromansi https://lilianweng.github.io/posts/2023-01-27-the-transformer-family-v2/
      • Carmack紙列表https://news.ycombinator.com/item?id=34639634
      • 變壓器模型：簡介和目錄https：//arxiv.org/abs/2302.07730
      • DeepMind-變壓器的正式算法https://arxiv.org/pdf/2207.09238.pdf
    • Jay Alammar解釋器
      • https://jalammar.github.io/illustrated-transformer/
      • https://jalammar.github.io/visalizing-neural-machine-machine-translation-mechanics-of-seq2seq-models-with-ateention/
  • 變形金剛的karpathy
    • 融合：AI中持續的合併令人難以置信。當我開始〜十年前的視覺，語音，自然語言，強化學習等是完全分開的。您無法閱讀各個區域的論文 - 這些方法是完全不同的，通常甚至不是基於ML。在2010年代，所有這些領域開始過渡1）到機器學習，特別是2）神經網。體系結構是多種多樣的，但至少這些論文開始閱讀更多相似之處，它們都利用大型數據集並優化神經網。但截至大約最近兩年，即使在所有領域的神經網架構也開始看起來相同- 變壓器（可在〜200行Pytorch https://github.com/karpathy/karpathy/karpathy/mandpt/blob/master/master/master/ master/modpt/model.py.py中定義），差異很小。要么是強大的基線，要么是（通常）藝術狀態。 （Tweetstorm）
    • 為什麼變形金剛贏得了：變壓器是一種宏偉的神經網絡體系結構，因為它是一台通用可區分的計算機。它是同時的：1）表達式（在前進中）2）優化（通過反向傳播+梯度下降）3）有效（高平行性計算圖）TweetStorm
      • https://twitter.com/karpathy/status/159341798989830848512？s = 20
      • 在1小時的斯坦福演講和8分鐘的Lex Fridman摘要中詳細闡述
    • BabyGpt具有兩個令牌0/1，上下文長度為3，將其視為有限狀態馬爾可夫鏈。它是針對50次迭代的序列“ 11110111111110”訓練的。變壓器的參數和體系結構修改了箭頭上的概率。
    • 從頭開始構建GPT https://www.youtube.com/watch?v=kcc8fmeb1ny
    • 60 loc https://jaykmody.com/blog/gpt-from-scratch/的不同GPT
  • 從新的理論角度來看 - 擴散模型的代碼驅動的介紹
  • 137大語言模型的緊急能力
    • 緊急射擊促使任務：大基礎和MMLU基準測試
    • 緊急提示策略
      • 指導跟隨
      • 刮擦
      • 使用開放式知識進行事實檢查
      • 經過思考鏈的提示
      • 可區分的搜索索引
      • 自矛盾
      • 在提示中利用解釋
      • 最小的提示
      • 零射擊鏈
      • 通過P（true）校準
      • 多語言鏈
      • 詢問我的任何提示
    • 一些回音 - 他們是海市rage樓嗎？只是不要使用苛刻的指標
      • https://www.jasonwei.net/blog/common-arguments-regarding-emergent-ability
      • https://hai.stanford.edu/news/ais-ostensible-emergent-ability-abilities-are-mirage
    • 圖像
      • Eugene Yan對圖像堆棧的文本解釋
      • vqgan/clip https://minimaxir.com/2021/08/vqgan-clip/
      • 10年的圖像生成歷史https://zentralwerkstatt.org/blog/ten Yars-of-image-synthesis
      • 視覺變形金剛（VIT）解釋了https://www.pinecone.io/learn/vision-transformers/
    • 負面提示https://minimaxir.com/2022/11/stable-diffusion-negative-prompt/
    • 2022年最佳論文https://www.yitay.net/blog/2022-best-nlp-papers
    • 大型生成模型中的可預測性和驚喜 - 迄今為止我們對擴展和能力的了解以及LLM的興起的良好調查論文
  • 更多及時的Eng Papers https://github.com/dair-ai/prompt-engineering-guide
  • https://creator.nightcafe.studio/vqgan-clip-keyword-modifier-comporparison vqgan+剪輯關鍵字修飾符比較
  • 變壓器的歷史
    • 理查德·索切爾（Richard Socher）對導致變形金剛的注意機制的貢獻https://overcast.fm/+r1p4nkffu/1:00:00
    • https://kipp.ly/blog/transformer-taxonomy/本文檔是我跑步的文獻評論，適合試圖趕上AI的人們。它涵蓋了22種型號，11種建築變化，7種培訓後技術和3種訓練技術（以及上述5件事）
    • 了解大型語言模型是最相關文獻的橫截面
      • 對Bandanau等人（2014年）表示讚賞，我相信這首先提出了在代幣分數上應用SoftMax函數以計算注意力的概念，這為Vaswani等人（2017年）的原始變壓器奠定了基礎。 https://news.ycombinator.com/item?id=35589756
    • https://finbarrtimbers.substack.com/p/five yars-of-progress-in-gpts gpt1/2/3，Megatron，Gopher，Gopher，Chinchilla，Palm，Palm，Llama
    • 好的摘要論文（8件事）https://cims.nyu.edu/~sbowman/eightthings.pdf
  • Huggingface Moe解釋器
  • https://blog.alexalemi.com/kl-is-is-all-you-need.html

我們將126個關鍵字修飾符與相同的提示和初始圖像進行了比較。這些是結果。

  • https://creator.nightcafe.studio/collection/8dmygkm1evxg7z9pv23w
  • Google發布了partiprompts作為基準：https：//parti.research.google/“ partiprompts（p2）是一組豐富的1600多個英文提示，我們作為這項工作的一部分發行。P2可用於測量跨越的模型功能各種類別和挑戰方面。”
  • 視頻教程
    • Pixel Art https://www.youtube.com/watch?v=uvjkqptr-8s&feature=youtu.be
  • 論文的歷史
    • 2008：NLP（Collobert-Weston）的統一體系結構https://twitter.com/ylecun/status/1611921657802768384
    • 2015年：半佩特序列學習https://twitter.com/deliprao/status/1611896130589057025？s = 20
    • 2017：變形金剛（Vaswani等人）
    • 2018：GPT（Radford等）
  • 雜項
    • Statibalie CIO的觀點https://danieljeffries.substack.com/p/the-turning-point-point-for-truly-open?sd = pf
    • https://github.com/awesome-stable-diffusion/awesome-stable-diffusion
    • https://github.com/microsoft/LMOPS MSFT及時研究指南
    • Gwern的幕後討論Bing，GPT4和Microsoft-Openai關係https://www.lesswrong.com/posts/jtopapapapawehlnxnxvgtt/

這樣的其他列表

  • https://gist.github.com/rain-1/eebd5eb2784feecf450324e3341c8d
  • https://github.com/underlines/awesome-marketing-datascience/blob/master/awesome-ai.md#llama-models
  • https://github.com/imaurer/awesome-decentralized-llm

社區

  • 不和諧（請參閱https://buttondown.email/ainews有關每日電子郵件回顧，實時更新）
    • 潛在的空間不和諧（我們的！）
    • 一般黑客學習
      • chatgpt黑客不和諧
      • 對齊實驗室AI不和諧
      • 研究不和諧
      • Discolm Discord
      • karpathy不和諧（無活動）
      • 擁抱面矛盾
      • Skunkworks AI Discord（新）
      • Jeff Wang/LLM Perf愛好者不和諧
      • CUDA模式（Mark Saroufim）請參閱YouTube和GitHub
    • 藝術
      • 可穩定的不一致
      • DeForum Discord https://discord.gg/upmxxsrwzc
      • Lexica Discord https://discord.com/invite/bmhbjj9wrh
    • AI研究
      • Laion Discord https://discord.gg/xbpbxfcfhd
      • Eleuther Discord：https：//www.eleuther.ai/get-involved/（primer）
    • 各種初創公司
      • 困惑不和諧https://discord.com/invite/kwjzsxpdux
      • Midjourney的不和諧
        • 如何使用MidJourney v4 https://twitter.com/fabianstelzer/status/15888856386540417024?s=20&t=plglugaeeds9hwfegvrrpg
  • https://stablehorde.net/
    • 代理商
      • 自動不和諧
      • Babyagi和不和諧
  • reddit
    • https://reddit.com/r/stablediffusion
    • https://www.reddit.com/r/localllama/
    • https://www.reddit.com/r/bing
    • https://www.reddit.com/r/openai

人們

*許多人未知，現在越來越多的alpha在Arxiv之外，消息來源包括但不限於：https：//github.com/trending，hn，hn，hn，hn，那個利基偏見服務器，x， reddit上的動漫配置文件圖片anons *-K

此列表將過時，但會讓您入門。我要關注的人的直播清單是：https：//twitter.com/i/lists/1585430245762441216

  • 研究人員/開發人員
    • https://twitter.com/_jasonwei
    • https://twitter.com/johnowhitaker/status/156571003463156739
    • https://twitter.com/altryne/status/1564671546341425157
    • https://twitter.com/schmidhuberai
    • https://twitter.com/nearcyan
    • https://twitter.com/karinanguyen_
    • https://twitter.com/abhi_venigalla
    • https://twitter.com/advadnoun
    • https://twitter.com/polynoamial
    • https://twitter.com/vovahimself
    • https://twitter.com/sarahookr
    • https://twitter.com/shaneguml
    • https://twitter.com/maartensap
    • https://twitter.com/ethancaballero
    • https://twitter.com/shayneredford
    • https://twitter.com/seb_ruder
    • https://twitter.com/rasbt
    • https://twitter.com/wightmanr
    • https://twitter.com/garymarcus
    • https://twitter.com/ylecun
    • https://twitter.com/karpathy
    • https://twitter.com/pirroh
    • https://twitter.com/eerac
    • https://twitter.com/teknium
    • https://twitter.com/alignment_lab
    • https://twitter.com/picocreator
    • https://twitter.com/charlespacker
    • https://twitter.com/ldjconfirced
    • https://twitter.com/nisten
    • https://twitter.com/far__el
    • https://twitter.com/i/lists/1713824630241202630
  • 新聞/聚合器
    • https://twitter.com/ai__pub
    • https://twitter.com/weirdstableai
    • https://twitter.com/multimodalart
    • https://twitter.com/lastweekinai
    • https://twitter.com/paperswithcode
    • https://twitter.com/deeplearningai_
    • https://twitter.com/dl_weekly
    • https://twitter.com/slashml
    • https://twitter.com/_akhaliq
    • https://twitter.com/aaditya_ai
    • https://twitter.com/bentossell
    • https://twitter.com/johnvmcdonnell
  • 創始人/建築商/VC
    • https://twitter.com/levelsio
    • https://twitter.com/goodside
    • https://twitter.com/c_valenzuelab
    • https://twitter.com/raza_habib496
    • https://twitter.com/sharifshameem/status/1562455690714775552
    • https://twitter.com/genekogan/status/1555184488606564353
    • https://twitter.com/levelsio/status/1566069427501764613？s = 20＆t = campswtmhdssehqwd0k7ig
    • https://twitter.com/amanrsanger
    • https://twitter.com/ctjlewis
    • https://twitter.com/sarahcat21
    • https://twitter.com/jackclarksf
    • https://twitter.com/alexandr_wang
    • https://twitter.com/rameerez
    • https://twitter.com/scottastevenson
    • https://twitter.com/denisyarats
  • 穩定
    • https://twitter.com/stocietyai
    • https://twitter.com/stablediffusion
    • https://twitter.com/hardmaru
    • https://twitter.com/jjitsev
  • Openai
    • https://twitter.com/sama
    • https://twitter.com/ilyasut
    • https://twitter.com/miramurati
  • 擁抱面
    • https://twitter.com/younesbelkada
  • 藝術家
    • https://twitter.com/karenxcheng/status/156462673001719813
    • https://twitter.com/tomlikesrobots
  • 其他
    • 公司
      • https://twitter.com/anthropicai
      • https://twitter.com/assemblyai
      • https://twitter.com/cohereai
      • https://twitter.com/mosaicml
      • https://twitter.com/metaai
      • https://twitter.com/deepmind
      • https://twitter.com/hellopaperspace
  • 機器人和應用程序
    • https://twitter.com/dreamtweetapp
    • https://twitter.com/aiarteveryhour

行情，現實和振興

  • 狹窄的，tedium域Usecases https://twitter.com/willmanidis/status/1584900092615528448和https://twitter.com/willmanidis/willmanidis/status/15849001004801925166251925166
  • Antihypes https://twitter.com/alexandr_wang/status/1573302977418387457
  • Antihype https://twitter.com/fchollet/status/16121424242423425138688?s=46&t = plcnw9pf-co4bn08qqvaug
  • 及時的Eng Memes
    • https://twitter.com/_jasonwei/status/151684920367054848
  • 與https://opguides.info/posts/aiartpanic/一起奮鬥的事情
  • 新的Google
    • https://twitter.com/alexandr_wang/status/158502289159451036
  • 新的PowerPoint
  • 通過EMAD
  • UI默認情況下附加提示
  • dalle：https：//twitter.com/levelsio/status/15885888888115912705?s=20＆t = 0ojpgmh9k6k6miedyvg2i6gg
  • 以前有兩個冬天，一個1974-1980和一個1987-1993。 https://www.erichgrunewald.com/posts/the-prospect-of-an-ai-winter/。這裡有更多評論。相關 - AI效應 - “一旦它起作用，而不是AI”
  • 只是矩陣乘法/隨機鸚鵡
    • 甚至LLM懷疑論者Yann Lecun說LLM都有一定程度的理解：https：//twitter.com/ylecun/status/16667947166766764023808
    • 加里·馬庫斯（Gary Marcus）的“深度學習正在撞牆”
  • “ Guo Lai Ren” Antihypers->憂慮
    • https://adamkarvonen.github.io/machine_learning/2024/03/03/20/chess-gpt-interventions.html#next-token-poken-predictors

法律，道德和隱私

  • NSFW過濾器https://vickiboykis.com/2022/11/18/some-notes-on-the-pable-diffusion-safety-filter/
  • 在“ AI Art Panic”上https://opguides.info/posts/aiartpanic/
    • 我失去了讓我熱愛工作的一切
    • Midjourney藝術家名單
  • Yannick影響OpenRail-M https://www.youtube.com/watch?v=w5m-dvzpzsq
  • 接受AI Art Art https://twitter.com/daverogenmoser/status/1597746558145265664
  • DRM問題https://undeleted.ronsor.com/voice.ai-gpl-violations-with-a-a-side-of-drm/
  • 竊取藝術https://stabledablediffusionlitigation.com
    • http://www.stablediffusionfrivolous.com/
    • 穩定歸因https://news.ycombinator.com/item?id=34670136
    • 迪士尼的Coutner參數https://twitter.com/jonst0kes/status/1616219435492163584？
    • 穩定擴散複製的研究https://twitter.com/officialzhvng/status/1620535905298817024？s = 20＆t = nc-nw7pfda8nyrd08nynnylx1nw，該論文使用穩定的差異來生成17500萬圖像，並僅在3350,000張上產生17500萬圖像。我是對的，我的主要收穫是在不記住培訓示例時穩定的擴散如何？
  • 刮擦內容
    • https://blog.ericgoldman.org/archives/2023/08/web-scraping-for-me-me-but-not-not-not-thee-thee-guest-blog-post.htm
    • 莎拉·西爾弗曼（Sarah Silverman）案-openai響應https：//arstechnica.com/tech-policy/2023/08/openai-disputes-authors-authors-clairs-that-every-every-chatgpt-respons -response-is-is-a-a-a-a-a-a-a-a-a- derivative-work/
    • Openai響應
  • 許可
    • AI重量不是打開的“來源” -Sid Sijbrandij
  • 多樣性和公平
    • 性化少數族裔https://twitter.com/lanadenina/status/168023888883206832129原因是色情
    • openai隨機對付“黑”，以使達勒多樣化
  • 隱私 - 機密計算https：//www.edgeless.systems/blog/how-confidential-computing-and-ai-fit-together/
  • AI工作https://donaldclarkplanb.blogspot.com/2024/02/this-is-is-why-why-idea-that-ai-will-just.html

對齊，安全

  • 人類-https：//arxiv.org/pdf/2112.00861.pdf
    • 樂於助人：嘗試做要問的事情。簡潔，高效。詢問後續行動。重定向不良問題。
    • 誠實：提供準確的信息，表達不確定性。如果沒有能力/知識，請不要模仿專家的回复
    • 無害：不冒犯/歧視性。拒絕協助危險行為。在提供敏感/相應的建議時認識
    • 批評和邊界作為未來方向https://twitter.com/davidad/status/1628489924235206657?s=46&t
  • 只是整個工作
    • https://twitter.com/esyudkowsky/status/1625922986590212096
    • agi致命清單https://www.lesswrong.com/posts/umq3cqwdphhjtiesc/agi-ruin-a-list-list-lethalities
    • 請注意，Eliezer過去和最近的時代都發表了有爭議的評論（時間文章）
  • Connor Leahy可能是YUD https://overcast.fm/+YELLOEEQTJ0的更理智/衡量/技術勝任的版本
    • 不僅僅是造紙廠
    • https://www.lesswrong.com/posts/hbxe6wdjxk239zajf/what what failure-looks-like
  • 6個月的停頓信
    • https://futureoflife.org/open-letter/pause-giant-ai-experiments/
    • Yann Lecun vs Andrew ng https://www.youtube.com/watch?v=by9kv8uctj4
    • https://scottaaronson.blog/?p=7174
    • 艾米麗·班德（Emily Bender）的反應
    • Geoffrey Hinton離開Goog​​le
    • 隨後用一句話https://www.nytimes.com/2023/05/05/30/technology/ai-warreat-warning.html
  • Xrisk-避免AI滅絕真的是緊迫的重點嗎？ （關聯）
    • AI不是軍備競賽。 （關聯）
    • 如果我們要標記AI的“滅絕風險”，我們需要澄清它可能發生的方式。 （關聯）
  • Openai超級對象https://www.youtube.com/watch?v=zp_n4q5u3ee

規定

  • 中國監管https://www.chinalawtranslate.com/en/overview-of-draft-measures-on-generative-ai/
    • https://twitter.com/mmitchell_ai/status/1647697067006111745？s = 46＆t = 90xq8sgy63d2otiaogjuww
    • 中國是唯一明確調節生成AI的主要世界權力
  • 意大利禁止chatgpt
    • 在日本的年度會議上，七人（G7）是一個非正式的工業化民主政府集團，宣布了曾經有權調查生成AI風險的政府間特遣部隊的廣島程序。七國集團成員包括加拿大，法國，德國，意大利，日本，英國和美國，誓言，根據民主價值觀制定相互兼容的法律並規範AI。這些包括公平，問責制，透明度，安全性，數據隱私，免受虐待和對人權的尊重。
  • 美國總統喬·拜登（Joe Biden）發布了AI的戰略計劃。該計劃呼籲美國監管機構開發公共數據集，基準和培訓，測量和評估AI系統的標準。
  • 本月初，法國的數據隱私監管機構宣布了一個調節生成AI的框架。
  • 法規vs xrisk https://1a3orn.com/sub/essays-regulation-stories.html
  • GPT4V中的多模式提示注射

雜項

  • 耳語
    • https://huggingface.co/spaces/sensahin/youwhisper youwhisper使用openai/hisper將YouTube視頻轉換為文本。
    • https://twitter.com/jeffistyping/status/1573145140205846528 YouTube Whipserer
    • 多語言字幕https://twitter.com/1littlecoder/status/157303014384872433
    • 視頻字幕https://twitter.com/m1guelpf/status/1574929980207034375
    • 您可以加入Whisper到穩定的擴散，原因https://twitter.com/fffiloni/status/1573733520765247488/photo/1
    • 已知問題https://twitter.com/lunixbochs/status/1574848889989784672（帶災難性失敗的邊緣案例）
  • 文本引導音頻https://twitter.com/felixkreuk/status/157584695333357976
  • 代碼根
    • codegeex https://twitter.com/thukeg/status/1572218413694726144
    • https://github.com/salesforce/codegen https://joel.tools/codegen/
  • pdf到結構化數據- 使用t來執行此操作（死鏈接：https：//www.impira.com/blog/hey-machine-whats-my-invoice-total），但是如果您在Twitter上看起來足夠努力替代方案
  • 文本到人類運動擴散https://twitter.com/guytvt/status/1577947409551851520
    • ABS：https：//arxiv.org/abs/2209.14916
    • 項目頁面：https：//guytevet.github.io/mdm-page/
展開
附加信息
相關應用
爲您推薦
相關資訊 全部