路德維希是什麼？

Ludwig 是一個低程式碼框架，用於建立LLM和其他深度神經網路等自訂AI 模型。

主要特點：

？輕鬆建立自訂模型：使用聲明性 YAML 設定檔即可根據資料訓練最先進的 LLM。支援多任務和多模態學習。全面的配置驗證可偵測無效的參數組合併防止執行時間故障。
⚡針對規模和效率進行最佳化：自動批次大小選擇、分散式訓練（DDP、DeepSpeed）、參數高效微調（PEFT）、4 位元量化（QLoRA）、分頁和 8 位元優化器以及大於記憶體資料集。
？專家級控制：保留對模型直至啟動功能的完全控制。支援超參數優化、可解釋性和豐富的指標視覺化。
？模組化和可擴展：只需在配置中更改一些參數即可嘗試不同的模型架構、任務、功能和模式。思考深度學習的建構模組。
？專為生產而設計：預先建置的 Docker 容器、在 Kubernetes 上使用 Ray 運行的本機支援、將模型匯出到 Torchscript 和 Triton、透過一個命令上傳到 HuggingFace。

Ludwig 由 Linux 基金會人工智慧與數據主辦。

？安裝

從 PyPi 安裝。請注意，Ludwig 需要 Python 3.8+。

pip install ludwig

或安裝所有可選依賴項：

pip install ludwig[full]

請參閱貢獻以取得更詳細的安裝說明。

？入門

想快速瀏覽 Ludwig 0.8 的一些功能嗎？看看這本 Colab 筆記本

想要微調 Llama-2 或 Mistral？看看這些筆記本：

微調 Llama-2-7b：
微調 Llama-2-13b：
微調 Mistral-7b：

有關完整的教程，請查看官方入門指南，或查看端到端範例。

大語言模型微調

讓我們微調預先訓練的 LLaMA-2-7b 大型語言模型，使其像聊天機器人一樣遵循指令（「指令調整」）。

先決條件

HuggingFace API 令牌
Llama2-7b-hf 的訪問批准
GPU 至少有 12 GiB VRAM（在我們的測試中，我們使用 Nvidia T4）

跑步

我們將使用斯坦福羊駝資料集，該資料集將被格式化為類似表格的文件，如下所示：

操作說明	輸入	輸出
給予保持健康的三個秘訣。		1.均衡飲食，確保包括...
將下面給出的項目依序排列...	蛋糕，我，吃	我吃蛋糕。
寫一篇關於一位著名人物的介紹段落...	米歇爾·歐巴馬	米歇爾·歐巴馬是一位鼓舞人心的女性，她...
…	…	…

使用以下內容建立名為model.yaml YAML 設定檔：

 model_type : llm
base_model : meta-llama/Llama-2-7b-hf

quantization :
  bits : 4

adapter :
  type : lora

prompt :
  template : |
    Below is an instruction that describes a task, paired with an input that may provide further context.
    Write a response that appropriately completes the request.

    ### Instruction:
    {instruction}

    ### Input:
    {input}

    ### Response:

input_features :
  - name : prompt
    type : text

output_features :
  - name : output
    type : text

trainer :
  type : finetune
  learning_rate : 0.0001
  batch_size : 1
  gradient_accumulation_steps : 16
  epochs : 3
  learning_rate_scheduler :
    decay : cosine
    warmup_fraction : 0.01

preprocessing :
  sample_ratio : 0.1

backend :
  type : local

現在讓我們訓練模型：

 export HUGGING_FACE_HUB_TOKEN = " <api_token> "

ludwig train --config model.yaml --dataset " ludwig://alpaca "

監督式機器學習

讓我們建立一個神經網路來預測某個影評人對爛番茄的評論是正面還是負面。

我們的資料集將是一個 CSV 文件，如下所示：

電影標題	內容評級	流派	運行時	頂級評論家	評論內容	受到推崇的
救我們脫離邪惡	右	動作與冒險、恐怖	117.0	真的	導演史考特德瑞克森和他的合著者保羅哈里斯博德曼以平淡無奇的恐懼呈現了一部例行程序。	0
芭芭拉	PG-13	藝術之家與國際、戲劇	105.0	錯誤的	不知何故，在這個激動人心的敘述中，芭芭拉成功地堅持了她的原則、人性和勇氣，並為拯救一名持不同政見的少女而奮鬥，她的生活被共產黨試圖摧毀。	1
可怕的老闆	右	喜劇	98.0	錯誤的	這些老闆無法證明謀殺或持久的喜劇記憶是正當的，從而致命地損害了一場本來可以很棒但最終只是平庸的鬧劇。	0
…	…	…	…	…	…	…

從此處下載資料集的範例。

wget https://ludwig.ai/latest/data/rotten_tomatoes.csv

接下來建立一個名為model.yaml YAML 設定文件，其中包含以下內容：

 input_features :
  - name : genres
    type : set
    preprocessing :
      tokenizer : comma
  - name : content_rating
    type : category
  - name : top_critic
    type : binary
  - name : runtime
    type : number
  - name : review_content
    type : text
    encoder :
      type : embed
output_features :
  - name : recommended
    type : binary

就是這樣！現在讓我們訓練模型：

ludwig train --config model.yaml --dataset rotten_tomatoes.csv

快樂建模

嘗試將 Ludwig 應用於您的資料。如果您有任何疑問，請聯絡 Discord。

❓ 為什麼你應該使用 Ludwig

最小的機器學習樣板
Ludwig 開箱即用地處理機器學習的工程複雜性，使研究科學家能夠專注於建立最高抽象層級的模型。 torch.nn.Module模型的資料預處理、超參數最佳化、設備管理和分散式訓練完全免費。
輕鬆建立您的基準
創建最先進的基準並將其與新模型進行比較是一個簡單的配置變更。
輕鬆地將新架構應用於多個問題和資料集
在 Ludwig 支援的廣泛任務和資料集中應用新模型。 Ludwig 包含一個可供任何使用者存取的完整基準測試工具包，只需簡單的配置即可在多個資料集上執行多個模型的實驗。
高度可配置的資料預處理、建模和指標
模型架構、訓練循環、超參數搜尋和後端基礎設施的任何和所有方面都可以修改為聲明性配置中的附加字段，以自訂管道以滿足您的要求。有關可配置內容的詳細信息，請查看 Ludwig 配置文件。
開箱即用的多模式、多工學習
將表格資料、文字、圖像甚至音訊混合併匹配到複雜的模型配置中，而無需編寫程式碼。
豐富的模型導出和跟踪
使用 Tensorboard、Comet ML、Weights & Biases、MLFlow 和 Aim Stack 等工具自動追蹤所有試驗和指標。
自動將訓練擴展到多 GPU、多節點集群
從本地機器上的訓練轉移到雲端，無需更改程式碼。
適用於最先進模型的低程式碼接口，包括預先訓練的 Huggingface Transformer
Ludwig 還原生地與預先訓練的模型集成，例如 Huggingface Transformers 中提供的模型。使用者可以從大量最先進的預訓練 PyTorch 模型中進行選擇，而無需編寫任何程式碼。例如，使用 Ludwig 訓練基於 BERT 的情緒分析模型非常簡單：
```
ludwig train --dataset sst5 --config_str " {input_features: [{name: sentence, type: text, encoder: bert}], output_features: [{name: label, type: category}]} "
```

AutoML 的低程式碼接口

Ludwig AutoML 允許使用者透過僅提供資料集、目標列和時間預算來獲得經過訓練的模型。

 auto_train_results = ludwig . automl . auto_train ( dataset = my_dataset_df , target = target_column_name , time_limit_s = 7200 )

輕鬆生產
Ludwig 讓深度學習模型（包括在 GPU 上）的服務變得容易。為經過訓練的 Ludwig 模型啟動 REST API。
```
ludwig serve --model_path=/path/to/model
```
Ludwig 支援將模型匯出到高效的 Torchscript 套件。
```
ludwig export_torchscript -–model_path=/path/to/model
```