DynPrompt 1a

DynPrompt-1a

動態提示助手-單代理

主要特點

Automate repetitive tasks using gen AI.

$0 subscription fee. 100% data privacy.

關於項目

這個專案展示了我對使用 gen AI 在 Python 中進行即時工程和編碼的理解。

它是一種自動化重複任務的工具——最大限度地減少在非增值流程上花費的時間，並提高工作效率。

這是我完成deeplearning.ai的AI Python course和Prompt Engineering with Llama course後的專案。

技術細節

• Python版本：3.11
• 使用的函式庫：ollama-python
• 所需依賴：pandas

安裝與使用

從https://ollama.com/download下載並安裝 Ollama

在終端機中：

 pip install ollama 
ollama pull llama3.1:latest 

 pip install pandas 

準備資料.csv

prompt_var是您的任務的內容。

將它們分別貼到prompt_var列中的單獨行中。

設定您的提示

在app.py的Base prompt部分下編輯您的提示。使用及時的工程技術來獲得所需的結果。

範例用例：

• 電子郵件文字擷取器

   prompt = f"""
      Given is an email from contains product code and corresponding remarks. Identify the product code and remarks within the original text. 
      
      Provide the product code and remark only in csv format, ready to save. Exclude the "```csv" declaration, don't add spaces after the comma, include column headers.
  
      Format:
      product_code, remark
      product_code_1, remark_1
      ...
      
      Email:
      """
  

• 客戶評論文本分類器

   prompt = f"""
      Respond with "Positve" or "Negative": 
      the comment is a product reivew, describing an user experience. 
  
      Comment:
      """
  

即時工程資源：

• deeplearning.ai Llama 即時工程課程
• Microsoft / Meta提示工程文檔
• 抄寫法

運行app.py

 cd DynPrompt-1a
python app.py

response.csv 中的結果

responses.csv保存在同一資料夾中。在 Excel 中開啟。

挑戰和限制

回應很大程度上取決於所使用的法學碩士和及時的工程技術。

可以利用上述資源來完善快速工程技術。

可以使用什麼 LLM 模型取決於您的硬體。 LLM 模型越好，RAM 和 VRAM 要求就越高。

特別是在這個腳本中，我在 MacBook M3 Pro 18GB RAM上使用Llama 3.1 8B 。如果您的 VRAM 不足，您可能會遇到錯誤。

檢查終端以查看 Ollama 是否正常運作。或相應地編輯較小的法學碩士的腳本。

 ollama run llama3.1:latest

未來的計劃和想法

我感興趣的是：

• Langflow－用於多代理程式工作流程的低程式碼工具，允許執行更複雜的任務

• n8n－一個跨不同應用程式工作的自動化工作流程工具

回饋和貢獻

如果您有任何回饋或改進建議，或者您知道有關 Langflow 和 n8n 的任何好的教程，請告訴我！讓我們聯絡吧。

歸因

我要感謝開源社群和 deeplearning.ai 的講師。