reevo下載 - reevo源代碼下載

reevo

其他源碼

下載

[神經2024]

？歡迎！這是一個伴隨論文reevo的代碼庫：大型語言模型作為反射性演變的超高術。

給Reevo 5分鐘，並獲得最先進的算法作為回報！

1。新聞？

2024年9月： Reevo：在2024年Neurips接受了反射性演變的高毛術語的大型語言模型？
2024年5月：我們發布了新的紙張版本
2024年4月：神經組合優化（NCO）和電子設計自動化（EDA）的新型用例
2024年2月：我們很高興發布Reevo：大型語言模型作為反射性進化

2。簡介

Reevo的圖

我們介紹了語言超聲術（LHHS） ，這是一種新興的超高術（HHS），它利用LLMS進行啟發式生成，具有最小的手動干預和開放式啟發式啟發式空間。

為了增強LHHS的能力，我們提出了反思性演變（REEVO） ，這是一個通用的搜索框架，它模擬了人類專家的反思性設計方法，同時以其可擴展的LLM推斷，Internet規模域知識和強大的進化搜索超過了人類能力。

3。令人興奮的亮點？

我們可以改善以下類型的算法：

神經組合優化（NCO）
遺傳算法（GA）
螞蟻菌落優化（ACO）
指導當地搜索（GLS）
建設性的啟發式方法

關於以下問題：

旅行推銷員問題（TSP）
電容的車輛路由問題（CVRP）
定向問題（OP）
多種背包問題（MKP）
垃圾箱包裝問題（BPP）
脫皮位置問題（DPP）

帶有黑框和白色框設置。

4。用法？

將您的LLM API密鑰（OpenAI API，Zhipu API，Llama API）設置為環境變量。
默認情況下，運行日誌和中間結果保存在./outputs/main/中。
數據集是隨機生成的。
一些測試筆記本在./problems/*/test.ipynb中提供。

4.1。依賴性

Python> = 3.11
OpenAI> = 1.0.0
九頭蛇核
Scipy

您可以通過pip install -r requirements.txt安裝上面的依賴項。

特定問題的依賴性：

tsp_aco(_black_box) ：pytorch，scikit-learn
cvrp_aco(_black_box) / mkp_aco(_black_box) / op_aco(_black_box) / NCO ：pytorch
tsp_gls ：numba == 0.58

4.2。運行Reevo

 # e.g., for tsp_aco
python main.py 
    problem=tsp_aco   # problem name
    init_pop_size=4   # initial population size
    pop_size=4   # population size
    max_fe=20   # maximum number of heuristic evaluations
    timeout=20  # allowed evaluation time for one generation

請訪問./cfg/以獲取更多選項。

4.3。可用問題

旅行推銷員問題（TSP）： tsp_aco ， tsp_aco_black_box ， tsp_constructive ， tsp_gls ， tsp_pomo ， tsp_lehd
電容的車輛路由問題（CVRP）： cvrp_aco ， cvrp_aco_black_box ， cvrp_pomo ， cvrp_lehd
bin包裝問題（BPP）： bpp_offline_aco ， bpp_offline_aco_black_box ， bpp_online
多種背包問題（MKP）： mkp_aco ， mkp_aco_black_box
定向問題問題（OP）： op_aco ， op_aco_black_box
脫皮位置問題（DPP）： dpp_ga

4.4。將Reevo應用於您的問題的簡單步驟

在./cfg/problem/中定義您的問題。
生成問題實例並在./problems/中實施評估管道。
在./prompts/中添加function_description，function_signature和seed_function。

默認情況下：

LLM生成的啟發式詞被寫入f"./problems/YOUR_PROBLEM/gpt.py"中，並將導入到./problems/YOUR_PROBLEM/eval.py for tsp_aco）中， reevo._run_code 。
在訓練模式下， ./problems/YOUR_PROBLEM/eval.py /your_problem/eval.py（例如，tsp_aco）應將元觀點值打印為STDOUT的最後一行，由reevo.evaluate_population用於啟發式評估。

4.5。使用替代LLMS

使用CLI參數llm_client指定LLM API提供商和llm_client.model來確定要使用的模型。例如，

$ export LLAMA_API_KEY=xxxxxxxxxxxxxxxxxxxx
$ python main.py llm_client=llama_api llm_client.model=gemma2-9b

支持的LLM API提供商和模型包括（注意僅支持聊天模型）：

OpenAI ：GPT-3.5-Turbo（默認），GPT-4O，GPT-4O-MINI，GPT-4-TURBO，等等。
Zhipu AI ：GLM-3-Turbo，GLM-4-Air，GLM-4-0520等（完整列表）
DeepSeek ：DeepSeek-Chat
Llama API ：Llama3.1-8B/70B/405B，Gemma2-9b/27b，Qwen2-72b等（完整列表）
還有更多通過Litellm支持的提供商。

5。引用？

如果您使用我們的代碼遇到任何困難，請隨時提交問題或直接與我們聯繫！

如果您有任何疑問或想與我們討論Reevo，我們也會感到懈怠。我們願意進行合作，很樂意收到您的來信

如果您發現我們的工作有幫助（或者您很友善以為我們提供一些鼓勵），請考慮給我們一顆星星，並引用我們的論文。

 @inproceedings { ye2024reevo ,
    title = { ReEvo: Large Language Models as Hyper-Heuristics with Reflective Evolution } , 
    author = { Haoran Ye and Jiarui Wang and Zhiguang Cao and Federico Berto and Chuanbo Hua and Haeyeon Kim and Jinkyoo Park and Guojie Song } ,
    booktitle = { Advances in Neural Information Processing Systems } ,
    year = { 2024 } ,
    note = { url{https://github.com/ai4co/reevo} }
}