reevo下载 - reevo源代码下载

reevo

其他源码

下载

[神经2024]

？欢迎！这是一个伴随论文reevo的代码库：大型语言模型作为反射性演变的超高术。

给Reevo 5分钟，并获得最先进的算法作为回报！

1。新闻？

2024年9月： Reevo：在2024年Neurips接受了反射性演变的高毛术语的大型语言模型？
2024年5月：我们发布了新的纸张版本
2024年4月：神经组合优化（NCO）和电子设计自动化（EDA）的新型用例
2024年2月：我们很高兴发布Reevo：大型语言模型作为反射性进化

2。简介

Reevo的图

我们介绍了语言超声术（LHHS） ，这是一种新兴的超高术（HHS），它利用LLMS进行启发式生成，具有最小的手动干预和开放式启发式启发式空间。

为了增强LHHS的能力，我们提出了反思性演变（REEVO） ，这是一个通用的搜索框架，它模拟了人类专家的反思性设计方法，同时以其可扩展的LLM推断，Internet规模域知识和强大的进化搜索超过了人类能力。

3。令人兴奋的亮点？

我们可以改善以下类型的算法：

神经组合优化（NCO）
遗传算法（GA）
蚂蚁菌落优化（ACO）
指导当地搜索（GLS）
建设性的启发式方法

关于以下问题：

旅行推销员问题（TSP）
电容的车辆路由问题（CVRP）
定向问题（OP）
多种背包问题（MKP）
垃圾箱包装问题（BPP）
脱皮位置问题（DPP）

带有黑框和白色框设置。

4。用法？

将您的LLM API密钥（OpenAI API，Zhipu API，Llama API）设置为环境变量。
默认情况下，运行日志和中间结果保存在./outputs/main/中。
数据集是随机生成的。
一些测试笔记本在./problems/*/test.ipynb中提供。

4.1。依赖性

Python> = 3.11
OpenAI> = 1.0.0
九头蛇核
Scipy

您可以通过pip install -r requirements.txt安装上面的依赖项。

特定问题的依赖性：

tsp_aco(_black_box) ：pytorch，scikit-learn
cvrp_aco(_black_box) / mkp_aco(_black_box) / op_aco(_black_box) / NCO ：pytorch
tsp_gls ：numba == 0.58

4.2。运行Reevo

 # e.g., for tsp_aco
python main.py 
    problem=tsp_aco   # problem name
    init_pop_size=4   # initial population size
    pop_size=4   # population size
    max_fe=20   # maximum number of heuristic evaluations
    timeout=20  # allowed evaluation time for one generation

请访问./cfg/以获取更多选项。

4.3。可用问题

旅行推销员问题（TSP）： tsp_aco ， tsp_aco_black_box ， tsp_constructive ， tsp_gls ， tsp_pomo ， tsp_lehd
电容的车辆路由问题（CVRP）： cvrp_aco ， cvrp_aco_black_box ， cvrp_pomo ， cvrp_lehd
bin包装问题（BPP）： bpp_offline_aco ， bpp_offline_aco_black_box ， bpp_online
多种背包问题（MKP）： mkp_aco ， mkp_aco_black_box
定向问题问题（OP）： op_aco ， op_aco_black_box
脱皮位置问题（DPP）： dpp_ga

4.4。将Reevo应用于您的问题的简单步骤

在./cfg/problem/中定义您的问题。
生成问题实例并在./problems/中实施评估管道。
在./prompts/中添加function_description，function_signature和seed_function。

默认情况下：

LLM生成的启发式词被写入f"./problems/YOUR_PROBLEM/gpt.py"中，并将导入到./problems/YOUR_PROBLEM/eval.py for tsp_aco）中， reevo._run_code 。
在训练模式下， ./problems/YOUR_PROBLEM/eval.py /your_problem/eval.py（例如，tsp_aco）应将元观点值打印为STDOUT的最后一行，由reevo.evaluate_population用于启发式评估。

4.5。使用替代LLMS

使用CLI参数llm_client指定LLM API提供商和llm_client.model来确定要使用的模型。例如，

$ export LLAMA_API_KEY=xxxxxxxxxxxxxxxxxxxx
$ python main.py llm_client=llama_api llm_client.model=gemma2-9b

支持的LLM API提供商和模型包括（注意仅支持聊天模型）：

OpenAI ：GPT-3.5-Turbo（默认），GPT-4O，GPT-4O-MINI，GPT-4-TURBO，等等。
Zhipu AI ：GLM-3-Turbo，GLM-4-Air，GLM-4-0520等（完整列表）
DeepSeek ：DeepSeek-Chat
Llama API ：Llama3.1-8B/70B/405B，Gemma2-9b/27b，Qwen2-72b等（完整列表）
还有更多通过Litellm支持的提供商。

5。引用？

如果您使用我们的代码遇到任何困难，请随时提交问题或直接与我们联系！

如果您有任何疑问或想与我们讨论Reevo，我们也会感到懈怠。我们愿意进行合作，很乐意收到您的来信

如果您发现我们的工作有帮助（或者您很友善以为我们提供一些鼓励），请考虑给我们一颗星星，并引用我们的论文。

 @inproceedings { ye2024reevo ,
    title = { ReEvo: Large Language Models as Hyper-Heuristics with Reflective Evolution } , 
    author = { Haoran Ye and Jiarui Wang and Zhiguang Cao and Federico Berto and Chuanbo Hua and Haeyeon Kim and Jinkyoo Park and Guojie Song } ,
    booktitle = { Advances in Neural Information Processing Systems } ,
    year = { 2024 } ,
    note = { url{https://github.com/ai4co/reevo} }
}