华盛顿大学的研究人员提出了一种创新的代理调优方法，该方法无需访问模型权重即可高效地优化大型语言模型。该方法通过比较小型调整模型和未调整模型的预测结果，引导基础模型的预测朝向调优模型的方向移动，从而提升模型性能并更好地保留训练知识。这一突破性技术在LLAMA-2的13B和70B原始模型上的微调实验中得到了验证，展现了其显著的效率优势。
站长之家报道，华盛顿大学推出代理调优方法，通过对比小型调整模型和未调整模型的预测结果，无需接触模型权重即可实现大模型的高效调优。方法在解码时能更好地保留训练知识，提升调优效率。代理调优性能经研究人员对LlAMA-2的13B、70B原始模型进行微调得到验证。该方法通过对比基础模型M和调优模型M+的输出预测分布，引导基础模型的预测朝向调优模型的方向移动，是一种创新性的调优方法。代理调优方法为大模型的高效调优提供了解决方案，同时在解码时更好地保留训练知识，有望为AI领域带来新的启示。这项新方法为大模型调优提供了更便捷高效的途径，减少了对模型权重直接操作的需求，并有效提升了模型性能和知识保留能力，为人工智能领域的发展带来了新的可能性。未来，该方法有望在更多的大型语言模型调优中得到应用，进一步推动AI技术进步。