上海建站优化,做网站如何收费,汉南城乡建设局网站,wordpress 手机域名并非所有人都熟知如何与 LLM 进行高效交流。
一种方案是#xff0c;人向模型对齐。 于是有了 「Prompt工程师」这一岗位#xff0c;专门撰写适配 LLM 的 Prompt#xff0c;从而让模型能够更好地生成内容。
而另一种更为有效的方案则是#xff0c;让模型向人对齐。 这也是…并非所有人都熟知如何与 LLM 进行高效交流。
一种方案是人向模型对齐。 于是有了 「Prompt工程师」这一岗位专门撰写适配 LLM 的 Prompt从而让模型能够更好地生成内容。
而另一种更为有效的方案则是让模型向人对齐。 这也是大模型研究中非常重要的问题无论是 GPT 还是 Claude在对齐技术上花费大量的时间与精力。但随着模型规模变大基于训练的对齐技术也需要耗费更大量的资源。
因此我们提出另外的一种方案即黑盒提示对齐优化技术Black-box Prompt Optimization通过优化用户指令从输入角度对模型进行对齐。 这种方法可以在不对 LLM 进行训练的情况下大幅提升与人类偏好的对齐程度。
而且 BPO 可以被替换到各种模型上包括开源模型和基于API的模型。
下面是我们做的一个简单评估 在 VicunaEval 上使用 GPT-4 进行自动评估BPO 能够大幅提升 ChatGPT、Claude 等模型的人类偏好并助力 llama2-13b 模型大幅超过 llama2-70b 的版本。
_论文https://arxiv.org/abs/2311.04155 _
代码https://github.com/thu-coai/BPO
技术交流群
建了技术答疑、交流群想要进交流群、资料的同学可以直接加微信号mlc2060。加的时候备注一下研究方向 学校/公司CSDN即可。然后就可以拉你进群了。
前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~ 方式①、添加微信号mlc2060备注技术交流 方式②、微信搜索公众号机器学习社区后台回复技术交流 一、方 法
BPO黑盒优化的目标是让模型更好地理解和满足人类的喜好。我们通过调整输入内容使模型生成的输出更符合用户的期望。这个过程可以分为三个主要步骤 **1、反馈数据收集**为了建模人类偏好我们首先搜集了一系列带有反馈信号的开源指令微调数据集并对这些数据经过精心筛选和过滤。
**2、构造提示优化对**我们使用这些反馈数据来引导大型模型识别出用户偏好的特征。我们首先让模型分析用户喜欢的回复和不喜欢的回复找出其中蕴含的人类偏好特征。接着基于这些特征我们再利用模型优化原始的用户输入以期得到更符合用户喜好的模型输出。
**3、训练提示优化器**经过步骤一和步骤二我们得到了大量隐含人类偏好的提示对。利用这些提示对我们训练一个相对较小的模型从而构建提示偏好优化器。
最终我们可以利用该提示优化器对用户指令进行优化并应用在广泛的LLM上。
二、效 果
我们基于英文部分开源反馈数据集和 llama2-chat-7b 构建了 BPO 优化模型。
BPO对齐技术对 GPT-3.5-turbo 有22%的提升对 GPT-4 有 10% 的提升。 BPO 能够助力 llama2-13b 大幅超过 llama2-70b 版本的模型效果并让 llama2-7b 版本的模型逼近比它大 10 倍的模型。 在 vicuna-7b 和 vicuna-13b 上使用 BPO 对齐的模型超过了常用的反馈学习方法—— PPOProximal Policy Optimization 和 DPODirect Preference Optimization的效果并且能够和这些方法相结合进一步提升模型效果。 此外BPO还可以用于提升SFT数据的质量帮助构建更高质量的SFT模型。 三、研究者说
问BPO 和反馈学习方法PPO、DPO以及 Prompt Engineering方法如OPRO的区别是什么
答与PPO和DPO相比BPO最大的优势在于不需要训练原本的LLM只需要额外训练一个较小的模型即可并且我们的实验证明这两种技术是可以相结合的。 与 OPRO 对比BPO 最大的特点在于更加通用OPRO 等现有的 Prompt Engineering 技术大多需要针对特定的数据进行搜索并且会搜索得到一个针对特定任务的提示。因此如果用户希望使用此类方法需要针对每种任务准备相应的数据集。而 BPO 在训练得到提示优化器后可以优化各种用户指令。
问BPO能否针对一条指令进行迭代优化
答我们在 VicunaEval 数据上验证了迭代优化指令的效果大约在第四轮时优化后的指令对 ChatGPT 效果最好。 问BPO 究竟对用户指令做了怎样的优化
答我们在论文的第五小节总结了BPO的一些常见优化策略包括推理解释、完善用户问题、要点提示以及安全增强。
