大语言模型从单模型到多模型协作,新问题浮现咋解决?
当大语言模型从「单模型回答」走向「多模型协作」,一个新的问题正在浮现:Router大多关注query-level的模型选择:给定一个问题,判断该交给Qwen、LLaMA、Gemma、Mixtral还是其他模型。
告别单一模型调用
以往传统的做法, 仅仅只是在纠结究竟该挑选哪一个LLM, 然而在面对复杂任务之时, 却显得力不从心。当下思路已然发生了变化, 不但要去挑选模型, 而且还要确定角色。系统必须如同导演一般, 安排谁会在何时进行出场, 以及怎样去配合。这样的一种转变, 使得AI在处理难题的时候更加灵活, 而不再是死板地依照顺序去执行。
角色分工更清晰
系统默认设定了三种基础角色, 分别是拆解者, 解决者以及聚合者。拆解者会将大问题切碎, 解决者会逐个去击破, 最后由聚合者来汇总结果。这种分工对人类团队协作进行了模拟, 使得每个模型能够发挥专长, 避免出现因大包大揽而导致的效率低下以及错误累积。
图结构记忆历史
借助异构图结构, 系统对每一次交互的细节予以记录, 其中涵盖使用了哪一个模型, 扮演了怎样的角色, 耗费了多少成本。这些数据相互连接构成网络, 进而形成历史记忆库。当再次遭遇相似任务时, 系统能够迅速将过往经验调取, 快速找寻到最优解, 而非每次都从毫无头绪的状态开始摸索。
强化学习动态规划
由于涉及离散选择, 没办法直接进行求导, 故而采用PPO强化学习来开展训练。模型学会的并非是固定的那套模式, 而是一种具备动态特性的策略。面对不一样的查询情况时, 它会依据自身情况来决定是不是要进行拆解, 要调用几个模型, 以及到底何时结束。这样的灵活性能够使它去应对各种各样不断变化的实际需求。
实测效果显著提升
于14个任务里展开测试, 其表现大幅超越基线模型, 当允许自由生成工作流之际, 准确率提升将近10%, 更为关键的是, 它削减了训练成本, 显卡资源消耗更为少些, 即便面对未曾见过的模型或者任务, 也能够稳定施展, 证实它具备强大的泛化能力以及迁移价值。
迈向自动化编排
这不单单是技术层面的升级, 更是架构方面的变革。多个不同类型的大语言模型不再仅仅是彼此孤立的工具, 而是成为了能够进行结构化协作的成员。未来人工智能的基础设施会更加侧重于自动编排的能力。哪一方能够以高效的方式调度多个智能体, 哪一方就能够解决更为复杂的现实当中的问题。这是迈向通用人工智能的关键的一步。
于多智能体协作里头, 你认为最难予以解决的那个问题,究竟是角色冲突, 还是资源分配? 欢迎留言去展开讨论, 点赞此举并且分享,好使更多同行能够看到!