当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek、GPT-5都在尝试的快慢思考切换,有了更智能版本,还是多模态

2个月前 (09-01)Deepseek最新资讯177

  当前,业界顶尖的大模型正竞相挑战“过度思考”的难题,即无论问题简单与否,它们都采用 “always-on thinking” 的详细推理模式。无论是像 DeepSeek-V3.1 这种依赖混合推理架构提供需用户“手动”介入的快慢思考切换,还是如 GPT-5 那样通过依赖庞大而高成本的“专家路由”机制提供的自适应思考切换。它们距离真正意义上的“智能思考”仍有距离。这些方案或将判断压力转移给用户,或受限于复杂的系统架构和高昂的部署成本。因此,研发一款轻量化、支持多模态且能实现更智能自适应思考的大模型,将为用户提供更加流畅的交互体验。

  近期,由腾讯混元团队与中科院自动化所合作的一项最新研究推出 R-4B 多模态大模型,通过自适应思考(auto-thinking)机制,改变了这一现状,它让 AI 能像人类一样 “智能切换” 思维模式。简单问题直接响应,复杂问题深度推理,在最大化回答准确性的同时,最小化计算开销。

  这一 “按需思考” 的核心能力,为 4B 量级的多模态模型树立了全新的性能标杆,使其在评测性能指标上成功超越了 Keye-VL-8B、Kimi-VL-A3B-Thinking-2506 等更大规模的模型。

  登顶 OpenCompass 多模态学术榜单:在 20B 以内规模多模态大模型中,性能排名 Top 1!

  目前,该模型已在 GitHub 和 HuggingFace 上线,且支持 vLLM 快速部署。「消费级显卡即可运行,适用于笔记本电脑、智能座舱、智能家居等低功耗场景,支持垂直领域低成本微调。」截至目前下载量已破万,欢迎大家体验!

  R-4B 的核心创新在于其独特的两阶段训练策略。为实现模型在通用领域的自适应思考,研究团队首先提出双模退火(bi-mode annealing)训练策略,促使模型同时掌握通用领域的思考与非思考能力。

  该阶段可以理解为对模型进行 “思考” 启蒙,即同时喂给它两种范式数据:一种需要直接回答(非思考模式,像日常对话),另一种需要详细推理(思考模式,像解数学题)。通过这种训练,模型同时掌握了思考和非思考这两种响应模式,为后续的自适应思考模式训练打下坚实基础。该阶段的核心是通用领域推理和非推理模式的数据构建策略:针对客观题,用模型采样的答案一致性来衡量题目的难易程度;针对主观题目,用提示工程的方式去区分解决问题是否需要进一步思考。

  经过退火训练,得到一个同时精通思考与非思考模式的基础模型 R-4B-Base ,为后续自适应思考强化训练奠定基础。基于此,团队开发了双模策略优化(Bi-mode Policy Optimization, BPO)强化学习算法。它无需依赖精心设计的奖励函数或特定数据,而是仅依赖基于规则的奖励信号,从数学数据出发,并可泛化到通用领域。其核心是混合双模 rollout 机制,通过强制模型在训练中同时探索思考模式和非思考模式轨迹,从而避免模型陷入对单一模式的响应偏好deepseek。在此基础上,通过同时奖励两种思考模式的策略,使模型自己学会判别何时应该思考。

  更关键的是,R-4B-RL 在自适应思考模式下实现了推理效率的提升,在简单任务下模型无需消耗更多的 Token。这证明了 BPO 算法的有效性,即无需通用领域的强化学习数据或额外的奖励函数设计,模型也能实现自适应思考。

  应用智能:在日常问答分析中,自动切换简单查询(如文档内容提取)和复杂推理(如图表分析)的思维模式,提升自动化处理效率。

  科学研究:在处理科学图表时,R-4B 的深度推理模式可解析多步关系,精准解读数据,提高研究效率。

  消费级 AI:边缘设备部署中,R-4B 凭借更少的参数和自适应思考模式降低延迟和能耗,适用于即时问答系统。

  从双模退火训练到 BPO 优化,R-4B 不仅解决了 MLLMs 的思考困境,更在小尺寸模型上探索了自适应思考的可行性 。自适应思考不仅是技术优化,更是对效率与普惠平衡的追求。在 AI 计算与推理成本飙升的今天,R-4B 的轻量化、智能化设计,为大模型可持续发展注入绿色动力。原文出处:DeepSeek、GPT-5都在尝试的快慢思考切换,有了更智能版本,还是多模态,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek、GPT-5都在尝试的快慢思考切换,有了更智能版本,还是多模态” 的相关文章

创新药Deepseek时刻?恒瑞医药引爆创新药涨停潮,千亿赛道进入兑现期

创新药Deepseek时刻?恒瑞医药引爆创新药涨停潮,千亿赛道进入兑现期

  7月28日,创新药概念持续走强,恒瑞医药、海思科、联环药业、亚太药业、辰欣药业涨停,广生堂涨超10%,热景生物、塞力医疗、我武生物、阳光诺和、泽璟制药等跟涨。   消...

2025年度全球50家聪明公司榜单发布,DeepSeek、华为等中国企业入选

2025年度全球50家聪明公司榜单发布,DeepSeek、华为等中国企业入选

  DeepSeek、宇树科技、华为deepseek、小米、比亚迪、科大讯飞等多家中国企业成功入选,展现中国创新力量!   “聪明公司”不仅以技术驱动未来,更以商业智慧实...

Deepseek推荐全国旅游百强区第8名:浙江杭州市西湖区

Deepseek推荐全国旅游百强区第8名:浙江杭州市西湖区

  日前,全国县镇发展研究课题组、天和经济研究所县镇发展研究院联合发布了2024《全国县镇发展报告》,报告评价篇对全国县市以及包含乡村人口的市辖区旅游发展水平进行了综合评价,并发布了天和2...

DeepSeek预测:巴黎圣日耳曼VS欧塞尔!姆巴佩接班人巴尔科拉能否率队狂胜?

DeepSeek预测:巴黎圣日耳曼VS欧塞尔!姆巴佩接班人巴尔科拉能否率队狂胜?

  法甲第6轮焦点战将在王子公园球场上演,领头羊巴黎圣日耳曼(12分)迎战中游球队欧塞尔(6分)。上轮0-1爆冷输给马赛后,恩里克的球队急需用胜利稳固欧冠席位,而升班马欧塞尔则希望延续上轮...

DeepSeek预测:西班牙人VS马略卡!米拉领衔主场屠杀,马略卡难逃降级区噩梦

DeepSeek预测:西班牙人VS马略卡!米拉领衔主场屠杀,马略卡难逃降级区噩梦

  西甲第4轮即将迎来一场看似实力悬殊的对决——排名第5的西班牙人主场迎战深陷降级区的马略卡。主队目前以2胜1平的不败战绩高居欧战区,而客队仅积1分排名倒数第三。这场比赛的胜负或将直接影响...

国元证券-传媒行业周报:可灵Q2营收超2.5亿,DeepSeek~V3.1 发布

国元证券-传媒行业周报:可灵Q2营收超2.5亿,DeepSeek~V3.1 发布

  周度涨跌情况(2025.8.16-2025.8.22,下同):传媒行业(申万)上涨5.17%,排名行业第6名,同期沪深300涨4.18%,上证指数涨3.49%,深证成指涨4.57%,创...