视觉推理能力评测新基准发布

港中文MMLab推出MME-CoT基准,全面测评DeepSeek-R1、GPT-4o、Kimi k1.5等模型的视觉推理能力。研究显示,Kimi在推理质量领先,o3-mini鲁棒性最佳,DeepSeek文本推理优势显著。揭秘评测指标与关键发现。

DeepSeek vs OpenAI vs Kimi:视觉推理能力终极对决

MME-CoT基准:重新定义多模态模型评估

香港中文大学MMLab团队发布MME-CoT(Multi-Modal Evaluation Chain-of-Thought)基准,首次系统化评估大型多模态模型(LMM)的视觉推理能力。该基准覆盖数学、科学、OCR等6大领域,通过1130道精选题目与3865个关键步骤标注,构建全景评估体系。

三大核心评测维度:

  • 质量:召回率与精确率双重验证推理逻辑
  • 鲁棒性:感知任务稳定性与推理任务有效性
  • 效率:步骤相关性与反思质量量化分析

实验涵盖15个主流模型,包括Kimi k1.5、GPT-4o及纯文本模型DeepSeek-R1,揭示行业技术差距。


模型表现:Kimi质量领先,DeepSeek文本逆袭

质量排名

  1. Kimi k1.5(F1 68.2%)
  2. DeepSeek-R1(66.3%)
  3. o3-mini(61.5%)

DeepSeek-R1仅凭图像描述文本,在精确率上超越GPT-4o视觉模型2.1个百分点,展现强大文本推理迁移能力。

鲁棒性对比

  • o3-mini感知任务稳定性达98.7%
  • Kimi推理任务有效性提升14.6%
  • DeepSeek在复杂逻辑场景误差率最低

研究同时暴露行业痛点:30%-40%反思步骤与解题无关,InternVL2.5等模型应用CoT后感知性能下降6.8%。


关键发现:参数规模与反思效率的博弈

  1. 参数优势:Qwen2-VL-72B较7B版本推理有效性提升7.2%,验证大模型学习潜力
  2. 长CoT陷阱:GPT-4o等模型40%步骤信息密度不足,存在“无效空想”现象
  3. 反思错误类型
    • 无效调整(45%)
    • 分析不完整(28%)
    • 自我干扰(12%)

实验显示,Kimi通过动态注意力机制,将关键步骤相关性提升至82%,显著优于行业平均水平。


评测体系设计:从结果到过程的革命

MME-CoT突破传统答案正确性评估,引入:

  • 步骤召回率:GPT-4o自动匹配必要推理链
  • 跨模态稳定性:分离感知/推理任务验证鲁棒性
  • 成本-收益比:量化token消耗与准确率增益关系

数据集构建采用双重过滤机制,专业团队耗时1200小时完成标注,确保多解法问题的全面覆盖。

此文章由OpenAI开源维基百科原创发布,如若转载请注明出处:https://openai.wiki/mme-cot-benchmark.html

(0)
上一篇 2025-02-22 19:06
下一篇 2025-02-22 19:49

相关推荐

  • 2024图灵奖揭晓:强化学习之父Barto与Sutton的学术传奇

    2024年图灵奖授予强化学习奠基人Andrew Barto与Richard Sutton,表彰他们为智能系统研究奠定的理论与算法基石。本文解析其学术贡献、技术应用(如ChatGPT的RLHF与DeepSeek-R1-Zero),并探讨强化学习如何从实验室走向产业变革,持续推动人工智能与神经科学的交叉突破。

    AI快讯 2025-03-05
    00100
  • DeepSeek开源DeepEP通信库技术解析

    DeepSeek开源周重磅推出通信库DeepEP,针对混合专家系统(MoE)实现GPU资源动态调控与跨域带宽优化。通过FP8压缩传输、非对称域转发等核心技术,训练等待时间缩减80%,推理延迟降低35%,为大规模语言模型及推荐系统提供行业级降本增效方案。

    AI快讯 2025-02-25
    00179
  • 微软耗数亿美元建超级计算机

    近日,微软宣布投入数亿美元建造一台超级计算机,旨在为 OpenAI 的 ChatGPT 提供支持,开展人工智能(AI)研究。这台计算机采用最先进的硬件和软件技术,其处理速度是现有计算机的数十倍,将极大地促进 OpenAI 在聊天机器人领域的研究进展。本篇文章将分别从以下三个方面阐述这一重大的 AI 合作项目。

    AI快讯 2023-03-14
    00621
  • niji Journey免费内测期结束,以后将会开启收费模式。

    新闻内容 niji Journey免费内测试用期结束,免费的羊毛不见了,以后将会采取收费模式。

    AI快讯 2022-12-01
    011.1K
  • 苹果5000亿美元技术投资战略解析

    苹果宣布未来四年投入5000亿美元强化本土AI与芯片制造能力,计划新建24座先进工厂及德州AI服务器生产基地,创造2万个高技能岗位。该战略获特朗普公开致谢,标志着美国科技巨头争夺技术主权的关键转折。

    AI快讯 2025-02-25
    00110

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

微信