首页 产业新闻 OpenAI o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o

OpenAI o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o

产业新闻 72

    TechWeb 文/卞海川

    毫无预热的情况下,Open AI于9月13日凌晨发布了o1系列的大模型,这是传闻中内部代号为“草莓”的项目,也是OpenAI首款具备复杂推理能力的大模型。

    与其前代模型相比,新模型o1擅长通用复杂推理,在物理、信息学等领域表现优异,OpenAI CEO奥特曼称它是一种新范式的开始:可以进行通用复杂推理的人工智能。

    OpenAI把新的模型发布称为「预览版」,强调o1系列仍处于早期阶段。

    作为早期模型,它尚不具备ChatGPT的许多有用功能,例如联网搜索以及上传文件和图像。

    虽然处于开发初期,但o1系列在竞赛数学、编码、科学等类目都有非常不错的表现,其中竞赛数学类甚至大幅领先GPT-4o。

    你可以简单理解为,o1系列模型是一个极度“偏科”的理工型人才。

    根据官方的解释,o1系列模型采取“思维链”的模式进行训练,以此提升大模型的逻辑推理能力。

    所以在回答问题之前,它会花更长时间思考,也就是说,o1系列并不追求信息输出反馈的速度,而是更在乎推理结果的准确性。

    为了更好的了解o1系列的能力,我们对它进行了一些简单的测试。

    我们首先用一些之前大模型都爱翻车的简单题目来测试一下o1系列的推理能力。

    “单词strawberry里面到底有几个r”

    不出意外,GPT-4o依旧翻车,给出的答案是错误的。

    让我们惊喜的是,GPT-o1的回答就非常准确,

    “9.11和9.8谁更大?”

    GPT-4o在1秒内回答,但是给出了错误答案。

    难倒了一众大模型的小数位比大小问题,o1系列没有翻车,在等待了10多秒以后,o1给出的答案是正确的。

    我们再来一些正常的推理题,选择经典的小学奥数水平“空瓶换汽水”问题。

    原题如下:“1元钱一瓶汽水,喝完后两个空瓶换一瓶汽水,问:你有20元钱,最多可以喝到几瓶汽水?”

    很遗憾,在第一次回答的结果上,4o和o1系列都给出了错误的39瓶答案。

    但区别在于,如果我告诉它正确的答案,o1系列会纠正自己的错误,给出新的解题思路,但GPT-4o依旧觉得自己的回答是正确的。

    接下来我们把难度升级,测试一下竞赛类题目o1系列模型的能力。

    据 OpenAI 介绍,在测试中,o1系列模型在物理、化学和生物等具有挑战性的基准任务上的表现达到了博士生的水平。

    这一模型在数学和编码方面表现出色。在国际数学奥林匹克(IMO)的资格考试中,GPT-4o 只正确解决了 13% 的问题,而 o1 模型的得分率则高达 83%。

    o1系列模型的编码能力也在竞赛中得到了评估,在 Codeforces 竞赛中达到了第 89 个百分点。

    Open AI CEO奥特曼在刚刚结束的2024 IOI信息学奥赛题目中,o1的微调版本在每题尝试50次条件下取得了213分,属于人类选手中前49%的成绩。也就是说,它已经超过了大多数人类数学天才!

    如果允许它每道题尝试10000次,就能获得362.14分,高于金牌选手门槛,可获得金牌。

    我们选取了AIME 2023的真题,该数学竞赛的题目难度比IMO稍低,但仍处于数学竞赛题目难度前列。

    经过测试,o1和4o给出了两个完全不一样的答案,虽然解题思路步骤我们没看懂,但从官方给出的答案来看,o1的结果是正确的。

    最后,我们来测试一下o1系列代码能力,以经典的俄罗斯方块小游戏作为考题。

    我们给o1模型提了要求,然后将所有代码复制运行,一字未改,成功实现俄罗斯方块小游戏。

    写在最后

    经过我们的简单测试,o1系列模型的最大亮点是显著增加了逻辑推理能力,以前GPT-4o回答不上来的问题,o1系列可以给出正确的解题思路,它已经不仅仅是简单的生成答案,而是能够提前规划、思考,更接近人类的思维过程。尤其是在数学领域表现突出。

    不过,它在特定领域的精确度与应对复杂对话的表现上仍有待进一步优化,在数据分析、编程和数学等重推理的类别中,人们更倾向于选择o1-preview。但在一些自然语言任务中,GPT-4o更胜一筹。