首页 产业新闻 超级智能体生命力觉醒!可自我更新的AI来了,妈妈再也不用担心数据瓶颈难题

超级智能体生命力觉醒!可自我更新的AI来了,妈妈再也不用担心数据瓶颈难题

产业新闻 11

    哭死啊,全球狂炼大模型,一互联网的数据不够用,根本不够用。

    训练模型搞得跟《饥饿游戏》似的,全球AI研究者,都在苦恼怎么才能喂饱这群数据大胃王。

    尤其在多模态任务中,这一问题尤为突出。

    一筹莫展之际,来自人大系的初创团队,用自家的新模型,率先在国内把“模型生成数据自己喂自己”变成了现实。

    而且还是理解侧和生成侧双管齐下,两侧都能生成高质量、多模态的新数据,对模型本身进行数据反哺。

    模型是啥?

    中关村论坛上刚刚露面的多模态大模型Awaker1.0。

    团队是谁?

    智子引擎。由人大高瓴人工智能学院博士生高一钊创立,高瓴人工智能学院卢志武教授担任顾问。公司成立时还是2021年,就早早打入多模态这条“无人区”赛道。

    这不是智子引擎第一次发布模型。

    去年3月8日,潜心研发两年的团队对外发布了自研的第一个多模态模型,百亿级别参数的ChatImg序列模型,并基于此推出世界首个公开评测多模态对话应用ChatImg(元乘象)。

    后来,ChatImg不断迭代,新模型Awaker的研发也在并行推进。后者还继承了前代模型的基础能力。

    相较于前代的ChatImg序列模型,Awaker1.0采用了MoE模型架构。

    要说原因嘛,是想要解决解决多模态多任务训练存在严重冲突的问题。

    采用MoE模型架构,可以更好地学习多模态通用能力以及各个任务所需的独特能力,从而让整个Awaker1.0的能力在多个任务上有进一步提升。

    数据胜千言:

    鉴于主流多模态评测榜单存在评测数据泄露问题,智子团队从严构建了自有评测集,大部分测试图片来自个人手机相册。

    表格显示,团队让Awaker1.0和国内外最先进的3个多模态大模型进行了评测。

    多提一嘴,由于GPT-4V和Intern-VL并不直接支持检测任务,它们的检测结果是通过要求模型使用语言描述物体方位得到的。

    可以看到,在视觉问答和业务应用任务上,Awaker1.0的基座模型超过了GPT-4V、Qwen-VL-Max和Intern-VL。

    在描述、推理和检测任务上,Awaker1.0的基座模型达到了次好效果。

    最后来看平均分,Awaker1.0处于几者中的最高值。

    因此,上述结果也印证了多任务多模态模型采用MoE架构的有效性。

    数据集评测结果有了,真实效果还需进一步上手体验。

    这里主要问了它和对比大模型一些关于中文OCR(图片文字识别)和计数问题、详细描述任务等问题。

    这个主要考计数:

    Awaker1.0能正确地给出答案,而其它三个模型均回答错误。

    这个主要考中文OCR:

    正确回答的选手是Qwen-VL-Max和Awaker1.0。

    最后这题考图片内容理解。

    GPT-4V和Awaker1.0不但能够详细地描述图片的内容,而且能够准确地识别出图片中的细节,如图中展示的可口可乐。

    不得不提一嘴的是,Awaker1.0继承了一些智子团队此前广为关注的研究成果。

    说的就是你——Awaker1.0的生成侧。

    Awaker1.0的生成侧,是智子引擎自主研发的类Sora视频生成底座VDT(Video Diffusion Transformer)。

    VDT的学术论文早于OpenAI Sora的发布(去年5月),并已被顶会ICLR2024接收。

    VDT与众不同的创新之处,主要有两点。

    一是在技术架构上采用Diffusion Transformer,在OpenAI之前就展现了Transformer在视频生成领域的巨大潜力。

    它的优势在于其出色的时间依赖性捕获能力,能够生成时间上连贯的视频帧,包括模拟三维对象随时间的物理动态。

    二是提出统一的时空掩码建模机制,使VDT能够处理多种视频生成任务。

    VDT灵活的条件信息处理方式,如简单的token空间拼接,有效地统一了不同长度和模态的信息。

    同时,通过与该工作提出的时空掩码建模机制结合,VDT成为了一个通用的视频扩散工具,在不修改模型结构的情况下可以应用于无条件生成、视频后续帧预测、插帧、图生视频、视频画面补全等多种视频生成任务。

    据了解,智子引擎团队不仅探索了VDT对简单物理规律的模拟,发现它能模拟物理过程:

    还在超写实人像视频生成任务上进行了深度探索。

    因为肉眼对人脸及人的动态变化非常敏感,所以这个任务对视频生成质量的要求非常高。不过,智子引擎已经突破超写实人像视频生成的大部分关键技术,比起Sora也没在怕的。

    口说无凭。

    这是智子引擎结合VDT和可控生成,对人像视频生成质量提升后的效果:

    据悉,智子引擎还将继续优化人物可控的生成算法,并积极进行商业化探索。

    更值得关注的是,智子引擎团队强调:

    Awaker1.0是世界上首个能自主更新的多模态大模型。

    换句话说,Awaker1.0是“活”的,它的参数可以实时持续地更新——这就导致Awaker1.0区别于所有其它多模态大模型,

    Awaker1.0的自主更新机制,包含三大关键技术,分别是:

    数据主动生成模型反思评估模型连续更新

    数据主动生成

    模型反思评估

    模型连续更新

    这三项技术,让Awaker1.0具备自主学习、自动反思和自主更新的能力,可以在这个世界自由探索,甚至与人类互动。

    基于此,Awaker1.0在理解侧和生成侧都能生成源源不断的新交互数据。

    怎么做到的?

    在理解侧,Awaker1.0与数字世界和现实世界进行交互。

    在执行任务的过程中,Awaker1.0将场景行为数据反哺给模型,以实现持续更新与训练。

    在生成侧,Awaker1.0可以进行高质量的多模态内容生成,为理解侧模型提供更多的训练数据。

    在理解侧和生成侧的两个循环中,Awaker1.0实际实现了将视觉理解与视觉生成进行融合。

    要知道,Sora问世后,越来越多声音表示,要通往AGI,必须达成“理解和生成的大一统”。

    以新知识注入为例,下面来看个具体跑通的例子。

    Awaker1.0能够不断在互联网上学习实时新闻信息,同时,它结合新学习到的新闻信息来回答各种复杂问题。

    这和目前两种主流,即RAG和传统长上下文方式还不太一样,Awaker1.0是真的把新知识“记忆”在自个儿模型的参数上。

    可以看到,连续3天的自我更新过程中,Awaker1.0每天都能学习当天的新闻信息,并在描述中准确地说出对应信息。

    而且虽然一直在学,Awaker1.0倒没有顾此失彼,它并不会很快地遗忘学过的知识。

    譬如,4月16日学进去的智界S7相关知识,在2天后仍然被Awaker1.0记住或理解。

    So,在这个数据如金的时代,别再哀叹“数据不够用”了。

    面对数据瓶颈的团队们,一种可行、可用的新选择,不就被Awaker1.0送来了?

    话说回来,正是由于实现了视觉理解与视觉生成的融合,当遇到“多模态大模型适配具身智能”的问题,Awaker1.0的骄傲已经显露无疑。

    事情是这样的:

    Awaker1.0这类多模态大模型,其具有的视觉理解能力可以天然与具身智能的“眼睛”相结合。

    而且主流声音也认为,“多模态大模型+具身智能”有可能大幅地提升具身智能的适应性和创造性,甚至是实现AGI的可行路径。

    理由不外乎两点。

    第一,人们期望具身智能拥有适应性,即智能体能够通过持续学习来适应不断变化的应用环境。

    这样一来,具身智能既能在已知多模态任务上越做越好,也能快速适应未知的多模态任务。

    第二,人们还期望具身智能具有真正的创造性,希望它通过对环境的自主探索,能够发现新的策略和解决方案,并探索AI的能力边界。

    但是二者的适配,并不是简简单单把多模态大模型链接个身体,或直接给具身智能装个脑子那么简单。

    就拿多模态大模型来说,至少有两个明显的问题摆在面前。

    一是模型的迭代更新周期长,需要大量的人力投入;

    二是模型的训练数据都源自已有的数据,模型不能持续获得大量的新知识。虽然通过RAG和扩长上下文窗口也可以注入持续出现的新知识,模型记不住,补救方式还会带来额外的问题。

    总之,目前的多模态大模型在实际应用场景中不具备很强的适应性,更不具备创造性,导致在行业落地时总是出现各种各样的困难。

    妙啊——还记得我们前面提到,Awaker1.0不仅可以学新知识,还能记住新知识,并且这种学习是每天的、持续的、及时的。

    从这张框架图可以看出,Awaker1.0能够与各种智能设备结合,通过智能设备观察世界,产生动作意图,并自动构建指令控制智能设备完成各种动作。

    在完成各种动作后,智能设备会自动产生各种反馈,Awaker1.0能够从这些动作和反馈中获取有效的训练数据进行持续的自我更新,不断强化模型的各种能力。

    这就相当于具身智能拥有一个活的大脑了。

    谁看了不说一句how pay(狗头)~

    尤其重要的是,因为具备自主更新能力,Awaker1.0不单单是可以和具身智能适配,它还适用于更广泛的行业场景,能够解决更复杂的实际任务。

    例如,Awaker1.0与各种智能设备结合,从而实现云边协同。

    这时候,Awaker1.0就是部署在云端的“大脑”,观察、指挥,控制各种边端智能设备执行各项任务。

    而边端智能设备执行各项任务时获得的反馈,又会源源不断地传回给Awaker1.0,让它持续地获得训练数据,不断进行自我更新。

    这可不是纸上谈兵,Awaker1.0与智能设备的云边协同的技术路线,已经应用在电网智能巡检、智慧城市等应用场景中,并取得了远好于传统小模型的识别效果。

    多模态大模型能听、能看、能说,在语音识别、图像处理、自然语言理解等多个领域展现出了巨大的潜力和应用价值,几乎无所不能。

    但它的烦恼很明显,如何不断吸收新知识、适应新变化?

    可以说,修炼内功、提升武艺成为了多模态大模型面临的一个重要课题。

    智子引擎Awaker1.0的问世,为多模态大模型的自我超越提供了一把钥匙。

    它好像会了那个吸星大法,通过自主更新机制,打破了数据短缺的瓶颈,为多模态大模型的持续学习和自我进化提供了可能;再就是利用云边协同技术,勇闯在具身智能等智能体设备的具体应用场景。

    这或许是迈向AGI的一小步,但同时也是多模态大模型自我超越之旅的一个开始。

    漫长而艰难的旅程,需要智子引擎这样的团队,向技术的高峰不断攀登。

广告

文章目录

    标签列表