微信客服
微信公众号
哭死啊，全球狂炼大模型，一互联网的数据不够用，根本不够用。
训练模型搞得跟《饥饿游戏》似的，全球AI研究者，都在苦恼怎么才能喂饱这群数据大胃王。
尤其在多模态任务中，这一问题尤为突出。
一筹莫展之际，来自人大系的初创团队，用自家的新模型，率先在国内把“模型生成数据自己喂自己”变成了现实。
而且还是理解侧和生成侧双管齐下，两侧都能生成高质量、多模态的新数据，对模型本身进行数据反哺。
模型是啥?
中关村论坛上刚刚露面的多模态大模型Awaker1.0。
团队是谁?
智子引擎。由人大高瓴人工智能学院博士生高一钊创立，高瓴人工智能学院卢志武教授担任顾问。公司成立时还是2021年，就早早打入多模态这条“无人区”赛道。
MOE架构，解决多模态多任务训练冲突问题
这不是智子引擎第一次发布模型。
去年3月8日，潜心研发两年的团队对外发布了自研的第一个多模态模型，百亿级别参数的ChatImg序列模型，并基于此推出世界首个公开评测多模态对话应用ChatImg（元乘象）。
后来，ChatImg不断迭代，新模型Awaker的研发也在并行推进。后者还继承了前代模型的基础能力。
相较于前代的ChatImg序列模型，Awaker1.0采用了MoE模型架构。
要说原因嘛，是想要解决解决多模态多任务训练存在严重冲突的问题。
采用MoE模型架构，可以更好地学习多模态通用能力以及各个任务所需的独特能力，从而让整个Awaker1.0的能力在多个任务上有进一步提升。
数据胜千言:
鉴于主流多模态评测榜单存在评测数据泄露问题，智子团队从严构建了自有评测集，大部分测试图片来自个人手机相册。
表格显示，团队让Awaker1.0和国内外最先进的3个多模态大模型进行了评测。
多提一嘴，由于GPT-4V和Intern-VL并不直接支持检测任务，它们的检测结果是通过要求模型使用语言描述物体方位得到的。
可以看到，在视觉问答和业务应用任务上，Awaker1.0的基座模型超过了GPT-4V、Qwen-VL-Max和Intern-VL。
在描述、推理和检测任务上，Awaker1.0的基座模型达到了次好效果。
最后来看平均分，Awaker1.0处于几者中的最高值。
因此，上述结果也印证了多任务多模态模型采用MoE架构的有效性。
数据集评测结果有了，真实效果还需进一步上手体验。
这里主要问了它和对比大模型一些关于中文OCR（图片文字识别）和计数问题、详细描述任务等问题。
这个主要考计数:
Awaker1.0能正确地给出答案，而其它三个模型均回答错误。
这个主要考中文OCR:
正确回答的选手是Qwen-VL-Max和Awaker1.0。
最后这题考图片内容理解。
GPT-4V和Awaker1.0不但能够详细地描述图片的内容，而且能够准确地识别出图片中的细节，如图中展示的可口可乐。
不得不提一嘴的是，Awaker1.0继承了一些智子团队此前广为关注的研究成果。
说的就是你——Awaker1.0的生成侧。
Awaker1.0的生成侧，是智子引擎自主研发的类Sora视频生成底座VDT（Video Diffusion Transformer）。
VDT的学术论文早于OpenAI Sora的发布（去年5月），并已被顶会ICLR2024接收。
VDT与众不同的创新之处，主要有两点。
一是在技术架构上采用Diffusion Transformer，在OpenAI之前就展现了Transformer在视频生成领域的巨大潜力。
它的优势在于其出色的时间依赖性捕获能力，能够生成时间上连贯的视频帧，包括模拟三维对象随时间的物理动态。
二是提出统一的时空掩码建模机制，使VDT能够处理多种视频生成任务。
VDT灵活的条件信息处理方式，如简单的token空间拼接，有效地统一了不同长度和模态的信息。
同时，通过与该工作提出的时空掩码建模机制结合，VDT成为了一个通用的视频扩散工具，在不修改模型结构的情况下可以应用于无条件生成、视频后续帧预测、插帧、图生视频、视频画面补全等多种视频生成任务。
据了解，智子引擎团队不仅探索了VDT对简单物理规律的模拟，发现它能模拟物理过程:
还在超写实人像视频生成任务上进行了深度探索。
因为肉眼对人脸及人的动态变化非常敏感，所以这个任务对视频生成质量的要求非常高。不过，智子引擎已经突破超写实人像视频生成的大部分关键技术，比起Sora也没在怕的。
口说无凭。
这是智子引擎结合VDT和可控生成，对人像视频生成质量提升后的效果:
据悉，智子引擎还将继续优化人物可控的生成算法，并积极进行商业化探索。
生成源源不断的新交互数据
更值得关注的是，智子引擎团队强调:
Awaker1.0是世界上首个能自主更新的多模态大模型。
换句话说，Awaker1.0是“活”的，它的参数可以实时持续地更新——这就导致Awaker1.0区别于所有其它多模态大模型，
Awaker1.0的自主更新机制，包含三大关键技术，分别是:
数据主动生成
模型反思评估
模型连续更新
这三项技术，让Awaker1.0具备自主学习、自动反思和自主更新的能力，可以在这个世界自由探索，甚至与人类互动。
基于此，Awaker1.0在理解侧和生成侧都能生成源源不断的新交互数据。
怎么做到的?
在理解侧，Awaker1.0与数字世界和现实世界进行交互。
在执行任务的过程中，Awaker1.0将场景行为数据反哺给模型，以实现持续更新与训练。
在生成侧，Awaker1.0可以进行高质量的多模态内容生成，为理解侧模型提供更多的训练数据。
在理解侧和生成侧的两个循环中，Awaker1.0实际实现了将视觉理解与视觉生成进行融合。
要知道，Sora问世后，越来越多声音表示，要通往AGI，必须达成“理解和生成的大一统”。
以新知识注入为例，下面来看个具体跑通的例子。
Awaker1.0能够不断在互联网上学习实时新闻信息，同时，它结合新学习到的新闻信息来回答各种复杂问题。
这和目前两种主流，即RAG和传统长上下文方式还不太一样，Awaker1.0是真的把新知识“记忆”在自个儿模型的参数上。
可以看到，连续3天的自我更新过程中，Awaker1.0每天都能学习当天的新闻信息，并在描述中准确地说出对应信息。
而且虽然一直在学，Awaker1.0倒没有顾此失彼，它并不会很快地遗忘学过的知识。
譬如，4月16日学进去的智界S7相关知识，在2天后仍然被Awaker1.0记住或理解。
So，在这个数据如金的时代，别再哀叹“数据不够用”了。
面对数据瓶颈的团队们，一种可行、可用的新选择，不就被Awaker1.0送来了?
具身智能“活”的大脑
话说回来，正是由于实现了视觉理解与视觉生成的融合，当遇到“多模态大模型适配具身智能”的问题，Awaker1.0的骄傲已经显露无疑。
事情是这样的:
Awaker1.0这类多模态大模型，其具有的视觉理解能力可以天然与具身智能的“眼睛”相结合。
而且主流声音也认为，“多模态大模型+具身智能”有可能大幅地提升具身智能的适应性和创造性，甚至是实现AGI的可行路径。
理由不外乎两点。
第一，人们期望具身智能拥有适应性，即智能体能够通过持续学习来适应不断变化的应用环境。
这样一来，具身智能既能在已知多模态任务上越做越好，也能快速适应未知的多模态任务。
第二，人们还期望具身智能具有真正的创造性，希望它通过对环境的自主探索，能够发现新的策略和解决方案，并探索AI的能力边界。
但是二者的适配，并不是简简单单把多模态大模型链接个身体，或直接给具身智能装个脑子那么简单。
就拿多模态大模型来说，至少有两个明显的问题摆在面前。
一是模型的迭代更新周期长，需要大量的人力投入;
二是模型的训练数据都源自已有的数据，模型不能持续获得大量的新知识。虽然通过RAG和扩长上下文窗口也可以注入持续出现的新知识，模型记不住，补救方式还会带来额外的问题。
总之，目前的多模态大模型在实际应用场景中不具备很强的适应性，更不具备创造性，导致在行业落地时总是出现各种各样的困难。
妙啊——还记得我们前面提到，Awaker1.0不仅可以学新知识，还能记住新知识，并且这种学习是每天的、持续的、及时的。
从这张框架图可以看出，Awaker1.0能够与各种智能设备结合，通过智能设备观察世界，产生动作意图，并自动构建指令控制智能设备完成各种动作。
在完成各种动作后，智能设备会自动产生各种反馈，Awaker1.0能够从这些动作和反馈中获取有效的训练数据进行持续的自我更新，不断强化模型的各种能力。
这就相当于具身智能拥有一个活的大脑了。
谁看了不说一句how pay（狗头）～
尤其重要的是，因为具备自主更新能力，Awaker1.0不单单是可以和具身智能适配，它还适用于更广泛的行业场景，能够解决更复杂的实际任务。
例如，Awaker1.0与各种智能设备结合，从而实现云边协同。
这时候，Awaker1.0就是部署在云端的“大脑”，观察、指挥，控制各种边端智能设备执行各项任务。
而边端智能设备执行各项任务时获得的反馈，又会源源不断地传回给Awaker1.0，让它持续地获得训练数据，不断进行自我更新。
这可不是纸上谈兵，Awaker1.0与智能设备的云边协同的技术路线，已经应用在电网智能巡检、智慧城市等应用场景中，并取得了远好于传统小模型的识别效果。
多模态大模型能听、能看、能说，在语音识别、图像处理、自然语言理解等多个领域展现出了巨大的潜力和应用价值，几乎无所不能。
但它的烦恼很明显，如何不断吸收新知识、适应新变化?
可以说，修炼内功、提升武艺成为了多模态大模型面临的一个重要课题。
智子引擎Awaker1.0的问世，为多模态大模型的自我超越提供了一把钥匙。
它好像会了那个吸星大法，通过自主更新机制，打破了数据短缺的瓶颈，为多模态大模型的持续学习和自我进化提供了可能;再就是利用云边协同技术，勇闯在具身智能等智能体设备的具体应用场景。
这或许是迈向AGI的一小步，但同时也是多模态大模型自我超越之旅的一个开始。
漫长而艰难的旅程，需要智子引擎这样的团队，向技术的高峰不断攀登。
