首页 产业新闻 百度智能云发布ERNIE Speed、Lite、Tiny 3款轻量级大模型

百度智能云发布ERNIE Speed、Lite、Tiny 3款轻量级大模型

产业新闻 5

    百度智能云近期举办了盛大的千帆产品发布会,会上重点发布了三款轻量级大模型,它们分别是ERNIE Speed、ERNIE Lite以及ERNIE Tiny。相较于那些拥有千亿级别参数的大模型,这些轻量级大模型显著减少了参数量,因此更加便于客户针对特定应用场景进行模型精调。这样的设计不仅有助于客户更容易地实现预期的使用效果,同时也为客户节约了大量的成本开销。

    这三款轻量级大模型各具特色,参数量从ERNIE Speed到ERNIE Tiny逐渐递减。ERNIE Speed适合作为特定场景的基座模型进行精调,能够兼顾模型效果与推理性能,并可以搭载低算力AI加速卡进行推理,满足对低成本和低延迟应用的需求。而ERNIE Lite和ERNIE Tiny则分别在不同程度上满足了更多样的使用场景需求。

    值得一提的是,百度智能云ModelBuilder还推出了两款垂直场景大模型,ERNIE Character和ERNIE Functions。这两款模型是基于百度自身业务的深厚积累而研发的,分别适用于角色扮演类应用场景(如游戏NPC、客服对话等)和工具调用场景(对话中使用外部工具、调用业务函数等)。企业无需额外进行模型精调,即可直接应用这些专有模型来开发智能助理,极大地提升了开发效率和模型适用性。

    特别要强调的是,ERNIE Speed作为百度自研的轻量级大语言模型,其快速响应能力和少量数据微调的特性使得训练时间大幅缩短。在特定场景下,ERNIE Speed的效果甚至可以媲美ERNIE Bot4.0模型。该模型在自然语言处理任务中表现出色,如文本分类、命名实体识别、语义匹配等场景,尤其在智能客服、搜索引擎、智能推荐等领域的应用中,其表现尤为突出。

    此外,ERNIE Speed在阅读理解、close-book问答、创作与续写等复杂任务上,也能达到甚至超越千亿大模型的效果,充分展现了其强大的应用潜力和价值。

广告

文章目录

    标签列表