百度智能云发布3款轻量级+2款场景大模型

百度智能云今日发布包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在内的三款轻量级大模型，分别适用于在特定场景作为基座模型进行精调，兼顾模型效果与推理性能并搭载低算力AI加速卡进行推理，适配极致低成本和低延迟应用。相比千亿级别参数的大模型，轻量级大模型的参数量更小，在成本节省的同时，更便于特定使用场景模型精调。

文心大模型ERNIE 3.5是目前百度智能云千帆大模型平台上最受欢迎的基础大模型之一。针对用户的常见通用的对话场景，ERNIE 3.5 在指令遵循、上下文学习和逻辑推理能力三方面分别进行了能力增强。

ERNIE Speed作为三款轻量级大模型中的“大个子”，推理场景下拥有最高128k的上下文长度，在处理知识问答等任务时，能够更好的处理上下文的依赖关系，生成更加连贯和准确的预测或回答。同时，针对特定场景可以将ERNIE Speed作为基座模型进行精调，模型效果可以追平甚至超过旗舰级大参数规模大模型，效价比大幅提升。

相比ERNIE Speed，ERNIE Lite的参数量则更小，也更加适合搭载在低算力的AI加速卡上处理推理任务，在兼顾模型效果与推理性能的同时，大幅降低客户落地应用成本。作为ERNIE-Bot-turbo模型的升级版，ERNIE Lite在情感分析、多任务学习、自然推理等场景下的应用效果提升了20%。推理调用成本大幅下降了53%！

三款轻量级模型中参数量最小的ERNIE Tiny则为客户提供了极致低成本、低延迟的最佳选择。在检索、推荐、意图识别等高并发、低延时等应用场景中，ERNIE Tiny的优异性能呈现了不俗表现。在某对话推荐业务场景中，精调后的ERNIE Tiny在搜索引擎推荐词激发环节，相比ERNIE 3.5，对话轮次增长了3.5%，成本下降了32%。

河马云手机平台功能强大配套服务功能齐全，可以配合各种游戏操作，感兴趣的小伙伴可以登录体验，新注册用户将自动分配2台云手机，可以免费进行试用哦~

部分图文来源于网络

如有侵权请联系作者删除