百度智能云“千帆大模型平台”升级 接入LLaMA2等33个模型

(资料图)

新华财经北京8月2日电百度智能云8月2日表示，千帆大模型平台已完成新一轮升级，全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT等33个大模型，成为国内拥有大模型最多的平台。

2023年3月，百度智能云推出“千帆大模型平台”，它是全球首个一站式企业级大模型平台，不但提供包括文心一言在内的大模型服务及第三方大模型服务，还提供大模型开发和应用的整套工具链，能够帮助企业解决大模型从训练到开发过程中的所有问题。今年6月，千帆平台上线插件功能，成为国内首家提供插件服务的大模型平台。

据百度智能云AI与大数据平台总经理忻舟透露，接入的模型经过千帆平台二次性能增强，模型推理成本可降低50%。同时，千帆平台上线国内最全的预置Prompt模板，模板数量多达103个，覆盖对话、游戏、编程、写作十余个场景。

据介绍，企业用户可以将不同大模型搭配使用，以满足不同细分场景的业务需求。企业和开发者可以登陆千帆大模型平台操作台，在“模型仓库”中直接调用、部署。同时，千帆还对第三方大模型做了二次安全增强，更好管控模型输出的安全性。客户在千帆上调用第三方模型，也享有平台的安全保障。

目前，千帆的插件功能已率先应用于百度内部的办公场景中，基于大模型技术打造的如流“超级助手”接入了会议室插件、内部搜索插件等20个插件。百度员工用自然语言与“超级助手”对话，即可实现文档搜索、会议室预定、饭卡充值、休假申请等功能，大大提升员工办公效率。

忻舟表示，大量客户调研显示，企业对插件功能的需求非常迫切，千帆第一时间上线该功能，是希望为客户提供更加个性化的服务，提升千帆平台的用户体验和满意度。“未来，千帆平台将发布更多优质的插件功能，让客户能够更好地应用大模型。同时，我们欢迎所有开发者基于千帆平台共同打造丰富的插件功能，提升大模型的能力。”忻舟说。

（文章来源：上海证券报）