<返回更多

百度Create AI剧透:“三大开发神器”升级,模型增至77个,三步即可生成应用

2024-04-12  智东西  
加入收藏

智东西(公众号:zhidxcom

作者香草

编辑李水青

智东西4月11日报道,今日,在百度Create AI开发者大会预沟通会上,百度披露了“三大开发神器”AgentBuilder、AppBuilder、ModelBuilder阶段性成果。

据介绍,AgentBuilder将提供问答对调优、数据看板、提供接入商业插件和一站式深度服务等新能力;AppBuilder工具组件扩增至55个,并上线了“三步生成应用”功能;ModelBuilder模型量增至77个,还将提供模型精调样板间,内置业内最多的47个数据集和119个产业级Prompt模板。

在即将于4月16日举办的开发者大会上,百度创始人、董事长兼首席执行官李彦宏还将带来2024年首场演讲,现场展示“开箱即用”的三大开发神器,演示多个标杆案例的开发全流程。

大模型产业迎来应用爆发,但应用落地仍面临挑战。百度智能云平台产品事业部产品市场负责人王曼谈道,大模型应用落地主要面临场景探索、开发门槛、推理和训练成本、应用效果等方面的挑战,百度智能云千帆平台打造的大模型服务超级工厂能为开发者提供多样化的能力、工具,完成商业闭环。

谈到智能体创建低门槛可能带来的管理乱象,百度移动生态事业群组文心智能体生态负责人马宝云告诉智东西,百度一直很重视版权、原创保护等,在这方面投入很多,不经开发者允许不会将其Prompt等数据泄露给大模型或其他用户。同时,AgentBuilder在审核、分发门槛等方面都有较高的要求,必要时也会有人力参与,从而更精准地识别和判断。

AgentBuilder地址:

https://agents.baidu.com/

AppBuilder地址:

https://cloud.baidu.com/product/AppBuilder

ModelBuilder地址:

https://cloud.baidu.com/product/wenxinworkshop

一、AgentBuilder:数据飞轮三层调优,新增数字形象一键配置

AgentBuilder(灵境矩阵)是百度在2023年世界大会上发布的基于文心大模型的智能体(Agent)构建平台,为开发者提供低成本的开发方式,提供多样化的能力、工具,并为开发者提供百度生态流量分发路径,完成商业闭环,实现“开发+分发+运营+变现”一体。

据马宝云介绍,AgentBuilder具有7大平台优势:领先的大模型实力、零基础自然语言创建、数字形象一键配置、高兼容数据集能力、多样化工具插件、百度生态流量分发以及数据飞轮全面调优。其中,数字形象与数据飞轮调优功能将在开发者大会前夕上线。

马宝云透露,数字形象一键配置功能将提供多样的数字人形象与人声,供各类型智能体开发者挑选,打造人格化的智能体,提升用户交互体验。

数据飞轮调优则基于平台的三层调优能力,智能体创建后,平台会帮助开发者进行问答对调优,让智能体更易获得流量;运营中,开发者可以通过分析看板观察流量波动和质量诊断,调优自己的智能体;底座大模型则会通过分发数据反馈进行自主调优,让智能体学习升级、更加聪明。

▲AgentBuilder数据飞轮全面调优

在数据集能力方面,AgentBuilder将提供国内领先的数据集接入能力,支持大容量、多格式、多途径接入,满足专业或特定智能体构建。一个账号最多能创建100个智能体,单个智能体最多10个数据集,支持文本、表格、图片等多格式,5-6月还将上线音视频,数据可本地上传、链接导入解析,开发者还可设置定期刷新信息库。

▲AgentBuilder高兼容数据集能力

生态矩阵分发方面,AgentBuilder的定位不仅是一个纯开发平台,更是一个覆盖“开发+分发+运营+变现”的一体化赋能平台,已打通百度搜索、小度、文心一言、地图、车机等多场景、多设备。

▲AgentBuilder生态矩阵分发能力

马宝云还向我剧透了AgentBuilder的新能力,包括问答对调优、数据看板、提供接入商业插件和一站式深度服务等。

二、AppBuilder:可三步生成应用,工具组件扩增至54

2023年3月,百度智能云推出全球首个一站式的企业级大模型平台——“千帆大模型平台”,包括AppBuilder和ModelBuilder两部分,为企业和开发者提供灵活、多样化、高效的大模型服务。

▲百度智能云千帆大模型平台

王曼透露,截至目前,千帆大模型平台已服务超8.5万客户,累计精调超1.4万模型,开发应用数量超过19万。大模型应用也快速增长,千帆AppBuilder周新增应用突破3000个。

AppBuilder是产业级AI原生应用开发平台,聚焦AI原生应用搭建,面向各类应用场景,提供“代码态”与“零代码态”两种产品形态,分别针对有深度AI原生应用开发需求的用户和“技术小白”。

▲AppBuilder两种产品形态

据王曼介绍,AppBuilder具有三大核心优势:应用创建全流程自动化、工作流编排、开放易用。

▲AppBuilder三大核心优势

为进一步提高开发体验和效果,AppBuilder近期进行了产品升级,工具组件扩增至55个,包括数十个大模型能力组件、AI能力组件以及百度自有的搜索组件等。

同时,AppBuilder上线了“三步生成应用”功能,用户仅需用自然语言提出问题,即可自动创建相应应用,无需写复杂的需求和代码。

▲三步生成应用功能演示

为了加速应用的快速落地,AppBuilder还新增多渠道应用分发与集成功能,开发者可一键将应用分发到微信公众号、Web端、H5或百度灵境等多渠道,实现应用快速上线。

三、ModelBuilder:模型量增至77个,提供模型精调样板间

百度千帆大模型平台ModelBuilder是企业级全栈式生成式AI大模型开发及应用平台。据王曼介绍,ModelBuilder提供的模型总数目前达到77个,模型数量国内第一。

▲ModelBuilder模型矩阵

ModelBuilder近日发布了3款轻量模型,包括ERNIE Speed、ERNIE Lite、ERNIE Tiny,还发布了2款垂直模型,分别是ERNIE Character和ERNIE Functions。

王曼谈道,在服务客户过程中,团队发现企业客户在应用大模型时主要面临三个主要问题:可定制化、模型性能和模型使用成本。

旗舰模型虽然效果好,但成本较高。相较之下,轻量模型能够满足不同程度的智能、速度和成本的组合需求。

百度智能云发布的三款轻量模型分别适用于不同场景。其中,ERNIE Speed定位于适合微调的基座模型,最高支持128K,通用能力优异,能更好地处理特定场景问题,同时具备极佳的推理性能,其价格为输入0.004元/千token,输出0.008元/千token。

ERNIE Lite则更“轻”,兼顾效果与性能,适合低算力加速卡推理使用,价格为输入0.003元/千token,输出0.006元/千token。

ERNIE Tiny的成本更低,同时低延迟,适用于检索及推荐、意图识别等高并发低延时场景、端侧推理场景,价格为输入0.001元/千token,输出0.001元/千token。

两款垂直模型中,ERNIE Character适用于游戏NPC、客服对话、对话角色扮演等应用场景,支持微调;ERNIE Functions则适合对话或问答场景中的外部工具使用和业务函数调用,结构化回答合成能力更强、输出格式更稳定。

为了让开发者更高效地开发大模型应用,ModelBuilder还提供高质量具有行业特色的数据集,内置了业内最多的47个数据集,提供119个产业级Prompt模板,提供模型精调样板间,内置作文点评、口语教练等高频场景。

▲ModelBuilder提供数据集、Prompt模板等

从数据管理、模型精调、模型评估优化,到推理服务部署、Prompt工程,ModelBuilder提供全流程工具链,并以RESTful API(应用程序接口)形式提供全栈API能力,支持JAVAPython/ target=_blank class=infotextkey>Python等多语言的SDK,覆盖模型开发和应用开发的20多个的使用案例。

▲ModelBuilder提供全流程工具链

此外,通过千帆模型路由方案,多模型组合应用效果可追平旗舰版大模型,成本大幅降低。

王曼分享了一个客户案例:在手机助手对话场景中,通过模型路由方案将用户问题分别识别为简单问题和复杂问题,根据不同情况选择不同的能力模型。测试数据显示,推理成本可降低15%、效果对齐EB3.5。

▲模型路由方案案例

结语:用好三大AI神器,人人都是开发者

随着大模型逐步发展,“如何用好大模型”已经成为了开发者们更关心的问题。百度“三大开发神器”为开发者提供了优质的模型、工具,并压缩成本、降低技术门槛,使得人人都可成为开发者。

程序员会消失吗?大模型的下一站是什么?开发者的机会在哪里?什么才是最好用的AI应用开发工具?在4月16日举办的2024百度Create AI开发者大会上,百度创始人、董事长兼首席执行官李彦宏将就这些备受瞩目的问题一一进行解答。

关键词:Create AI      点击(7)
声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多Create AI相关>>>