想给自己做个私人定制的旅行攻略,满足个性化的出游需求,还要细致关注到天气、穿衣、老人孩子的作息等等,但太耗时费力怎么办?让AI帮忙搞定。一位开发者在AI Studio星河大模型社区用短短数小时就做好了“旅行规划家”智能应用。像这样的应用,在星河社区「应用中心」里已经有2000多个,基于大模型开发AI原生应用,正在变得轻而易举。
日前,飞桨AI Studio星河社区改版升级,首发文心一言开发者中心等全新功能,全面升级应用中心、模型库等核心板块,可支持文心大模型4.0的AI应用和插件开发,为大模型的开发者提供了全方位的能力支撑。
文心大模型是百度自研的产业级知识增强大模型,自2019年发布,目前已升级至4.0版。文心4.0基于万卡算力和飞桨框架软硬协同优化训练,在理解、生成、逻辑、记忆四大能力上都有全面提升。开发者可以通过星河社区提供的开发工具集ERNIE Bot SDK,调用领先的文心4.0大模型能力,高效开发高质量的文心一言插件、应用,或接入自有产品。
据悉,飞桨AI Studio星河社区是百度潜心打造的专业大模型社区,为开发者提供GPU算力、模型库、数据集、工具套件、实训项目、社区交流等全方位服务。百度CTO王海峰曾阐释“星河社区”名字的含义,“文心加飞桨,翩然赴星河”,寓意与广大开发者一起,在飞桨和文心的加持下,共建星河社区,共赴通用人工智能的星辰大海。
在10月26日举办的2023中国计算机大会CNCC“大模型技术创新与产业实践”论坛上,百度AI技术生态总经理马艳军表示,大模型技术迭代,能力越来越强,开发门槛进一步降低,基于大模型的创新应用迎来爆发期。飞桨AI Studio星河社区改版,正是为大模型开发者提供更便捷高效的全流程服务升级。
从开发到部署,一站式满足打造大模型应用的全场景需求
星河社区可一站式满足开发者打造大模型应用的全场景需求,覆盖从学习、体验到开发、部署的各个环节。
“知识掌握不足”、“缺少尝试机会”、“没有开发环境”等是阻碍开发者探索大模型应用的主要问题。星河社区整合与文心一言相关的教程、插件、应用等板块,专设「文心一言开发者中心」,方便开发者前来学习、体验、运用最领先的大模型技术。开发者不仅可以使用ERNIE Bot SDK,创建大模型项目,一键在线运行开发项目,也可以构建个性化插件,将个性化能力接入文心一言插件系统。新增的「Prompt模板库」可提供高质量Prompt模板,帮助零基础的开发者参考掌握Prompt,提高工作效率。
应用开发之后,如何服务部署也是开发者关心的重点。在星河社区,开发者完成的应用、模型,均可“一键”实现高性能高稳定性部署,成为自己私有的API服务。星河社区还将打造API服务中心,开发者既可以发布自身部署的优质API服务,也可以使用他人发布的API服务,在共享互助中提高生产力效率。
飞桨与文心联合优化,星河社区与开发者共创大模型应用生态
据马艳军透露,全面升级后的星河社区,之所以能够实现高效的模型训练,完成高质量的模型推理部署,受益于飞桨深度学习平台与文心大模型的联合优化。比如在大模型训练方面,飞桨与文心在硬件集群、芯片存储、软件算法等方面进行了协同优化,全方位提效,大幅度减少了训练时间,达到了事半功倍的效果。在大模型推理方面,飞桨结合大模型结构特性,从模型压缩、推理引擎、服务部署三个关键环节,开展了全方位的深度协同优化,为开发者探索大模型应用降本增效。
我国拥有丰富的大模型应用场景,愿意拥抱新技术的海量用户。基于文心一言这样的先进基础大模型,有望培育繁荣的大模型生态,为经济增长与社会发展注入新动能。在今年8月的WAVE SUMMIT 2023深度学习开发者大会上,百度发布了文心大模型「星河」共创计划,将以丰富的大模型资源、多层次的产业生态资源,携手广大开发者和生态伙伴们,激活数据资源价值,共建大模型插件,广泛创新AI应用。
面向未来,星河社区将持续进化,提供从算力基础设施、大模型技术、到教学课程、交流社区的全方位优质资源,建设成为开发者与企业运用大模型能力打造大模型应用的创新策源地,进而加速数字技术与实体经济深度融合发展,推动产业升级与生产力变革。
