百度文心一言产业链 百度文心一言生态圈( 二 )


文章插图
百度文心一言产业链
五大使用场景、五大能力,文心一言将革新生产力工具
发布会现场,李彦宏展示了文心一言在五个使用场景的表现,包括文学创作、商业文案创作、数理推算、中文理解和多模态生成 。
在文学创作场景中,文心一言根据对话问题将知名科幻小说《三体》的核心内容进行了总结,并提出了五个续写《三体》的建议角度,体现出对话问答、总结分析、内容创作生成的综合能力 。
此外,文心一言准确回答了《三体》作者、电视剧角色扮演者等事实性问题 。生成式AI在回答事实性问题时常常“胡编乱造”,而文心一言延续了百度知识增强的大模型理念,大幅度提升了事实性问题的准确率 。面对“于和伟和张鲁一有哪些共同点”“于和伟和张鲁一谁更高”这类问题,文心一言也基于推理能力得出了正确答案 。
在商业文案创作场景中,文心一言顺利完成了给公司起名、写Slogan、写新闻稿的创作任务 。
连续三次内容创作生成中,文心一言既能准确理解人类意图,又能清晰地表达,这是基于庞大数据规模而发生的“智能涌现” 。文心一言大模型的训练数据包括万亿级网页数据、数十亿的搜索数据和图片数据、百亿级的语音日均调用数据,以及5500亿事实的知识图谱等,这让百度在中文语言的处理上,能够处于独一无二的位置 。
文心一言还具备了一定的思维能力,能够学会数学推演及逻辑推理等相对复杂任务 。面对“鸡兔同笼”这类锻炼人类逻辑思维的经典题,文心一言能理解题意,并有正确的解题思路,进而像学生做题一样,按正确的步骤,一步步算出正确答案 。
文学创作、商业文案创作、数理推算是大语言模型常见的优势和能力,在此基础上,文心一言还表现出更优秀的中文理解及多模态生成能力 。
作为扎根于中国市场的大语言模型,文心一言具备中文领域最先进的自然语言处理能力,在中文语言和中国文化上有更好的表现 。在现场展示中,文心一言正确解释了成语“洛阳纸贵”的含义、“洛阳纸贵”对应的经济学理论,还用“洛阳纸贵”四个字创作了一首藏头诗 。
多模态生成方面,李彦宏现场展示了文心一言生成文本、图片、音频和视频的能力 。有趣的是,文心一言甚至能够生成四川话等方言语音;文心一言的视频生成能力则因成本较高,现阶段还未对所有用户开放,未来会逐步接入 。
“多模态是生成式AI一个明确的发展趋势 。”李彦宏表示,“未来,随着百度多模态统一大模型的能力增强,文心一言的多模态生成能力也会不断提升 。”
从文心一言的表现看,某种程度上它具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性都逐渐接近人类水平 。但整体而言,这类大语言模型还远未到发展完善的阶段,有赖于通过真实的用户反馈而逐步迭代 。
王海峰表示,文心一言是新一代知识增强大语言模型,是在ERNIE及PLATO系列模型的基础上研发的 。它的关键技术包括有监督精调、人类反馈的强化学习、提示、知识增强、检索增强和对话增强 。前三项是这类大语言模型都会采用的技术,ERNIE和PLATO中也已经有应用和积累,在文心一言中又有了进一步强化和打磨;后三项则是百度已有技术优势的再创新,也是文心一言未来越来越强大的基础 。
李彦宏强调:“文心一言将建立起真实用户反馈、开发者调用和模型迭代之间的飞轮,效果会迅速提升,给你‘士别三日,当刮目相看’的惊喜 。”
大语言模型无法突击速成,百度具备四层技术栈独特优势
目前,百度是全球大厂中第一个做出对标ChatGPT产品的企业 。李彦宏指出:“无论是哪家公司,都不可能靠突击几个月就能做出这样的大语言模型 。深度学习、自然语言处理,需要多年的坚持和积累,无法速成 。”
可以说,文心一言是百度过去多年努力的延续 。人类进入人工智能时代,IT技术的技术栈发生了根本性变化,从过去三层到“芯片-框架-模型-应用”四层 。今天,百度是全球为数不多、在这四层进行全栈布局的人工智能公司,从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,到搜索、智能云、自动驾驶、小度等应用,各个层面都有领先业界的自研技术 。
李彦宏认为,百度AI全栈布局的优势在于,可以在技术栈的四层架构中实现端到端优化,大幅提升效率 。尤其是框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本 。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验 。比如,为了支持千亿参数模型的高效分布式训练,百度飞桨专门研发了4D混合并行技术 。