(资料图)
据了解,与文心大模型3.0相比,3.5版本不仅在创作、问答、推理和代码能力上全面升级,安全性显著提升,训练和推理速度也大幅提升。这将大大提高模型迭代升级的效率,大幅降低训练及使用成本,进一步提升用户体验。
功能方面,文心大模型最大的一个变化是新增了插件机制。“文心大模型3.5通过插件方式扩增了大模型的能力边界。”百度首席技术官王海峰说,默认的内置插件“百度搜索”,使得文心一言具备生成实时准确信息的能力;长文本摘要和问答插件“ChatFile”支持超长文本输入等等。
王海峰表示,下一阶段,文心一言将发布更多优质的百度官方和第三方插件,让用户能够更好地应用文心大模型。同时,文心一言也将逐步开放插件生态给第三方开发者,帮助开发者基于文心大模型打造自己的应用。
王海峰还透露,文心大模型3.5在基础模型训练上采用了飞桨最先进的自适应混合并行训练技术及混合精度计算策略,并采用多种策略优化数据源及数据分布,大大加快了模型的迭代速度,显著提升了模型效果和安全性。同时,百度文心大模型研发团队创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,使模型效果及场景适配能力进一步提升。
此外,在推理方面,百度研发团队还通过大规模逻辑数据构建、逻辑知识建模、粗粒度与细粒度语义知识组合以及符号神经网络技术,显著提升文心大模型3.5在逻辑推理、数学计算及代码生成等任务上的表现。
校对 翟永军
X 关闭
-
贝壳财经
2023-06-27
百度:文心大模型大幅升级,3.5版本推理速度提升17倍|全球热推荐
-
搜狐科技
2023-06-27
售价19.98万元 2023款红旗E-QM5 PLUS 560KM上市
-
中国青年报
2023-06-27
汶川突发山洪泥石流,武警官兵全力投入搜救工作|全球消息
-
观点地产网
2023-06-27
【全球聚看点】武汉首个“承诺可开工”保租房项目实现“多证齐发”
-
中关村在线
2023-06-27
百度推出高考热搜大数据服务,食堂最好吃、颜值最高的高校有哪些
-
红网
2023-06-27
邵阳市人大常委会法工委召开立法论证会 观焦点
-
互联网
2023-06-27
西汉姆联始终不答应罗马纯租借斯卡马卡
-
搜狐
2023-06-27
6月28日 周三 十二生肖运势:明日应该注意什么
-
北京日报客户端
2023-06-27
美国财长耶伦将于下月访华?外交部:建议向主管部门询问|全球速读
-
Mtime时光网
2023-06-27
报道:《夺宝奇兵5》发布多款艺术海报,6月30日中国内地同步北美上映