文心一言跑出“加速度” 大模型评测结果紧追GPT-4

快讯 | 2023-08-14 21:09:58
时间:2023-08-14 21:09:58   /   来源: 人民邮电报      /   点击数:()


【资料图】

8月12日,天津大学和信创海河实验室举办“大模型技术与评测研讨会”,会上天津大学发布首份《大模型评测报告》,对国内外主流的14个大语言模型进行综合能力评测,结果显示,GPT-4和百度文心一言相较于其他模型遥遥领先,两者得分相差不大,处于同一水平。随着中国大模型的蓬勃发展,国产大模型中最领先的文心一言已经实现了对ChatGPT的超越,并逐步缩小与GPT-4的差距,中美大模型正在形成两强领跑的格局。

值得关注的是,天津大学引入GPT-4对参评模型的主观题回答进行了打分,结果显示,在GPT-4看来文心一言生成的内容质量更高,相比人工评价,文心一言的总得分一举超过GPT-4,跃居榜首。

天津机器学习重点实验室负责人、天津大学胡清华教授表示,“基础智能模型有望重塑人工智能的发展模式,国内外大模型如雨后春笋般大量涌现。全面准确评价此类模型是推动和规范其健康发展的基础,为使用者在选择和应用大模型时提供参考。可以看到,百度文心一言在评测中展现了国产大模型的强大实力,中国的大语言模型在短期内取得巨大发展,正在逐步赶超国际类似的模型,甚至在某些指标上实现了局部超越。未来,期待国产大模型能够取得更大突破,可以赋能社会经济发展,助力我国科技高质量自立自强。”

据了解,参与本次评测的大模型包括GPT-4、ChatGPT gpt-3.5-turbo、Claude-instant、Sage gpt-3.5-turbo等国外大模型,以及百度文心一言、阿里通义千问、讯飞星火认知大模型、ChatGLM-6B、360智脑、MOSS-16B、MiniMax、baichuan-7B等国产大模型。评测使用一套涵盖知识问答、语言表达、逻辑推理、常识问答、文本问答、机器翻译等不同领域知识、包含多种题型的综合性试题,通过多维度得分结果,清楚了解不同模型的擅长领域和综合能力优劣。

结果显示,国产大模型以文心一言为代表,在知识问答、语言表达、逻辑推理、常识问答等方面表现出色。相比其他国产大模型,文心一言更具优势,展示了更强大的综合能力。尤其在中文语言表达上,文心一言相比GPT-4和其他国内大语言模型明显更优质。此外,本次评测中,文心一言在计算机、医学、法律和教育等领域的得分率高,为大语言模型在相关行业的落地提供了技术基础。

近期,国内外多家调研机构、权威媒体和高校等发布大模型评测报告,从结果来看,文心大模型3.5版支持下的文心一言中文能力突出,甚至有超出GPT-4的表现;综合能力在评测中超过ChatGPT,遥遥领先于其他大模型,稳居国内第一。有专家指出,大模型正在进入规模可复制的产业落地阶段,在关注大模型评测的同时,更要关注大模型的落地生态。百度文心在大模型生态的构建上具备先发优势。

公开资料显示,文心大模型已经拥有中国最大的产业应用规模,目前有15万家企业申请接入文心一言测试。最新数据显示,百度有超过750万开发者基础,20万企业生态基础,多层次开展大模型人才培训、企业赋能、开发者运营。百度还设立10亿创投基金鼓励大模型创意、繁荣大模型生态,不到1个月时间吸引近1000个项目参与角逐,参赛团队表示,百度打响了中国大模型的第一枪,百度在资金、技术、业务等方面的全面扶持,大幅降低了大模型行业的入局门槛,为大模型应用创业团队注入了强劲动力和信心。

(编辑:吴双)

标签:

最近更新