近期,中国工业互联网研究院(简称“工联院”)针对人工智能大模型在中文工业领域的知识问答能力进行系统性评测。结果显示,百度文心一言表现超过GPT3.5,综合评价指数在国内排名第一。
(资料图)
工联院本次评测选取了工业领域典型的八大行业。百度文心一言在电子设备、装备、钢铁、采矿、电力、石化、建材等七大行业均获国内第一。
5位院士,8位IEEE Fellow,共13位顶级专家构成了专家委员会。评测对象涵盖GPT4、GPT3.5、文心一言、ChatGLM等国内外具有代表性的头部大模型。评估结果选取性能前6名的模型进行公布。
百度文心一言在国内“最懂工业”
本次工业知识问答测试主要分为客观题与主观题两大类,总计超过1100个问题。主观题主要考察四大维度:基础能力、语句能力、概括能力和逻辑能力。
评测结果显示,GPT4表现最佳。国内头部大模型表现亮眼,整体与GPT3.5相当。其中百度文心一言表现超过GPT3.5,在国内大模型中排名第一。
在客观题环节,评测结果显示,GPT4与文心一言表现好于其他大模型。但评测结果也同时指出,大模型普遍准确率有较大的提升空间。
主观题方面,国内大模型的基础能力、语句能力与GPT4接近,概括能力、逻辑能力与GPT4有一定差距。
在大模型的自我认知能力和污染问题分析能力上,GPT4相较于其他大模型表现出更好的能力。
大模型发展新热点:丰富特定行业专业知识
虽然国内大模型在本次评测表现较好,甚至在部分行业赶超GPT3.5,但工联院评测报告也指出,国内外通用大模型在工业知识问答领域探索仍处于初级阶段,国内大模型与GPT4有差距,比如行业间的泛化能力有待加强。
实际上,工联院评测报告揭示出通用大模型落地垂直行业的痛点,缺乏特定行业的专业知识。
关于解决难题的方法,工联院评测报告给出的建议是,进一步丰富相关专业领域的数据训练集,进一步进行专业化的微调。
当前,国内科技公司纷纷加强与工业企业合作,期望通过在实际场景中探索应用大模型,弥补差距,赶超GPT4.0。
比如在本次评测中位居国内模型第一的百度文心一言,与南方电网电力调度控制中心在电力调度场景探索使用调度AI大模型。在汽车行业,长安汽车基于百度文心大模型正在开发生成式人工智能产品,赋能一款量产车型,实现提升用户体验的目标。除了能源、汽车制造,百度智能云还在建筑、采矿、物流、纺织等领域,探索使用大模型提升运营效率和用户体验效果。
通过在实际场景的探索应用,科技公司可以积攒更多的行业Know-how,扩展相关领域的数据训练集。这种外部真实反馈有助驱动大模型更加快速地实现迭代升级。
未来,工联院将持续开展通用大模型在工业领域更多维度的性能评测,包括但不限于大模型的鲁棒性、安全性以及人类大价值观等。
(编辑:吴双)
标签:最近更新
- 工联院大模型测评:文心一言在工业领域表现超过GPT3.5,居国内大模型首位2023-06-28
- 到底有多难?于潮落潮起间修复,探访红树林人工种植一线|每日头条2023-06-28
- 全球通讯!在 Java、Python、JavaScript 和 Go 中拥抱异步2023-06-28
- 日警方逮捕中国籍研究员 中国驻日本使馆:要求日方确保中国公民合法权益_天天报道2023-06-28
- 【环球新视野】桃树品种排行榜前十名 桃树品种2023-06-28
- 中国移动正式发布两颗自研通信芯片2023-06-28
- 热资讯!星环科技(688031)6月28日主力资金净买入239.36万元2023-06-28
- 观热点:苹果“我的照片流”功能即将关闭:上传照片会消失2023-06-28
- 朝阳区纪委监委与长治市潞城区纪委监委开展对口合作交流座谈|每日热闻2023-06-28
- 《南洋女儿情》全剧最狠毒之人浮出水面,囚禁陆雪霖嫁祸白薇|环球快播报2023-06-28
- 53岁周鸿祎晒清华录取通知书,攻读博士!网友:导师管你你服管吗? 天天快看2023-06-28
- 焦点速看:非纸笔测试来啦!玉成学校学子比拼智慧、乐享童年2023-06-28
- 暑假宅家开黑利器,Reno10 Pro+可不只拍照好看,游戏体验同样亮眼2023-06-28
- “国潮+科技” 杭州奇妙夜还原宋韵美学2023-06-28
- 天天快资讯丨中国移动董事长杨杰:推动信息通信业“三个融合”2023-06-28
- 贝多芬的一生简介100字_贝多芬的一生简介 今日要闻2023-06-28
- 天天热门:四川移动全力做好汶川县山洪泥石流抢险通信应急保障2023-06-28
- MWC上海丨华为孟晚舟:拥抱5G变革,持续构筑5G商业成功-今日热文2023-06-28
- 世界聚焦:聚焦中博会丨“专精特新”中小企业数量突破8万家 超10省将于今年落地“三赋”专项行动2023-06-28
- 鹰潭鹰潭市市场监管局“三抓三促”落实特殊食品生产经营单位主体责任2023-06-28
- 世界消息!起亚整车进口纯电EV6开启盲订 限量1000台2023-06-28
- 第三届中国·浙产名药暨药食同源健康产业发展大会举行2023-06-28
- 法媒:布基纳法索军方车队遭恐袭 至少34人死亡_全球球精选2023-06-28
- 全球微动态丨中国电信全力做好四川汶川县泥石流抢险救灾通信保障工作2023-06-28
- 中国电信全力做好四川汶川县泥石流抢险救灾通信保障工作-焦点速递2023-06-28
- 2023年1—5月份全国规模以上工业企业利润下降18.8%2023-06-28
- 天天看热讯:经营劳务派遣业务的公司其注册资本不得低于多少_经营劳务派遣业务注册资本不得少于多少万元2023-06-28
- 暴雨蓝色预警四川提前避险紧急转移25000余人-全球快消息2023-06-28
- 擦亮“金融为民”底色 强化金融知识普及 ——中银消费金融多措并举推进消保宣传工作见实见效-世界今热点2023-06-28
- 天天即时:Fly历史地位遭遇重大挑战!亚运会可能永远痛失一冠,粉丝很唏嘘2023-06-28