(资料图)
中国经济网北京7月8日讯（记者 王惠绵） 近日，墨芯人工智能首次发布SparseOne S100在浪潮服务器中的测试数据，S100是全球首个高稀疏率AI计算卡，运行多个AI主流模型，性能表现为国际大厂主流AI推理卡的6倍。
值得注意的是，这是墨芯首次披露S100运行能够实现单卡推理大模型，突破单卡难以满足高算力需求的瓶颈，有效解决业界对大模型，普遍采取多机多卡分布式的方式，完成推理所带来的时间长、功耗高、成本高等问题。
近年来新兴的NLP模型——T5，曾被称为“全新NLP SOTA预训练模型”，以其高参数量，让许多计算卡“望而却步”。但在本次测试中，S100在单机单卡环境下就能运行T5-8B模型，算力高达141.8 SPS。
除了高算力的优势，相较于当前国际大厂主流推理卡单卡只能支持百亿参数级别的模型，墨芯S100可以支持千亿参数级别的模型。
在单机单卡环境，不影响精度的前提下，S100运行BERT模型，SST-2数据集，性能达12176 SPS；S100运行ResNet-50模型，ImageNet数据集，性能达28260 FPS。在主频800 MHz的测试环境中，S100运行ResNet-50模型时算力达33197 FPS。浪潮内测主频为700 MHz。
所有测试均是在实际环境中，S100计算卡能够直接投入实际场景的使用，拥有较高的应用价值。同时还能满足高能效比、低功耗和高精度，为企业大幅降低部署成本和运维成本。
据了解，S100超高性能源于稀疏化计算。而稀疏化的原理是指，在AI矩阵运算中，将无效元素剔除，极大加快计算速度，降低计算成本。2021年8月，谷歌人工智能主管Jeff Dean在一次TED演讲中表示，稀疏化是下一代AI架构中最重要的趋势之一。
墨芯作为稀疏化产业实践者，其稀疏化计算解决方案具有广阔的生态前景。墨芯人工智能创始人兼CEO王维表示，“墨芯将构建涵盖软件、硬件、应用的AI计算平台，与研究人员、开发者、软件开发商等合作伙伴一起，为各行各业用户提供高性能AI计算服务，共同构筑场景丰富、生机勃勃的稀疏化生态。”
标签:最近更新
- 最新：宁夏首条高铁5G网络全线开通2023-01-09
- 5项数字化转型国家标准正式立项2023-01-09
- 漯河联通“六抓六促”推广党建负责人工作法2023-01-09
- 【速看料】泰安移动开展“四个一”抓实抓牢节前廉洁教育2023-01-09
- 我国大数据产业规模达1.3万亿元复合增长率超30%2023-01-09
- 宿州移动警企联动“重拳打猫”再添战果2023-01-09
- 焦点热议:中国联通故障中心平台及网络智能运维机器人系统获“优秀级”认证2023-01-09
- 浙江联通实现省内重点城市“一市一池”全覆盖|焦点快看2023-01-09
- 苹果服软！iPhone 15曝光：全系标配USB-C、灵动岛 Pro版还有钛合金2023-01-09
- 每日观察!未来要取代iPhone！苹果AR/VR头戴设备将春季发布：原型机已发放2023-01-09
- 快看：“天灾加人祸”，特斯拉的好日子到头了？2023-01-09
- 【全球热闻】支付宝2023年“集五福”来了 网友：两块钱的大项目2023-01-09
- 全球今头条！马斯克承诺成空谈！推特被裁员工仅获1个月工资补偿2023-01-09
- 微软Xbox老大斯宾塞盛赞索尼：无障碍手柄是对PS生态很好的补充2023-01-09
- 每日资讯：暴雪网易复合几乎不可能：不会降低标准 正和新代理谈的火热2023-01-09
- 苹果砍单“链条”受过 “果链”上市公司另寻出路2023-01-09
- 天天热资讯！紫辉创投郑刚再呛罗永浩：多次退出锤子科技股东群，用新公司股权要挟投资人放弃基本权利2023-01-07
- 投资人炮轰罗永浩“势利眼”，曾参与锤子科技两轮融资，称其是中国乔布斯|全球通讯2023-01-07
- 天天观点：罗永浩发文回应投资人郑刚2023-01-07
- 罗永浩回应郑刚炮轰：锤子每年都开股东会，新公司已给老股东股权补偿2023-01-07
- 蚂蚁集团股东上层结构调整、马云不再为实控人，继续强化与阿里的隔离_全球新要闻2023-01-07
- 二叠纪大灭绝期间紫外线辐射增加？化石花粉粒中“防晒霜”添证据|全球快资讯2023-01-07
- 湖北西部秭归盆地首次发现侏罗纪中期恐龙足迹化石-环球讯息2023-01-07
- 观察：蚂蚁集团大动作！马云退出实控人位置，股东投票权进一步分散，拟引入第五名独董2023-01-07
- 罗永浩回应投资人“炮轰”：郑刚对我的评论毫无事实基础-环球快报2023-01-07
- 网传马云现身曼谷：吃路边摊看泰拳比赛 还上阵打了一通2023-01-07
- 投资人郑刚炮轰罗永浩 全球快看2023-01-07
- 全球实时：蚂蚁强化与阿里隔离 马云股份表决权变了2023-01-07
- 刚刚，蚂蚁集团发布重要公告！_环球快播2023-01-07
- 锤子手机投资人、紫辉创投创始人郑刚深夜炮轰罗永浩：不懂感恩2023-01-07