直指GPT-4！马斯克等千名“大佬”签署公开信，叫停AI训练

时间：2023-03-29 14:43:42 / 来源：中新经纬 / 点击数：()

中新经纬3月29日电当地时间28日，未来生命研究所(Future of Life Institute)网站披露了一封公开信，呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。

生命未来研究所是在2014年创立于美国波士顿的研究机构，目的一方面是为了促进对“未来乐观图景”的研究，一方面是为了“降低人类面临的现存风险”。2017年制定了Asilomar AI原则，这是被公认最早和最有影响力的AI治理原则之一。

公开信显示，顶级实验室的深入研究表明，具有与人类能力相匹配的AI系统可能对未来社会和人文道德构成风险。正如广泛认可的Asilomar AI原则中所述，高级AI可能造成地球生命史上的深刻变化，应以相应的资源等进行规划和管理。不幸的是，为了开发和部署更强大的数字思维，最近几个月AI实验室陷入了一场失控的竞赛，但相应级别的规划和管理目前还没有。

(资料图片)

来源：未来生命研究所网站

公开信指出，当代人工智能系统在一般任务上已变得与人类具有竞争力，必须扪心自问：我们是否需要让机器宣传充斥着信息渠道？我们是否要自动化所有工作？是否最终发展成可能超过我们并取代我们的非人类思维？应该冒险失去对我们文明的控制吗？

“只有确信它们的影响是积极并且风险可控时，才应该开发更强大的人工智能系统。”公开信呼吁，所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。如果不能迅速实施暂停，政府应该介入。

公开信称，AI实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级AI设计和开发的共享安全协议，并由独立外部专家进行严格审计和监督。

网站页面显示，此封公开信已获得包括苹果联合创始人斯蒂夫·沃兹尼亚克、特斯拉首席执行官埃隆·马斯克等在内的上千位知名企业家、学者签名。

来源：未来生命研究所网站

据路透社此前报道，当地时间周一，欧洲刑警组织也表达了对ChatGPT等先进人工智能有关道德和法律的担忧，警告该系统在网络钓鱼、虚假信息和网络犯罪中可能被滥用。(中新经纬APP)

编辑：付健青

标签:

最近更新

最新文章

直指GPT-4！马斯克等千名“大佬”签署公开信，叫停AI训练

合众社：苹果公司为ApplePay用户提供短期无息贷款分期支付个人消费资讯

视焦点讯！“慧眼”和“极目”精确探测最亮伽马暴

前搜狗CEO王小川成立人工智能公司注册资本500万|每日关注

马斯克等千名科技人士签署联名信：呼吁暂停训练比GPT-4更强大的人工智能_环球热点

唯品会回应“平台崩了”：正在紧急修复中

助力旅游产业快速回暖高德地图推出“酒店旅游爆品囤购节”_天天新消息

泡泡玛特2022年营收46.2亿元：调整后净利润5.7亿，同比下降42.7%_全球播资讯

微软旗下GitHub启动裁员印度工程团队几乎整体裁撤

【世界聚看点】美媒：阿里巴巴重组或成全球科技巨头模版，腾讯会仿效吗？

一周热门

唯品会回应“平台崩了”：正在紧急修复中

京东苏宁“隔空喊话” 京东坚称末位淘汰不动摇

一不小心微信转错账如何挽回损失呢？

网络监管成难题：隐私泄露安全漏洞太多

外媒报道：作为纸币的发明国中国或将首先停用现金

爱钱帮宣布完成5亿元B轮融资 A股公司董事长入局

手机地下“解锁”调查：费用达千元，黑客及“内鬼”提供

丰田欲在华量产电动车型最早2019年落地

手机充电两分钟 “偷偷”被装软件四五个

欧盟27亿美元罚款将重创谷歌二季度业绩利润或腰斩