美国总统拜登

凤凰网科技讯 北京时间4月11日消息，由于人们越来越担心ChatGPT等人工智能工具可能被用于歧视或传播有害信息，美国拜登政府已经开始研究是否需要对这些工具进行检查。

(资料图片仅供参考)

作为走向潜在监管的第一步，美国商务部周二正式公开征求意见，就其所谓的问责措施请求人们发表意见，包括存在潜在风险的新人工智能模型在发布前是否应该通过一项认证程序。这些意见将在未来60天内被接受。

美国政府此刻采取这一行动，适逢人工智能工具的使用正在蓬勃发展之际。这些工具可以快速生成类似人类的文字、图像、视频等。一些分析师预计，人工智能实验室OpenAI开发的ChatGPT用户已经达到1亿，比历史上任何消费类应用都要快。

美国商务部下属国家电信和信息管理局发出了征求意见的请求，其局长艾伦·戴维森(Alan Davidson)表示：“看到这些工具在相对初期阶段就能做到这些，真是令人惊讶。我们知道，我们需要设置一些护栏，以确保它们得到负责任地使用。”

戴维森称，这些意见将被用来协助向美国政策制定者提出关于如何对待人工智能的建议。他补充说，国家电信和信息管理局的法律职责是就科技政策为总统提供建议，而不是撰写或执行法规。

目前，科技行业和政府官员已经对人工智能的一系列潜在危害表示担忧，包括利用该技术犯罪或传播虚假信息。上月，科罗拉多州民主党参议员迈克尔·班纳特(Michael Bennet)写信给几家人工智能公司，询问公共实验的事情，孩子的安全是他最关心的问题。在这些实验中，聊天机器人向冒充年轻人的用户提供了令人不安的建议。

“关于人工智能可能带来的爆炸性好处和坏处，人们正在进行非常活跃的讨论，”康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)在接受采访时说，“对国会来说，这是一个终极挑战，一个高度复杂和技术性的挑战，事关重大，非常紧迫。”

拜登总统上周在白宫与一个科学家顾问委员会讨论了这个话题。当一名记者问及这项技术是否危险时，拜登表示：“仍有待观察。有可能有危险。”这个委员会中的成员包括微软和谷歌的代表。他们和其他发布人工智能系统的公司表示，他们正在不断更新安全护栏，比如通过编程让聊天机器人不回答某些问题。

与此同时，包括埃隆·马斯克(Elon Musk)在内的科技领袖最近呼吁暂停开发比GPT-4更强大的系统六个月。GPT-4是OpenAI在大约一个月前发布的新版聊天机器人。他们警告称，OpenAI与谷歌等竞争对手之间正在展开的竞赛，没有对潜在风险进行充分地管理和规划。

美国司法部反垄断部门表示，它正在监测AI领域的竞争。美国联邦贸易委员会则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。(作者/箫雨)

更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。