当前快报:警惕人工智能被操纵制毒

业界 | 2023-02-24 08:38:20
时间:2023-02-24 08:38:20   /   来源: 北京日报      /   点击数:()


(相关资料图)

科学家警告称,人工智能可能被滥用于制造剧毒化学武器和生物武器。人工智能可以识别新型抗生素和药物抵御新冠病毒感染,但是基于人工智能的药物研发人员发现,该技术很容易被操纵,用于制造致命的神经毒剂。

瑞士联邦核生化防护研究所要求工作人员分析人工智能是否会被恶意利用,结果表明:人工智能在6小时内就能提出4万种潜在的毒剂配方。研究人员法比奥·乌尔比纳在近期出版的《自然机器智能》杂志上强调了这一担忧,“最新实验让我们意识到人工智能非常强大,如果我们将所做的事情方向翻转一下,不是远离毒剂而是朝向毒剂发展呢?结果显示,人工智能开始制造大量有毒分子,很多看起来像化学武器毒剂。”其中一些有毒分子甚至比VX神经毒剂更强。VX神经毒剂是英国国防科学技术实验室在20世纪50年代研发的,是一种无色无味的油状液体,可导致肌肉瘫痪。

研究人员表示,令人担心的是人工智能制造毒剂会变得很容易,因为开发过程中所使用的很多东西都是免费的,可以从许多站点下载毒剂数据集。如果知道如何用Python编程,并且具备一些专业能力,就有可能构建出类似于这种由有毒数据集驱动的生成模型。

标签:

最近更新