技术滥用警报：AI能在6小时内合成4万种新的致命化合物

来源：搜狐号-南财快讯 2022-03-23 10:19:29

分享到：

原标题：技术滥用警报：AI能在6小时内合成4万种新的致命化合物

据最新一期《自然·机器智能》刊发的论文，美国科学家发出警报，人工智能（AI）很容易被滥用。实验显示，AI在被研究人员赋予任务之后，在短短6小时内就合成了40000种新的致命化学武器化合物。

据报道，北卡罗来纳州罗利的生物技术创业公司Collaborations Pharmaceuticals科研团队正在使用人工智能寻找可用于治疗疾病的化合物，其中一部分涉及过滤掉任何可能致命的化合物。

作为检测新技术潜在负面影响的一部分，研究小组在其人工智能算法中 "打开了一个开关"，并让它找到最致命的化合物。该团队想看看，如果人工智能算法被设定在一个负面而非正面的任务上，它可以多么迅速和容易地被滥用。

根据The Verge的一份报告，一旦进入“坏模式”，人工智能就能够发明数以千计的新化学组合，其中许多类似于今天使用的最危险的神经毒剂。

在人工智能发明的化合物中，有一些类似于VX，一种毒性极强的神经毒剂，即使是很小的剂量也能引起抽搐。

研究人员表示，他们发现最可怕的是，利用广泛可用的有毒化学品数据库，并使用人工智能来设计类似于目前最危险的化学武器是多么容易。

论文的主要作者乌尔比纳（Fabio Urbina）说：“我们使用的很多东西都是免费的，你可以从任何地方去下载一个毒性数据库。如果有一个人知道如何用Python编程，并且有一些机器学习的能力，那么可能在一个周末的工作中，他可以建立类似于这种由有毒数据库驱动的生成模型。”

他表示，这就是让研究团队考虑把这篇论文公开发表原因，对于这种类型的滥用，它的进入门槛如此之低。

文/南都记者陈林