6 小时内生成致命毒剂，这个技术千万别被“绝命毒师”滥用几天前有这样一则新闻：济南

几天前有这样一则新闻：济南市公安局成功捣毁一冰毒制造场，制毒嫌疑人李某从2021年开始在网上学习制毒知识，为系统学习化学专业知识还花钱在济南一所大学旁听。《绝命毒师》的主角WalterWhite也是一名化学老师。
不少人都觉得，制毒也并不是件容易的事，至少需要掌握相关的知识。但如果，用人工智能就能实现呢？而且AI系统「造」出的不是毒品而是毒剂。

文章图片
▲《绝命毒师》剧照，图片来自：豆瓣
在以FabioUrbina为第一作者发表在《NatureMachineIntelligence》杂志上的一篇论文里提到， Urbina所在的公司CollaborationsPharmaceuticals ，最近公布了用于预测毒性的计算机机器学习模型。
公司受邀参加由瑞士NBC（核、生物和化学）保护研究所召开的会议，讨论尖端化学和生物技术可能产生影响的工具的新发展， CollaborationsPharmaceuticals受邀谈论关于人工智能技术可能被滥用的问题。

文章图片
▲图片来自：CollaborationsPharmaceuticals
Urbina表示，在这之前似乎没有想过相关的问题。因为几十年间，他们的工作是建立机器学习模型来发现可用于药物的新分子，使用计算机和人工智能是用来改善人类健康，而不是破坏它。
在瑞士的会议上， CollaborationsPharmaceuticals公司却决定探索如何使用AI来设计有毒分子。该公司之前设计了一种名为MegaSyn的商业denovo分子生成模型，借助机器学习模型预测生物活性，寻找人类疾病靶点的新治疗抑制剂。

文章图片
▲图片来自：CollaborationsPharmaceuticals
【6 小时内生成致命毒剂，这个技术千万别被“绝命毒师”滥用】这种生成模型通常会惩罚预测的毒性并奖励预测的目标活动。之后他们进行了调整，指导模型同时奖励毒性和生物活性，并使用来自公共数据库的分子对人工智能进行训练。
调整后的底层生成软件建立在易获得的开源软件上，为了缩小分子的范围，他们选择将生成模型推向诸如神经毒剂VX之类的化合物。

文章图片
▲图片来自：美联社
VX是归类为神经毒剂的一种人造化学战剂（化学战剂：用于战争目的、具有剧烈毒性、能大规模地毒害或杀伤敌方人畜和植物的各种化学物质），毒性强且作用迅速， 6-10毫克的VX颗粒便足以致命。
在内部服务器上启动后的6小时内，新的模型就生成了40000个分子。在这当中，人工智能不仅设计出了VX ，还设计了许多其他已知的化学战剂。出乎意料的是，它还设计出了许多看起来同样合理的新分子，根据预测值来看，这些新分子被预测比已知的化学战剂毒性更大。

文章图片
▲图片来自：Nature
在他们用于训练AI的数据集里，并不包括这些神经毒剂。但通过反转机器学习模型的使用方式，却将无害的生成模型从有用的医学工具转变为可能致命的分子生成器。
为了避免毒性而创建的模型，成了「双刃剑」。从事研究的人员越能预测毒性，引导生成模型在一个主要由致命分子组成的化学空间里设计新分子的效果也越强。

文章图片
▲图片来自：Unsplash
其实， CollaborationsPharmaceuticals公司并没有评估模型生成的虚拟分子的可合成性，也没有探索如何制造它们。但对于这两个过程，都有现成的商业模式和开源软件。虽然他们也没有物理合成任何分子，但全球范围内有数百家商业公司可以提供化学合成。
他们的探索，证明一件事：非人类的自主创造者也可以制造致命化学武器。
虽然目前要生成可能造成重大伤害的有毒物质或生物制剂仍然需要一些化学或毒理学领域的专业知识，但加入机器学习模型后，技术门槛就会大大降低，需要的可能只是编码和理解模型输出的能力。

文章图片
▲图片来自：Unsplash
商业工具，开源软件工具和公共数据库中的许多数据集，都可以在没有监督的情况下使用，利用人工智能生成有害分子的模型似乎成了一个被打开的「魔盒」。生成的这些分子可以被轻松抹去，但如何创造它们的知识却不会消失。