6 小时生成致命毒剂：千万不能遭滥用的 AI

▼

不少人都觉得制毒并不容易，至少需有化学知识。但如果请人工智慧帮忙呢？且 AI 系统“做”出的不是毒品而是毒药。

以 Fabio Urbina 为第一作者于《Nature Machine Intelligence》发表的论文提到，他任职的公司 Collaborations Pharmaceuticals 最近公布预测毒性的机器学习模型。受邀参加瑞士 NBC（核子、生物和化学）保护研究所会议时，讨论尖端化学和生物技术可能产生影响的工具发展，Collaborations Pharmaceuticals 受邀谈论人工智慧技术可能滥用的问题。

Urbina 表示，之前似乎没想过这问题，因几十年来机器学习模型发现可制药的新分子，使用电脑和人工智慧是改善人类健康，不是破坏。Collaborations Pharmaceuticals 却决定探索如何使用 AI 设计有毒分子，之前设计名为 MegaSyn 的商业 de novo 分子生成模型，借助机器学习模型预测生物活性，寻找人类疾病标靶新治疗抑制剂。

这种生成模型通常会惩罚预测毒性并奖励预测目标活动，之后调整指导模型同时奖励毒性和生物活性，并使用公共资料库分子训练人工智慧。调整后底层生成软件建立在易获得的开源软件上，为了缩小分子范围，将生成模型推向诸如神经毒剂 VX 类化合物。

VX 是神经毒剂的人造化学战剂（化学战剂：战争目的、有剧烈毒性、大规模毒害或杀伤敌方人畜和植物等化学物质），毒性强且作用迅速，6~10 毫克 VX 颗粒便足以致命。服务器启动后 6 小时内，新模型就生成 4 万个分子。人工智慧不仅设计出 VX，还设计许多已知化学战剂，更设计出许多看起来同样合理的新分子，据预测值看，新分子比已知化学战剂毒性更强。

（Source：Nature）

训练 AI 的资料库并不包括这些神经毒剂，但反转机器学习模型，却将无害生成模型从有用的医学工具转为致命的分子产生器。为了避免毒性创建的模型变成“双面刃”。研究人员越能预测毒性，引导生成模型在主要由致命分子组成的化学空间设计新分子的效果也越强。

Collaborations Pharmaceuticals 没有评估模型生成的虚拟分子可合成性，也没有探索如何制造，但过程都有现成商业模式和开源软件。虽然他们也没有物理合成任何分子，但全球有数百家商业公司能合成。

这证明一件事：非人类也能制造致命化学武器。

虽然目前要生成可能造成重大伤害的有毒物质或生物制剂仍需要化学或毒理学知识，但加入机器学习模型后，技术门槛大大降低，可能只要编码和理解模型输出的能力。商业工具、开源软件工具和公共资料库许多资料，都可在没有监督下使用，利用人工智慧生成有害分子的模型似乎成了“潘朵拉的盒子”。这些分子可轻松删除，但如何创造却不会消失。

很明显，必须想办法避免人工智慧滥用。Urbina 认为，人工智慧化学战并不会很快出现，但有这种可能。MegaSyn 是商业产品，可控制谁能接触，未来也可能增加限制，像 OpenAI“GPT-3”语言模型，虽然能随时使用，但也能切断使用者存取权。

Urbina 还提到，大学也要加倍努力培训理科生的道德，范围可扩大到其他学科，尤其计算机专业学生，让他们意识人工智慧滥用的可能性。这次尝试似乎再次印证一句话：技术无罪，造福还是作恶，取决于使用者的目的。

（本文由 爱范儿 授权转载；首图来源：shutterstock）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。