SQUID系统“撬开”人工智能“黑匣子”

科技日报记者 张佳欣

在生物研究中，人工智能（AI）可筛选数十万个基因组数据点，识别潜在的治疗目标。但是，科学家们仍然不确定AI模型是如何得到这些结果的。然而，科学家们仍然不确定AI模型是如何得到这些结果的。根据最新一期《自然机器智能》杂志的报道，一个名为SQUID的新系统已经出现，它可以“撬开”AI模糊内部逻辑的“黑匣子”。

计算过程的SQUID示意图。

图片来源：冷泉港实验室

SQUID的全称是“深度网络替代定量可解释性”，是美国冷泉港实验室（CSHL）为解释AI模型如何分析基因组，科学家创造了一种计算工具。SQUID与其它分析工具相比，更加一致，降低了背景噪声，能够更准确地预测基因突变的影响。

CSHL助理教授彼得·库解释说，SQUID之所以能够发挥作用，主要是因为它的特殊训练。用于理解这些模型的工具主要来自其它领域，如计算机视觉或自然语言处理。尽管它们非常有用，但它们并非基因组学的最佳选择。这一次，科学家们对SQUID的训练是利用几十年的定量遗传学知识，帮助人们理解这些深度神经网络正在学习什么。

SQUID的原理是，首先生成一个包含超过100,000个变异DNA序列的数据库，然后使用一个名为MAVE的数据库。-NN(神经网络多重分析变异效应)程序对数据库中的突变及其影响进行分析。这个工具使科学家能够同时进行数千个虚拟实验，最终“捕捉”出最准确的AI算法。这一算法可以为更接近现实的实验奠定基础。

计算机虚拟实验不能取代真实实验。尽管如此，他们还是能够提供非常丰富的信息，帮助科学家了解基因组特定区域如何工作，突变会产生什么影响。

在AI领域，研究小组希望SQUID能够帮助科学家找到最适合他们需求的模型。比如在人类基因组研究领域，SQUID可以帮助生物学家更准确地把握相关发现的医学价值，并将这些发现转化为临床医学应用。