医疗中出现的错误，严重的可能影响人类的健康性命，而用AI来主导药物筛选和研发，万一误判、或遭遇算法黑箱问题，人类又要如何甄别？李煜教授指出，药物的开发过程中，无论是否用到AI，都有机会遇到一些意外，故在研发过程中，科研团队还会通过动物实验、临床实验等方式，想办法解决安全性问题。

　　AI算法黑箱，是指一种根据输入生成输出，但不透露其决策背后内部逻辑或推理过程的AI系统。当我们将关键决策交给AI，但它却无法解释“为什么”时，就会为人类带来重大安全风险。

　　李煜表示，若AI发现的分子是天然界存在的，其实也并不太存在所谓的黑箱问题。“黑箱问题，主要可能体现在它自己去设计一些新的药物，如果这些新药物在没有监管，以及没有比较详尽的实验之前就使用的话，肯定是有问题的；但是如果进行了比较详尽的实验的话，就能避免这些问题。”