自适应机器学习算法能力强大，但其决策过程通常不透明。例如，若用数千张汽车图片训练人工智能，它能识别新图片中是否有汽车，但无法确定其判断是基于车轮、挡风玻璃等关键特征，还是无关因素（如车顶天线）。这种“黑匣子”特性意味着研究者不能盲目依赖其结果。
“可解释性”是AI研究的关键课题，旨在揭示模型的决策逻辑。研究人员指出，某些AI模型专门用于提高其它模型的可解释性。然而，即使模型揭示了判断标准（如天线），仍需评估其科学合理性——人类知道天线与汽车无关，但AI可能误将其作为关键特征。
在化学和药物研究中，生成模型能提出具有特定活性的新分子结构，但无法解释其原理。研究强调，当前AI模型本质上是统计工具，可能关注无关特征。验证其建议需通过实验，例如合成并测试分子，但这过程成本高昂。因此，研究者需谨慎评估AI的结果，避免过度解读相关性为因果关系。
研究最后强调，尽管AI能推动科学进步，但必须清醒认识其局限性：它可能发现人类忽略的规律，也可能依赖无意义的特征。合理使用AI需结合科学验证，而非盲目信任其输出。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】