新算法可以帮助解决AI的黑匣子挑战


根据健康影像公司的一份报告,来自波士顿麻省总医院(MGH)的研究人员设计了一种深度学习算法,提供了其决策背后的理由,这可以帮助解决与AI相关的透明性问题 。
根据这项研究(最初在线发表在《自然生物医学工程》上),深度学习算法通过“注意力图”揭示了其推理,该注意力图突出了用于预测的图像上的重要区域 。该功能还消除了放射科医生对用于训练大多数深度学习模型的大型高质量数据集进行注释的需求 。
人工智能中的“黑匣子”挑战是指基于人工智能的系统无法解释其如何做出特定决策 。医学专家广泛讨论了AI和机器学习中的透明度问题 。在最近的一篇文章中,专家们列举了在AI时代改善临床决策支持系统(CDSS)的几种方法,并将透明度纳入系统是最优先考虑的事情 。
【新算法可以帮助解决AI的黑匣子挑战】总体而言,使用不到1000张图像对深度学习算法进行了训练,以检测颅内出血(ICH)并在未增强的头部CT扫描中对五种亚型进行分类 。研究人员发现,与经过培训的放射科医生相比,该模型具有相当的准确性,但灵敏度更高 。

    推荐阅读