AMA:行业必须公平竞争以释放AI的潜力


医学协会主席当选者Patrice A. Harris,MD在最近的观点文章中说,在实现AI等新技术的真正潜力之前,医疗保健行业必须首先解决健康差异和许多患者面临的隐性偏见 。。
【AMA:行业必须公平竞争以释放AI的潜力】哈里斯写道:“医学新技术的真正潜力在于为患者创造一个公平的竞争环境,并提高医生提供安全有效治疗的能力,同时减少健康结果方面的差异 。”
尽管新技术具有改善患者预后的潜力,但哈里斯指出,它们也可能加剧医疗系统中的差异和不平等现象 。她以AI为例,说应该将其用于“增强医师的工作并加强医患关系” 。但是,用于AI的算法是由人类医生在隐性偏差的作用下制定的,这可能会对这项技术及其对有色患者的治疗产生负面影响 。
今年早些时候,斯坦福大学的研究人员对人工智能为患者做出医疗决策的能力的伦理影响提出了担忧,包括人工智能是否可以模仿基于种族的人类偏见 。
隐性偏见有助于解释为什么非裔人会因疼痛而系统地治疗不足,而对于慢性病却未得到充分诊断 。这带来的风险是一个AI程序,该程序会反映并可能放大编写该程序的人员的健康相关偏见 。
为了防止长期存在健康差异,哈里斯鼓励医生询问“新技术是否正在改善患者的医疗环境,并增强患者与医生之间的关系 。新的数字工具是否真正在消除健康差异,并为那些经常被我们的医疗保健系统遗忘的人们增加了获得护理的机会?”

    推荐阅读