研究发现，人工智能可以从医学图像中判断种族
人工智能(AI)被广泛应用于各种卫生保健环境，从分析医学图像到辅助外科手术。虽然人工智能有时可以超越训练有素的临床医生，但这些超人的能力并不总是被完全理解。
最近发表在《柳叶刀数字健康》在美国，研究人员发现，人工智能模型可以在几种不同类型的放射图像中准确预测自我报告的种族，这是人类专家不可能完成的任务。这些发现表明，种族信息可能会在不知不觉中被纳入图像分析模型，这可能会加剧医疗环境中的种族差异。
“人工智能具有巨大的潜力，可以彻底改变许多疾病和状况的诊断、治疗和监测，并可能极大地改变我们的治疗方式卫生保健第一研究作者、NIBIB数据和技术进步(Data)国家服务学者Judy Gichoya说“然而，为了让人工智能真正惠及所有患者，我们需要更好地理解这些算法是如何做出决策的，以防止意外的偏见。”
人工智能算法中的偏差概念并不新鲜。研究显示人工智能的表现会受到人口特征的影响，包括种族。有几个潜在因素可能导致人工智能算法的偏差，例如使用的数据集不能代表患者群体(例如，使用的数据集大多数患者是白人)。此外，混淆因素——在亚群体中不成比例地出现的性状或表型(如乳房或骨密度的种族差异)——也可能引入偏见。目前的研究强调了另一个可能给人工智能算法引入意外偏差的潜在因素。
在他们的研究中，Gichoya和同事们首先想确定他们是否可以开发出仅通过胸部x光就能检测种族的AI模型。他们使用了涵盖不同患者群体的三个大型数据集，发现他们的模型可以高精度地预测种族——这是一个惊人的发现，因为人类专家无法通过观察x光来做出这样的预测。研究人员还发现，即使图像高度降级或裁剪到原始大小的九分之一，或分辨率修改到几乎无法识别为x射线图像，人工智能也可以确定自我报告的种族。研究团队随后使用了其他非胸部x光数据集，包括乳房x光片、颈椎x光片和胸部计算机断层扫描(CT)扫描，发现AI仍然可以确定自我报告的种族，无论扫描类型或解剖位置。
“我们的研究结果表明，大脑中存在‘隐藏的信号’医学图像让人工智能预测种族，”Gichoya说。“我们需要加快理解为什么这些算法具有这种能力，这样人工智能的下游应用——比如构建基于图像的算法来预测健康——就不会对少数和服务不足的患者群体造成潜在伤害。”
研究人员试图了解人工智能是如何做出这些预测的。他们研究了各种可能影响影像学特征的混杂因素，如身体质量指数(BMI)、乳房密度、骨密度或疾病分布。他们无法确定任何具体的因素，可以解释人工智能准确预测自我报告种族的能力。简而言之，虽然人工智能可以通过医学图像来预测种族，但模型用于做出这些预测的信息尚未被揭示。
“有一种想法是，如果开发商‘隐藏’了人口统计因素比赛从人工智能模型中，得出的算法将不能基于这些特征进行歧视，因此将是“公平的”。这项工作强调，这种简单的观点不是确保人工智能和人工智能公平的可行选择机器学习NIBIB数据学者Rui Sá博士说。“我们需要认识到人工智能的潜在局限性，调整我们的方法，以确保人工智能对所有人都是公平的。”
进一步探索
