消除医疗保健AI的偏见,以提高健康股权
![Artificial intelligence (AI)-driven healthcare has potential to transform medical decision-making and treatment, but AI algorithms must be thoroughly tested and continuously monitored to avoid unintended consequences to patients. In JAMA Network Open, Regenstrief Institute President Peter Embí, M.D., calls for algorithmovigilance (a term he coined for scientific methods and activities relating to evaluation, monitoring, understanding and prevention of adverse effects of algorithms in healthcare) to address inherent biases in healthcare algorithms and their deployment. Credit: Regenstrief Institute 消除医疗保健AI的偏见,以提高健康股权](https://scx1.b-cdn.net/csz/news/800a/2021/eliminating-bias-from.jpg)
人工智能(AI) - 驱动的医疗保健有可能改变医疗决策和治疗,但必须彻底测试和不断监测这些算法以避免对患者的意外后果。
在一个Jama Network开放邀请评论,救济学院总裁兼首席执行官和印第安纳大学医学院的信息学和卫生服务学院的信息学和卫生服务研究彼得统一,M.D.,M.D.,M.S.强烈表示,算法恶意以解决医疗算法和部署的固有偏见的重要性。算法,由博士博士创作的术语,可以定义为与评估,监测,理解和预防医疗保健算法的不良反应有关的科学方法和活动。
“如果没有首先确保其有效性和安全性,我们不会考虑使用一种新的药物或设备来治疗患者,”Embí博士说。“同样,我们必须认识到,算法可能带来巨大的好处,也可能带来巨大的危害,因此需要进行研究。”此外,与药物或设备相比,算法通常具有额外的复杂性和多样性,比如它们如何部署,谁与它们交互,以及与算法交互的临床工作流程。”
评注是回应IBM科学家评估不同方法的IBM科学家对开发的脱脂医疗算法进行了评估,以预测产后抑郁症。博士博士表示该研究表明,脱叠方法可以帮助解决用于开发和部署AI方法的数据中所代表的基础差异。他还表示,该研究表明,对于有效和权益的评估和监测,是必要的,甚至是道德所需的算法。
“算法的性能随着不同的数据、不同的设置和不同的人机交互而变化。这些因素可能会把一个有益的工具变成一个造成意外伤害的工具,所以必须不断地对这些算法进行评估,以消除我们的医疗体系中存在的固有和系统性的不平等,”Embí博士继续说道。“因此,我们必须继续开发工具和能力,使系统监控和使用算法卫生保健。"
进一步探索
用户评论