专家警告，使用人工智能抗击COVID-19有伤害“弱势群体”的风险

快速部署人工智能和机器学习来应对冠状病毒仍然必须经过道德制衡，否则我们在战胜疾病的匆忙中可能会伤害已经处于不利地位的社区。

这是根据剑桥大学利弗休姆未来智能中心(CFI)的研究人员今天发表在《科学》杂志上的两篇文章得出的结论英国医学杂志他警告称，在我们努力在2021年恢复一些正常之际，不要狭隘地将人工智能用于数据收集和医疗决策。

其中一篇文章的主要作者、CFI主任斯蒂芬·凯夫博士说:“在危机中放松伦理要求可能会产生意想不到的有害后果，这种后果会持续到大流行结束之后。”

“突然引入复杂而晦涩的人工智能，自动做出曾经由人类做出的判断，并将其吸收进去个人信息可能会损害弱势群体的健康，以及公众对技术的长期信任。”

在一篇由CFI的Alexa Hagerty博士共同撰写的进一步的论文中，研究人员强调了人工智能现在进行大规模临床选择的潜在后果——例如，预测可能需要通气的病人的恶化率——如果它基于有偏见的数据这样做的话。

用于“训练”和细化的数据集机器学习算法不可避免地向获得保健服务较少的群体倾斜，如少数民族社区和"社会经济地位较低"的群体。

“COVID-19已经对弱势群体产生了不成比例的影响。我们知道这些系统可以区别对待，任何治疗疾病的算法偏差都可能造成进一步的残酷打击，”哈格蒂说。

去年12月，斯坦福医疗中心(Stanford Medical center)的算法将在家工作的人优先考虑接种疫苗，而非在新冠病毒病房工作的人，引发了抗议。现在在地方、国家和全球范围内都使用算法来定义疫苗分配。在许多情况下，人工智能在决定谁最有可能在大流行中生存下来方面发挥着核心作用，”哈格蒂说。

“在如此严重的健康危机中，公平和公平的风险极高。”

哈格蒂和同事们强调了在人工智能中发现的由来已久的“歧视蔓延”，它使用“自然语言处理”技术从医疗记录中提取症状特征，反映并加剧了病例记录中已经存在的对少数族裔的偏见。

他们指出，一些医院已经使用这些技术从一系列记录中提取诊断信息，一些医院现在正在使用这种人工智能识别COVID-19感染的症状。

类似地，使用跟踪和跟踪应用程序可能会产生有偏差的数据集。研究人员写道，在英国，15岁以上的人群中，超过20%的人缺乏基本的数字技能，一些“子群体”中多达10%的人没有智能手机。

“是否来自医疗记录或者以一种适用于所有情况的方式应用日常技术和有偏见的数据集来应对COVID-19，可能会对那些已经处于不利地位的人造成伤害，”哈格蒂说。

在BMJ在文章中，研究人员列举了一些例子，比如由于缺乏肤色数据，人工智能模型几乎不可能对血氧水平进行精确的大规模计算。以及美国监狱系统用来校准再犯(已被证明带有种族偏见)的算法工具如何被用于管理COVID-19感染风险。

未来情报的勒弗休姆中心最近推出了英国首个人工智能伦理学硕士课程。对于凯夫和他的同事来说，新冠病毒时代的机器学习应该通过生物医学伦理的棱镜来看待——特别是“四大支柱”。

第一个是慈善。凯夫说:“使用人工智能的目的是拯救生命，但这不应该被用作一个笼统的理由，以建立不受欢迎的先例，比如面部识别软件的广泛使用。”

在印度，生物识别项目可以与疫苗接种联系起来，引发了人们对数据隐私和安全的担忧。哈格蒂说，其他疫苗分配算法，包括COVAX联盟使用的一些算法，都是由私人拥有的人工智能驱动的。“专利算法让人难以深入‘黑匣子’，也难以了解它们如何确定疫苗的优先级。”

第二个是“非恶意”，即避免不必要的伤害。例如，一个仅为保存生命而设计的系统不会考虑“长冠状病毒”的发病率。第三，人的自主性必须是计算的一部分。专业人士需要信任技术，设计师应该考虑系统如何影响人类行为——从个人预防措施到治疗决定。

最后，数据驱动的人工智能必须以社会正义的理想为基础。“我们需要让不同的社区参与进来，并咨询一系列的专家，从工程师到一线医疗团队。我们必须对这些系统固有的价值观和取舍持开放态度。”

“人工智能有潜力帮助我们解决全球问题，而这场大流行无疑是一个重大问题。但在危机时刻依赖强大的人工智能会带来道德挑战，为了获得公众信任，我们必须考虑这些挑战。”

---

---