考虑到“博士”的潜在和陷阱GPT-3'在你附近的诊所
![Credit: CC0 Public Domain AI.](https://scx1.b-cdn.net/csz/news/800a/2019/8-ai.jpg)
人工智能自然语言计算机应用越来越复杂,提高了他们可以在医疗保健中担任更大作用的可能性,包括与患者进行互动。但在这些应用进入诊所之前,他们的潜在和陷阱需要周到的探索,各种新的文章npj数字医学。
作者是戴安M.Korngiebel,Hastings Center Research Searrar,以及华盛顿大学首席研究信息官Sean D. Mooney。
“在生成的AI应用程序中有引人注目的承诺和严重的炒作自然语言,“Korngiebel和Mooney Write,参考Openai的生成预训练的变压器3(GPT-3)和类似的技术。文章分解了潜力卫生保健申请分为三类:不切实际,现实和可行,现实但具有挑战性。
不切实际的应用程序
自然语言AI应用程序不会取代医生,护士等健康很快就与患者交谈的护理人员。“与GPT-3的相互作用,看起来(或声音)与生活,呼吸和劝说或同情的人的相互作用是不是,”作者写道。例如,在最近对GTP-3进行心理健康咨询的测试中,申请支持模拟患者的自杀思想。此外,自然语言AI应用目前反映了涉及性别,种族和宗教的人类偏见。
现实和可行的应用
自然语言应用程序可以缓解一些常规繁琐任务的医疗保健提供者,例如导航复杂的电子健康记录。并且,鉴于他们能够相当自然的探测问题和回答交换,应用程序可以改善客户服务在线聊天支持,并帮助患者的非关键任务,如设置设备,以准备远程访问。但是,所有医疗保健互动必须有“严肃的守护者”,包括培训申请来消除“有害,偏见,或不恰当的词汇”。
现实但具有挑战性的应用
GTP-3可用于协助进行到紧急部门的无临界患者。然而,技术的开发人员和实施它需要注意的危害。例如,不“讲”患者的语言的自然语言应用程序可能会患者不恰当地进行分类。“实施应该包括另一种手段,用于改编那些不能或不希望使用会话代理的患者,这也可能太语目上同质,以便提供文化思想的语言使用,”作者补充说,保持一个“人类在循环中。“工作人员还需要审查所有分类表格。
本文核准了建议,以确保自然语言申请公平。广泛的利益相关者应通过部署和评估来涉及最早的发展阶段。并且应该有透明度,包括在使用的数据集中和应用程序的限制。
“我们应该对复杂自然的潜在应用具有谨慎乐观语处理应用程序以改善患者护理,“作者写道。”未来即将来临。我们应该为IT做好准备而不是害怕它,并准备使用这些应用程序使人类受益。“
用户评论