June 7, 2021

考虑到“博士”的潜在和陷阱GPT-3'在你附近的诊所

人工智能自然语言计算机应用越来越复杂,提高了他们可以在医疗保健中担任更大作用的可能性,包括与患者进行互动。但在这些应用进入诊所之前,他们的潜在和陷阱需要周到的探索,各种新的文章 NPJ数码医学.

作者是戴安M.Korngiebel,Hastings Center Research Searrar,以及华盛顿大学首席研究信息官Sean D. Mooney。

“在生成的AI应用程序中有引人注目的承诺和严重的炒作 ,“Korngiebel和Mooney Write,参考Openai的生成预训练的变压器3(GPT-3)和类似的技术。文章分解了潜力 申请分为三类:不切实际,现实和可行,现实但具有挑战性。

不切实际的应用程序

自然语言AI应用程序不会取代医生,护士等 很快就与患者交谈的护理人员。 “与GPT-3的相互作用,看起来(或声音)与生活,呼吸和劝说或同情的人的相互作用是不是,”作者写道。例如,在最近对GTP-3进行心理健康咨询的测试中,申请支持模拟患者的自杀思想。此外,自然语言AI应用目前反映了涉及性别,种族和宗教的人类偏见。

现实和可行的应用

自然语言应用程序可以缓解一些常规繁琐任务的医疗保健提供者,例如导航复杂的电子健康记录。并且,鉴于他们能够相当自然的探测问题和回答交换,应用程序可以改善客户服务在线聊天支持,并帮助患者的非关键任务,如设置设备,以准备远程访问。但是,所有医疗保健互动必须有“严肃的守护者”,包括培训申请来消除“有害,偏见,或不恰当的词汇”。

现实但具有挑战性的应用

GTP-3可用于协助进行到紧急部门的无临界患者。然而,技术的开发人员和实施它需要注意的危害。例如,不“讲”患者的语言的自然语言应用程序可能会患者不恰当地进行分类。 “实施应该包括另一种手段,用于改编那些不能或不希望使用会话代理的患者,这也可能太语目上同质,以便提供文化思想的语言使用,”作者补充说,保持一个“人类在循环中。“工作人员还需要审查所有分类表格。

本文核准了建议,以确保自然语言申请公平。广泛的利益相关者应通过部署和评估来涉及最早的发展阶段。并且应该有透明度,包括在使用的数据集中和应用程序的限制。

“我们应该对复杂自然的潜在应用具有谨慎乐观 处理应用程序以改善患者护理,“作者写道。”未来即将来临。我们应该为IT做好准备而不是害怕它,并准备使用这些应用程序使人类受益。“



更多信息: Diane M. Korngiebel等,考虑到生成预训练的变压器3(GPT-3)在医疗保健交付中的可能性和陷阱, NPJ数码医学 (2021)。 DOI:10.1038 / s41746-021-00464-x
Provided by 黑斯廷斯中心
引文: 考虑到“博士”的潜在和陷阱GPT-3'在您附近的诊所(2021年6月7日) 检索2021年6月15日 from //xasqxhb.com/news/2021-06-potential-pitfalls-dr-gpt-clinic.html
本文件受版权保护。除了私人学习或研究目的的公平交易,没有 未经书面许可,可能会复制部分。内容仅供参考。

用户评论