印第安纳州-人工智能(AI)驱动的医疗保健有可能改变医疗决策和治疗的潜力，但是必须对这些算法进行彻底测试并对其进行持续监控，以免给患者带来意想不到的后果。
在JAMA网络公开邀请评论中，Regenstrief研究所所长兼首席执行官以及印第安纳大学医学院信息与健康服务研究副院长PeterEmbí，医学博士，医学博士，强烈指出了算法警惕对于解决医疗算法中固有的偏见的重要性。他们的部署。算法警戒(Embí博士创造的一个术语)可以定义为与评估，监视，理解和预防算法在医疗保健中的不良影响有关的科学方法和活动。
Embí博士说：“在没有首先确保其功效和安全性的情况下，我们不会考虑使用一种新的药物或设备来治疗患者。”“以同样的方式，我们必须认识到，算法既有好处，也有危害，因此有待研究。而且，与药物或设备相比，算法通常具有更多的复杂性和变化性，例如如何部署，与他们互动的人，以及与算法互动的临床工作流程。”
该评论是对IBM科学家进行的一项研究的回应，该研究评估了为预测产后抑郁而开发的医疗保健算法的不同偏向性方法。恩比博士说，这项研究表明，去偏方法可以帮助解决用于开发和部署人工智能方法的数据中存在的潜在差异。他还说，这项研究表明，对这些算法的有效性和公平性进行评估和监控是必要的，甚至在道德上也是必需的。
“算法性能随着部署有不同的数据，不同的设置和不同的人机交互而发生了变化。这些因素可能将一种有益的工具变成一种会造成意想不到的伤害的工具，因此必须不断评估这些算法，以消除那些固有的和系统性的不平等现象。存在于我们的医疗保健系统中。”Embí博士继续说道。“因此，当务之急是我们继续开发工具和功能，以在医疗保健算法的开发和使用中实现系统的监视和警惕。”
标签： 保健AI
免责声明：本文由用户上传，如有侵权请联系删除！