伊坎医学院和密歇根大学的研究人员表示，医疗保健领域基于机器学习的模型可能会成为其自身成功的受害者。他们的研究评估了实施预测模型对这些模型和其他模型的后续性能的影响。

第一作者兼通讯作者、数据驱动和数字医学临床讲师 Akhil Vaid 医学博士表示：“我们希望探索在医院部署机器学习模型并影响医生决策以实现患者整体利益时会发生什么。” (D3M)，隶属于西奈山伊坎医学系。“例如，我们试图了解当患者免受肾脏损害或死亡等不良后果时会产生更广泛的后果。人工智能模型具有学习和建立传入患者数据与相应结果之间相关性的能力，但根据定义，使用这些模型可以改变这些关系。当这些改变的关系被重新记录到医疗记录中时，就会出现问题。”

该研究模拟了纽约西奈山医疗系统和波士顿贝斯以色列女执事医疗中心这两个主要医疗机构的重症监护场景，分析了 130,000 例重症监护入院病例。研究人员调查了三个关键场景：

初次使用后的模型重新训练

当前的实践建议重新训练模型以解决随着时间的推移性能下降的问题。再培训最初可以通过适应不断变化的条件来提高绩效，但西奈山的研究表明，它可能会破坏表现和结果之间习得的关系，从而矛盾地导致进一步退化。

2. 在使用一个模型后创建一个新模型

遵循模型的预测可以使患者避免败血症等不良后果。然而，脓毒症可能导致死亡，而该模型可以有效地预防这两种情况。未来开发的任何预测死亡的新模型现在也将像以前一样受到不稳定关系的影响。由于我们不知道所有可能结果之间的确切关系，因此来自受机器学习影响的护理的患者的任何数据可能不适合用于训练进一步的模型。

3. 两种预测模型的同时使用

如果两个模型同时进行预测，则使用一组预测会使另一组预测变得过时。因此，预测应该基于新收集的数据，这可能成本高昂或不切实际。

共同资深作者、密歇根大学学习健康科学、内科、泌尿科和信息学副教授 Karandeep Singh 医学博士说：“我们的研究结果强化了在积极的临床使用中维持预测模型性能的复杂性和挑战。” “如果患者群体的构成发生变化，模型性能可能会急剧下降。然而，如果我们不关注模型正在做什么，或者更准确地说，不关注它们正在学习什么，商定的纠正措施可能会完全失败。”

“我们不应该认为预测模型不可靠，”共同资深作者 Girish Nadkarni(医学博士、公共卫生硕士、艾琳和西奈山伊坎医学教授、查尔斯·布朗夫曼个性化医学研究所所长 Arthur M. Fishberg 博士)说道。数据驱动和数字医学系统主管。“相反，它是关于认识到这些工具需要定期维护、理解和情境化。忽视其绩效和影响监控可能会削弱其有效性。我们必须像任何其他医疗工具一样谨慎地使用预测模型。学习卫生系统必须注意这样一个事实，即不加区别地使用和更新此类模型将导致误报、不必要的测试和成本增加。”

“我们建议卫生系统立即实施一个系统来跟踪受机器学习预测影响的个人，并建议相关政府机构发布指导方针，”瓦伊德博士说。“这些发现同样适用于医疗保健环境之外，并扩展到一般的预测模型。因此，我们生活在一个模型吃模型的世界里，任何天真的部署的模型都可能破坏当前和未来模型的功能，并最终使自己变得无用。”

标 签：