过设计实现健康公平”
Posted: Sat Jan 04, 2025 4:51 am
这是关于健康领域的预测模型、人工智能 (AI) 和机器学习 (ML) 的博客系列的第五部分。我们鼓励读者（重新）阅读前四篇博客文章，了解后续内容的重要背景。
通过过去一年的一系列博客文章，我们描述了我们对医疗保健领域预测模型和机器学习算法的当前和潜在用途的理解，以及 ONC 在塑造其发展和使用方面可以发挥的作用。在这篇文章中，我们将把我们对这一形势的理解与我们提出的规则联系起来，该规则名为“健康数据、技术和互操作性：认证计划更新、算法透明度和信息共享”（简称 HTI-1）。
修订 ONC 现有的决策支持认证标准，以纳入 AI、ML 和其他预测决策支持
在我们的前两篇文章中，我们描述了使用信息技术 (IT)（软件）辅助医疗决策的基本趋势和重要历史。在我们的第一篇文章中，我们指出，医疗保健行业正处于起步阶段，其中更多的预测模型，尤其是由机器学习驱动的模型，被用于指导医疗保健的方方面面。我们还指出，经过认证的医疗 IT，尤其是电子健康记录 (EHR)，越来越多地充当预测模型输出的数据源和交付机制，很多时候是作为对临床医生和其他经过认证的医疗 IT 用户的建议。
在下一篇文章中，我们将通过描述临床决策支持 (CDS) 认证标准的历史和我们现有的要求，进一步探讨 ONC 在推动决策支持技术开发和使用方面的作用，这些要求认证医疗 IT 支持“基于证据的决策支持干预”、“链接参考 CDS”，并为用户提供“源属性”信息，例如 CDS 书目信息。这种方法导致 了决策支持技术的动态和繁荣，其目的和范围各不相同，从患者安全和临床管理到行政和文档功能。我们在拟议规则中对 DSI 的方法反映了以下观察结果：
ONC 在 HTI-1 中的提议：鉴于认证医疗 IT 对这些新兴技术的重要性以及我们对 CDS 的现有要求，我们建议将“预测决策支持干预”或预测 DSI 定义为我们 CDS 认证标准修订版的一部分。此定义将涵盖我们在医疗保健领域看到的许多类型的预测模型，包括由其他方（例如医疗系统或科技公司）创建并通过开发人员认证的医疗 IT 部署的模型。
重要的是，我们的提议不会要求经过认证的健康 IT 支持预测性 DSI；相反，我们建议启用或与预测性 DSI 交互的健康 IT 模块为其用户采取特定步骤。
我们还提议利用现有的源属性要求，确保用户知道与健康公平相关的数据（例如种族、民族和健康的社会决定因素）何时用于 DSI。我们的提案还包括一项新功能，使用户能够对这些 DSI 的性能进行“反馈循环”。
促进对预测决策支持的技术和性能信息的持续和常规电子访问
在我们的第三和第四篇文章中，我们更加批判性地审视了预测性 DSI 可能造成危害的风险。其中一些风险包括预测性 DSI 可能造成的以下后果：
复制或放大社会、健康和医疗保健领域的隐性和结构性偏见；
医疗保健和健康结果中现存的、无法解释的差异；以及
向用户提出无效或不安全的建议等等。
在去年举行的卫生信息技术咨询委员会 关于“通概念的公开听证会上 ，一位发言人指出，临床医生对信息和透明度的需求尚未得到满足，在这些需求得到满足之前，临床医生不太可能使用机器学习 零售电子邮件列表 驱动的工具或冒着将其误用于患者的风险。例如，小组成员指出，临床医生需要知道人工智能产品已在他们的护理环境中进行了评估，该技术已根据反映其执业人群的数据进行训练，并且该产品将受到持续监控。我们还听说，机器学习驱动的技术已经重现或加剧了因个人无法获得优质医疗保险和优质护理而产生的系统性不平等，并且有可能在更大范围内造成这种情况。拟议规则旨在提高用户的算法透明度，以帮助解决我们听到的与 EHR 算法风险相关的担忧：
ONC 在 HTI-1 中的提案：为了应对各种潜在风险，我们建议要求启用或与预测 DSI 交互的医疗 IT 模块向用户提供与预期用途相关的四类源属性信息；开发；有效性、公平性和有效性评估；以及预测 DSI 的持续监测和使用（技术和性能信息），包括与公平性相关的其他具体信息。我们打算提供有关源属性的信息，以使潜在用户能够确定预测 DSI 是否公平、适当、有效、有效和安全，或 FAVES。
虽然众多相关方使用各种术语来描述我们所说的 FAVES，但我们相信 FAVES 的每个概念（以及未包含在我们的缩写词中的相关概念，如可靠或安全）旨在描述可信或“高质量”算法的各个方面。
促进预测决策支持的透明风险管理和治理
我们在第四篇博文中还指出，仅靠模型开发和验证信息不足以防止金融服务行业使用预测模型造成的危害，还需要对组织能力（即治理）进行额外的监督，以管理与预测 DSI 相关的风险，以避免危害。其他行业的例子以及患者、供应商和行业对 AI 治理日益增长的担忧，为治理和数据管理相关的拟议规则提供了参考：
ONC 在 HTI-1 中的提案：借鉴金融服务行业的经验，我们建议要求经过认证的医疗 IT 开发人员执行、记录并公开有关风险分析、风险缓解和治理的干预风险管理实践的信息。我们确定了几类风险，与最近发布的NIST AI 风险管理框架密切相关，包括与有效性、可靠性、隐私和安全性相关的风险。我们还建议开发人员描述他们的治理和数据管理实践，因为我们知道许多风险受到用于开发预测模型的数据的范围、质量、来源和代表性的影响。
ONC 在推动医疗保健领域透明、可信的预测技术方面发挥的作用
预测技术在医疗保健领域具有巨大的价值。我们的提案旨在优化医疗保健领域高质量算法的使用。我们相信，这些拟议的
通过过去一年的一系列博客文章，我们描述了我们对医疗保健领域预测模型和机器学习算法的当前和潜在用途的理解，以及 ONC 在塑造其发展和使用方面可以发挥的作用。在这篇文章中，我们将把我们对这一形势的理解与我们提出的规则联系起来，该规则名为“健康数据、技术和互操作性：认证计划更新、算法透明度和信息共享”（简称 HTI-1）。
修订 ONC 现有的决策支持认证标准，以纳入 AI、ML 和其他预测决策支持
在我们的前两篇文章中，我们描述了使用信息技术 (IT)（软件）辅助医疗决策的基本趋势和重要历史。在我们的第一篇文章中，我们指出，医疗保健行业正处于起步阶段，其中更多的预测模型，尤其是由机器学习驱动的模型，被用于指导医疗保健的方方面面。我们还指出，经过认证的医疗 IT，尤其是电子健康记录 (EHR)，越来越多地充当预测模型输出的数据源和交付机制，很多时候是作为对临床医生和其他经过认证的医疗 IT 用户的建议。
在下一篇文章中，我们将通过描述临床决策支持 (CDS) 认证标准的历史和我们现有的要求，进一步探讨 ONC 在推动决策支持技术开发和使用方面的作用，这些要求认证医疗 IT 支持“基于证据的决策支持干预”、“链接参考 CDS”，并为用户提供“源属性”信息，例如 CDS 书目信息。这种方法导致 了决策支持技术的动态和繁荣，其目的和范围各不相同，从患者安全和临床管理到行政和文档功能。我们在拟议规则中对 DSI 的方法反映了以下观察结果：
ONC 在 HTI-1 中的提议：鉴于认证医疗 IT 对这些新兴技术的重要性以及我们对 CDS 的现有要求，我们建议将“预测决策支持干预”或预测 DSI 定义为我们 CDS 认证标准修订版的一部分。此定义将涵盖我们在医疗保健领域看到的许多类型的预测模型，包括由其他方（例如医疗系统或科技公司）创建并通过开发人员认证的医疗 IT 部署的模型。
重要的是，我们的提议不会要求经过认证的健康 IT 支持预测性 DSI；相反，我们建议启用或与预测性 DSI 交互的健康 IT 模块为其用户采取特定步骤。
我们还提议利用现有的源属性要求，确保用户知道与健康公平相关的数据（例如种族、民族和健康的社会决定因素）何时用于 DSI。我们的提案还包括一项新功能，使用户能够对这些 DSI 的性能进行“反馈循环”。
促进对预测决策支持的技术和性能信息的持续和常规电子访问
在我们的第三和第四篇文章中，我们更加批判性地审视了预测性 DSI 可能造成危害的风险。其中一些风险包括预测性 DSI 可能造成的以下后果：
复制或放大社会、健康和医疗保健领域的隐性和结构性偏见；
医疗保健和健康结果中现存的、无法解释的差异；以及
向用户提出无效或不安全的建议等等。
在去年举行的卫生信息技术咨询委员会 关于“通概念的公开听证会上 ，一位发言人指出，临床医生对信息和透明度的需求尚未得到满足，在这些需求得到满足之前，临床医生不太可能使用机器学习 零售电子邮件列表 驱动的工具或冒着将其误用于患者的风险。例如，小组成员指出，临床医生需要知道人工智能产品已在他们的护理环境中进行了评估，该技术已根据反映其执业人群的数据进行训练，并且该产品将受到持续监控。我们还听说，机器学习驱动的技术已经重现或加剧了因个人无法获得优质医疗保险和优质护理而产生的系统性不平等，并且有可能在更大范围内造成这种情况。拟议规则旨在提高用户的算法透明度，以帮助解决我们听到的与 EHR 算法风险相关的担忧：
ONC 在 HTI-1 中的提案：为了应对各种潜在风险，我们建议要求启用或与预测 DSI 交互的医疗 IT 模块向用户提供与预期用途相关的四类源属性信息；开发；有效性、公平性和有效性评估；以及预测 DSI 的持续监测和使用（技术和性能信息），包括与公平性相关的其他具体信息。我们打算提供有关源属性的信息，以使潜在用户能够确定预测 DSI 是否公平、适当、有效、有效和安全，或 FAVES。
虽然众多相关方使用各种术语来描述我们所说的 FAVES，但我们相信 FAVES 的每个概念（以及未包含在我们的缩写词中的相关概念，如可靠或安全）旨在描述可信或“高质量”算法的各个方面。
促进预测决策支持的透明风险管理和治理
我们在第四篇博文中还指出，仅靠模型开发和验证信息不足以防止金融服务行业使用预测模型造成的危害，还需要对组织能力（即治理）进行额外的监督，以管理与预测 DSI 相关的风险，以避免危害。其他行业的例子以及患者、供应商和行业对 AI 治理日益增长的担忧，为治理和数据管理相关的拟议规则提供了参考：
ONC 在 HTI-1 中的提案：借鉴金融服务行业的经验，我们建议要求经过认证的医疗 IT 开发人员执行、记录并公开有关风险分析、风险缓解和治理的干预风险管理实践的信息。我们确定了几类风险，与最近发布的NIST AI 风险管理框架密切相关，包括与有效性、可靠性、隐私和安全性相关的风险。我们还建议开发人员描述他们的治理和数据管理实践，因为我们知道许多风险受到用于开发预测模型的数据的范围、质量、来源和代表性的影响。
ONC 在推动医疗保健领域透明、可信的预测技术方面发挥的作用
预测技术在医疗保健领域具有巨大的价值。我们的提案旨在优化医疗保健领域高质量算法的使用。我们相信，这些拟议的