如果医生仅仅因为病人很少来诊所就认定他很健康，那会怎样？研究人员发现，联合健康保险公司（UnitedHealthcare）旗下的一款人工智能（AI）工具存在严重缺陷，该工具始终将患有相同疾病的黑人患者评为比白人患者更健康——并非因为黑人患者本身更健康，而是因为他们的医疗费用更低。该工具未能识别出较低的医疗支出是由于就医障碍造成的。
这并非个例，而是对医疗保健领域人工智能面临的更大问题的警示。除非从一开始就充分听取患者和社区的意见，否则人工智能将有可能排除最弱势群体，并复制上述类似的现有偏见。
## 医疗保健领域对人工智能的迫切需求
随着医疗补助计划和其他医疗保健项目被大幅削减，超过1000万最弱势美国人的医疗保障岌岌可危，医疗保健领域对人工智能的需求从未像现在这样迫切。近期，特朗普政府公布了一项人工智能行动计划，但该计划并未纳入“共同创造和参与式设计等机制……”，而这些机制本应“以公平、透明和负责的方式服务于公民和全人类”。（布鲁金斯学会指出）
我从事全球公共卫生干预措施的设计和测试工作超过三十年，并开展了大量由美国国立卫生研究院资助的研究。我的专长在于与社区紧密合作，包括与有切身经历的人群合作，共同参与干预措施的分析、设计、实施、发表和成果展示。
## 为什么缺乏患者参与？
当我看到人工智能的发展缺乏患者的参与时，我感到担忧。不幸的是，在人工智能领域，那些受影响最大的人很少有机会参与塑造决定他们未来的技术。一项[2024 年范围界定综述](https://journals.plos.org/digitalhealth/article?id=10.1371%2Fjournal.pdig.0000561)对 10,880 篇描述人工智能或机器学习医疗保健应用的文章进行了分析，发现只有不到 0.2% 的文章包含了任何形式的社区参与。超过 99% 的所谓健康“创新”都是在没有咨询受影响最大的人群的情况下产生的。
相比之下，传统的医疗技术（如医疗器械）通常涉及[患者参与过程的时间接近一半](https://mdic.org/resources/patient-engagement-in-clinical-trials-survey-report/)。像这样的[胰岛素泵](https://www.medtronicdiabetes.com/products/minimed-780g-system)和[心脏监护仪](https://www.cardiovascular.abbott/us/en/hcp/products/cardiac-rhythm-management/insertable-cardiac-monitors.html)等设备必须经过严格的[FDA审查](https://www.fda.gov/medical-devices/510k-clearances/medical-device-safety-and-510k-clearance-process)，包括[临床验证、用户测试](https://www.fda.gov/regulatory-information/reviews-and-research/fda-research-funding-frequently-asked-questions-faqs)。
