如果醫生因為病人很少來診所就認定他很健康，那會怎麼樣？研究人員發現，聯合健康保險公司（UnitedHealthcare）旗下的一款人工智慧（AI）工具存在嚴重缺陷，該工具始終將患有相同疾病的黑人患者評為比白人患者更健康——並非因為黑人患者本身更健康，而是因為他們的醫療費用更低。該工具未能識別出較低的醫療支出是由於就醫障礙造成的。
這並非個案，而是對醫療保健領域人工智慧面臨的更大問題的警示。除非從一開始就充分聽取患者和社區的意見，否則人工智慧將有可能排除最弱勢群體，並複製上述類似的現有偏見。
## 醫療保健領域對人工智慧的迫切需求
隨著醫療補助計劃和其他醫療保健項目被大幅削減，超過1000萬最弱勢美國人的醫療保障岌岌可危，醫療保健領域對人工智慧的需求從未像現在這樣迫切。近期，川普政府宣布了一項人工智慧行動計劃，但該計劃並未納入“共同創造和參與式設計等機制…”，而這些機製本應“以公平、透明和負責的方式服務於公民和全人類”。 （布魯金斯學會指出）
我從事全球公共衛生幹預措施的設計和測試工作超過三十年，並進行了大量由美國國立衛生研究院資助的研究。我的專長在於與社區緊密合作，包括與有切身經驗的人群合作，共同參與介入措施的分析、設計、實施、發表和成果展示。
## 為什麼缺乏病患參與？
當我看到人工智慧的發展缺乏患者的參與時，我感到擔憂。不幸的是，在人工智慧領域，那些受影響最大的人很少有機會參與塑造決定他們未來的技術。一項[2024 年範圍界定綜述](https://journals.plos.org/digitalhealth/article?id=10.1371%2Fjournal.pdig.0000561)對 10,880 篇描述人工智能或機器學習醫療保健應用的文章進行了分析，發現只有不到任何社區參與的文章。超過 99% 的所謂健康「創新」都是在沒有諮詢受影響最大的人群的情況下產生的。
相較之下，傳統的醫療技術（如醫療器材）通常涉及[病患參與過程的時間接近一半](https://mdic.org/resources/patient-engagement-in-clinical-trials-survey-report/)。像這樣的[胰島素幫浦](https://www.medtronicdiabetes.com/products/minimed-780g-system)和[心臟監視器](https://www.cardiovascular.abbott/us/en/hcp/products/cardiac-rhythm-management/insertable-cardc-itorstablep. w.fda.gov/medical-devices/510k-clearances/medical-device-safety-and-510k-clearance-process)，包括[臨床驗證、使用者測試](https://www.fda.gov/regulatory-information/reviews-and-research/funcd-research.
