もし医師が、患者がめったに来院しないという理由だけで、健康だと決めつけてしまったらどうなるでしょうか？ 研究者たちは、ユナイテッドヘルスケアの部門で使用されている人工知能（AI）ツールに[重大な欠陥](https://www.science.org/doi/10.1126/science.aax2342)を発見しました。このツールは、同じ病状の黒人患者を白人患者よりも一貫して健康だと評価していました。これは、黒人患者が健康であるからではなく、医療費が安いからという理由です。医療費の低さは、医療へのアクセスが障壁となっていることを認識していませんでした。
これは単発的な発見ではなく、医療におけるAIに影響を与えるより大きな問題への警告です。最初から患者と地域社会からの有意義な意見を取り入れて設計されなければ、AIは最も脆弱な人々を排除し、上記のような既存の偏見を再現してしまう危険性があります。
## 医療におけるAIの緊急の必要性
[メディケイドやその他の医療制度が削減され](https://www.npr.org/2025/07/16/1255755387/1a-07-16-2025)、最も脆弱な1,000万人以上のアメリカ人の医療保険が危ぶまれる中、医療におけるAIの必要性はかつてないほど高まっています。トランプ政権は最近、AI行動計画を発表しましたが、ブルッキングス研究所によると、この計画には「公正で透明性があり、説明責任を果たす方法で市民と人類に貢献する」ための「共創や参加型デザインといったメカニズム」が盛り込まれていませんでした。
私は30年以上にわたり、世界的な公衆衛生介入の設計と検証に携わり、国立衛生研究所（NIH）から多額の資金提供を受けた研究を行ってきました。私の専門分野は、介入の分析、設計、実施、出版、そして結果の発表において、経験を持つ人々を含むコミュニティと緊密に連携することです。
## なぜ患者の意見が欠如しているのか？
AIが患者の意見なしに発展しているのを見ると、私は懸念を抱きます。残念ながら、AIに関しては、最も影響を受ける人々が、自分たちの未来を決定づける技術の策定に協力するよう求められることは稀です。AIまたは機械学習のヘルスケアアプリケーションに関する10,880件の論文を対象とした[2024年スコープレビュー](https://journals.plos.org/digitalhealth/article?id=10.1371%2Fjournal.pdig.0000561)では、コミュニティの関与が何らかの形で含まれている論文はわずか0.2%未満でした。いわゆる健康「イノベーション」の99%以上は、最も影響を受ける人々に相談することなく生み出されています。
対照的に、医療機器などの従来の健康技術では、多くの場合、[プロセスのほぼ半分の時間、患者が関与します](https://mdic.org/resources/patient-engagement-in-clinical-trials-survey-report/)。この[インスリンポンプ](https://www.medtronicdiabetes.com/products/minimed-780g-system)や[心電図モニター](https://www.cardiovascular.abbott/us/en/hcp/products/cardiac-rhythm-management/insertable-cardiac-monitors.html)のようなデバイスは、[臨床検証、ユーザーテスト](https://www.fda.gov/regulatory-information/reviews-and-research/fda-research-funding-frequently-asked-questions-faqs)を含む厳格な[FDA審査](https://www.fda.gov/medical-devices/510k-clearances/medical-device-safety-and-510k-clearance-process)を受ける必要があります。
