医者のオフィスに入ったら、AIを使って病気を診断する医療助手が迎えてくれるところを想像してみてください。まるで未来の夢のようですね。しかし、南カリフォルニアでは、多くの低所得の患者にとってこれは厳しい現実です。民間企業Akido Labsは、AIを使って患者の会話を聞き取り、潜在的な診断と治療計画を提示し、それを医師が確認する医療助手が診療所を運営しています。その目的は？「医師を診察から引き離す」ことです。しかし、これは災難を招く原因となります。
## 医療におけるAIのリスク
医療におけるAIのトレンドは勢いを増しており、医師の3人に2人が患者の診断を含む日常業務の支援にAIを活用しています。しかし、このトレンドは、既に医療を受ける上で大きな障壁があり、医療現場での不当な扱いを受けている低所得者層に、より深刻な影響を与えます。住居がなく低所得の人々を、医療におけるAIの実験場とすべきではありません。むしろ、患者自身の意見と優先順位に基づき、AIをケアに導入するかどうか、どのように導入するか、いつ導入するかを決めるべきです。
## AIバイアスの負の側面
AIを活用したツールは不正確な診断を下すことが研究で示されています。2021年にNature Medicineに掲載された研究では、大規模な胸部X線データセットで学習させたAIアルゴリズムが、黒人およびラテン系の患者、女性として記録された患者、そしてメディケイド加入者の診断を系統的に過小評価していることが明らかになりました。2024年に発表された別の研究では、AIが黒人患者の乳がん検診を誤診していたことが明らかになりました。この系統的なバイアスは、既にケアを受ける障壁に直面している患者の健康格差をさらに深める危険性があります。
## 情報提供を受けていない患者
患者の中には、医療提供者や医療システムがAIを使用していることさえ知らされていない人もいます。ある医療助手はMIT Technology Reviewに対し、患者はAIシステムが音声を聞いていることは知っているものの、AIが診断の推奨を行っていることは伝えていないと語りました。これは、黒人がインフォームド・コンセントなしに、そしてしばしば彼らの意志に反して実験された、搾取的な医療人種差別の時代を彷彿とさせます。
## 医療におけるAIのより大きな影響
経済的に恵まれないコミュニティをAIの害から守るために活動する擁護団体、TechTonic Justiceは、低所得のアメリカ人9,200万人の生活の基本的な側面がAIによって決定されていると推定する報告書を発表しました。この現実の例は、現在連邦裁判所で展開されており、メディケア・アドバンテージの加入者が、AIシステムのエラーを理由に保険適用を拒否されたとして、ユナイテッドヘルスケアとヒューマナを訴えています。経済的に余裕があれば質の高い医療を受けることができます。しかし、住居がなかったり、低所得だったりする場合は、AIによって医療へのアクセス自体が妨げられる可能性があります。これは医療における階級差別です。住居がなかったり、低所得の患者を対象にAI導入のための実験を行うべきではありません。実証されている害は、スタートアップ企業やその他のテクノロジーベンチャーが約束する、証明されていない潜在的なメリットよりも大きいのです。
住居がなく低所得の人々が直面する障壁を考えると、彼らの健康に関するニーズや優先事項に耳を傾ける人間の医療提供者による患者中心のケアを受けることが不可欠です。民間企業が運営するAIが主導権を握り、医療従事者が脇役に甘んじるような医療システムに頼るような基準を作ることはできません。地域社会自身による厳格な評価なしに開発され、傍観者的なAIシステムは、AIを含むどのような技術を医療に導入するかを決定する権限を患者から奪い、患者の力を奪います。
