병원에 들어갔을 때 인공지능(AI)을 이용해 환자의 질병을 진단하는 의료 보조원이 맞이하는 모습을 상상해 보세요. 마치 미래의 꿈처럼 들리죠? 하지만 남부 캘리포니아에서는 많은 저소득층 환자들이 이러한 현실에 직면하고 있습니다. 아키도 랩스(Akido Labs)라는 민간 기업은 AI를 활용해 환자의 대화를 듣고 잠재적인 진단과 치료 계획을 제시하는 의료 보조원이 있는 클리닉을 운영하고 있습니다. 의사는 이를 검토한 후 진단을 내립니다. 목표는 ‘진료에서 의사의 역할을 축소’하는 것입니다. 하지만 이는 재앙을 초래할 수 있습니다.
## 의료 분야 AI의 위험성
의료 분야에서 AI 도입은 점점 더 가속화되고 있으며, 의사 3명 중 2명은 환자 진단을 포함한 일상 업무에 AI를 활용하고 있습니다. 그러나 이러한 추세는 이미 의료 서비스 접근에 어려움을 겪고 의료 현장에서 부당한 대우를 받을 확률이 높은 저소득층에게 더 큰 영향을 미칩니다. 노숙자나 저소득층은 의료 분야 AI 실험의 대상이 되어서는 안 됩니다. 오히려 환자들의 목소리와 우선순위가 AI를 의료 서비스에 도입할지 여부, 방법, 그리고 시기를 결정하는 데 중요한 역할을 해야 합니다.
## AI 편향의 어두운 면
연구에 따르면 AI 기반 도구는 부정확한 진단을 내리는 경우가 있으며, 2021년 네이처 메디신(Nature Medicine)에 발표된 한 연구에서는 대규모 흉부 X선 데이터 세트로 학습된 AI 알고리즘이 흑인 및 라틴계 환자, 여성으로 기록된 환자, 그리고 메디케이드 보험 가입자를 체계적으로 과소 진단하는 것으로 나타났습니다. 2024년에 발표된 또 다른 연구에서는 AI가 흑인 환자의 유방암 검진에서 오진을 내리는 사례가 발견되었습니다. 이러한 체계적인 편향은 이미 의료 서비스 접근에 어려움을 겪고 있는 환자들에게 더욱 심각한 건강 불평등을 초래할 위험이 있습니다.
## 정보 부족 환자
일부 환자는 담당 의료진이나 의료 시스템에서 AI를 사용하고 있다는 사실조차 알지 못합니다. 한 의료 보조원은 MIT 테크놀로지 리뷰(MIT Technology Review)와의 인터뷰에서 자신의 환자들이 AI 시스템이 자신의 말을 듣고 있다는 사실은 알지만, 진단 권고를 한다는 사실은 알려주지 않는다고 말했습니다. 이는 과거 흑인들이 사전 동의 없이, 그리고 종종 본인의 의사에 반하여 실험 대상이 되었던 착취적인 의료 인종차별 시대를 떠올리게 합니다.
## 의료 분야에서 AI가 미치는 더 큰 영향
경제적으로 소외된 공동체를 AI의 폐해로부터 보호하기 위해 활동하는 옹호 단체인 TechTonic Justice는 저소득층 미국인 9,200만 명의 삶의 기본적인 부분이 AI에 의해 결정되고 있다는 보고서를 발표했습니다. 이러한 현실의 한 예로, 현재 연방 법원에서 메디케어 어드밴티지 가입자들이 AI 시스템 오류로 인해 보험 적용이 거부된 유나이티드헬스케어와 휴마나를 상대로 소송을 제기하고 있습니다. 재정적 여유가 있다면 양질의 의료 서비스를 받을 수 있지만, 노숙자이거나 저소득층이라면 AI 때문에 의료 서비스조차 이용할 수 없을 수도 있습니다. 이는 의료 계급 차별입니다. AI 도입을 위해 노숙자나 저소득층 환자를 대상으로 실험해서는 안 됩니다. 이미 입증된 피해는 스타트업이나 다른 기술 기업들이 약속하는 잠재적이고 입증되지 않은 이점보다 훨씬 큽니다.
주거가 불안정하고 소득이 낮은 사람들이 직면한 장벽을 고려할 때, 그들의 건강 관련 요구와 우선순위에 귀 기울이는 인간적인 의료 제공자가 제공하는 환자 중심적인 진료가 매우 중요합니다. 민간 기업이 운영하는 인공지능(AI)이 주도권을 쥐고 의료 전문가가 뒷전으로 밀려나는 의료 시스템을 표준으로 삼아서는 안 됩니다. 지역 사회 자체의 엄격한 평가 없이 개발되고 ‘경청’하는 AI 시스템은 환자의 의사 결정권을 박탈함으로써 환자의 권한을 약화시킵니다.
