만약 의사가 환자가 병원에 자주 오지 않는다는 이유만으로 건강하다고 단정짓는다면 어떻게 될까요? 연구진은 유나이티드헬스케어(UnitedHealthcare) 산하 기관에서 사용하는 인공지능(AI) 도구에서 심각한 결함을 발견했습니다. 이 도구는 동일한 질환을 가진 흑인 환자를 백인 환자보다 일관되게 더 건강하다고 평가했는데, 이는 흑인 환자의 실제 건강 상태가 더 좋아서가 아니라 의료비 지출이 더 적었기 때문입니다. 의료 접근성의 장벽으로 인해 의료비 지출이 낮아진다는 사실을 AI는 간과했습니다.
이는 단지 하나의 사례에 그치는 것이 아니라, 의료 분야 AI에 내재된 더 큰 문제점을 경고하는 것입니다. 환자와 지역 사회의 의견을 처음부터 제대로 반영하여 설계하지 않는다면, AI는 가장 취약한 계층을 배제하고 위와 같은 기존의 편견을 되풀이할 위험이 있습니다.
## 의료 분야에서 인공지능(AI)의 시급한 필요성
메디케이드(Medicaid)를 비롯한 여러 의료 프로그램이 대폭 삭감되면서(https://www.npr.org/2025/07/16/1255755387/1a-07-16-2025), 가장 취약한 계층인 1천만 명 이상의 미국인들이 의료 혜택을 잃을 위기에 처해 있습니다. 최근 트럼프 행정부는 AI 행동 계획을 발표했지만, 브루킹스 연구소(The Brookings Institute)에 따르면(https://www.brookings.edu/articles/what-to-make-of-the-trump-administrations-ai-action-plan/), “공정하고 투명하며 책임감 있는 방식으로 시민과 인류에 봉사하기 위한” “공동 창조 및 참여형 설계와 같은 메커니즘”을 포함하지 않았습니다.
저는 30년 이상 전 세계 공중 보건 개입을 설계하고 테스트해 왔으며, 미국 국립보건원(NIH)의 막대한 지원을 받아 연구를 수행해 왔습니다. 저는 개입 분석, 설계, 구현, 결과 발표 및 발표 과정에서 실제 경험을 가진 사람들을 포함한 지역 사회와 긴밀한 협력 관계를 구축하는 데 전문성을 가지고 있습니다.
## 환자 의견 수렴이 부족한 이유는 무엇일까요?
환자 의견 수렴 없이 인공지능(AI)이 개발되는 것을 보면 우려스럽습니다. 안타깝게도 AI의 경우, 가장 큰 영향을 받는 사람들이 자신들의 미래를 결정짓는 기술 개발에 참여할 기회를 거의 얻지 못합니다. AI 또는 머신러닝 기반 의료 응용 프로그램을 다룬 10,880편의 논문을 분석한 [2024년 범위 검토](https://journals.plos.org/digitalhealth/article?id=10.1371%2Fjournal.pdig.0000561)에 따르면, 어떤 형태로든 지역 사회 참여를 포함한 논문은 0.2% 미만이었습니다. 소위 의료 “혁신”의 99% 이상이 가장 큰 영향을 받는 사람들과의 협의 없이 만들어졌습니다.
반면, 의료기기와 같은 전통적인 의료 기술은 [환자가 과정에 거의 절반 정도 참여하는 경우가 많습니다](https://mdic.org/resources/patient-engagement-in-clinical-trials-survey-report/). 이러한 [인슐린 펌프](https://www.medtronicdiabetes.com/products/minimed-780g-system) 및 [심장 모니터](https://www.cardiovascular.abbott/us/en/hcp/products/cardiac-rhythm-management/insertable-cardiac-monitors.html)와 같은 기기는 [임상 검증, 사용자 테스트](https://www.fda.gov/regulatory-information/reviews-and-research/fda-research-funding-frequently-asked-questions-faqs)를 포함한 엄격한 [FDA 검토](https://www.fda.gov/medical-devices/510k-clearances/medical-device-safety-and-510k-clearance-process)를 거쳐야 합니다.
