FDA 승인 AI 의료 기기의 거의 절반이 실제 환자 데이터로 훈련되지 않았다는 연구 결과

인공지능(AI)은 MyChart에서 환자 메시지를 자동으로 작성하는 것부터 장기 이식 최적화 및 종양 제거 정확도 향상에 이르기까지 건강 관리에 한계 없는 응용 프로그램을 가지고 있습니다. 이 도구들이 의사와 환자 모두에게 잠재적 이점을 제공함에도 불구하고, 환자 프라이버시 문제, 편향의 가능성 및 기기 정확성으로 인해 회의적인 시각이 존재합니다.

AI 의료 기기의 사용과 승인이 빠르게 발전함에 따라, UNC 의과대학, 듀크 대학교, 앨리 뱅크, 옥스퍼드 대학교, 콜롬비아 대학교, 마이애미 대학교의 다기관 연구팀은 공공의 신뢰를 구축하고 AI 및 알고리즘 기술이 환자 치료에 사용되도록 승인을 받는 방식을 평가하기 위해 노력하고 있습니다.

UNC 의과대학의 MD 후보이며 듀크 하트 센터의 연구 학자인 샘미 추파니 엘 파시(Sammy Chouffani El Fassi)와 UNC 사회 의학과의 교수인 게일 E. 핸더슨(Gail E. Henderson)이 함께 500개 이상의 의료 AI 기기에 대한 임상 검증 데이터의 철저한 분석을 주도하였으며, 미국 식품의약국(FDA)이 승인한 도구의 약 절반이 보고된 임상 검증 데이터가 없다는 사실을 밝혀냈습니다.

그들의 연구 결과는 Nature Medicine에 발표되었습니다.

“AI 기기 제조업체들이 FDA 승인을 통해 기술의 신뢰성을 자랑하지만, 승인되었다는 것이 그 기기가 실제 환자 데이터를 사용하여 임상 효과를 제대로 평가 받았다는 것을 의미하지 않는다”고 논문의 주 저자인 추파니 엘 파시가 말했습니다.

“이 결과를 통해 우리는 FDA와 업계가 이러한 기술에 대한 임상 검증 연구를 수행하고 그 결과를 공개하여 기기 승인 신뢰성을 높이기를 권장할 수 있다고 생각합니다.”

2016년 이후, FDA에 의해 매년 승인되는 의료 AI 기기의 평균 수는 2개에서 69개로 증가하였으며, 이는 AI 의료 기술 상업화의 엄청난 성장을 나타냅니다. 승인된 AI 의료 기술의 대부분은 방사선 영상에서 비정상 진단, 병리 슬라이드 분석, 약물 투여 및 질병 진행 예측을 도와 의사를 지원하는 데 사용되고 있습니다.

인공지능은 알고리즘의 조합을 사용하여 이러한 인간과 유사한 기능을 배우고 수행할 수 있습니다. 그런 다음 이 기술은 데이터와 규칙 집합을 제공받아 패턴과 관계를 쉽게 감지하는 방법을 “배웁니다.”

그 이후 기기 제조업체는 기술이 기존에 AI를 훈련시키기 위해 사용된 데이터를 단순히 암기하지 않고, 이전에 본 적이 없는 솔루션을 사용하여 정확하게 결과를 생성할 수 있도록 해야 합니다.

AI 의료 기기의 급격한 확산에 대한 규제

이러한 기기 및 애플리케이션의 FDA 제출이 빠르게 증가한 가운데, 추파니 엘 파시와 핸더슨 등은 승인된 기기가 얼마나 임상적으로 효과적이고 안전한지 궁금해했습니다. 그들의 팀은 FDA의 공식 데이터베이스에서 제공되는 모든 제출 자료를 분석했습니다. 이 데이터베이스는 “인공지능 및 기계 학습(AI/ML) 지원 의료기기”라는 제목이 붙어 있습니다.

“2016년 이후 나온 많은 기기들은 새로 생긴 것이거나, 이미 시장에 나온 제품과 유사합니다,”라고 핸더슨이 말했습니다. “이 데이터베이스의 수백 개의 기기를 사용하여 AI 의료 기기가 FDA 승인을 받는 것이 실제로 무엇을 의미하는지 파악하고자 했습니다.”

521개의 기기 승인 중 144개는 “회고적 검증”, 148개는 “전향적 검증”, 22개는 무작위 대조 연구를 통해 검증되었습니다. 특히, FDA가 승인한 521개의 의료 기기 중 226개, 즉 약 43%가 발표된 임상 검증 데이터가 없었습니다.

일부 기기는 실제 환자의 이미지가 아닌 “유령 이미지” 또는 컴퓨터 생성 이미지를 사용했으며, 이는 기술적으로 임상 검증 요건을 충족하지 않았습니다.

더욱이, 연구자들은 2023년 9월 FDA에서 발표한 최신 초안 지침이 제조업체에 대한 권고에서 다양한 유형의 임상 검증 연구를 명확하게 구분하지 않고 있다고 발견했습니다.

임상 검증 유형 및 새로운 기준

임상 검증 분야에는 연구자와 기기 제조업체가 기술의 정확성을 검증하는 세 가지 방법이 있습니다: 회고적 검증, 전향적 검증 및 무작위 대조 연구라는 전향적 검증의 하위 집합입니다.

회고적 검증은 AI 모델에 COVID-19 팬데믹 이전의 환자 흉부 X선과 같은 과거의 이미지 데이터를 제공하는 것입니다.

반면, 전향적 검증은 환자의 실시간 데이터를 기반으로 AI 기기가 검증되기 때문에 일반적으로 더 강력한 과학적 증거를 생성합니다. 연구자들은 이것이 더 현실적이라고 설명하며, AI가 훈련 중 존재하지 않았던 데이터 변수(예: COVID 팬데믹 동안 바이러스에 의해 영향을 받은 환자 흉부 X선)를 고려할 수 있게 합니다.

무작위 대조 연구는 임상 검증의 금본위로 간주됩니다. 이 종류의 전향적 연구는 실험 그룹과 대조군의 교란 변수를 구분하기 위해 무작위 배정 대조를 활용하여 기기의 치료 효과를 분리합니다.

예를 들어, 연구자들은 환자를 무작위로 방사선과 의사(대조군)와 AI(실험군)에게 CT 스캔을 읽도록 배정하여 기기 성능을 평가할 수 있습니다.

회고적 연구, 전향적 연구 및 무작위 대조 연구는 다양한 수준의 과학적 증거를 산출하므로, 연구에 참여한 연구자들은 FDA와 기기 제조업체가 제조업체에 대한 권고에서 다양한 유형의 임상 검증 연구를 명확하게 구분해야 한다고 권장합니다.

Nature Medicine에 발표된 논문에서 추파니 엘 파시는 핸더슨 등과 함께 의료 AI 분야에서 기준으로 활용할 수 있는 임상 검증 방법의 정의를 제시했습니다.

“우리는 의료 기기 규제를 감독하는 FDA의 이사들과 우리의 발견을 공유했으며, 우리의 작업이 그들의 규제 결정에 영향을 미치기를 기대합니다,”라고 추파니 엘 파시가 말했습니다.

“또한, 우리의 출판물이 전 세계 연구자와 대학들이 의료 AI에 대한 임상 검증 연구를 수행하여 이러한 기술의 안전성과 효과성을 향상시키도록 영감을 주기를 바랍니다. 우리는 이 프로젝트가 대규모 환자 치료에 미칠 긍정적인 영향을 기대하고 있습니다.”

알고리즘은 생명을 구할 수 있습니다

추파니 엘 파시는 현재 UNC 심장흉부 외과의 아우렐리 메를로(Aurelie Merlo) 및 벤자민 헤이톡(Benjamin Haithcock)과 UNC 헬스의 경영진 팀과 함께 장기 기증자 평가 및 추천 프로세스를 자동화하는 알고리즘을 전자 건강 기록 시스템에 구현하기 위해 작업하고 있습니다.

AI 기기가 빠르게 생산되고 있는 분야와는 달리, 의학계는 전자 건강 기록의 간단한 실험값을 사용하여 환자를 진단하는 컴퓨터 소프트웨어와 같은 기본 알고리즘이 부족합니다. 추파니 엘 파시는 이는 구현이 종종 비용이 많이 들고 의학과 컴퓨터 과학 모두에 전문성을 갖춘 다학제 팀이 요구되기 때문이라고 설명합니다.

그럼에도 불구하고 UNC 헬스는 장기 이식 분야 개선을 목표로 하고 있습니다.

“잠재적인 장기 기증자를 찾고, 그들의 장기를 평가한 다음, 장기 조달 기관이 와서 장기 이식을 조정하는 것은 긴 과정이며 복잡합니다,”라고 추파니 엘 파시가 말했습니다.

“이 매우 기본적인 컴퓨터 알고리즘이 작동한다면, 우리는 장기 기증 프로세스를 최적화할 수 있습니다. 추가 기증자 한 명이 여러 생명을 구하는 의미입니다. 성공의 기준이 이렇게 낮기 때문에, 우리는 더 많은 사람들에게 생명을 재기회를 제공할 수 있기를 기대합니다.”