AI는 환자 치료를 개선할 수 있는 잠재력으로 인해 의료 산업에서 화제가 되었고, 윤리적으로 이를 구현해야 한다는 우려도 제기되고 있습니다. 그러나 이 기술이 건강 불균형을 줄일 잠재력을 가지고 있을까요?
그 질문이 수요일 시카고에서 열린 로이터 토탈 헬스 회의에서 토론 중에 제기되었습니다. 토론은 Rush University System for Health의 최고 혁신 책임자인 Anil Saldanha와 Northwell Health의 수석 부사장 및 디지털 혁신 및 변화 책임자인 Rebecca Kaul 박사 간의 대결이었습니다.
Saldanha는 이 주제에 대해 부정적인 시각을 가지고 있으며, AI가 아직 건강 불균형을 줄일 수 없다고 말했습니다.
“제 생각에는, 일시적으로는 오히려 불균형을 심화시킬 것입니다.”라고 Saldanha는 주장했습니다. “그리고 이 불균형이 해소되거나 개선될 시기에 대한 시간 프레임이 없습니다. 그 이유는 AI와는 관계가 없습니다. 일반적으로, 산업 관점에서 볼 때, 우리는 여전히 우리가 하는 모든 의료 활동에서 커뮤니티에 건강 형평성을 가져오는 데 어려움을 겪고 있습니다. 그래서 일은 완전히 끝나지 않았고, 지금 우리가 AI라는 새로운 패러다임을 도입했습니다. AI가 효율성을 개선할 수는 있지만, 예를 들어 의사를 대체하기 위해 존재하는 것은 아닙니다. 그래서 현재 AI가 건강 형평성을 도울 수 있다고 전혀 느끼지 않습니다.”
한편, Kaul은 중요한 것은 사람들이 AI를 어떻게 사용하는가이며, 사람들이 윤리적으로 이를 사용하여 불균형을 해소할 것이라고 믿는다고 주장했습니다.
“근본적으로 우리는 의료 전문가라고 생각합니다.”라고 그녀는 말했습니다. “우리는 ‘해를 끼치지 않고, 선을 행하라’는 관점에서 접근합니다. … 이것은 사람들이 아마도 직접적인 의료 접근이 없는 경우에 정보를 표출함으로써 더 나은 접근을 제공함으로써 불균형을 해소할 수 있습니다. AI를 사용하여 그들의 건강 상태에 대해 더 많이 이해할 수 있습니다. 이는 농촌 지역의 임상의들에게 전문가에 대한 접근을 제공할 수 있습니다.”
그녀는 이 기술이 치료를 더욱 개인화하고 언어 장벽을 줄일 수 있다고 덧붙였습니다. 그녀는 AI가 80개 이상의 언어로 번역할 수 있는 능력이 있다고 주장했습니다.
Saldanha는 반박하며 데이터 무결성이 의료 산업에서 주요한 도전 과제이며, AI는 “훈련된 데이터만큼 유용합니다.”고 말했습니다. AI가 올바른 데이터를 입력받지 못했다면 이 산업은 불균형을 해결하는 데 AI를 사용할 수 없다고 주장했습니다.
Kaul은 데이터 세트에 종종 편향이 있다는 것을 아는 것이 “모델을 훈련하고, 그 편향을 제거하도록 수정하고, 훈련 목적을 위해 데이터를 제공하는 데 필요한 다양성을 도입하기 위해 데이터 세트를 찾는 것을 허용한다”고 답했습니다.
최종 변론에서 Saldanha는 AI가 의료에서의 불균형에 도움이 될 것이라고 생각하지 않는다고 강조했습니다. 그는 시카고에서 사용하는 ShotSpotter라는 프로그램의 예를 들었습니다. 이 프로그램은 총성을 감지하는 센서를 사용합니다. 그러나 최근 Block Club Chicago에 따르면 프로그램은 중단되었지만 여전히 유지하려는 노력이 있다고 합니다.
“이 프로그램의 비판은 그것이 필연적으로 유색인종 커뮤니티와 가장 많은 불균형이 있는 지역에 배치된다는 것입니다.”라고 그는 말했습니다. “지지자들은 총기 폭력과 예방에 도움이 될 것이라고 말합니다. 판결은 아직 나지 않았습니다.”
Kaul은 AI가 불균형을 줄일 준비가 되었는지가 아니라 의료 기관이 기술을 사용하여 불균형을 해소할 준비가 되었는지 여부가 중요하다고 주장했습니다.
“내가 보는 모든 신호는 내가 속한 조직과 시장 모두에서 확실히 ‘예’라고 말할 수 있습니다.”라고 그녀는 말했습니다. “윤리적 AI 사용에 대한 논의가 많습니다. 제시되고 있는 많은 사례는 불균형을 해소하는 것에 관한 것입니다. 우리는 사람들이 설정하는 모든 사용 사례에서 의도치 않은 부정적인 일이 발생하지 않도록 보장하는 거버넌스 모델을 보고 있습니다.”
청중은 주로 Kaul에 동의하는 것으로 보였습니다. 토론이 끝날 무렵 공유된 여론 조사에서 청중의 47%가 AI가 불균형을 줄일 잠재력이 있다고 생각한다고 답했으며, 42%는 그것이 상당히 있다고 응답했습니다. 또 다른 11%는 “아니요, 정말로 그렇지 않다.”고 답했습니다.
사진: Sylverarts, Getty Images
