[의약뉴스] 의료현장에 AI를 활용하는 사례가 늘고 있지만 무분별한 AI 도입은 진료현장에 도움이 되지 않는다는 쓴소리가 나왔다.

전문가를 통해 정확하게 사용하고, 지속적으로 모니터링해야 하며, 관련 제도도 정비해야 실질적으로 환자와 의료진에게 도움을 줄 수 있다는 지적이다.

대한영상의학회(회장 정승은)는 17일 가톨릭의과대학 의생명산업연구원에서 '환자와 의료진을 위한 진단보조 AI의 적절한 적용'을 주제로 포럼을 개최했다.

포럼에서 대한영상의학회 최준일 정책이사는 '진단보조 AI 의료기술의 사용과 보상에 대한 현재의 상황 및 우려점'을 주제로 첫 번째 발제를 진행했다. 

최 이사에 따르면, 지난해 정부는 선진입 의료기술의 안전관리 강화 및 신의료기술의 재평가 근거 규정을 마련하고, 평가유예 기술의 기간 연장 등을 추진했다.

구체적으로 기술의 안전성을 담보하기 위해 선진입 기술 사용 시 환자 동의서 구득과 사용현황 보고를 의무사항으로 규정, 안전관리 체계를 강화했다.

아울러 평가위원회가 위해 수준이 높다고 보고한 선진입 기술은 사용을 중단하도록 조치해 안전성에 문제가 있는 기술은 퇴출되도록 했다.

신의료기술에 대한 전주기 관리에 있어서는 의료기술의 안전성에 우려가 있거나 유효성이 변경되는 경우를 대비, 의료기술의 재평가 근거 조항을 마련하고. 기술의 유용성 및 가치에 대해 주기적으로 관리하도록 했다. 

기술의 시장진입 활성화를 위해서는 선진입 제도 중 평가유예 대상을 비침습 의료기술 전체로 확대. 다양한 의료기술의 시장진입을 촉진했다.

또한, 임상근거 창출을 위해 평가유예기술 사용기간을 최대 4년(1회 연장)까지 연장하고, 신의료기술평가를 신청 중인 선진입 의료기술은 결과 통보 시까지 지속 사용할 수 있도록 규정해 기술의 연속적인 임상 활용을 지원했다.

이에 대해 최 이사는 “평가유예라는 비장성적인 상황의 연장은 단지 상업적인 목적이 아닌가”라며 “진단보조 인공지능의 경우 단기간에 매우 많은 증례 수집이 가능한데, 4년으로 연장해 긴 유예기간을 활용, 수익창출을 목적으로 악용할 수 있어 우려된다”고 지적했다.

뿐만 아니라 “선진입하면 퇴출은 없고 4년 임시등재 기간 후에도 급여 혹은 비급여로 행위는 영원히 유지된다”며 “높은 위해보고시 사용 중단을 퇴출 부재의 대안으로 제시하고 있지만, 진단보조 의료기술의 경우 기술과 위해의 인과관계 증명이 매우 어렵다”고 문제를 제기했다.

또한 “기존 체계에서 진단보조 인공지능 기술의에 대한 보상에 어려움이 있어 10여년 간 다양한 방식의 제도를 도입했다”며 “그러나 최근 발표된 선진입제도 및 새로운 의료기기 시장진입 간소화는 환자 안전 및 기술의 유용성 평가, 의료비 절감 등 다양한 부분에서 여러 문제점이 있다”고 강조했다.

이어 “이러한 문제를 해결하기 위해서는 기술관점에서 벗어나 의료관점에서 환자와 의료진 중심으로 제도를 개선해야 한다”며 “환자와 의료진의 선택권을 보장하고, 새 의료기술의 상업성 보장보다 실제 유용성을 증명할 수 있는 제도적 보완이 절실하다”고 역설했다.

최 이사에 이어서는 대한영상의학회 박성호 편집이사가 '진단보조 AI는 환자와 의료 개선에 도움을 주고 있는가'를 주제로 발제를 진행했다.

그는 “현재 진료현장에 AI를 더하는 것만으로 비전문가를 전문가 수준으로 만들거나, 의료인의 업무부담을 낮추고, 의료의 결과를 향상하는 효과를 기대하기는 어렵다”며 “인간-AI 상호작용에 대한 깊은 이해를 바탕으로 한 세밀하고 과학적인 도입과, 적절한 전문가를 통한 AI 활용, 전문가에 의한 지속적인 AI성능 모니터링이 필요하다”고 강조했다.

실제로 "연구 환경에서 진단보조 AI의 잠재력을 확인했지만, 실제 진료환경에서는 기대한 만큼의 효과를 보이지 못하는 경우가 흔하다"며 "CT에서 경추골절을 찾아내는 AI의 사례를 살펴보면, 미국 FDA의 허가를 받을 때 포함된 성능 자료에서는 민감도가 91.7%, 예민도는 88.6%로 보고됐지만, 위스콘신 대학에서 이 AI를 도입해 1904명의 환자를 대상으로 성능을 다시 확인한 결과 민감도가 54.9%, 특이도는 94.1%로 나타났다"고 지적했다.

이어 “AI의 자료의존성과 의료데이터의 높은 이질성으로 인해 의료분야 AI는 성능의 일반화에 있어 근본적인 제약이 있으며, 현재 인허가 제도에도 현실적 한계가 있다”며 “최근에는 대형 언어모형과 같은 생성현 AI의 경우 의료기기 평가가 더 부실할 가능성이 높다”고 역설했다.

특히 박 이사는 무작정 AI를 도입한다고 해서 효율이 좋아지지 않는다고 목소리를 높였다.

그는 “중국 1143개 병원, 6723명의 영상의학과 의사들을 대상으로 2023년에 실시한 조사 결과를 살펴보면, AI를 사용하는 경우, 그렇지 않은 경우에 비해, 또 AI를 많이 사용할수록 번아웃 빈도가 유의하게 높았다”며 “건강검진과 같은 특별한 상황이 아닌 일반적 진료환경에서는 AI 결과 확인으로 인한 인지부하, 디지털 피로 증가가 새로운 부담 요인이 될 수 있다”고 지적했다.

이에 "AI 도입이 성공적으로 이뤄지기 위해서는 인간-AI 상호작용에 대한 깊은 이해와 과학적 접근, 적절한 전문가를 통한 AI의 활용, 지속적인 성능 모니터링과 피드백 제공이 필요하다"면서 “관련 정책과 제도 또한 이러한 원칙을 바탕으로 정비해야 AI가 환자와 의료 개선에 실질적으로 기여할 수 있으다"고 강조했다.

반면 '이러한 요소를 간과하고 무분별하게 AI를 도입할 경우 의료진과 환자에게 도움이 되지 않을 수 있다”면서“이러한 요소를 간과하거나, 환자나 진료 중심적 고려가 아닌 금전적 이익 등을 강조한 근시한적 도입은 AI 보급에 부정적 영향을 미치고, 환자에게 위해가 될 수 있다”고 경고했다.

마지막으로 대한영상의학회 이충욱 보험이사는 '현실에서 발생하는 문제와 바람직한 기술 적용 방법'을 주제로 발제에 나섰다.

그는 “진단보조 AI 의료기술의 안전한 활용을 위해서는 다양한 문제점을 인식하고 해결해야 한다”고 전제했다.

실례로 “AI 성능은 장비의 특성이나 환자군의 특성과 같은 사용 환경에 따라 달라질 수 있어 개발목적에 부합하는 환경과 대상에서 사용돼야 한다"면서 "또한 의료진이 AI 결과를 무비판적으로 수용할 가능성과 이로 인해 독립적 판단이 약화될 우려가 있으며, 환자의 알 권리와 선택권을 보장하기 위해 동의서 구득 과정이 반드시 필요하지만 절차적 부담과 비용 문제가 있어 이에 대한 합리적인 대책을 마련해야 한다"고 설명했다.

그러나 “원가에 미치지 못하는 우리나라의 보험수가 체계에서 진단보조 AI 역시 매우 낮은 수가로 책정될 수밖에 없고, 결국 기업과 의료기관이 보험수가 대신 비보험 수가를 선택하는 현상이 발생하고 있다”며 “사용자(의사 및 병원), 개발자, 정부 모두가 수용할 수 있는 합리적인 가격 결정이 필요하다”고 강조했다.