미국 유타주에서 자율 의료 인공지능과 관련한 또 하나의 파격적인, 그리고 논란의 사례가 등장했습니다. 바로 Nolla Health의 Nolla Derm 앱이 환자가 여드름약이 필요한지 진료하고 최초 처방(initial prescription)을 내릴 수 있도록 주 샌드박스를 통해서 허용했습니다.
올해 초 유타주가 허용하면서 화제와 논란이 되었던 Doctronic과 Legion Health는 각각 만성질환과 정신과 약물을 ‘갱신(리필) 처방’을 자율적으로 하는 인공지능이었는데요. 이번 Nolla Derm은 갱신이 아니라, 최초 처방을 자율적으로 하게 한다는 점에서 근본적인 차이가 있습니다.
- 관련 포스팅
이런 AI를 허용하게 된 문제의식은 비슷합니다. 결국 의료 접근성과 비용입니다. 미국 카운티의 80%가 의료 사각 지대이며, 유타주에서는 약 10만 명이 활동성 여드름으로 고생하지만, 피부과 전문의를 만나는 비율은 10% 정도이며, 평균 대기는 61일 (전국 중앙 값의 두배), 피부과 전문의가 아예 없는 카운티도 11곳이며, 1회 진료비가 최대 300달러라는 것입니다.
Nolla Derm의 작동 방식은 환자 본인 인증, 사전 동의와 짧은 문진을 거쳐서, 5방향의 얼굴 스캔을 하면, 약 10-15분만에 개인 맞춤 치료 계획과 (필요한 경우) 최초 처방이 생성됩니다.
약은 택배 혹은 약국 수령으로 받고, 매일 피부 스캔으로 경과를 추적하며, 스캔 28회 (약 1-2개월)마다 반응에 따라 치료 계획을 재검토합니다. 환자는 추가 비용 없이 언제든 앱으로 의사에게 메시지를 보낼 수가 있습니다.
Nolla는 이 인공지능이 충분히 안전하다고 주장합니다. 실제 리얼 월드 사례에서 Nolla Derm의 치료 권고에 전문의가 동의한 비율은 96%이며, 불일치 사례도 치료 자체가 아니라 외용제 농도 같은 마이너한 부분이었다고 합니다. 또한 여드름을 첫 적용 분야로 고른 이유도, 기전이 잘 알려져 있고, 위험이 낮으며, 수십년 동안 축적된 임상 근거가 있기 때문이라고 합니다.
이번 허용은 3단계를 거쳐서, 점차 확대됩니다.
- 1단계에서는 첫 환자 100명에 대해, 의사 2명이 각자 모든 AI 처방을 환자에게 전다라기 전에 검토하고 승인 합니다.
- 2단계에서는 최대 500명의 환자에 대해, AI가 직접 처방하고, 의사가 최소 주 1회 ‘사후’로 ‘전체’ 케이스를 검토합니다.
- 3단계에서는 매월 처방의 최소 10%를 샘플링해서 검토하고, 의사에 대한 에스컬레이션 및 부작용 발생 케이스를 전수 조사합니다.
다음 단계로 넘어가려면 의사와의 일치율 95% 이상, 중대 이상 사례 0건 등의 안전 목표를 충족하고, 주정부의 서면 승인을 받아야 합니다.
논란과 이후의 방향
예상할 수 있다시피, 지난 Doctronic 사례처럼 이번에도 즉시 여러 논란을 불러 일으켰습니다. 이러한 자율 인공지능도 결국 ‘의료기기’에 해당되기 때문에, FDA의 허가가 필요하다는 것인데요.
Nolla Derm이 유타주로부터 자율 처방을 허용 받은 것은 Doctronic 사례의 논리와 동일합니다. 미국에서 의료 행위는 주정부가 규제 권한을 가지고 있습니다. 유타주 인공지능 정책국은 계속해서 이러한 AI가 수행하는 것은 ‘의료 행위(practice of medicine)’이며, 자기들은 인공지능이 ‘의료 행위’를 하는 것을 허용한 것이기 때문에 문제가 없다는 입장입니다.
하지만, 다수의 규제 전문가들은 반론을 제기해오고 있는데요. ‘의료 기기’와 ‘의료 행위’가 배타적인 개념이 아니라는 것입니다. 즉, AI가 의료 행위를 수행한다는 것이 그 시스템이 의료 기기가 아니라는 점이 아니라는 것이지요. 그리고 의료기기 규제는 연방법(FD&C Act) 영역이라 주 샌드박스로 면제할 수 없습니다.
유타주 인공지능정책국은 현재의 시범사업이 완전 자율 단계로 발전할 경우 FDA의 승인이 필요한지에 대해서는 답변을 피하고 있는 상황입니다.
Zach Boyd 국장은 아래와 같이 언급했다고 하네요. 결국 즉답을 피하고 FDA에게 공을 넘기고 있습니다.
“연방법은 매우 복잡하며, 어떤 방향으로 나아가야 하는지에 대해서도 다양한 의견이 있습니다. 우리는 FDA가 무엇을 해야 한다고 생각하는지 공개적으로 입장을 밝히려 하지 않을 것입니다. FDA는 스스로 자신의 역할을 규정하게 될 것입니다.”
유타주의 사례들이 올해 초부터 많은 화제와 논란을 불러일으키고 있기 때문에 FDA가 머지 않아서 개입하지 않을 수 없을 것 같기는 합니다.
FDA가 개입하게 되면, 유타주의 자율 의료 인공지능 샌드박스를 전면 금지하고, De Novo로 허가부터 받으라고 명령 할 수도 있겠지만, 이런 인공지능이 이미 의료 현장에서 작동하고 있다는 것을 고려하면 타협안을 찾을 가능성도 있습니다.
예를 들어, 유타주의 로비스트들은 샌드박스 참여기업들이 FDA와 협의하여 자율 AI 시범 사업 단계를 연구 형태로 시작해서, 여기에서 나온 데이터를 FDA가 해당 제품의 시판 허가(marketing authorization)를 결정하는 데 근거자료로 활용할 수도 있고, 샌드박스 기간이 종료된 뒤 각 주정부가 지속 가능한 법적, 제도적 체계를 설계하는 데 활용할 수도 있을 것이라고 주장합니다.
최근 이러한 자율 의료 인공지능이 연구/제도 측면에서 계속 등장하고 있는데요. 물꼬는 이미 트인 것 같고, 앞으로 어떤 방향으로 이 주제가 흘러갈지 계속 잘 지켜봐야 하겠습니다.
글쓴이
최윤섭
디지털 기술과 생명과학, 의학의 융합을 통해 사회적 가치를 창출하고 의료를 혁신하는 것을 화두로 삼고 있는 디지털 헬스케어 전문가, 미래의료학자, 작가, 벤처투자자입니다. 포항공과대학교(POSTECH)에서 컴퓨터공학과 생명과학을 복수전공하였으며, 전산생물학으로 이학박사 학위를 취득하였습니다. Stanford University 방문연구원, 서울대학교병원 연구조교수를 역임하였습니다. 현재 디지털 헬스케어 스타트업 전문 투자사 디지털 헬스케어 파트너스(DHP)의 대표 파트너이며, 연세대학교 의과대학 예방의학교실 외래조교수이기도 합니다. 『디지털 헬스케어: 의료의 미래』, 『의료 인공지능』, 『헬스케어 이노베이션』 등을 집필하였으며, Science의 제1저자를 비롯해서, 주요 국제 학술 저널에 다수의 논문을 개제하였습니다. npj Digital Medicine Editorial Board 멤버이자, 대한의료인공지능학회 설립 발기인 및 기획이사로 활동했습니다. 식약처 및 심평원의 자문위원이기도 합니다.
최윤섭의 디지털 헬스케어에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
