최근 NEJM, Lancet을 포함한 여러 논문들에서 AI의 활용에 따른 의사의 탈숙련화(de-skilling)에 대해 언급되고 있습니다. 탈숙련화는 인공지능과 같은 자동화 기기의 도입에 따라 인간의 인지 기술이 감퇴하는 현상으로, 오토파일럿 기능이 도입된 비행기 파일럿이나, 네비게이션 활용에 따른 운전자의 공간 인지 능력 감퇴 등에서 익히 잘 알려진 현상입니다.
사실 인공지능에 의한 의사의 탈숙련화에 대한 가능성 역시 의료 인공지능 도입 초창기부터 언급이 되곤 했습니다. 이제는 진료 현장 뿐만 아니라, 의학 교육 현장에도 인공지능이 본격적으로 활용되기 시작하면서 탈숙련화에 대한 논의 역시 본격화되고 있는 것인데요. 하지만 지금까지 이런 의사의 탈숙련화에 대해서 정량적으로 분석한 연구는 많이 없었습니다.
최근 The Lancet Gastroenterology & Hepatology 에는 대장내시경에서 인공지능으로 인한 내시경 의사들의 탈숙련화 현상을 연구한 논문이 실렸습니다. 인공지능에 의한 의사의 탈숙련화 현상을 정량적으로 분석한 드문 연구 중의 하나입니다.
이 연구에서는 인공지능에 노출되기 전/후의 의사들의 대장내시경 실력의 변화를 살펴보았습니다. 폴란드의 4개 내시경 센터에서, 내시경 수련을 마친 19명의 의사가 (내과 의사 16명 일반외과 의사 3명), AI 도입 전 3개월과 AI 도입된 3개월 이후에 ‘인공지능을 끄고’ 총 2,177건의 대장내시경을 (1,443건은 AI 도입 전, 734건은 AI 도입 후) 수행하였습니다.
탈숙련화 여부를 관찰하기 위한 기준은 내시경 의사의 수행 능력을 나타내는 널리 받아들여지는 지표인, 선종 발견율 (adenoma detection rate), 즉 하나 이상의 선종이 발견되는 대장 내시경 검사의 비율이었습니다. 선종 발견율은 암 예방 효과와 관련이 큰 지표입니다.
결과적으로, 의사들의 선종 발견율은 AI 도입 이후에 (AI를 끄고 수행했을 때) 6% 포인트 감소하였으며, 이는 통계적으로도 유의미했습니다. (p=0.0089) 즉, AI를 활용함으로서 의사들의 실력이 줄어든 것입니다.
- AI 도입 이전, 선종 발견율: 28.4%
- AI 도입 이후 (AI를 끄고), 선종 발견율: 22.4%
총 19명의 의사가 참여하였는데, 개별 의사를 기준으로 분석해보면, AI 노출 이후 15명의 의사들에서 선종발견율이 감소했습니다. 단 4명의 의사만이 선종발견율이 증가했습니다.
이러한 연구 결과는 인공지능에 대한 지속적인 노출이 내시경 의사의 실력에 부정적인 영향을 미칠 수도 있음을 시사합니다. 연구진은 인공지능을 활용하게 되면 병변을 찾아줄 것이라는 과도한 의존 때문에, 인공지능이 없는 상황에는 의사들의 집중력이나 동기가 저하될 수 있다는 것으로 해석합니다.
앞서 언급했듯이, 탈숙련화 현상은 항공 분야, 자율주행 분야 등에서 이미 잘 알려진 현상입니다. 인간이 주도적으로 직접 인지하고 의사결정하는 역할에서, 인공지능의 결과물을 검토하고 모니터링 하는 역할로 바뀌게 되면, 그 과업에 필요한 감각과 판단력이 감소하는 것은 피할 수 없는 일인지도 모릅니다.
그렇기 때문에 이러한 자동화에 따른 탈숙련화 현상을 최소화하기 위한 대책도 필요합니다. 자동화에 대한 긴 역사를 가지고 있는 항공 산업에서는 이제는 훈련, 절차, 문화적 측면에서 이를 해결하기 위한 다양한 체계적이고, 강제적인 조치를 취하고 있습니다. 예를 들어, 의도적으로 수동 조종을 권장하거나, 오토파일럿에 문제가 있는 상황을 가정하여 시뮬레이터로 훈련을 규정화하는 등의 방식을 사용하는 것입니다. 의료계에서도 인공지능의 도입이 더 늘어나게 되면, 의사의 탈숙련화를 체계적으로 방지하기 위한 방법에 대한 논의도 더 늘어나야 할 것 같습니다.
(더 나아가, 최근에는 의대생들이나 수련의들이 AI를 활용하면서, 수련 과정에서부터 숙련도 자체가 일정 기준에 도달하지 못하는 Never-skilling 현상에 대한 우려도 나오고 있습니다. Never-skilling은 이 논문의 범주에서 벗어나기 때문에 추후에 따로 다뤄보도록 하겠습니다.)
글쓴이
최윤섭
디지털 기술과 생명과학, 의학의 융합을 통해 사회적 가치를 창출하고 의료를 혁신하는 것을 화두로 삼고 있는 디지털 헬스케어 전문가, 미래의료학자, 작가, 벤처투자자입니다. 포항공과대학교(POSTECH)에서 컴퓨터공학과 생명과학을 복수전공하였으며, 전산생물학으로 이학박사 학위를 취득하였습니다. Stanford University 방문연구원, 서울대학교병원 연구조교수를 역임하였습니다. 현재 디지털 헬스케어 스타트업 전문 투자사 디지털 헬스케어 파트너스(DHP)의 대표 파트너이며, 연세대학교 의과대학 예방의학교실 외래조교수이기도 합니다. 『디지털 헬스케어: 의료의 미래』, 『의료 인공지능』, 『헬스케어 이노베이션』 등을 집필하였으며, Science의 제1저자를 비롯해서, 주요 국제 학술 저널에 다수의 논문을 개제하였습니다. npj Digital Medicine Editorial Board 멤버이자, 대한의료인공지능학회 설립 발기인 및 기획이사로 활동했습니다. 식약처 및 심평원의 자문위원이기도 합니다.
최윤섭의 디지털 헬스케어에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
탈숙련화가 벌써 ㅎㅎ 벌어지기 시작하는군요 ㅎ
궁금한게,, 탈숙련화된 인간 데이터가 축적될텐데 그럼 그걸 학습한 AI도 탈숙련화 될까요?
아니면 탈숙련화 되기 전 까지의 데이터만 학습하도록 한다든지 해서 AI의 탈숙련화는 일어나지 않을까요?