[기고] AI ·IoT 기반 의료기 법적·윤리적 측면 도전 과제

기고자와 약업신문은 「의료기기와 관련된 시리즈를 기획했다. 이번 기고에서는 AI 및 IoT 기반 의료기기의 윤리적, 규제적 과제에 대해 살펴보고자 한다.

1. 의료기기의 새로운 패러다임

ChatGPT로 대변되는 AI 열풍이 전사회적으로 불고 있는 가운데, 의료 현장에서도 인공지능(AI)과 사물인터넷(IoT) 기술을 빠르게 도입하고 있다. 영상 데이터를 학습한 AI 소프트웨어가 암∙심혈관질환 등 주요 질환을 조기 발견하고, IoT 웨어러블 장치를 통해 환자의 심전도, 혈당, 수면 패턴을 24시간 모니터링하는 모습은 더 이상 낯설지 않다.

그러나 이러한 혁신적인 변화는 법적·윤리적 도전과제를 함께 수반하고 있다. "AI가 내린 진단이 틀렸다면 누가 책임을 져야 하는가?", "IoT 기기를 통해 수집된 환자 데이터는 얼마나 안전한가?" 등의 질문은 이제 피할 수 없는 현실이 되었다.

2. AI·IoT 의료기기의 특성 – 기존 규제 체계로는 규제하기 어려운 제품

AI 알고리즘의 학습 능력: 기존 의료기기는 허가를 받으면 구조와 성능이 고정된다. 그러나 AI·IoT 기기는 근본적으로 다른 특성을 가지고 있다. 즉 AI 알고리즘은 학습 데이터가 늘어날수록 성능이 업데이트되고, 때로는 예측 방식 자체가 변할 수 있다.

잦은 업데이트: 위와 같은 학습을 통해 소프트웨어 패치, 데이터셋 교체, 클라우드 업데이트 등이 이루어지고 그에 따라 AI 의료기기는 수시로 변화한다. 기존 의료기기는 허가 이후 허가사항 변동이 거의 없고, 기존 의료기기법은 이러한 특성에 맞게 제정되어 있다. 그러나 AI 의료기기는 잦은 업데이트로 인해 기존 허가 체계로 규율하기 어려울 수 있다.

IoT 연결성의 양면성: 지속적인 네트워크 연결을 통해 원격 모니터링과 클라우드 연동이 가능하고 그에 따른 편의성이 상당하지만, 그에 대한 반작용으로 보안 리스크도 증가한다.

기존 의료법-의료기기법 체계로는 규제하기 어려운 영역의 존재: 기존 의료기기는 의사가 최종 진단의 주체가 되므로 의사가 최종적인 책임을 진다. 그러나 학습 데이터를 기반으로 스스로 판단하는 AI 소프트웨어의 경우, 의료기기가 진단까지 수행할 수 있어 최종적인 법적 책임을 누가 지는지가 불분명해질 수 있다.

이러한 특징들은 AI·IoT 의료기기 규제를 어렵게 만드는 요소들이며, 이에 따라 여러가지 법적, 윤리적 문제가 수반된다.

3. 윤리적 과제 – 환자 권리와 책임의 문제

가. 의사 결정 과정의 투명성 부족

AI의 의사 결정 과정은 '블랙박스'에 가깝다. 실제 아직까지 연구를 거듭하고 있지만 ChatGPT의 사고 과정을 인간이 설명하기 어렵다고 한다. 즉, AI의 사고 방식을 우리가 완전히 이해하기 어렵다는 뜻이다.

환자와 의료진이 AI로부터 진단을 받지만, 그 결과가 어떻게 도출되었는지는 알기 어려운 문제가 있다. 이로 인해 환자의 자기결정권이 침해되거나, 법적 책임 소재가 불분명해지는 문제가 생길 수 있다.

나. 책임소재 불명확성

AI 의료기기를 이용한 진단 행위에는 다음과 같은 주체들이 연관되어 있으나, 이들 사이의 책임 분배는 여전히 불분명하다.

• 의료진: 최종 진단과 치료 결정을 내린 의사
• 제조사: 알고리즘을 설계한 의료기기 회사
• 병원: 기기를 도입하고 환자에게 사용한 기관

다. 개인정보 및 보안 위험

IoT 기기를 통한 실시간 데이터 전송 과정에서 해킹 위험은 필연적으로 따라온다. 환자의 심전도, 혈당 기록 등 민감한 건강 정보가 외부로 유출될 경우, 환자의 인격권이 심각하게 침해될 수 있다.

그 뿐만 아니라 환자들의 건강 정보를 활용하여 AI 진단 소프트웨어를 학습시키는데, 기고자가 파악하기로는 아직까지도 개인정보 활용에 대한 동의를 제대로 받지 않고 'AI 학습'을 시키는 사례가 많은 것으로 알고 있다. 아직 이슈화되지는 않았지만, 이와 관련해서도 개인정보 침해 문제가 대두될 수 있을 것이다.

4. 규제적 과제
한국의 경우 「의료기기법」과 최근 제정된 「디지털의료제품법」을 통해 소프트웨어 의료기기(SaMD)를 규율하고 있으며, 규제 샌드박스 제도를 활용해 새로운 기술의 임시적 허용과 검증을 병행하고 있다. 다만, AI 알고리즘의 '지속적 학습'에 대한 구체적인 규정이나 앞서 언급한 책임소재, 개인정보보호 문제 등에 대한 구체적인 규정은 미비한 실정이다.

미국(FDA)은 AI/ML SaMD 관련 가이드라인 등을 홈페이지에 공개하고 있다. 유럽연합(EU)규제의 주요 특징은 이중적 규제 접근이다. 유럽의약품청(European Medicines Agency, EMA)이 의료기기 규정(Medical Device Regulation, MDR) 및 인공지능법(Artificial Intelligence Act, AIA)에 따라 AI 기반 의료기기를 관리한다.

MDR은 AI 기반 의료기기를 포함한 의료기기의 설계, 개발, 임상평가 및 시판 후 감시에 대한 요구사항을 규정하고, AIA는 위험 기반 분류, 투명성, 인간의 감독 요구사항 등을 규정한다.

의료AI 업체는 미국, 유럽 시장 진출 시 엄격한 기준을 충족해야만 시장 진입이 가능하므로 이에 대한 대비가 필요하다. 또한 국내 규제는 아직 확립 중에 있는바, 엄격해질 규제에 대해 사전적 대비도 필요할 것으로 보인다.

5. 결론

AI·IoT 기반 의료기기는 이미 환자의 삶을 혁신적으로 바꾸고 있으며, 이러한 흐름은 더욱 가속화될 것이 분명하다. 그러나 기술 발전의 속도와 법·윤리 체계의 발전 속도 사이에 여전히 큰 간극이 존재하는 것이 문제다.

특히, 앞서 살펴본 윤리적, 법적 문제들에 대해 어떻게 대처해야 할지 그 누구도 명쾌하게 설명하지 못하고 있는 실정이다.

환자의 안전과 권리 보장이 보장될 때만 의료기기 혁신은 지속 가능하므로 이를 보장하는 윤리적, 규제적 논의가 시급한 실정이다. 따라서 규제 기관, 산업계, 의료진, 법조계가 함께 참여하는 토론의 장이 필요하다는 것이 기고자의 생각이다.

한편, 큰 흐름상 AI·IoT 기반 의료기기와 관련한 정부의 규제는 강화될 것이 분명하다. 일부 규제의 경우 기술적으로 상당한 난이도를 요구할 수도 있는바, 관련 업계에서는 이에 선제적으로 대비할 필요도 있다고 생각된다.

기고자: 이일형 변호사(ilhyunglee@naver.com)
변호사/약사/변리사/미국 회계사(Maine)시험 합격
(前)셀트리온 국내법무팀 변호사
(現)법무법인(유한) 대륜 의료제약그룹/제약바이오헬스케어 센터장

[기사전문보기]
[기고] AI ·IoT 기반 의료기 법적·윤리적 측면 도전 과제