이번 포스팅에서는 디지털 의료기기 AI 제어 조치 심사 기준의 거버넌스를 완벽 정리해드립니다.

무늬만 거버넌스? 사고 나면 ‘종이 쪼가리’ 되는 가이드라인 특징 3가지

실질적인 AI 거버넌스 구축을 위한 완벽 가이드

무늬만 거버넌스는 사고 발생 시 아무런 도움이 되지 않습니다.
AI 의료기기의 거버넌스는 단순히 문서를 만들고 위원회를 구성하는 것으로 끝나지 않습니다. 실질적인 관리와 감독, 그리고 명확한 책임 체계가 수반되어야 합니다.

AI 거버넌스는 AI 시스템의 품질·윤리·안전 책임을 관리하기 위한 조직 차원의 체계입니다. 형식적인 거버넌스는 사고 발생 시 ‘종이 쪼가리’로 전락하지만, 실질적인 거버넌스는 AI 의료기기의 안전성과 유효성을 보장하는 핵심 안전장치가 됩니다.

이번 포스팅에서는 실질적이고 효과적인 AI 거버넌스를 구축하기 위한 3가지 핵심 요소를 다룹니다.

AI 거버넌스의 핵심

AI 시스템 생명주기 전반에 걸친 명확한 역할과 책임, 실질적인 관리·감독 체계, 그리고 기존 GMP와의 연계가 필수적입니다. 선언적 관리가 아닌 실질적인 기록 관리와 의사결정 프로세스가 구축되어야 합니다.

실질적인 AI 거버넌스 3대 요소

1

내부 윤리 원칙 수립 및 규정 수립

의료 인공지능과 관련된 법령, 규제, 국제 표준을 포괄적으로 검토하여 내부 지침을 마련해야 합니다.

내부 윤리 원칙 수립 범위:

  • 국내 법령: 의료기기법, 개인정보보호법, 생명윤리법 등
  • 국제 규제: FDA 가이던스, EU AI Act, ISO 표준 등
  • 산업 가이드라인: 의료 AI 윤리 가이드라인, 데이터 거버넌스 표준
  • 조직 내부 규정: AI 개발 원칙, 데이터 사용 정책, 윤리 검토 절차

핵심 윤리 원칙 포함 사항:

  • 환자 안전 최우선 원칙
  • 데이터 프라이버시 및 보안
  • 공정성 및 편향 완화
  • 투명성 및 설명 가능성
  • 인간 감독 및 개입 권한
  • 지속적인 성능 모니터링

ℹ️ 중요

내부 윤리 원칙은 단순히 문서로 존재하는 것이 아니라, 실제 개발 과정에서 의사결정의 기준이 되어야 합니다. 정기적인 검토와 업데이트가 필요합니다.

2

거버넌스 체계 구축

디지털 의료기기에 포함된 AI/ML 시스템의 품질·윤리·안전 책임을 관리하기 위해 조직의 규모와 개발 범위에 적정한 인공지능 거버넌스 체계를 수립해야 합니다.

핵심은 AI 시스템 생명주기 전반에 걸친 명확한 역할과 책임입니다.

  • 최고 경영자 (CEO)

    거버넌스 방침 최종 승인, 윤리 원칙 준수 감독, 필수 자원 할당. AI 거버넌스의 최종 책임자로서 조직 전반의 AI 방향성을 결정합니다.

  • 개발 부서

    인공지능 모델 개발, 시스템 검증 및 유효성 확인 수행. AI 알고리즘의 설계, 학습, 최적화 및 성능 검증을 담당합니다.

  • 데이터 부서

    데이터 수집·전처리, 데이터 반입/반출 등 규제 준수 관리. 데이터 품질 보증 및 편향 관리를 책임집니다.

  • 임상 부서

    임상적 자문 제공 및 지속적인 성능 모니터링 수행. AI 시스템의 의료적 타당성과 실제 임상 환경에서의 유효성을 검증합니다.

  • 조직 구성

    사내 위원회 또는 책임자 중심의 협의체 운영. AI 거버넌스 위원회, AI 윤리 검토 위원회 등을 구성하여 정기적인 검토와 의사결정을 수행합니다.

  • 외부 전문가 참여

    객관성과 전문성 확보를 위해 의사, 간호사, 데이터 과학자, 교수 등 외부 자문 위원 포함 필수. 내부 관점의 한계를 극복하고 독립적인 평가를 받습니다.

⚠️ 외부 전문가 참여의 중요성

외부 전문가 참여는 선택이 아닌 필수 요구사항입니다. 내부 인력만으로는 객관성을 확보하기 어려우며, 규제 기관은 외부 전문가의 참여를 명시적으로 요구합니다.

3

실질적 관리·감독 및 기존 GMP와의 연계

AI는 현장 데이터에 따라 성능 변화나 오류 발생 가능성이 높습니다. 따라서 선언적 관리가 아닌, 실질적인 기록 관리가 필요합니다.

실질적 관리·감독 필수 항목

✓

성능 모니터링

목표 성능(예: 민감도 90%) 기준의 주기적 측정 및 기록. 실제 임상 환경에서의 성능을 지속적으로 추적하고 기준치 이탈 시 즉시 대응합니다.

✓

규정 준수 여부

관련 교육 개최/참석 확인 및 조직 내 전달 사항 기록. 모든 관련 인력이 최신 규정과 내부 지침을 숙지하고 있는지 확인합니다.

✓

폐기 의사결정

제품 수명 종료 시 폐기 여부에 대한 회의 및 결정 내역. AI 모델의 퇴역(retirement) 기준과 절차를 명확히 정의하고 문서화합니다.

✓

문서화

각 단계별 책임자의 서명 및 검토 일자 누락 방지. 모든 의사결정과 활동은 추적 가능하도록 완벽하게 기록되어야 합니다.

기존 GMP와의 연계:

  • AI 거버넌스 활동은 기존 GMP(ISO 13485) 프로세스에 통합되어야 함
  • 경영 검토(Management Review)에 AI 성능 및 위험 관리 현황 포함
  • 내부 심사(Internal Audit)에서 AI 거버넌스 준수 여부 확인
  • 시정 및 예방 조치(CAPA)에 AI 관련 이슈 포함
  • 문서 및 기록 관리 체계에 AI 관련 문서 통합

4

무늬만 거버넌스 vs 실질적 거버넌스

형식적인 거버넌스와 실질적인 거버넌스의 차이를 명확히 이해해야 합니다.

❌ 무늬만 거버넌스
  • 문서만 작성하고 실제 활동 없음
  • 위원회가 형식적으로만 존재
  • 성능 모니터링 기록이 없거나 부실
  • 책임자 서명만 있고 실제 검토 없음
  • 사고 발생 시 대응 불가

✓ 실질적 거버넌스
  • 정기적인 회의와 의사결정 기록
  • 실질적인 성능 모니터링 시스템 가동
  • 이슈 발생 시 즉각적인 대응
  • 외부 전문가의 독립적 검토
  • 지속적인 개선 활동

경고

무늬만 거버넌스는 사고 발생 시 ‘종이 쪼가리’로 전락합니다. 규제 기관은 실질적인 활동 기록과 증거를 요구하며, 형식적인 문서만으로는 인허가를 받을 수 없습니다.

5

의료 AI 성공의 숨은 조력자, 와이즈컴퍼니

와이즈컴퍼니는 혁신적인 AI 기술이 제도권 내에서 안전하고 유효한 정식 의료기기로 인정받기 위한 전주기(Life-cycle) 솔루션을 제공합니다.

우리는 단순히 문서를 대행하는 것을 넘어, 통제되지 않는 기술의 위험을 관리하고 조직의 품질 경영 체계를 확립하여 성공적인 인허가를 완수합니다.

  • AI 의료기기 인허가 컨설팅

    신고, 인증, 허가 등 규제 진입을 위한 전략 수립 및 실행. 실질적인 거버넌스 체계 구축 지원

  • 기술문서 및 핵심 규제 대응

    위험관리, 사용적합성, SW 밸리데이션 등 필수 기술문서 작성 및 지도. AI 거버넌스 문서화 전문 지원

  • 품질경영시스템(GMP) 구축

    AI 특화 GMP 인증 지도. AI 거버넌스와 GMP의 통합 관리 시스템 구축

  • 안전성 및 보안 확보

    최신 규제를 반영한 사이버 보안 시험 및 문서화 지원. 실질적인 성능 모니터링 체계 수립

마치며

“무늬만 거버넌스는 사고 발생 시 종이 쪼가리로 전락합니다. 실질적인 관리와 감독, 명확한 책임 체계가 필요합니다”

실질적인 AI 거버넌스의 중요성

실질적인 AI 거버넌스는 내부 윤리 원칙 수립, 명확한 조직 체계 구축, 그리고 실질적인 관리·감독이라는 3가지 핵심 요소로 구성됩니다. 형식적인 문서와 위원회만으로는 충분하지 않으며, AI 시스템 생명주기 전반에 걸친 실질적인 활동과 기록이 필요합니다.

와이즈컴퍼니는 무늬만 거버넌스가 아닌 실질적인 AI 거버넌스 구축을 지원합니다. 내부 윤리 원칙 수립부터 조직 구성, 외부 전문가 섭외, 성능 모니터링 시스템 구축, GMP 연계까지 AI 거버넌스의 모든 측면을 체계적으로 지원합니다. 사고 발생 시 ‘종이 쪼가리’가 되지 않는, 실제로 작동하는 거버넌스 체계를 함께 만들어갑니다.