이번 포스팅은 디지털 의료기기 AI 제어 조치 심사 기준 완벽 정리(6)를 가져왔습니다.
디지털 의료기기 AI 제어 조치 심사 기준
오픈소스 관리 및 AI/ML 모델 안전성 확보
오픈소스 라이브러리에 대한 위험관리
설계 및 구현 과정에서 오픈소스 라이브러리를 사용하는 경우 안전성, 보안성을 검토하고 이에 해당하는 위험관리를 수행하고 문서화해야 합니다.
오픈소스 라이브러리 관리 요구사항
✓
형상 식별 및 관리
- AI/ML 시스템에 포함된 오픈소스 라이브러리에 대해 형상 식별
- 별표 3 – 2.3 형상관리에 따라 형상 항목 및 버전 식별을 위한 계획과 문서화
✓
안전성 확인 기록 보유
- 라이브러리 다운로드 일자
- 내역
- 구 버전 여부
- 라이선스
✓
업데이트 및 대안 고려
식별된 오픈소스 라이브러리에 대한 업데이트 및 대안 고려
오픈소스 라이브러리의 라이선스 준수 사항
⚠️ 라이선스 확인 필수
제품 판매 후 사용 중인 오픈소스 라이브러리의 라이선스가 상업적 제한이 있는지 확인
오픈소스 라이브러리의 호환성 및 보안 취약점
SBOM을 통한 식별 및 관리
- SCA 도구 등을 이용해서 SBOM을 통해 식별하고 관리
- 도구 사용이 어려운 경우:
- 오픈소스 제공 벤더사의 홈페이지
- 미국 NIST의 NVD 등으로 취약점 검색
- 사용 라이브러리의 CVE 등의 보안 취약점을 정기적 점검
AI/ML 모델의 안전성 및 신뢰성 확보를 위한 활동
인공지능 모델에 대한 정보 명세, 편향성 분석, 공격 대응, 설명 가능성 확보 등을 활동하고 문서화해야 합니다.
1
인공지능 모델 명세서 작성
개발에 활용한 인공지능 모델에 대한 모델 명세서를 작성해야 합니다.
필수 포함 정보
- 인공지능 모델명
- 유형
- 특성
- 파라미터
- 성능지표
- 주의/제약사항
핵심 질문
- 어떤 알고리즘을 사용?
- 파라미터 어떻게 설정?
- 예상 성능 지표는 어떻게 되는지 파악?
모델 관련 주의/제약사항 등을 개발자가 명확하게 인지할 수 있도록 개발자의 접근이 쉬운 방식으로 제공
2
인공지능 모델의 편향성 분석 및 완화
학습 데이터가 편향되지 않더라도 인공지능 모델 성능은 편향/왜곡될 수 있으니 완화하기 위한 활동 필요
편향성 분석 및 완화 대책
- 과적함 탐지를 위한 교차 검증
- 파라미터 설정에 대한 성능 변화 분석
- 편향성 완화 기법 적용 전후 비교
- 성능 지표 확인 및 문서화
3
인공지능 모델의 공격에 대한 방어 대책 수립
✓
LLM 기반 AI 시스템 방어
공격에 대한 방어 대책 수립 및 추론 API 호출 제한
✓
입력값 정규화
입력값에 대한 정규화 조치
4
인공지능 모델의 추론 결과에 대한 설명 제공
사용자 활용을 위해 모델 추론 결과에 대한 시각적 설명 또는 정량적 설명이 필요할 경우 해당 기능 제공을 시스템 개발 시 고려
와이즈컴퍼니 AI 의료기기 인허가 솔루션
와이즈컴퍼니는 혁신적인 AI 기술이 제도권 내에서 안전하고 유효한 정식 의료기기로 인정받기 위한 전주기(Life-cycle) 솔루션을 제공합니다. 우리는 단순히 문서를 대행하는 것을 넘어, 통제되지 않는 기술의 위험을 관리하고 조직의 품질 경영 체계를 확립하여 성공적인 인허가를 완수합니다.
와이즈컴퍼니 주요 제공 서비스
1
AI 의료기기 인허가 컨설팅
신고, 인증, 허가 등 규제 진입을 위한 전략 수립 및 실행
2
기술문서 및 핵심 규제 대응
위험관리, 사용 적합성, SW 밸리데이션 등 필수 기술문서 작성 및 지도
3
품질경영시스템(GMP) 구축
AI 특화 GMP 인증 지도
4
안전성 및 보안 확보
최신 규제를 반영한 사이버 보안 시험 및 문서화 지원
AI 의료기기 인허가 체크리스트
- 오픈소스 라이브러리 형상 식별 및 관리
- 오픈소스 라이선스 상업적 제한 확인
- SBOM 통한 보안 취약점 관리
- CVE 정기 점검 체계 구축
- AI 모델 명세서 작성 (알고리즘, 파라미터, 성능지표)
- 편향성 분석 및 완화 대책 수립
- AI 공격 방어 대책 마련
- 추론 결과 설명 가능성 확보