의료 AI를 더 신뢰할 수 있도록, KISDI와 함께한 인공지능 윤리점검표 이야기

핵심 요약

에이아이트릭스가 KISDI와 협력해 의료 AI 윤리점검표를 도출하고, 개발부터 사후관리까지 전 과정에 적용 가능한 실무형 가이드라인을 마련했습니다.

주요 경험

• 자문회의에 의료인, 법조인, 데이터보호 전문가 등 다양한 배경의 전문가들과 머리를 맞대 실제 업무에 적용 가능한 점검표를 구체화했습니다.
• 초기 기획 및 데이터 수집 단계에서 프라이버시 보호와 민감 데이터 관리, 설계·개발 단계에서 안전성과 투명성, 운영·사후관리 단계에서 책임성과 지속 감시를 포함한 10가지 핵심 요건으로 구조화했습니다.
• 현재의 개발 프로세스에 바로 적용할 수 있도록, 개발·운영 현장의 시장조사나 사용적합성 평가와 연계된 구체적 문항으로 구성해 윤리 요건을 일상 업무에서 자연스럽게 점검하도록 설계했습니다.

얻은 인사이트

• 의료 AI 윤리는 기술적 요소뿐 아니라 법적·사회적 맥락의 입체적 시각이 필요하며, 다양한 이해관계자의 관점 반영이 기준의 충실도와 실행 가능성을 높였습니다.
• 협업을 통해 얻은 피드백이 점검표의 구체성과 실효성을 크게 강화했고, 이를 자사 내부 가이드라인으로 활용해 신뢰 가능한 의료 AI 생태계 조성에 기여할 수 있습니다.
• 앞으로도 윤리 기준은 개발·운영 전 과정에 걸쳐 상시 점검되도록 관리 체계를 고도화하고, 의료진과 환자 모두에게 신뢰를 제공하는 방향으로 확산시키는 문화가 필요하다는 점을 확인했습니다.