서울대학교병원 및 GC 녹십자와의 초기 협업에서 얻은 교훈
올해 초, 저희는 서울대학교병원 및 GC Biopharma와 공동 연구 프로젝트를 시작하여, 인공지능이 객담 현미경 슬라이드를 신속하게 판독하는 데 도움을 줄 수 있는지 검토했습니다.
목표는 단순했습니다.
슬라이드 전체에서 백혈구(WBCs)를 검출하고 잠재적 병원성 미생물을 자동으로 식별하는 것이었습니다.
하지만 정제된 학술 데이터셋이 아니라 실제 임상 검체를 다루기 시작하자, 난이도는 매우 높아졌습니다.
아주 작은 박테리아, 기가픽셀 이미지, 품질이 좋지 않은 어노테이션은 이 문제를 단순한 모델링 과제가 아니라 시스템 엔지니어링 과제로 빠르게 바꾸어 놓았습니다.
이 글에서는 우리가 무엇을 시도했는지, 무엇이 실패했는지, 어떻게 적응했는지, 그리고 왜 Deep Trek과 같은 엔드투엔드 AI 플랫폼이 필수적이 되었는지를 설명합니다.
왜 객담 현미경 검사가 중요한가
많은 폐렴 진료 워크플로우에서 객담 검사는 여전히 일선 진단 방법으로 사용됩니다.
진단검사의는 일반적으로 다음을 평가합니다.
- 백혈구의 존재 여부와 밀도
- 상피세포와 같은 오염 지표
- 세균 형태(cocci, rods, Gram reaction)
이러한 관찰은 다음을 판단하는 데 도움이 됩니다.
- 감염 가능성이 높은지
- 감염원의 종류가 무엇인지
- 어떤 경험적 항생제가 적절할 수 있는지
문제는 시간과 노동입니다.
수작업 현미경 검사는 숙련된 인력이 필요하며, 증례 수가 늘어날수록 병목이 됩니다.
따라서 자동화는 매우 매력적입니다. 하지만 처음 보이는 것보다 훨씬 더 복잡합니다.
이미징의 현실과 연구 데이터셋의 차이
이번 프로젝트에서는 Roche Ventana 슬라이드 스캐너를 사용해 슬라이드 전체를 촬영했습니다.
각 슬라이드 이미지 파일의 크기는 9 GB에서 34 GB 였습니다.
학술 AI 논문에서 흔히 사용하는 작은 현미경 이미지 조각과 달리, whole slide imaging은 몇 가지 어려움을 동반합니다.
- 기가픽셀 규모
- 수 기가바이트급 파일 크기
- 몇 개의 픽셀만 차지하는 매우 작은 표적
- 잔해물과 아티팩트
즉, 고전적인 객체 검출 방식은 그대로는 적용되지 않습니다.
문제의 핵심은 하드웨어 오케스트레이션, 데이터 어노테이션, 그리고 유저 인터페이스 설계로 옮겨갑니다.
데이터셋 구축
이번 작업은 초기 단계의 타당성 검토였기 때문에 데이터셋 규모는 제한적일 수밖에 없었습니다.
우리가 준비한 것은 다음과 같습니다.
- 슬라이드 4장
- 타깃 클래스 6개
- 효모
- 상피세포
- 백혈구
- Gram-positive cocci
- Gram-positive rods
- Gram-negative rods
각 클래스마다 약 400개의 인스턴스를 어노테이션했습니다.
유효 배율은 대략 약 800× 수준으로, 1000× 디지털 현미경이 제공할 수 있는 해상도 수준보다는 낮았습니다.
그 결과 미생물은 희미하게만 보였습니다.
모든 어노테이션, 학습, 추론 워크플로우는 Deep Block 내부에서 실행되었습니다.
어디에서 어려움이 커졌는가
가장 심각한 난관은 Gram-positive rods에서 나타났습니다.
이들은 다음과 같은 특징이 있었습니다.
- 매우 작음
- 전문가에게도 경계를 정확히 따서 표시하기 어려움
라벨링 과정에서는 경계가 종종 거칠게 그려졌고, 때로는 실제 생물학적 윤곽이라기보다 느슨한 영역에 가까운 수준이었습니다.
왼쪽 아래에 보이듯이 어노테이션 경계가 정확하게 그려지지 않았습니다.
이 작은 디테일은 학습에 매우 큰 영향을 미칩니다.
현대의 세그멘테이션 네트워크는 픽셀 단위의 일치도를 최적화하기 때문에, 경계가 체계적으로 부풀려진 어노테이션은 구조화된 노이즈의 한 형태가 됩니다.
모델이 실제 경계를 예측하더라도 페널티를 받을 수 있습니다.
반대로 부정확한 학습 경계를 예측하면 보상을 받습니다.
따라서 더 나은 모델이 오히려 더 나쁜 형태를 학습할 수도 있습니다.
단순한 세그멘테이션이 신뢰할 수 없었던 이유
통제된 데이터셋에서는 세그멘테이션 기반 감독 학습이 강력합니다.
하지만 우리의 경우에는 다음과 같은 문제가 있었습니다.
- 마스크가 자주 실제보다 크게 그려졌고
- 박테리아가 해상도 한계에 가까웠으며
- 어노테이션 품질이 낮았고
- 특히 스토리지를 포함한 하드웨어 자원이 제한적이었습니다
이런 조건에서는 픽셀 단위 감독이 결국 불확실성을 전파하는 방식으로 작동했습니다.
아키텍처를 개선했을 때조차 수렴이 불안정하고 검증 동작도 일관되지 않는 현상을 관찰했습니다.
병목은 데이터 용량이 아니라 데이터 품질이었습니다.
Deep Block 워크플로우
슬라이드 전체 이미지를 대상으로 한 AI 개발을 처리하기 위해, 우리는 개별 스크립트가 아니라 통합 파이프라인에 의존했습니다.
1. 슬라이드 입력
WSI 파일을 플랫폼 내부에 등록하고 인덱싱했습니다.
2. 지능형 처리
기가픽셀 이미지를 좌표 일관성을 유지한 채 학습용 이미지로 분할했습니다.
3. 어노테이션
전문가들은 클래스 관리와 라벨 보정을 지원하는 환경에서 이미지 위에 직접 라벨링했습니다.
4. 학습
실험은 다양한 설정에 걸쳐 재현 가능하고 추적 가능했습니다.
5. 검증 및 시각화
예측 결과는 데이터 수준(JSON files)과 whole-slide image 양쪽에서 즉시 검토할 수 있었습니다.
6. 내보내기
결과는 추가 임상 분석을 위해 기계 판독 가능한 형식으로 구조화되었습니다.
이러한 오케스트레이션이 없었다면 반복 속도는 훨씬 더 느려졌을 것입니다.
Human-in-the-Loop 개선
검출기는 다음과 같은 항목을 더 잘 드러내는 데 도움을 주었습니다.
- 놓친 객체
- 일관되지 않은 영역
- 잠재적인 false positive
그 후 전문가들은 처음부터 새로 어노테이션하는 것보다 훨씬 효율적으로 이를 수정할 수 있었습니다.
시간이 지나면서 데이터셋의 신뢰성도 높아졌습니다.
학습 후 DEEP BLOCK의 추론 결과
처리량 관점의 고려 사항
정확도 외에도 우리는 다음을 측정했습니다.
- 슬라이드당 처리 시간
- 자동 생성된 후보 영역 수
- 수작업 검토 부담의 감소 정도
이 초기 단계에서도 자동화는 전문가들의 탐색 부담을 크게 줄여 주었습니다.
핵심 교훈
1. 해상도 한계가 알고리즘 선택을 좌우한다
박테리아가 픽셀 수준에 가까워지면 라벨링 오차는 피할 수 없게 됩니다.
2. 데이터 품질이 모델 복잡도보다 더 중요하다
더 정교한 아키텍처도 질이 나쁜 어노테이션을 보완해 주지는 못했습니다.
3. 플랫폼이 중요하다
WSI, 어노테이션, 학습, 검토를 하나의 시스템으로 관리하는 것이 핵심입니다.
마무리
임상 분야의 AI 기술은 단순한 AI 모델링이 전부가 아닙니다.
이미징, 사람의 라벨링, 데이터 엔지니어링, 그리고 배포를 아우르는 문제입니다.
이번 연구에서 우리는 false positive 수를 크게 줄일 수 있었습니다.
일부 false negative는 남아 있었지만, 슬라이드 전체에 대해 고속 추론을 수행했을 때 어떤 병원체가 존재하는지는 여전히 신뢰성 있게 판단할 수 있었습니다. 특정 미생물의 점유 비율이 분명하게 드러났기 때문입니다.
이 프로젝트는 왜 Deep Block, DEEP TREK 이 풀스택 플랫폼으로 설계되었는지를 다시 한 번 확인시켜 주었습니다.
저희는 이 한계를 더 넓히기 위해 의료 및 산업 파트너들과의 협업을 계속 이어가고 있습니다.