[이데일리 김지완 기자] 비엘팜텍(065170) 자회사 비엘사이언스는 세포핵 분리 인공지능(AI)기술을 바탕으로 한 진단 시장 상업화에 한 걸음 다가섰다. 국립금오공과대학교 컴퓨터공학과 고재필 교수 연구팀은 데이터 분포 변화(Out-of-Distribution·OOD)에 흔들리지 않는 세포핵 분할 AI 모델을 개발하여 의료영상 분야의 권위있는 국제학술대회인 MICCAI 202425에 논문이 채택됐다고 10일 밝혔다.

고재필 금오공대 교수가 지난 2023년 10월 서울 중구 통일로 이데일리 본사에서 인터뷰 중이다. (사진=김지완 기자)

세포핵 분할(nuclei segmentation)은 조직검사 슬라이드에서 암·염증 등 병리 정보를 추출하는 핵심 단계다.

하지만 임상 현장에서는 염색법, 조직 종류, 스캐너 해상도 등이 수시로 바뀌어 훈련 때 보지 못한 분포(OOD)가 발생하며 기존 딥러닝 모델의 정확도가 급격히 떨어지는 문제가 있었다

연구팀은 다중 스케일 이미지 특징을 ’스케일별 하나의 토큰‘으로 변환해 시퀀스로 구성하고 이를 유체신경망(LNN, Liquid Neural Network)에 입력해 스케일 축을 따라 전역·국부 정보를 통합하도록 설계했다. 이어 현대신경망(Modern Hopfield Network)을 적용해 노이즈성 표현은 걸러내고 도메인 불변 표현만 남기도록 하여 OOD 환경에서도 견고한 성능을 확보했다.

PanNuke 등 5개의 공개 데이터셋 벤치마크 결과, 제안 모델은 평균 Dice-score 0.83을 기록해 기존 모델(0.71) 대비 16.35%p 향상됐다.

고재필교수는 “훈련과 다른 임상 환경에서도 무너지지 않는 의료 AI를 실현할 수 있는 토대를 마련했다”며 “디지털 병리 진단 자동화의 신뢰성을 높일 것”이라고 밝혔다.

논문은 오는 9월 대전컨벤션센터에서 열리는 ‘MICCAI 2025’(8th International Conference on Medical Image Computing and Computer Assisted Intervention)에서 발표될 예정이다.

고 교수 새로운 접근방법에 의하면 훈련된 AI가 환자의 상태에 따라 보다 적합도 높은 처방을 내릴 수 있게 된다. 이는 향후 암 진단 예측 및 맞춤형 치료에 있어 한 단계 진일보한 연구 업적으로 평가받고 있다.

금오공대 컴퓨터공학과 고재필 교수 연구팀은 비엘사이언스로부터 연구 지원을 받아 AI를 이용한 의료진단 분야에 대한 공동연구를 진행 중이다.