본문 바로가기 주메뉴 바로가기
22대 대한민국 국회 국회정보길라잡이 국회의원검색
회원가입 로그인
HOME

정보검색

소장정보 검색

국회도서관 홈으로 정보검색 소장정보 검색

결과 내 검색

동의어 포함

고급검색

인명/단체명

저자정보 상세정보
인명/단체명을 입력하세요.

키워드

  • 대표어

  • 외국어

-

목차보기

Title Page 2

Abstract 5

Contents 7

Ⅰ. INTRODUCTION 10

Ⅱ. RELATED WORKS 13

1. Distillation-based methods 13

2. Rehearsal-based Methods 14

3. Data-Free Methods 15

Ⅲ. Method 16

1. Notation 16

2. Framework of Incremental Learning 17

2.1. Segmentation Loss 18

2.2. Distillation Loss 19

3. Generation of Fake Images with MOSInversion 19

Ⅳ. RESULTS 22

1. Dataset 22

2 Implementation details 22

3. Evaluation 23

3.1. Results 23

3.2. The effect of the quality of generated images on model performance 25

3.3. The effect of the learning sequence 29

Ⅴ. CONCLUSION 31

References 32

요약문 35

List of Tables 8

Table 3.1. Notation 16

Table 4.1. Setting of Datasets for Incremental Learning 22

Table 4.2. Environments and Requirements 22

Table 4.3. Training Configuration 23

Table 4.4. Comparison of Dice Score on the FLARE 21 dataset with different methods 24

Table 4.5. Comparison of Sensitivity on the FLARE 21 dataset with different methods 24

Table 4.6. Comparison of the Performance According to the Quality of Generated Images 28

Table 4.7. Comparison of Dice Score on the FLARE 21 dataset with different methods in... 29

List of Figures 9

Figure 1.1. Sample images from partially labeled datasets 10

Figure 1.2. Example of the catastrophic forgetting. Performance in the old class degrades as training... 11

Figure 2.1. Overview of Class-Incremental Learning methods: (a) Distillation-based method (b)... 13

Figure 3.1. Overview of Incremental Learning of the New Model at Step t 17

Figure 3.2. Comparison of the fake image generation methods. Our method uses dice loss and mask... 20

Figure 3.3. The fake image generation process of MOSInversion 20

Figure 4.1. Visualization of Several Incremental Learning Methods on FLARE 21 Dataset 25

Figure 4.2. Comparison for Generated Images with MOSInversion and HRHF 26

Figure 4.3. Comparison for the weight of dice loss 27

Figure 4.4. Loss for Evaluation of the Quality of Generated Images 27

Figure 4.5. Visualization of Several Incremental Learning Methods on FLARE 21 Dataset 30

초록보기

 기존의 딥러닝 기반영역분할 방법들은 유망한 성능을 보여주고 있다. 그러나 이러한 방법들의 대부분은 모든 대상 클래스가 한 번에 훈련될 때에만 성능이 발휘된다. 모델이 각 단계에서 각 클래스를 점진적으로 훈련하는 시나리오에서는 성능이 크게 감소한다. 실제 의료 응용에서는 동시에 모든 클래스에 접근할 수 없는 경우가 있다. 의료 데이터는 일반적으로 여러 의료 기관에서 서로 다른 장기를 대상으로 부분적으로 라벨이 지정된다. 따라서 완전히 라벨이 달린 데이터셋은 충분하지 않으며, 이러한 부분적으로 라벨이 지정된 데이터셋은 다중 장기 영역분할 작업에 대해 모든 클래스를 동시에 훈련시키기 위해 병합하하는 것이 필요하다. 그러나 데이터를 외부로 반출하는 것은 개인정보 보호 문제로 제한되어 있다. 따라서 모델은 각 장기를 서로 다른 기관에서 점진적으로 학습한다. 결과적으로 이전 클래스의 성능이 저하되는 치명적인 잊혀짐 문제가 발생한다. 이 문제를 해결하기 위해 최근에는 다음 두 가지 범주의 노력이 있었다. 리허설 기반 방법은 각 클래스를 나타내는 샘플을 메모리 뱅크에 저장한다. 메모리 용량의 제한 때문에 이러한 방법들을 실제 세계에 적용하는 것은 어려울 수 있다. 데이터 프리 방법은 데이터를 생성하여 이전 클래스의 정보를 유지하고 새로운 클래스에 대한 일반화 성능을 향상시킨다. 의료 분야에서 이러한 방법들은 너무 사실적인 이미지를 생성할 경우 개인정보 문제가 발생할 수 있다.

이러한 문제에 대처하기 위해 우리는 딥인벌젼을 기반으로 다중 장기 영역분할을 위한 MOSInversion을 제안했다. 딥인벌젼은 사전에 훈련된 컨벌루션 뉴럴 네트워크를 사용여 무작위 노이즈에서 이미지를 업데이트한다. 사전 훈련된 모델의 배치 정규화 레이어에 저장된 러닝 평균 및 러닝 분산은 이전 데이터의 분포를 따르는 이미지를 생성하는 데 도움이 된다. 딥인벌젼에 의해 생성된 이미지는 적대적 신경망 또는 디퓨전과 같은 기존의 생성 모델로 생성한 이미지보다 덜 현실적다. 딥인벌젼은 위치와 같은 고수준 특징보다는 질감과 같은 저수준 특징을 보다 잘 보존한다. 따라서 데이터 보안에 대한 문제를 완화하면서 모델의 성능을 향상시킬 수 있다. 그러나 원래의 딥인벌젼은 분류 작업을 위해 제안되었으며 대상 클래스 벡터로부터 이미지를 생성한다. 그러나 영역분할에서는 모델이 이미지 수준에서 예측하지 않고 픽셀 수준에서 예측한다. 다중 장기 영역분할의 경우 모든 클래스 객체가 단일 이미지에 나타기 때문에 클래스 벡터는 필요하지 않다. 이를 바탕으로 우리는 마스크기반으로 딥인벌젼을 변형해 MOSInversion를 제안한다. 우리의 방법은 마스크로 각 장기의 적절한 위치와 크기를 고려하 때문에 클래스 벡터 기반 접근 방법보다 더 많은 정보를 포함하는 이미지를 생성할 수 있다. 게다가 생성된 이미지와 대상 마스크 간의 Dice 점수를 계산하여 생성된 이미지의 품질을 평가할 수 있다.

우리의 방법을 평가하기 위해 우리는 Fine-tuning (FT), 여러 최신 점진적 학습 방법 (LwF, MiB, 메모리 기반 방법 및 HRHF) 및 모든 클래스를 동시에 학습시키는 상한선과 비교했다. 세 가지 복부 CT 데이터셋(FLARE21, Decathlon 및 KITS)에서 우리의 방법은 FT 및 LwF보다 큰 폭으로 성능을 능가했으며, MiB 및 HRHF와 같은 최신의 최신적인 학습 방법보다 대략 4.74%와 1.75% 정도 성능을 넘었다.

실제 의료 클리닉에서는 다중 장기 영역분할을 위한 완전히 라벨이 달린 데이터셋이 부족하다. 데이터 보안 문제로 인해 데이터셋을 병합하는 대신 모델이 각 장기를 서로 다른 기관에서 점진적으로 훈련한다. 따라서 라벨이 제한된 장기의 성능이 저하된다. 이러한 문제에 대처하기 위해 우리는 MOSInversion을 제안했다. 제안된 방법은 MOSInversion에 의해 생성된 이미지를 사용하여 라벨이 제한된 장기의 정보를 보존할 수 있다. MOSInversion은 대상 벡터 대신 대상 마스크를 사용하여 영역분할에 적합하게 수정되었다. 생성된 이미지는 적대적 신경망과 같은 기존의 생성 모델보다는 현실적이지 않지만 학습에 도움이 된다. 게다가 우리의 방법은 메모리 뱅크에 샘플을 저장하지 않기 때문에 대상 클래스가 많은 시나리오에도 적용할 수 있다. 결과적으로 우리의 방법은 기존의 점진적 학습 방법보다 우수한 성능을 발휘한다.

추천서가 (다양한 추천 자료를 만나보세요)

권호기사보기

권호기사 목록 테이블로 기사명, 저자명, 페이지, 원문, 기사목차 순으로 되어있습니다.
기사명 저자명 페이지 원문 기사목차

권호

기사명 원문보기 기사목차
닫기