Title Page 2

Contents 5

Abstract 17

Chapter 1. INTRODUCTION 19

1. Deep Neural Networks under Spurious Correlations: A Growing Concern 19

2. Core Challenges: Group Fairness, Group Robustness, and Bias Transfer 24

1) Group Fairness 24

2) Group Robustness 28

3) Bias Transfer 31

3. Organization of the Dissertation 33

1) Group Fairness in Natural Image Classification 34

2) Group Robustness in Medical Diagnosis 34

3) Bias Transfer in Continual Learning 35

Chapter 2. GROUP FAIRNESS IN NATURAL IMAGE CLASSIFICATION 36

1. Introduction 36

2. Related Works 40

3. Fairness Criterion 41

4. Method 42

1) MMD-based Regularization for MFD 44

2) Objective Function 46

3) Analysis 47

5. Experiments 49

1) Synthetic Dataset 50

2) Real-world Datasets 56

3) Ablation Study 59

6. Conclusion 60

Chapter 3. GROUP ROBUSTNESS IN BRAIN IMAGE CLASSIFICATION 62

1. Introduction 62

2. Related Works 66

1) Group Robustness of a Classifier 66

2) Early Diagnosis of MCI to AD Conversion 67

3) Group Robust Classification in Medical Imaging 68

3. Dataset Setup and Preliminary Study 69

1) Data Collection 69

2) Data Preprocessing 71

3) Analysis on Group Robustness of MCI to AD Conversion Prediction 72

4. Method 74

1) Adaptive Linear Modulation with Cognitive and Age Indicators 75

2) Age-based Decoupled Classifier 78

5. Experiments 79

1) Baseline Methods 79

2) Evaluation Metrics 80

3) Main Results 81

4) Ablation Study 83

5) Effect of the Tabular Features 84

6) Effectiveness of Linear Modulation 86

7) Architecture Variation Analysis 87

8) External Validation 88

6. Conclusion 89

Chapter 4. BIAS TRANSFER IN CONTINUAL LEARNING 91

1. Introduction 91

2. Related Works 94

1) Continual Learning 94

2) Spurious Correlations and Debiased Learning 95

3) CL Considering Spurious Correlations 95

3. Experimental Setup 96

1) Problem Setting and Definition 96

2) Benchmark Datasets 98

3) Continual Learning and Debiasing Baselines 99

4. Case for CL with Two Tasks 100

1) Forward Transfer of the Bias 101

2) Backward transfer of the Bias 102

3) Feature Representation Analysis 102

5. Case for CL with a Longer Sequence of Tasks 103

1) Bias Transfer in Longer Sequences 104

2) Accumulation of the Same Type of Dataset Bias 105

3) Accumulation of the Different Types of Dataset Bias 105

6. Bias-aware Continual Learning 107

1) Experimental Setup for Developing Bias-aware CL Method 107

2) Group-class Balanced Greedy Sampling 108

3) Performance Comparison 109

7. Conclusion 110

Chapter 5. CONCLUSIONS AND FUTURE DIRECTIONS 112

References 116

Appendix 144

〈Appendix 1〉 Chapter 2: Implementation Details 144

〈Appendix 1.1〉 Network Architecture for CIFAR-10S 144

〈Appendix 1.2〉 Hyperparameters for Main Results 144

〈Appendix 1.3〉 Details on AD+FitNet 145

〈Appendix 1.4〉 Hyperparameters for t-SNE 146

〈Appendix 2〉 Chapter 2: Results with Standard Deviations (SD) 146

〈Appendix 3〉 Chapter 3: Implementation Details 148

〈Appendix 4〉 Chapter 3: Per-Test Set Groupwise Accuracy from Preliminary Analysis 149

〈Appendix 5〉 Chapter 3: Results of Prognosis Task 150

〈Appendix 6〉 Chapter 3: Additional Results of Table 3-4 and Table 3-8 152

〈Appendix 7〉 Chapter 3: Quality Control Procedure for NACC 153

〈Appendix 8〉 Chapter 3: Groupwise Feature Information of NACC 153

〈Appendix 9〉 Chapter 3: Details of Model Architectures 154

〈Appendix 10〉 Chapter 3: LOFO Importance of DEAL for GBA 154

〈Appendix 11〉 Chapter 4: BGS Algorithm 155

〈Appendix 12〉 Chapter 4: Implementation Details 155

〈Appendix 12.1〉 Model Architectures and Optimization 155

〈Appendix 12.2〉 Implementations of Continual Learning Methods and BGS 156

〈Appendix 12.3〉 Hyperparameter Selection for Each Result 158

〈Appendix 12.4〉 Datasets 158

〈Appendix 13〉 Chapter 4: Formal Definition of Difference of Classwise Accuracy (DCA) 161

〈Appendix 14〉 Chapter 4: On the Issue of Local Spurious Features (LSF) in Domain-IL 162

〈Appendix 15〉 Chapter 4: Additional Results 164

〈Appendix 15.1〉 Two Task Scenarios with Different Bias Levels and Noise Type 164

〈Appendix 15.2〉 Accuracy for CL with Two Tasks 166

〈Appendix 15.3〉 Feature Representation Analysis for Backward Transfer of Bias 168

〈Appendix 15.4〉 Results for Accuracy with a Longer Sequence of Tasks 168

〈Appendix 15.5〉 Accumulation of the Same Type of Dataset Bias through Backward Transfer 169

〈Appendix 15.6〉 Accumulation of the Different Types of Dataset Bias through Backward Transfer 170

〈Appendix 15.7〉 Performance Comparison with Additional Baselines and Setting 173

〈Appendix 16〉 Chapter 4: Analysis for Bias Transfer with More Realistic CL Scenarios 174

논문요약 176

Table 2-1. Comparison of algorithms on the CIFAR-10S dataset. Green and red... 54

Table 2-2. Performance comparison on the UTKFace dataset. Experimental settings... 57

Table 2-3. Performance comparison on the CelebA dataset. Experimental settings... 58

Table 2-4. Ablation study of MFD across all datasets. Hyperparameter tuning was... 59

Table 3-1. Demographics of ADNI 71

Table 3-2. Demographics of NACC 71

Table 3-3. Comparison of features for sMCI/pMCI across two age ranges of ADNI 75

Table 3-4. Performance comparison of MCI to AD conversion prediction on ADNI 81

Table 3-5. Ablation study of age indicator and decoupled classifier components 83

Table 3-6. Distance between the respective group features 85

Table 3-7. Results of architecture variation analysis 87

Table 3-8. Performance comparison of MCI to AD conversion prediction on NACC 88

Table 4-1. Comparison of methods on different CL scenarios. The average accuracy... 109

Table A-1. Hyperparameter settings used in the experiments 145

Table A-2. Average accuracy and DEO with SD on CIFAR-10S 146

Table A-3. Average accuracy and DEO with SD on UTKFace 147

Table A-4. Average accuracy and DEO with SD on CelebA 147

Table A-5. Performance comparison of MCI to AD conversion prognosis on ADNI 150

Table A-6. Demographics of MCI Patients across Two Age Ranges of ADNI 151

Table A-7. Precision and recall of MCI to AD conversion prediction task 152

Table A-8. Comparison of features for sMCI/pMCI across two age ranges of NACC 153

Table A-9. Details of model architectures 154

Table A-10. Hyperparameter search ranges 158

Table A-11. Dataset construction of CelebA² 160

Table A-12. Per-task performance and confusion matrix. Each value is computed... 164

Table A-13. Comparison of methods on Split CIFAR-100S in Task- and Class- IL. The... 172

Table A-14. Comparison of methods on CelebA⁸ and Split ImageNet-100C. The... 173

 심층 신경망에서의 허위 상관은 지도 학습 기반 분류 문제에서 주요한 도전 과제로 작용하며, 현실 세계에서 예측 편향과 일반화 성능 저하를 초래한다. 본 논문은 이러 한 문제를 집단 공정성, 집단 강건성, 편향 전이라는 세 가지 핵심 과제를 중심으로 다룬다. 자연 이미지 분류, 뇌 영상 기반 진단, 연속 학습 등 서로 다른 응용 환경에서 각 과제를 분석하고 이에 대한 해결책을 제시한다.

먼저, 자연 이미지 분류에서 인구통계학적 집단 간 성능 격차를 완화하기 위해, 최대 평균 불일치 (Maximum Mean Discrepancy, MMD) 를 활용한 공정성 인식 특성 증류 방법을 제안한다. CelebA를 포함한 다양한 합성 및 실제 데이터셋을 대상으로 한 실험을 통해, 본 방법이 예측 성능을 유지하면서도 공정성을 효과적으로 향상시킴을 확인하였다.

다음으로, 구조적 뇌 MRI 데이터를 활용해 경도 인지 장애 (MCI) 에서 알츠하이머병 (AD) 으로의 진행을 예측하는 의료 진단 문제에서 집단 강건성을 살펴본다. 진단 결과와 연령에 따라 집단을 구성한 뒤, 집단 간 성능 차이가 뚜렷하게 나타남을 확인하였다. 이를 해결하기 위해 적응형 변조 계층과 분리된 분류기로 구성된 새로운 프레임워크를 제안하였으며, ADNI 및 NACC 데이터셋을 통해 해당 방법이 집단 강건 성을 크게 개선함을 입증하였다.

마지막으로, 연속 학습에서 발생하는 편향 전이 문제를 다룬다. 초기 과제에서 학습된 허위 상관이 이후 과제에 영향을 미치거나, 이전에 습득한 지식을 왜곡하는 역방향 전이가 발생할 수 있다. 이를 분석 및 해결하기 위해, 편향 인식 연속 학습 프레임워크와 집단-클래스 균형 샘플링 기반의 방법을 제안하였다. 제안한 프레임 워크를 기반으로 한 실험 결과, 제안된 방법은 연속된 과제 전반에서 모델의 편향을 효과적으로 줄이고 안정적인 성능을 유지했으며, 이를 통해 간단하지만 효과적인 베이스라인으로 활용될 수 있음을 확인하였다.