표제지
목차
국문초록 9
ABSTRACT 11
기호 및 약어 13
제1장 서론 14
1.1. 연구 배경 및 동기 14
제2장 이론적 배경 19
2.1. 연합학습(FL) 19
2.2. 개인화된 연합학습(PFL) 19
2.2.1. 메타러닝(Meta Learning) 19
2.2.2. 표현 학습(Representation Learning) 20
2.3. 커리큘럼 학습(Curriculum Learning) 21
제3장 편차 추적을 통한 표현 학습 22
3.1. 연합 학습과 표현 학습 비교 22
3.1.1. 연합 학습의 프로세스 22
3.1.2. 표현 학습의 프로세스 23
3.2. 편차 추적 알고리즘 24
제4장 레이어 디커플링 28
4.1. 표현 학습에서의 레이어 디커플링 28
4.1.1. Vanila Scheduling 28
4.1.2. Anti-Scheduling 29
제5장 실험 및 결과 31
5.1. 실험 설정 31
5.1.1. 데이터 세트(Dataset) 31
5.1.2. Baseline and Model 32
5.1.3. Hyper Parameters 33
5.2. 편차 추적 알고리즘 실험 결과 33
5.2.1. MNIST와 CIFAR-10 33
5.2.2. CIFAR-100 35
5.2.3. 과도한 기본 계층 학습의 문제점 36
5.2.4. 표준 편차 경향성 37
5.3. 레이어 디커플링 알고리즘 실험 결과 39
5.3.1. 실험 설정 39
5.3.2. MNIST와 CIFAR-10 40
5.3.3. CIFAR-100 데이터 세트 42
5.3.4. Tiny-imagenet 데이터 세트 45
제6장 결론 47
참고문헌 48
[표 3-1] 표준 편차 추적 알고리즘 26
[표 5-1] 모든 Baseline과 정확도 비교 38
[그림 5-1] CIFAR-10에서 20명의 클라이언트에 대해 Dirichlet 파라미터 α=0.1로 데이터 분할 결과 32
[그림 5-2] MNIST 데이터 세트에서의 모든 baseline의 정확도 비교 34
[그림 5-3] CIFAR-10에서의 모든 baseline의 정확도 비교 34
[그림 5-4] CIFAR-100에서의 모든 baseline의 정확도 비교 35
[그림 5-5] CIFAR-100에서 T의 변화에 대한 FedBABU 정확도 36
[그림 5-6] CIFAR-100 데이터 세트의 테스트 정확도의 표준 편차 경향성 37
[그림 5-7] MNIST 데이터 세트에서의 정확도 비교 40
[그림 5-8] CIFAR-10 데이터 세트에서의 정확도 비교 41
[그림 5-9] CIFAR-100 데이터 세트에서의 정확도 비교 42
[그림 5-10] CIFAR-100 데이터 세트에서의 클라이언트별 정확도 43
[그림 5-11] 미세 조정 이전과 이후의 클라이언트별 정확도 44
[그림 5-12] Tiny-imagenet 데이터 세트에서의 정확도 비교 45
[그림 5-13] 미세 조정 이전과 이후의 클라이언트별 정확도 46