본문 바로가기 주메뉴 바로가기
국회도서관 홈으로 정보검색 소장정보 검색

결과 내 검색

동의어 포함

목차보기

Title Page 2

Abstract 6

초록 8

Contents 12

Chapter 1. Introduction 22

1.1. Background 22

1.2. Motivation 28

1.3. Research goals 30

1.4. Scope of this thesis 30

1.5. Contributions 31

1.6. The organization of this thesis 32

Chapter 2. Preliminary and literature review 34

2.1. Human Activity Recognition (HAR) 34

2.1.1. Vision-based HAR 34

2.1.2. Sensor-based HAR 35

2.1.3. Type of sensors for human activity recognition 37

2.1.4. Pipeline of sensor-based HAR dataset creation 39

2.2. Federated learning 42

2.2.1. Statistical heterogeneity 47

2.2.2. Participation heterogeneity 48

2.2.3. Data quality heterogeneity (noisy label) 49

Chapter 3. Model Contrastive Learning and Adaptive Control Variates 51

3.1. Problem definition 51

3.2. Methodology 53

3.2.1. Model architecture 53

3.2.2. Local training phase 54

3.2.3. Local parameter update phase 55

3.2.4. FL algorithm 57

3.3. Experiments 60

3.3.1. Dataset 60

3.3.2. Experimental setup 62

3.3.3. Performance comparison 63

3.3.4. Convergence Speed Comparison 64

3.3.5. Handling real-world HAR skewness 66

3.3.6. Visualization of extracted embeddings 70

3.4. Discussion 70

Chapter 4. Common and personalized model 74

4.1. Problem definition 74

4.2. Methodology 75

4.2.1. Common model 75

4.2.2. The personalized model 77

4.2.3. The fusion layer 77

4.2.4. PerCom FL algorithm 79

4.3. Experiments 80

4.3.1. Baselines 80

4.3.2. Implementation details 83

4.3.3. Comparison with other baselines 84

4.3.4. Communication efficiency comparison 87

4.3.5. T-SNE inspection 88

4.4. Discussion 89

Chapter 5. Handling noisy label 92

5.1. Problem definition 92

5.2. Methodology 93

5.2.1. Model structure 94

5.2.2. Noisy client detection 100

5.2.3. Client training 102

5.2.4. Update aggregation 108

5.3. Experiments 109

5.3.1. Experiment setup 110

5.3.2. Experiment variation 111

5.3.3. Evaluation at low percentage of noisy clients (Γ= 0.4) 112

5.3.4. Evaluation at high percentage of noisy clients (Γ= 0.7) 114

5.3.5. Training convergence comparison 117

5.3.6. Noisy client contribution 120

5.3.7. Label accuracy correction 122

5.3.8. Computation time comparison 123

5.4. Discussion 126

Chapter 6. Conclusion and Future Work 129

6.1. Conclusion 129

6.2. Future work 131

Bibliography 133

List of Tables 17

Table 3.1. The performance results of FL algorithms on benchmark... 64

Table 3.2. Rounds required for each FL method to reach an F1 score... 66

Table 3.3. Comparison of F1-scores and reduction metrics for federated... 68

Table 3.4. Comparison of F1-scores and reduction metrics for federated... 69

Table 3.5. Comparison of F1-scores and reduction metrics for federated... 69

Table 4.1. Performance of all FL baselines on listed benchmark datasets 84

Table 4.2. Rounds required for PerCom and other baselines to reach an... 87

Table 5.1. Performance of all FL baselines on USC-HAD (Γ= 0.4) 113

Table 5.2. Performance of all FL baselines on PAMAP (Γ= 0.4) 114

Table 5.3. Performance of all FL baselines on USC-HAD (Γ= 0.7) 115

Table 5.4. Performance of all FL baselines on PAMAP (Γ= 0.7) 116

Table 5.5. Rounds required for FedNoel and other baselines to reach an... 120

Table 5.6. Noisy client contributions for the global model accuracy... 121

Table 5.7. Noisy client contributions for the global model accuracy... 122

Table 5.8. Computation time (s) of all FL baselines in USC-HAD 126

Table 5.9. Computation time (s) of all FL baselines in PAMAP 127

List of Figures 19

Figure 1. Organization of this thesis 33

Figure 2. Sensor-based HAR pipeline for classification task 40

Figure 3. Typical federated learning workflow 43

Figure 4. Federated learning category based on data distribution (a)... 45

Figure 5. Framework of FedCoad 53

Figure 6. Class distribution in the (a) HHAR (b) MotionSense, and (c)... 61

Figure 7. FL baselines F1-score convergence graph (a) MotionSense (b)... 65

Figure 8. Distribution of data among parties for different skew scenarios:... 67

Figure 9. T-SNE plots for the Motionsense dataset comparing (a)... 71

Figure 10. T-SNE plots for the WISDM dataset comparing (a)... 71

Figure 11. Framework of the proposed framework 76

Figure 12. Fusion mechanism inner working of PerCom 78

Figure 13. Test accuracy plot during training 85

Figure 14. TSNE visualization of the common model features 90

Figure 15. Overview of FedNoel framework 94

Figure 16. Model structure that includes label embedding 99

Figure 17. A Feature encoder and a classifier for classifying activities 111

Figure 18. Convergence of FL baselines on USC-HAD 118

Figure 19. Convergence of FL baselines on PAMAP 119

Figure 20. The noisy client's average label accuracy progression of the... 124

Figure 21. The noisy client's average label accuracy progression of the... 125

초록보기

 인간 동작 인식 (human activity recognition) 연구는 사람의 일상 생활에서 많은 이점을 제공하는 중요한 분야이다. 모바일 기기의 사용이 증가함과 더불어, 인간 동작 인식은 모바일 기기를 사용하고 있는 수많은 클라이언트에 널리 확산되고 있다. 그러나 데이터 프라이버시 문제와 분산된 데이터 소스에서 본질적으로 존재하는 이질성 (heterogeneity) 문제 때문에 프라이버시에 민감한 대규모 분산 환경에서 인간 동작 인식을 실현하는 것은 여전히 어려운 과제이다. 연합 학습 (federated learning)은 원시 데이터를 공유하지 않고도 여러 클라이언트 간의 협력 모델 (collaborative model) 학습을 가능하게 함으로써 유망한 해결책을 제공하고 있다. 그럼에도 불구하고, 연합 학습 방법을 사용하여 인간 동작 인식을 구현하는 것은 실세계에 존재하는 통계적 이질성, 클라이언트의 참여 이질성, 그리고 데이터 품질 (잘못된 라벨)의 이질성과 같은 이질성 문제로 인하여 도전에 직면하여 있고, 이것은 인간 동작 인식의 성능에 부정적인 영향을 끼치고 있다. 본 논문에서는 세 가지 접근 방식을 통해 이러한 세 가지의 주요 문제를 해결하고자 한다. 먼저, 통계적 이질성을 완화하기 위하여 대조 학습 (contrastive learning)과 적응형 제어 변수 (adaptive control variates)를 결합한 연합 프레임워크 (federated framework)를 제안한다. 대조 학습은 학습 과정에서 더 빠른 수렴을 위하여 지역 및 전역 표현을 정렬하는 반면, 적응형 제어 변수는 학습을 안정화하기 위해 지역 업데이트 (local update)를 조절한다. 둘째로, 고객 참여의 이질성을 해결하기 위해 전문가 혼합 패러다임 (mixture-of-experts paradigm)에서와 같이 글로벌 모델과 개인화된 로컬 모델을 통합한다. 글로벌 모델은 일반화 가능한 패턴을 포착하는 반면, 로컬 모델은 사용자별 행동을 학습하는 방식이다. 예측을 위하여 두 모델의 강점을 결합하는 융합 전략 (fusion strategy)을 채택함으로써 분류 성능을 향상시킨다. 마지막으로, 잘못된 라벨이 있는 클라이언트가 참여하는 연합 학습을 수행하기 위하여 2 단계 학습 시나리오가 포함된 새로운 프레임워크를 제안한다. 첫 번째 단계는 클라이언트를 깨끗한 (clean) 클라이언트 그룹과 노이즈가 있는 (noisy) 클라이언트 그룹으로 분류한다. 두 번째 단계는 두 그룹에 대하여 별도의 학습을 실행한다. 각 라운드에서 노이즈가 있는 파티션 가중치와 함께 스케쥴된 모델 임계값을 사용하여 오류가 수정된 노이즈 라벨을 전체 연합 학습에 통합한다. 또한, 라벨의 예측 성능을 향상시키기 위하여, 특징-라벨 관계 (feature-label relation)와 함께 강인한 불변 특징 (robust invariant feature)을 학습하기 위하여 노이즈 라벨을 입력으로 활용하는 새로운 모델 구조를 제안한다. 제안한 방법의 성능을 검증하기 위하여 다양한 인간 동작 인식에 관한 벤치마크 데이터 세트에 대하여 광범위한 실험을 수행한 결과, 제안한 방법은 기존의 방법들에 비하여 우수한 성능을 보여주었다.