표제지
목차
요약 4
Ⅰ. 문제 제기 : 왜, 알고리즘의 공정성에 대해 논의하여야 하는가? 9
1. 인공지능 기술은 가치중립적인가? 9
2. 연구 배경 및 목적 11
3. 범위 및 구성 13
Ⅱ. 알고리즘에 대한 법적 고찰 : 알고리즘 및 이에 부수하는 요소를 중심으로 16
1. AI와 알고리즘 16
가. 인공지능 16
나. AI와 기계학습 17
다. 알고리즘 20
2. 특성 : 알고리즘은 자가발전한다! 21
3. 알고리즘의 법적 성질 23
가. 문제해법으로서 알고리즘 23
나. 지식재산으로서 알고리즘 23
다. 지능형 로봇법에서 보는 알고리즘 24
4. 알고리즘 학습을 위한 데이터 25
Ⅲ. 알고리즘 확산과 이에 따른 문제점 27
1. 알고리즘은 왜 문제인가? 27
2. 알고리즘의 차별과 편향성 29
가. 공정성 29
나. 차별과 편향성 30
다. 의도성 32
라. 의식적 편향성과 무의식적 편향성 33
마. 대응 34
3. 알고리즘의 사유화(私有化) 35
가. 알고리즘의 공공성 35
나. 사적재산으로서 알고리즘 36
4. 독자적인 의사결정에 따른 안전의 확보 36
5. 데이터의 편향성 37
가. 데이터 편향의 문제 37
나. 데이터 처리(수집, 가공, 분석) 및 이용과정의 문제 38
다. 데이터 편향의 해소 방안 39
Ⅳ. 알고리즘 규제와 그 필요성(또는 정당성) 40
1. 무엇을 위한 논의와 대응인가? 40
2. 알고리즘 규제의 필요성 43
3. 알고리즘 규제의 정당성 45
가. 알고리즘의 블랙박스화 45
나. 알고리즘의 자발적 진화 45
다. 알고리즘 담합 - 인간의 개입 없는 알고리즘 담합은 위법인가? 46
라/마. 추천알고리즘은 객관적인가? 48
마/바. 표현의 자유의 침해 49
바/사. 정보 비대칭성 49
사/아. 사회적 편익의 저해 50
4. 투명성 확보를 위한 알고리즘 거버넌스 50
가. 투명성 확보방안으로서 규제 51
나. 알고리즘에 대한 설명요구권 51
다. 알고리즘 적용 거부권 54
라. 입증책임의 전환 54
5. 알고리즘의 투명성 확보 55
가. 알고리즘의 투명성 55
나. 투명성 확보와 설명가능성 56
다. 설명가능한 알고리즘 57
6. 소프트웨어의 안전과 제조물 책임 59
가. 소프트웨어의 역설 59
나. 소프트웨어의 제조물성 59
다. 안전과 품질인증 61
라. 시대적 변화와 소프트웨어 제조물 책임 61
마. 정책적 전망 62
7. 알고리즘의 공정성 확보를 위한 단계적 대응 64
가. 설계 단계 64
나. 이용 단계 - 알고리즘 리터러시 65
다. 구제 단계 - 피해자 입증 전환 66
Ⅴ. 알고리즘 규제 반론과 대응 68
1. 왜 알고리즘 규제에 반대하는가? 68
가. 영리를 위한 알고리즘 68
나. 기술개발이나 투자의 저해 69
다. 지식재산으로서 알고리즘 69
2. 영업비밀 등 경쟁자산으로서 알고리즘 70
가. 비공개 논거와 영업비밀 70
나. 리버스엔지니어링과 영업비밀 보호요건의 충돌 여부 71
다. 알고리즘 개발 시 소스코드의 사용과 영업비밀의 침해 73
라. 알고리즘의 영업비밀성 76
마. 정리 76
3. 알고리즘 규제를 위한 제도 설계 77
가. 설명의무 77
나. 감사제도(algorithm auditing) 78
다. 알고리즘 소스코드의 공개 78
라. 전문기관 설립 등 검증시스템 79
마. 이력 관리 80
4. 알고리즘 규제에 대한 가이드라인(원칙) 80
가. 변함없는 규제의 필요성 80
나. 기술적 대응 81
다. 규제의 대응 수준(가이드라인) 82
라. 자율규제와 분쟁조정 84
마. 알고리즘의 확보 85
바. 단계별 데이터 학습 및 구현 모델의 검증 85
Ⅵ. 알고리즘과 인공지능 윤리 87
1. 왜, 알고리즘 윤리인가? 87
가. 논의의 필요성 87
나. 인공지능 윤리가 풀어야 할 과제 88
2. 인공지능 윤리가 추구하는 가치 89
3. 인공지능 윤리 논의의 한계 90
가. 윤리는 보편타당한가? 90
나. 로봇에게 윤리를 강제할 수 있는가? 91
다. 윤리는 프로그래밍이 가능한가? 92
라. 윤리는 학습가능한가? 93
4. 알고리즘과 결합된 데이터 윤리 94
가. 데이터 수집 94
나. 알고리즘 설계 95
다. 데이터 왜곡 96
라. 프라이버시의 충돌 96
Ⅶ. 입법 방안과 정책적 고려 98
1. 기술과 제도의 공진화 98
2. 입법 방안 99
3. 분야별 입법 대응 100
가. 알고리즘 분야 : 정보공개법, 제조물책임법 100
나. 데이터 분야 ; 저작권법, 부정경쟁방지법, 개인정보보호법 101
다. 소비자 보호 ; 소비자보호법(약관법 포함), 공정거래법, 소프트웨어 안전법 102
라. 윤리 분야 ; 데이터 및 알고리즘 윤리 102
마. 총론. 알고리즘 공개법, 차별금지법 103
4. 얻을 수 있는 사회적 가치 104
가. 소비자 보호 : 안전과 책임 104
나. 공정거래 : 공정성과 차별 배제 104
다. 민주화 : 인공지능 & 데이터의 민주화, 정보독점의 배제 104
라. 종합적 결론 : 법적 기준의 제시와 더불어 윤리적 기준의 수립 필요 105
5. 정책 방향 105
가. 스마트 규제 105
나. 차별금지법의 제정 106
다. 알고리즘 책임법(안)의 검토 107
Ⅷ. 결론 110
참고문헌 111
판권기 115
[표 1] 인공지능의 비교 17
[표 2] 알고리즘 규율 방법론 비교 42
[표 3] 알고리즘 답합 유형 48
[그림 1] 유엔 차별금지광고 10
[그림 2] 기계학습과 딥러닝 18
[그림 3] 신경망 구조 비교 19
[그림 4] 고릴라로 태깅된 흑인 여성 41
[그림 5] 설명가능한 인공지능의 구조 58
[그림 6] 설명가능한 인공지능의 프로세스 58