표제지
목차
요약 9
제1장 서론: 연구의 목적 35
제1절 연구 배경 35
1. 인공지능 시대의 개화 35
2. 인공지능의 안전성과 윤리 이슈 대두 37
제2절 연구 목적 및 프레임워크 38
제2장 인공지능 안전성 및 윤리의 개념 40
제1절 인공지능 안전성(AI Safety) 40
1. 인공지능 안전성의 개념 및 중요성 40
2. 인공지능 안전성 침해 사례 44
제2절 인공지능 윤리 46
1. 인공지능 윤리(AI Ethics)의 개념 및 중요성 46
2. 인공지능 윤리 침해 사례 50
제3절 인공지능 안전성 및 윤리의 개념적 범위 53
제3장 기업 및 학계/연구계 대응 동향 54
제1절 글로벌 기업 대응 동향 55
1. 인공지능 윤리 전문가 채용 55
2. 인공지능 개발자가 지켜야 할 원칙 수립 58
3. 인공지능의 사회적 영향 연구 및 감시 전담부서 설치 62
4. 인공지능 감사(Algorithm Auditing) 실시 65
5. 인공지능 윤리교육 실시 66
6. 인공지능을 활용한 사회적 공익 프로젝트 운영 67
7. 협회 구성 또는 외부 시민 단체와 공동 대응 69
제2절 학계/연구계 대응 동향 70
1. 인공지능 윤리지침, 표준규정 및 가이드라인 제시 70
2. 인공지능 윤리 프로젝트 운영 77
3. 인공지능 윤리교육 강화 및 방법론 연구 79
제3절 시사점 81
제4장 주요국 정부 대응 동향 84
제1절 주요국 정부 대응 동향 84
1. 미국 84
2. EU 98
3. 일본 106
4. 중국 112
5. OECD AI 권고안 119
6. 시사점 123
제2절 국내 기업ㆍ정부ㆍ학계 대응 동향 124
1. 기업 대응 동향 124
2. 학계 대응 동향 134
3. 정부 대응 동향 142
제3절 기업 및 학계/연구계, 주요국 정부 대응 동향 종합 156
제5장 정책제언 158
제1절 법제도 개선 방안 158
1. 법제도적 이슈 정리 158
2. 법제도 개선 우선순위 도출 169
3. 법제도 개선 방안 173
제2절 결론 및 시사점 195
1. 인공지능 안전ㆍ윤리 R&D의 방향 195
2. 인공지능 윤리 확보를 위한 R&D 방향 198
3. 인공지능 안전성 확보를 위한 R&D 방향 201
4. 데이터 이슈를 고려한 인공지능 정책방향 202
참고문헌 205
[부록] 안전하고 윤리적인 인공지능 R&D와 활용을 위한 법제도 개선방안 전문가 설문 219
Summary 223
판권기 2
〈표 2-1〉 1차년도 인공지능 활용사례 별 안전성 관련 소비자 pain point 42
〈표 2-2〉 인공지능 통제 방법 43
〈표 2-3〉 행위의 윤리성 판단에 대한 이론들 47
〈표 2-4〉 아이작 아시모프의 로봇 3원칙 48
〈표 2-5〉 인공지능의 윤리적 학습 관련 연구 사례 49
〈표 3-1〉 Google AI 권고사항 59
〈표 3-2〉 Microsoft AI 개발원칙 60
〈표 3-3〉 카카오의 윤리 헌장 전문 61
〈표 3-4〉 구글의 'AI for Social Good' 수행 과제 67
〈표 3-5〉 인텔의 'AI for Social Good' 수행 과제 68
〈표 3-6〉 아실로마 23대 인공지능 원칙 71
〈표 3-7〉 캠브리지대 실존적 위기센터(CSER)의 인공지능 위협 대비 권고안 74
〈표 3-8〉 일본 인공지능 윤리지침 주요내용 76
〈표 3-9〉 인공지능 윤리와 거버넌스의 세부 프로젝트 내용 78
〈표 4-1〉 DARPA의 AI Next Campaign의 주요 내용 94
〈표 4-2〉 조직의 참여 수준과 AI 시스템에 대한 평가 관련 역할 104
〈표 4-3〉 일본 인공지능 연구개발 가이드라인 주요 내용 107
〈표 4-4〉 중국 차세대 인공지능 발전계획 6대 보장조치 114
〈표 4-5〉 윤리문제 측면에서 알고리즘과 관련된 주요 논의 주제 125
〈표 4-6〉 카카오의 윤리 헌장 전문 126
〈표 4-7〉 네이버의 프라이버시 관련 보고서 129
〈표 4-8〉 2019 인공지능 윤리+교육 포럼 공동선언문 133
〈표 4-9〉 고등과학원 초학제 연구프로그램 워크숍 (2017.11.~2019. 8.) 135
〈표 4-10〉 HK+인공지능인문학 세부영역 138
〈표 4-11〉 HK+인공지능인문학 예상 성과 138
〈표 4-12〉 개별 산업별 윤리 이슈 141
〈표 4-13〉 윤리 대응 프레임워크 (예시: 제조) 141
〈표 4-14〉 2007 로봇윤리헌장 초안 143
〈표 4-15〉 지능형 로봇 개발 및 보급 촉진법 중 로봇윤리헌장 관련 내용 143
〈표 4-16〉 로봇 윤리 가이드라인(안)의 3대 기본가치와 5대 실천원칙 145
〈표 4-17〉 '로봇기본법'의 주요 내용 145
〈표 4-18〉 지능정보사회 윤리헌장 146
〈표 4-19〉 지능정보사회 윤리가이드라인의 적용 대상 및 범위 147
〈표 4-20〉 지능정보사회 윤리가이드라인의 공통원칙 148
〈표 4-21〉 지능정보사회 윤리가이드라인의 적용대상별 세부지침 148
〈표 4-22〉 "[목표4]지능정보화시대 이용자 보호 체계 정립"의 전략 및 과제 151
〈표 4-23〉 "[목표4]지능정보화시대 이용자 보호 체계 정립" 추진 일정 152
〈표 4-24〉 사이버 위협 유형별 대응 방향 153
〈표 5-1〉 자율주행 단계별 구분 184
〈표 5-2〉 인공지능 윤리 확보를 위한 R&D 방향 201
[그림 1-1] 연구 프레임워크 39
[그림 2-1] 인공지능의 구성기술 40
[그림 2-2] 인공지능 로봇 오작동(상) 및 우버 사고(하) 사례 44
[그림 2-3] 콤파스의 인종차별(좌)와 안면인식 카메라의 오류(우) 사례 45
[그림 2-4] 전세계 군사용 로봇 시장 규모(좌) 및 용도별 드론 시장 규모(우) 50
[그림 2-5] 예멘 공군기지(좌)와 베네수엘라 대통령(우) 드론 테러 사례 51
[그림 2-6] 인공지능을 이용한 딥페이크 사례 51
[그림 2-7] 진찰 과정에서의 이미지 조작 사례(좌)와 실제 조작한 이미지(우) 52
[그림 2-8] 인공지능 안전성과 인공지능 윤리의 개념적 범위 53
[그림 4-1] 미국 국가 AI R&D 전략계획('16.10) 90
[그림 4-2] 인공지능의 3가지 물결 93
[그림 4-3] 설명 가능한 인공지능의 목표 95
[그림 4-4] 적대적 공격의 예시 96
[그림 4-5] 적대적 공격의 가능성이 있는 오염된 정지 교통표지판 97
[그림 4-6] 신뢰성 있는 AI의 7가지 요건 103
[그림 4-7] VUNO-MED BoneAge(2018) 131
[그림 4-8] 심심이 대화 중 혐오표현 사례 132
[그림 4-9] 인공지능 안전성 및 윤리성 측면의 대응동향 종합 156
[그림 4-10] 정책 및 기술적 차원의 대응동향 종합 157
[그림 5-1] 인공지능 법제도 개선 시급성 평가 170
[그림 5-2] 인공지능 법제도 개선 용이성 평가 171
[그림 5-3] 인공지능 법제도 개선 파급성 평가 172
[그림 5-4] 인공지능 법제도 개선 평가 종합 173