[표지]
참여연구진
발간사 / 정윤수
목차
국문요약 16
영문요약 32
제1장 서론 36
제1절 연구의 배경 및 필요성 36
제2절 연구의 목적 및 내용 43
1. 연구의 목적 43
2. 연구의 범위 및 내용 44
제3절 연구방법 48
1. 이론 및 문헌조사... 49
2. 국내외 사례조사 및 위험관리·정책 비교연구 49
3. 설문 조사 50
4. AHP 조사 51
제4절 기대효과 52
제2장 이론적 고찰 56
제1절 기술위험 관리 56
1. 위험 및 기술위험 관리 개요 56
2. 인공지능(AI)과 신기술 위험관리의 중요성 63
제2절 인공지능의 위험 및 사회적 영향 65
1. 사회적 위험 지위(Theme of Social Risk Positions) 66
2. 부메랑 효과 71
제3절 사전예방원칙과 복원력 74
1. 사전예방원칙 74
2. 복원력 82
제4절 연구 분석틀 87
제3장 인공지능 적용 분야별 위험 예측 90
제1절 교통안전 분야 97
1. 개요 97
2. 상용화 사례 및 위험특성 98
3. 시사점 100
제2절 범죄(치안) 분야 102
1. 개요 102
2. 상용화 사례 및 위험특성 104
3. 시사점 106
제3절 노동(근로) 분야 108
1. 개요 108
2. 상용화 사례 및 위험특성 113
3. 시사점 115
제4절 의료(보건) 분야 117
1. 개요 117
2. 상용화 및 위험특성 118
3. 시사점 121
제5절 소결 122
제4장 인공지능에 대한 국내외 위험정책 및 위험관리 130
제1절 유럽의 인공지능 위험관리 정책 132
1. 유럽의 인공지능 법제도 및 거버넌스 체계 132
2. 자율주행자동차에 대한 유럽연합의 규제 137
3. 드론에 대한 유럽연합의 법률 142
4. 군사기술에 대한 유럽규제 144
5. 기계안전, 작업안전, 의료 관련 유럽연합의 기존 법률들 145
6. 인공지능 윤리와 책임 있는 연구개발 146
제2절 영국의 인공지능 위험관리 정책 149
1. 무인자동차에 대한 안전규제 154
2. 드론에 대한 법률 155
3. 군사기술에 대한 규제 155
4. 인공지능 윤리와 책임 있는 연구개발 156
제3절 미국의 인공지능 위험관리 정책 157
1. 자율주행자동차에 대한 안전규제 162
2. 드론에 대한 미국의 규제 168
3. 작업장 안전 및 의료관련 로봇에 대한 규제 170
제4절 국내 위험관리 정책 171
1. 인공지능에 대한 규제법률 175
2. 로봇윤리 179
제5절 소결 180
제5장 인공지능 위험관리에 관한 전문가 의견 조사 186
제1절 전문가 워크숍 186
제2절 전문가 설문조사 189
제3절 전문가 AHP 조사 195
제4절 전문가 설문조사·AHP 조사 결과 분석 201
1. 전문가 설문조사 결과 201
2. AHP 조사 결과 228
제5절 정책적 시사점 276
제6장 인공지능 기술위험에 대한 정책 제언 282
제1절 인공지능 기술위험 사전예방원칙에 따른 정책제언 282
1. 사전 예방적 위험 평가 정책 제언 283
2. 사전 예방적 위험관리 정책 제언 301
3. 사전 예방적 위험 소통 정책 제언 307
제2절 인공지능 위험 복원력 제고 정책제언 310
1. 복원력 위험 평가 정책 제언 311
제7장 결론 336
제1절 종합 정책 제언 336
1. 행정적 측면 실행전략 336
2. 기술적 측면 실행전략 338
3. 사회적 측면 실행전략 340
4. 경제적 측면 실행전략 341
5. 정책대상을 고려한 실행전략 342
6. 인공지능 위험 거버넌스 추진 로드맵 345
제2절 요약 및 결론 346
1. 학술적 기여도 및 정책 활용가능성 346
2. 연구의 한계 347
참고문헌 352
국내문헌 352
국외문헌 356
사이트 363
신문기사 364
부록 367
부록 1. 국문 설문조사표 368
부록 2. 영문 설문조사표 379
판권기 391
표 1-1. 현행 인공지능 관련 법률 41
표 1-2. 연구 방법론 49
표 2-1. 위험의 다양한 정의 57
표 2-2. 위험 지각 접근 및 평가 기준 60
표 2-3. 기술위험 유형에 따른 관리전략과 수단 62
표 2-4. 사전예방원칙관련 국제 법·조약 사례 75
표 2-5. 사전예방원칙의 정책 유형 77
표 2-6. 기술관료주의적 위험정책과 사전예방원칙 간 비교 80
표 2-7. 복원력의 개념 83
표 2-8. Tierney & Bruneau의 복원력의 네 가지 영역 85
표 2-9. 복원력 구성요소와 예시 86
표 3-1. 구글 미디어 분석 91
표 3-2. 신문기사 분석 91
표 3-3. 교통 분야 인공지능 기술 상용화 사례 99
표 3-4. 교통 분야 인공지능 기술 위험 분석 100
표 3-5. 안전 분야 인공지능 기술 상용화 사례 105
표 3-6. 안전 분야 인공지능 기술 위험 분석 106
표 3-7. 노동 분야 인공지능 기술 상용화 사례 113
표 3-8. 노동 분야 인공지능 기술 위험 분석 114
표 3-9. 의료 분야 인공지능 기술 상용화 사례 119
표 3-10. 의료 분야 인공지능 기술 위험 분석 120
표 3-11. 각 분야별 AI 위험 특성 분석 122
표 4-1. 2017 유럽의회의 로봇 관련 결의안 주요 내용 136
표 4-2. 로봇에 대한 안전관리에 적용될 수 있는 유럽의 기존법률 145
표 4-3. 책임 있는 기술혁신의 특징 148
표 4-4. 미국 주요 주정부의 자율주행자동차법률의 주요내용 167
표 4-5. 현행 인공지능 관련 법률 174
표 4-6. 자율주행자동차 관련 주요 규제사항: 미국과의 비교 177
표 4-7. 국가별 드론관련 제도 비교 178
표 5-1. 전문가 워크숍을 통해 도출된 사전예방원칙 정책 수단 187
표 5-2. 전문가 워크숍을 통해 도출된 복원력 제고 정책 수단 188
표 5-3. 설문 문항 및 출처 190
표 5-4. 정책 타당성 평가기준 195
표 5-5. 행위(Activity)기준에서 행위자(Player) 및 프로세스(Process) 기준으로 분류된 사전예방원칙 정책 수단 197
표 5-6. 전문가 워크숍을 통해 수정·보완된 사전예방원칙 정책 수단(최종) 198
표 5-7. 전문가 워크숍을 통해 수정·보완된 복원력 제고 정책 수단(최종) 199
표 5-8. 자료 수집 절차 201
표 5-9. 응답자 특성 202
표 5-10. 미래 인공지능 신기술 발전에 대한 예측 203
표 5-11. 인공지능의 편익 획득 가능성 및 예상 시기 205
표 5-12. 인공지능 분야별 상용화 가능성 207
표 5-13. 인공지능 위험성에 대한 동의 정도 208
표 5-14. 사회분야별 인공지능 위험 발생 가능성 210
표 5-15. 인공지능으로 인한 가치 침해 정도 211
표 5-16. 인공지능으로 인한 특정 상황 발생 가능성 212
표 5-17. 인공지능의 윤리적 요소 적절 반영 단계 213
표 5-18. 인공지능 규제 활동 관련 동의 정도 215
표 5-19. 인공지능의 잠재적 위험에 대해 각 주체별 평가할 책임 정도 220
표 5-20. 미래 기술별 정부 규제 필요 정도 222
표 5-21. 인공지능 위험에 대비한 정책별 필요성 223
표 5-22. 사전예방원칙 적용 방안별 중요성 224
표 5-23. 복원력 제고를 위한 정책 유형별 중요성 226
표 5-24. 시행가능성 평가기준 내 사전예방원칙 정책대안의 종합중요도 229
표 5-25. 효과성 평가기준 내 사전예방원칙 정책대안의 종합중요도 231
표 5-26. 효율성 평가기준 내 사전예방원칙 정책대안의 종합중요도 234
표 5-27. 사회적 수용성 평가기준 내 사전예방원칙 정책대안의 종합중요도 236
표 5-28. 네 가지 평가기준 내 사전예방원칙 정책대안의 종합중요도 238
표 5-29. 시행가능성 평가기준 내 복원력 제고 방안의 종합중요도 240
표 5-30. 효과성 평가기준 내 복원력 제고 방안의 종합중요도 242
표 5-31. 효율성 평가기준 내 복원력 제고 방안의 종합중요도 245
표 5-32. 사회적 수용성 평가기준 내 복원력 제고 방안의 종합중요도 247
표 5-33. 네 가지 평가기준 내 복원력 제고방안의 종합중요도 249
표 5-34. AI위험 사전예방원칙 하위 18개 정책수단에 대한 종합적인 우선순위 252
표 5-35. AI위험 복원력 제고방안 하위 18개 정책수단에 대한 종합적인 우선순위 253
표 5-36. 2차 AHP 조사 상위 6개 정책 수단 254
표 5-37. 2차 AHP 조사 논리적 일관성 검증 256
표 5-38. 평가지표 중요도 순위 257
표 5-39. 시행가능성 차원에서 정책 우선 순위 259
표 5-40. 효과성 차원에서 하위 정책 우선순위 261
표 5-41. 효율성 차원에서 하위 정책 우선순위 263
표 5-42. 사회적 수용성 차원에서 하위 정책 우선순위 265
표 5-43. 평가지표별 대안의 종합중요도 및 순위 266
표 5-44. 1차, 2차 조사결과 종합 중요도 267
표 5-45. 1차, 2차 조사결과 적용 시 하위정책 중요도 268
표 5-46. 사전예방원칙 최종 18개 정책수단 중요도 268
표 5-47. 복원력 최종 18개 정책수단 중요도 271
표 5-48. 하위정책수단 최종 종합중요도 및 우선순위 273
표 6-1. 정책적 함의로부터 도출한 사전예방원칙 정책 283
표 6-2. AI 기술 위험의 발생가능성에 대한 예시 291
표 6-3. AI 기술 위험 평가 시 피해정도 심각성에 대한 예시 291
표 6-4. AI 위험 계산 조합표(안) 292
표 6-5. AI 기술 위험 계산 조합표(안) 292
표 6-6. AI 기술 위험도에 따른 위험 등급분류 293
표 6-7. AI 기술 위험의 사회적 수용성 293
표 6-8. 위험의 특성에 따른 이해당사자의 개입범위의 변화 294
표 6-9. AI위험 유형에 따른 정책 제언 295
표 6-10. AI 기술 위험의 비가역성을 반영한 피해 AI 기술 위험 등급 분류 297
표 6-11. AI 위험 등급별 위험 관리 방안과 정책 대안 297
표 6-12. 정책적 함의로부터 도출한 복원력 정책 310
그림 1-1. 신기술 종류에 따른 긍정적 효과와 부정적 효과 38
그림 1-2. 연구 흐름도 46
그림 2-1. The Global Risks Landscape 2016 61
그림 2-2. AI 기술의 발전단계 63
그림 2-3. 영국 BBC의 향후 20년 이내 로봇 자동화 기술로 대체 가능한 직업의 확률을 알려주는 프로그램 70
그림 2-4. 인공지능 사회적 위험 지위 현상(필자 작성) 71
그림 2-5. 인공지능 위험의 부메랑 효과(필자 작성) 73
그림 2-6. 본 연구의 연구 분석틀 87
그림 2-7. 본 연구의 '신기술위험 분석 프레임워크' 88
그림 3-1. 국가별 인공지능에 따른 직업 대체 위험 109
그림 3-2. 산업별 로봇의 직업 대체 가능성 110
그림 3-3. 인공지능 및 로봇의 직종별 영향 111
그림 3-4. 인공지능에 의한 반복적/정형적 업무의 대체 가능성 115
그림 4-1. EU 과학기술(인공지능 포함) 거버넌스 체계 133
그림 4-2. SAE 자동화 수준 국제 정의 138
그림 4-3. 영국 과학기술(인공지능 포함) 거버넌스 151
그림 4-4. 미국 과학기술(인공지능 포함) 거버넌스 체계 160
그림 4-5. 미국교통부 자율주행자동차 성능지침 165
그림 4-6. 자율주행자동차에 대한 법률이 제정된 미국 주 167
그림 4-7. 지능정보사회추진단의 조직과 주요 업무 172
그림 4-8. 국내 4차 산업혁명 핵심기술 정책관리 거버넌스 체계 173
그림 5-1. 사전예방원칙 적용 방안을 위한 하위 정책 수단(전문가 워크숍 결과) 196
그림 5-2. 사전예방원칙 적용 방안을 위한 하위 정책 수단(최종) 198
그림 5-3. 복원력 제고 방안을 위한 정책 유형(최종) 200
그림 5-4. 인공지능 기술이 인간의 지적능력을 갖추게 될 시기 예상 204
그림 5-5. 인공지능 연구 관련 위험 및 안전사고에 대한 규제 필요성 214
그림 5-6. 인공지능 연구 관련 위험 및 안전사고에 대한 사전 또는 사후규제 필요성 214
그림 5-7. 인공지능 규제가 가장 필요하다고 생각되는 분야 215
그림 5-8. 인공지능 발전 속도 고려 시, 정부의 법·제도 개선 필요시기 217
그림 5-9. 사전예방원칙 적용이 가장 필요한 분야 218
그림 5-10. 미래신기술(인공지능 포함) 위험에 대한 가장 적절한 감독 주체 218
그림 5-11. 인공지능의 잠재적 위험 및 안전사고 발생 시 1차적 책임 219
그림 5-12. 인공지능이 초래할 일자리 분야의 위험에 대해 우선적으로 필요한 정부 조치 221
그림 5-13. 인공지능의 잠재적 위험과 편익 고려 시, 가장 적절한 정부 지원 정책 227
그림 5-14. "AI 위험 사전예방원칙 정책수단(예) 및 복원력 제고방안(복) 종합평가"모델 255
그림 5-15. 평가지표의 상대적 중요도 257
그림 5-16. 시행가능성 측면에서 하위 정책 중요도 259
그림 5-17. 효과성 차원에서 하위 정책 중요도 261
그림 5-18. 효율성 차원에서 하위 정책 중요도 263
그림 5-19. 사회적 수용성 차원에서 하위 정책 중요도 264
그림 5-20. 사전예방원칙 최종 18개 하위정책수단 종합중요도 270
그림 5-21. 복원력 최종 18개 하위정책수단 종합중요도 272
그림 5-22. 하위정책수단 최종 종합중요도 275
그림 6-1. AI 기술 안전성 인증절차 286
그림 6-2. AI 기술 위험성 평가 관리 흐름도(안) 288
그림 6-3. AI 기술 위험성 평가 관리 절차(안) 289
그림 6-4. 종합적 AI 기술 위험평가 294
그림 6-5. 장기 종합적 AI 기술 위험 관리 전략 296
그림 6-6. AI 위험 등급별 위험 관리 방안과 정책 대안 298
그림 6-7. 지능정보사회추진단의 조직과 주요 업무 320
그림 6-8. 4차 산업혁명위원회 조직 및 구성(1안) 321
그림 6-9. 4차 산업혁명위원회 조직 및 구성(2안) 323
그림 7-1. 인공지능 기술 위험을 대비한 종합정책 제언 344
그림 7-2. 인공지능 위험 거버넌스 추진 로드맵 345