표제지
목차
요약문 13
제1장 서론 24
제1절 연구의 필요성 및 목적 24
제2절 연구 추진 체계와 전략 27
제2장 인공지능 윤리기준 자율점검표(안) 개발 30
제1절 개발의 필요성 및 목적 30
1. 개발의 필요성 30
2. 목적 및 방향 32
제2절 국내외 인공지능 윤리 자율점검표 동향 33
1. 유럽연합(EU) 「신뢰할 수 있는 인공지능을 위한 자체 평가 목록」 34
2. 영국 개인정보감독기구(ICO) 「인공지능 및 데이터 보호 안내지침」 37
3. 세계경제포럼(WEF)과 싱가포르 정부 「인공지능 거버넌스 프레임워크 - 조직을 위한 실행 및 자체 평가 안내서」 38
4. 스마트두바이 「인공지능 윤리 원칙 및 가이드라인」 39
5. 한국 개인정보보호위원회 「인공지능 개인정보보호 자율점검표」 40
6. 한국 금융위원회 「금융분야 인공지능 운영 가이드라인」 41
제3절 인공지능 윤리기준 자율점검표(안) 개발 과정 42
1. 개요 42
2. 문헌 및 사례 연구 44
3. 전문가 및 공개 의견수렴 58
제4절 인공지능 윤리기준 실천을 위한 자율점검표(안) 77
1. 구성 77
2. 핵심요건별 문항의 주요 특징 80
제5절 소결 및 향후 연구 방향 87
제3장 인공지능 윤리교육 콘텐츠 개발 기준(안) 연구 90
제1절 인공지능 윤리교육의 성격과 필요성 90
1. 인공지능 윤리의 특성 90
2. 인공지능 윤리교육의 필요성과 지향점 91
제2절 국내외 인공지능 교육내용 고찰 93
1. 국내 인공지능 교육 교재에서의 인공지능 윤리교육 현황 93
2. 해외 인공지능 교육 교재에서의 인공지능 윤리교육 현황 98
3. 소결 106
제3절 인공지능 윤리교육 내용 개발을 위한 탐구 108
1. 현행 교육과정과의 연계 108
2. 내용 구성 원칙과 방식 114
3. 주요 학습 주제와 학습 목표 118
4. 학습 목표 달성 기준 128
5. 인공지능 윤리교육의 교수ㆍ학습 방향 133
제4절 이해관계자 의견수렴 135
1. 의견수렴 및 공론화 과정 135
2. 주요 의견수렴 내용 및 결과 반영 136
제5절 소결 및 향후 연구 방향 142
제4장 인공지능 윤리 정책협력 플랫폼 구축 144
제1절 인공지능 윤리 정책협력 플랫폼 구축 배경 및 필요성 144
제2절 인공지능 윤리 정책협력 플랫폼 관련 해외사례 145
1. 유럽연합(EU) 「European AI Alliance & AI HLEG」 145
2. 독일 「Lernende Systeme(Learning Systems)」 147
3. 영국 「Centre for Data Ethics and Innovation(CDEI)」 147
4. 해외 사례 분석의 시사점 149
제3절 인공지능 윤리정책 전문가 협의회 149
1. 인공지능 윤리정책 전문가 협의회 목적 149
2. 인공지능 윤리정책 전문가 협의회 구성 및 운영 150
제4절 소결 및 향후 인공지능 윤리정책 거버넌스 운영 방향 157
1. 인공지능 윤리정책 포럼 및 분과위원회 157
2. 시민사회 소통 채널 158
제5장 결론 및 시사점 160
제1절 연구결과 요약 및 시사점 160
제2절 향후 연구 방향 164
제6장 정부정책 반영 현황 167
참고문헌 169
[부록 1] 2021년 11월 23일 '인공지능 신뢰성 제고를 위한 공개 정책세미나'에서 공개된 '인공지능 윤리기준 실천을 위한 자율점검표(안)' 174
[부록 2] 2021년 11월 23일 '인공지능 신뢰성 제고를 위한 공개 정책세미나'에서 공개된 '인공지능 윤리교육 콘텐츠 개발 기준' 214
판권기 230
〈표 1-1〉 인공지능 윤리 이슈 사례 24
〈표 2-1〉 해외 인공지능 윤리 자율점검표 개발 현황 33
〈표 2-2〉 EU ALTAI 개발 과정 34
〈표 2-3〉 EU ALTAI 기본 권리에 대한 영향평가(FRIA) 35
〈표 2-4〉 EU ALTAI 구성 항목 36
〈표 2-5〉 영국 ICO 「인공지능 안내지침」 구성 항목 38
〈표 2-6〉 WEF 「인공지능 거버넌스 프레임워크」 구성 항목 39
〈표 2-7〉 스마트두바이 「인공지능 윤리 원칙 및 가이드라인」 구성 항목 40
〈표 2-8〉 개인정보보호위원회 「인공지능 개인정보보호 자율점검표」 구성 항목 41
〈표 2-9〉 한국 금융위원회 「금융분야 AI 운영 가이드라인」 구성 항목 42
〈표 2-10〉 인공지능 윤리 자율점검표 개발을 위한 프로세스 45
〈표 2-11〉 해외 인공지능 윤리 자율점검표 문항 검토 예시 47
〈표 2-12〉 이루다 사건에 대한 개인정보보호위원회의 처분 51
〈표 2-13〉 인공지능 기술 역기능 분석 예시 57
〈표 2-14〉 인공지능 윤리기준 핵심요건별 점검문항 수 변동추이 (초안→2차 수정) 65
〈표 2-15〉 점검문항 수정 전 후 비교 (인권보장) 66
〈표 2-16〉 점검문항 수정 전 후 비교 (프라이버시 보호) 67
〈표 2-17〉 점검문항 수정 전 후 비교 (다양성 존중) 68
〈표 2-18〉 점검문항 수정 전 후 비교 (침해금지) 69
〈표 2-19〉 점검문항 수정 전 후 비교 (공공성) 70
〈표 2-20〉 점검문항 수정 전 후 비교 (연대성) 70
〈표 2-21〉 점검문항 수정 전 후 비교 (데이터 관리) 71
〈표 2-22〉 점검문항 수정 전 후 비교 (책임성) 72
〈표 2-23〉 점검문항 수정 전 후 비교 (안전성) 73
〈표 2-24〉 점검문항 수정 전 후 비교 (투명성) 73
〈표 2-25〉 인공지능 윤리기준 핵심요건별 점검문항 수 변동추이 (2차→3차 수정) 74
〈표 2-26〉 자율점검표 2차 수정안 점검문항 (프라이버시 보호) 75
〈표 2-27〉 공개 정책세미나를 거쳐 삭제된 점검문항 (프라이버시 보호 점검문항 제외) 76
〈표 2-28〉 인공지능 윤리기준 핵심요건별 점검문항 수 78
〈표 2-29〉 EU ALTAI 기본 권리에 대한 영향평가(FRIA) 81
〈표 2-30〉 「자율주행차 윤리 가이드라인」 중 침해금지 방지를 위한 권고사항 사례 83
〈표 3-1〉 한국과학창의재단의 인공지능 교재 구성 체계 94
〈표 3-2〉 한국과학창의재단의 인공지능 교재 권별 내용 95
〈표 3-3〉 「인공지능과 미래사회」 구성 체계 96
〈표 3-4〉 「인공지능과 미래사회」 목차 97
〈표 3-5〉 「소프트웨어야 놀자」 인공지능 윤리 교재 시리즈의 권별 구성 98
〈표 3-6〉 「Ethics in AI and Big Data」의 세부 구성 100
〈표 3-7〉 「모두를 위한 인공지능 윤리」의 세부 구성 101
〈표 3-8〉 「모두를 위한 인공지능 윤리」의 학습 목표 101
〈표 3-9〉 마이크로소프트의 경력개발자 대상의 교육 커리큘럼 (Ethics and Laws, Research Methods and Machine Learning 과정) 102
〈표 3-10〉 하버드 대학교 「Embedded ethiCS」 교육과정 사례 104
〈표 3-11〉 옥스퍼드 대학교의 인공지능 윤리(Artificial Intelligence Ethics) 교육과정 105
〈표 3-12〉 국내외 주요 인공지능 교육과정 내 인공지능 윤리교육 내용 요약 106
〈표 3-13〉 10대 핵심요건과 초등 교육과정 109
〈표 3-14〉 3대 기본원칙과 중ㆍ고등 교육과정 111
〈표 3-15〉 핵심요건별 주제 구조 119
〈표 3-16〉 인공지능 윤리교육 콘텐츠 개발 기준(안) 주요 내용 125
〈표 3-17〉 인공지능 윤리수업 사례 분석의 세부 단계 135
〈표 3-18〉 인공지능 윤리교육의 특성과 목적에 대한 전문가 의견 예시 136
〈표 3-19〉 인공지능 윤리교육 내용 구성 방식에 대한 전문가 의견 예시 138
〈표 3-20〉 학교급별ㆍ주체별 각론 구성 시 고려사항에 대한 전문가 의견 예시 139
〈표 3-21〉 이해관계자 의견수렴 내용 요약 141
〈표 4-1〉 독일 「Lernende Systeme」 연구그룹 구성 147
〈표 4-2〉 영국 CDEI 2021년 주요 실적 148
〈표 4-3〉 인공지능 윤리정책 전문가 협의회 개최 현황 150
〈표 4-4〉 인공지능 윤리정책 전문가 협의회 주제 및 참석자 명단 (1, 2차) 151
〈표 4-5〉 인공지능 윤리정책 전문가 협의회 주제 및 참석자 명단 (3차) 152
〈표 4-6〉 인공지능 윤리정책 전문가 협의회 주제 및 참석자 명단 (4차) 152
〈표 4-7〉 인공지능 윤리정책 전문가 협의회 주제 및 참석자 명단 (5, 6차) 153
〈표 4-8〉 '인공지능 신뢰성 제고를 위한 공개 정책세미나' 행사 프로그램 154
〈표 4-9〉 인공지능 윤리정책 전문가 협의회 주제 및 참석자 명단 (7차) 157
[그림 1-1] 본 연구의 목표 체계 27
[그림 1-2] 본 연구의 추진 체계 29
[그림 2-1] 인공지능 윤리 실천을 위한 민간의 노력 예시 31
[그림 2-2] 인공지능 윤리기준 자율점검표(안) 초안 도출 과정 43
[그림 2-3] 인공지능 윤리기준 자율점검표(안) 초안 예시 44
[그림 2-4] 워킹그룹 문항 매칭 작업 46
[그림 2-5] 핵심요건별 문항 검토 예시: 책임성 49
[그림 2-6] 영국 대입 시험 점수산정 결과에 대한 반발 53
[그림 2-7] 안면인식 시스템의 오용 사례 54
[그림 2-8] 자율점검표(안) 설명회 개최 60
[그림 2-9] 공개 정책세미나 개최 61
[그림 2-10] 인공지능 윤리기준 실천을 위한 자율점검표(안): 문항표 79
[그림 2-11] 인공지능 윤리기준 실천을 위한 자율점검표(안): 세부구성 80
[그림 2-12] EU ALTAI 온라인 툴킷 89
[그림 3-1] 인공지능 윤리기준 3대 기본원칙과 10대 핵심요건 92
[그림 3-2] 하버드 대학교 「Embedded ethiCS」 교육과정의 교수학습 단계 103
[그림 3-3] 주제중심 내용 구성 구조 115
[그림 3-4] 활동중심 내용 구성 구조 116
[그림 3-5] 학교급 중심 내용 구성 117
[그림 3-6] 모듈중심 내용 구성 구조 118
[그림 3-7] 인공지능 윤리교육을 위한 내용 구성 방식 119
[그림 3-8] 인공지능 윤리교육 과정의 기본관점 133
[그림 3-9] 인공지능 윤리교육 수업과정 전개 단계 134
[그림 4-1] 「EU Futurium」과 「The European AI Alliance」 146
[그림 4-2] '인공지능 신뢰성 제고를 위한 공개 정책세미나' 행사 사진 156
[그림 4-3] 인공지능 윤리정책 포럼 구성(안) 158
[그림 4-4] '포럼ㆍ분과위원회 ↔ 시민사회 소통 채널' 연계 운영계획(안) 159