표제지
목차
요약문 13
제1장 서론 16
제1절 연구의 필요성 및 목적 16
제2절 연구 추진체계와 전략 20
제2장 국내외 인공지능 윤리정책 및 규제 동향 22
제1절 국내외 인공지능 윤리정책 동향 22
1. 국내 인공지능 윤리정책 동향 22
2. 해외 인공지능 윤리정책 동향 28
3. 국제기구ㆍ협력체 인공지능 윤리정책 동향 45
제2절 국내외 인공지능 법ㆍ규제 동향 52
1. 국내 인공지능 법ㆍ규제 동향 52
2. 해외 인공지능 법ㆍ규제 동향 56
제3장 인공지능 윤리기준 자율점검표 개발ㆍ적용 69
제1절 분야별 점검표 개발 : 채용 분야 인공지능 윤리기준 자율점검표(안) 69
1. 개요 69
2. 개발 추진 배경 70
3. 인공지능 윤리기준 핵심요건별 쟁점 사항 76
4. 주요 개발 과정 89
제2절 자율점검표 현장 적용 93
1. 개요 93
2. 현장 시범 적용 경과 93
제4장 인공지능 윤리영향평가 프레임워크 개발 96
제1절 인공지능 윤리영향평가 관련 국내외 유사 사례 동향 96
1. UNESCO의 「인공지능 윤리 권고」 96
2. UNESCO의 「윤리영향평가(EIA)」 100
3. 캐나다의 「알고리즘 영향평가」 108
4. 덴마크의 「인권영향평가(HRIA) 지침」 110
5. 영국의 「알고리즘 영향평가(AIAs)」 115
6. EU의 인공지능법(AIA)에 대응하는 「적합성 평가 절차(CAP AI)」 119
7. 국가인권위원회의 「인권영향평가」 125
8. 과학기술정보통신부ㆍ한국과학기술기획평가원의 「기술영향평가」 132
9. 국내외 유사 사례 분석에서의 시사점 137
제2절 인공지능 윤리영향평가 단계별 논의 143
1. 평가대상의 선정 143
2. 기초 분석 147
3. 인공지능 윤리영향평가 150
4. 평가결과의 공개 157
제3절 인공지능 윤리영향평가 측정지표(안) 개발 158
1. 국내외 측정지표 활용에 관한 사례 분석 158
2. 인공지능 윤리영향평가 유사 지표의 유형화 185
제4절 인공지능 윤리영향평가 프레임워크(안)에 대한 전문가 의견 조사 205
1. 평가대상 서비스 선정 방법 205
2. 평가대상 서비스군 선정 개수 및 재평가 시기 207
3. 인공지능 윤리영향평가 절차상 고려사항 208
4. 인공지능 윤리영향평가 핵심요건 평가 209
5. 인공지능 윤리영향평가 지표 측정문항 적합성 212
6. 지표 개발에 대한 의견 222
제5절 인공지능 윤리영향평가 프레임워크(안) 223
1. 인공지능 윤리영향평가 프레임워크(안) 제안 223
2. 인공지능 윤리영향평가 측정지표(안) 제안 227
제5장 인공지능 윤리 소통채널 구축 240
제1절 인공지능 윤리 소통채널 240
1. 인공지능 윤리 소통채널 구축 배경 및 목적 240
2. 인공지능 윤리 소통채널 구축 방향 241
제2절 인공지능 윤리 소통채널 구축 내용 242
제6장 결론 248
참고문헌 253
[부록] 인공지능 윤리영향평가 프레임워크(안)에 대한 전문가 의견 조사: 종합 262
판권기 288
〈표 1-1〉 디지털 전환 사회에서 등장하는 우려 및 위험 16
〈표 1-2〉 AIAAIC에 보고된 2022년 대표 사건 사례 18
〈표 2-1〉 인공지능 윤리기준의 목표 및 지향점 23
〈표 2-2〉 인공지능 윤리기준의 3대 기본원칙 24
〈표 2-3〉 인공지능 윤리기준의 10대 핵심요건 25
〈표 2-4〉 신뢰할 수 있는 인공지능 실현전략 27
〈표 2-5〉 인공지능 윤리ㆍ신뢰성 확보 추진계획 28
〈표 2-6〉 신뢰할 수 있는 인공지능 시스템의 특성 29
〈표 2-7〉 AI RMF Core : 네 가지 기능 30
〈표 2-8〉 안전한 인공지능 구축을 위한 자발적 협약 주요 내용 31
〈표 2-9〉 행정명령의 핵심 원칙과 주요 내용 33
〈표 2-10〉 인공지능 규제에 대한 혁신친화적 접근 방식의 네 가지 특성 36
〈표 2-11〉 인공지능 규제를 위한 부문간 원칙 37
〈표 2-12〉 인공지능 규제 프레임워크의 본질적 특성 39
〈표 2-13〉 인공지능 관련 위험 해결 시 지켜야 할 부문 간 원칙 41
〈표 2-14〉 EDEG 원칙 주요 내용 42
〈표 2-15〉 생성형 인공지능의 윤리적 활용을 위한 원칙 44
〈표 2-16〉 생성형 인공지능 관련 G7 정상회의 논의 주요 내용 46
〈표 2-17〉 히로시마 프로세스 지침 원칙 47
〈표 2-18〉 생성형 인공지능 관련 주요 정책 이슈 및 고려사항 48
〈표 2-19〉 생성형 인공지능 규제를 위한 일곱 가지 단계 51
〈표 2-20〉 생성형 인공지능 규제 핵심요소 51
〈표 2-21〉 인공지능책임법안의 주요 내용 54
〈표 2-22〉 인공지능 책임 및 규제법안의 주요 내용 55
〈표 2-23〉 미국 주 정부 차원의 2023년 시행 법률 58
〈표 2-24〉 EU AI Act 의회안 변경사항 59
〈표 2-25〉 EU AI Act 파운데이션 모델 공급자의 의무 60
〈표 2-26〉 유럽 의회 및 EU 이사회의 AI 법안 채택에 관한 의견 62
〈표 2-27〉 캐나다 인공지능ㆍ데이터법안의 의무사항 64
〈표 2-28〉 생성형 인공지능 서비스 관리 잠정 방법 주요 내용 66
〈표 3-1〉 「채용 분야 인공지능 윤리기준 자율점검표」 초안 점검문항 예시 90
〈표 3-2〉 「채용 분야 인공지능 윤리기준 자율점검표」 초안에 대한 서면 자문 의견 예시 91
〈표 3-3〉 「채용 분야 인공지능 윤리기준 자율점검표」 문항 수 변동추이 92
〈표 3-4〉 제네시스랩 AI채용솔루션 윤리점검표 개발 경과 95
〈표 4-1〉 윤리영향평가 프레임워크 구성시 고려사항 100
〈표 4-2〉 UNESCO 윤리영향평가 평가도구 주요 내용 102
〈표 4-3〉 생애주기별 평가 요소 : 설계 단계 121
〈표 4-4〉 생애주기별 평가 요소 : 개발 단계 122
〈표 4-5〉 생애주기별 평가 요소 : 평가 단계 123
〈표 4-6〉 생애주기별 평가 요소 : 운영 단계 124
〈표 4-7〉 생애주기별 평가 요소 : 폐기 단계 124
〈표 4-8〉 국가인권위원회 인권영향평가 대상, 시기, 주체별 구분 125
〈표 4-9〉 국가인권위원회 인권영향평가 세부 평가 문항 127
〈표 4-10〉 기술영향평가의 범위 및 절차 132
〈표 4-11〉 기술영향평가의 대상기술 선정 기준 133
〈표 4-12〉 국가과학기술표준분류체계의 대-중-소 분류 예시 134
〈표 4-13〉 대상기술 분석회의를 통해 도출된 주제(2022년 합성생물학 사례) 135
〈표 4-14〉 평가대상 선정에서의 논의 사항1 144
〈표 4-15〉 평가대상 선정에서의 논의 사항2 145
〈표 4-16〉 평가대상 선정에서의 논의 사항3 146
〈표 4-17〉 평가대상 선정에서의 논의 사항4 146
〈표 4-18〉 기초 분석에서의 논의 사항1 149
〈표 4-19〉 기초 분석에서의 논의 사항2 150
〈표 4-20〉 평가위원단에게 제공되는 정량평가 도구 예시(안) 151
〈표 4-21〉 인공지능 윤리영향평가에서의 논의 사항1 154
〈표 4-22〉 인공지능 윤리영향평가에서의 논의 사항2 154
〈표 4-23〉 인공지능 윤리영향평가에서의 논의 사항3 156
〈표 4-24〉 '인간 행위자와 감독' 하위 문항 159
〈표 4-25〉 '기술적 견고성 및 안전성' 하위 문항 159
〈표 4-26〉 '개인정보 보호 및 데이터 거버넌스' 하위 문항 160
〈표 4-27〉 '투명성' 하위 문항 161
〈표 4-28〉 '다양성, 차별 금지 및 공정성' 하위 문항 161
〈표 4-29〉 '사회적, 환경적 웰빙' 하위 문항 162
〈표 4-30〉 '책임' 하위 문항 163
〈표 4-31〉 '인간 행위자와 감독' 하위 문항 164
〈표 4-32〉 '인간의 감독' 하위 문항 164
〈표 4-33〉 '기술적 견고성 및 안전성' 하위 문항 165
〈표 4-34〉 '일반적 안전' 하위 문항 166
〈표 4-35〉 '정확성' 하위 문항 166
〈표 4-36〉 '안정성, 대안 계획 및 재현성' 하위 문항 167
〈표 4-37〉 '개인정보 보호 및 데이터 거버넌스' 하위 문항 168
〈표 4-38〉 '데이터 거버넌스' 하위 문항 168
〈표 4-39〉 '추적가능성' 하위 문항 168
〈표 4-40〉 '설명가능성' 하위 문항 169
〈표 4-41〉 '의사소통' 하위 문항 169
〈표 4-42〉 '다양성, 차별 금지 및 공정성' 하위 문항 170
〈표 4-43〉 '접근성 및 보편적 설계' 하위 문항 170
〈표 4-44〉 '이해관계자 참여' 하위 문항 171
〈표 4-45〉 '사회적, 환경적 웰빙' 하위 문항 171
〈표 4-46〉 '업무 및 기술에 미치는 영향' 하위 문항 172
〈표 4-47〉 '사회 전반 또는 민주주의에 미치는 영향' 하위 문항 173
〈표 4-48〉 '감사 가능성' 하위 문항 173
〈표 4-49〉 '위기 관리' 하위 문항 174
〈표 4-50〉 ORI에 의해 제안된 FIAE 프로세스 - 입력 175
〈표 4-51〉 ORI에 의해 제안된 FIAE 프로세스 - 모델 176
〈표 4-52〉 ORI에 의해 제안된 FIAE 프로세스 - 출력 177
〈표 4-53〉 기술영향평가 - 사회적ㆍ문화적 변화 178
〈표 4-54〉 기술영향평가 - 새로운 윤리적 문제 180
〈표 4-55〉 인공지능 인권영향평가 181
〈표 4-56〉 개인정보보호 영향평가 183
〈표 4-57〉 인공지능 윤리영향평가 유사 지표의 유형화 185
〈표 4-58〉 인공지능 윤리영향평가 측정지표(안) 203
〈표 4-59〉 인공지능 윤리영향평가 지표 측정문항 적합성 측정 결과 220
〈표 4-60〉 인공지능 윤리영향평가 프레임워크(안) 225
〈표 4-61〉 측정지표(안) : 인권보장 228
〈표 4-62〉 측정지표(안) : 프라이버시 보호 230
〈표 4-63〉 측정지표(안) : 다양성 존중 231
〈표 4-64〉 측정지표(안) : 침해금지 233
〈표 4-65〉 측정지표(안) : 공공성 234
〈표 4-66〉 측정지표(안) : 연대성 235
〈표 4-67〉 측정지표(안) : 데이터 관리 236
〈표 4-68〉 측정지표(안) : 책임성 237
〈표 4-69〉 측정지표(안) : 안전성 238
〈표 4-70〉 측정지표(안) : 투명성 239
〈표 5-1〉 인공지능 윤리 소통채널 주요 기능 241
[그림 1-1] 인공지능 관련 사건 및 논란 발생 수(2012~2021) 17
[그림 1-2] 본 연구의 추진 체계 21
[그림 2-1] 인공지능 윤리기준의 구조 24
[그림 3-1] 채용 분야 인공지능 윤리기준 자율점검표 예시 92
[그림 3-2] 제네시스랩 '뷰인터HR' 94
[그림 3-3] 제네시스랩 AI채용솔루션 윤리점검표 최종안 95
[그림 4-1] 안전 및 보안 영역에서의 '긍정적 영향력 평가' 107
[그림 4-2] 안전 및 보안 영역에서의 '부정적 영향력 평가' 107
[그림 4-3] 캐나다의 알고리즘 영향평가 웹페이지 108
[그림 4-4] 덴마크의 인권 연구소 웹페이지 110
[그림 4-5] 인권영향평가의 단계별 접근 111
[그림 4-6] 영국 NHS의 알고리즘 영향평가의 주요 목표 115
[그림 4-7] NHS의 알고리즘 영향평가 프로세스 117
[그림 4-8] EU의 인공지능법 하에서 인공지능의 위험 유형 분류 120
[그림 4-9] 적합성 평가의 절차 120
[그림 4-10] 한국과학기술기획평가원의 기술영향평가 절차 132
[그림 4-11] 평가대상의 선정 절차(안) : 연구진이 제안하는 선정 절차(안) 147
[그림 4-12] 기초 분석의 절차(안) : 연구진이 제안하는 기초 분석 절차(안) 150
[그림 5-1] 인공지능 윤리 소통채널 홈페이지 240
[그림 5-2] 인공지능 윤리 소통채널 홈페이지 메뉴 242
[그림 5-3] 인공지능 윤리 소통채널 상세 페이지 : 소개 메뉴 242
[그림 5-4] 인공지능 윤리 소통채널 상세 페이지 : AI 윤리실천 243
[그림 5-5] 인공지능 윤리 소통채널 상세 페이지 : AI 윤리교육 244
[그림 5-6] 인공지능 윤리 소통채널 상세 페이지 : 정책저장소 245
[그림 5-7] 인공지능 윤리 소통채널 상세 페이지 : AI 윤리정책 포럼 246
[그림 5-8] 인공지능 윤리 소통채널 영문 웹사이트 247