본문 바로가기 주메뉴 바로가기
국회도서관 홈으로 정보검색 소장정보 검색

목차보기

표제지 1

목차 5

요약문 18

제1장 서론 21

제1절 연구의 필요성 및 목적 21

제2절 연구 추진체계와 전략 23

제2장 AI 윤리영향평가 시범 적용 25

제1절 AI 윤리영향평가 개요 25

1. 평가 개요 25

2. 추진체계 28

제2절 평가 대상 선정 29

1. 평가 후보군 선별 29

2. 대국민 인식조사 개요 30

3. 대국민 인식조사 결과 31

4. 대국민 인식조사 분석 결과 49

5. AI 윤리ㆍ신뢰성 포럼위원 의견수렴 52

6. 최종 평가대상 선정 54

제3절 기초 분석 56

1. AI 영상 합성 서비스 개요 56

2. 기술적 특성 63

3. 국내외 정책ㆍ법ㆍ제도 현황 73

4. 사회ㆍ문화적 영향 93

제4절 AI 윤리영향평가 108

1. 국민포럼단 FGI 주요 결과 108

2. 전문가 평가단 평가 주요 결과 139

제5절 정책 제언 196

1. 정부지원과 대응 방향 : 정책적 측면 196

2. 정부지원과 대응 방향 : 법 제도적 측면 200

3. 정부지원과 대응 방향 : 기술적 측면 204

4. 기업과 개인의 역할과 노력 207

제3장 AI 윤리기준 자율점검표 개발ㆍ적용 209

제1절 분야별 점검표 개발: 영상 합성 분야 AI 윤리기준 자율점검표(안) 209

1. 개요 209

2. 개발 추진 배경 210

3. AI 윤리기준 핵심요건별 쟁점 사항 218

4. 주요 개발 과정 233

제2절 자율점검표 현장 적용 237

1. 개요 237

2. 현장 시범 적용 경과 237

제4장 AI 윤리 소통채널 구축ㆍ운영 241

제1절 AI 윤리 소통채널 241

1. AI 윤리 소통채널 운영 배경 및 목적, 그리고 성과 241

2. AI 윤리 소통채널 기본 구성 244

제2절 AI 윤리 소통채널 개선 사항 251

제5장 결론 253

제1절 연구결과 요약 및 정책적 시사점 253

1. AI 윤리영향평가 시범 적용 253

2. AI 윤리기준 자율점검표 개발ㆍ적용 254

3. AI 윤리 소통채널 구축ㆍ운영 255

제2절 향후 정책 방향 256

1. AI 윤리영향평가 시범 적용 256

2. AI 윤리기준 자율점검표 개발ㆍ적용 257

3. AI 윤리 소통채널 구축ㆍ운영 258

참고문헌 260

판권기 270

표목차 8

〈표 2-1〉 EU Artificial Intelligence Act에서의 적합성 평가와 기본권 영향평가 25

〈표 2-2〉 미국 행정명령(M-24-10)에서의 AI 위험 관리 조치 26

〈표 2-3〉 UNESCO AI 윤리권고에서의 윤리영향평가 26

〈표 2-4〉 관계부처 합동, 'AIㆍ디지털 혁신성장 전략'에서의 AI 윤리영향평가 27

〈표 2-5〉 조사 대상 AI 서비스 영역 30

〈표 2-6〉 응답자 분포 31

〈표 2-7〉 위험지각 정도 평균(5점 만점) 51

〈표 2-8〉 국내 AI 영상 합성 서비스 비교 60

〈표 2-9〉 해외 AI 영상 합성 서비스 비교 63

〈표 2-10〉 딥페이크 탐지 기술 71

〈표 2-11〉 미국 행정명령 제14110호 中 합성 콘텐츠 관련 내용 74

〈표 2-12〉 미국 딥페이크 책임법(DEEPFAKES Accountability Act) 75

〈표 2-13〉 EU AI법(EU Artificial Intelligence Act) 78

〈표 2-14〉 중국 인터넷 정보 서비스의 심층합성(딥페이크) 관리 규정(互联网信息服务深度合成管理规定) 79

〈표 2-15〉 인공지능 윤리ㆍ신뢰성 확보 추진계획 82

〈표 2-16〉 AI 일상화를 위한 '24년 국민ㆍ산업ㆍ공공 프로젝트 추진계획 83

〈표 2-17〉 AI-반도체 이니셔티브(안) 83

〈표 2-18〉 새로운 디지털 질서 정립 추진계획 84

〈표 2-19〉 제3차 콘텐츠산업 진흥 기본계획 85

〈표 2-20〉 성폭력범죄의 처벌 등에 관한 특별법(이하 '성폭력처벌법') 87

〈표 2-21〉 주요 키워드 빈도 분석 결과(영상 합성) 95

〈표 2-22〉 주요 키워드 빈도 분석 결과(이미지 합성) 96

〈표 2-23〉 주요 키워드 빈도 분석 결과(음성 합성) 96

〈표 2-24〉 국민포럼단 구성 109

〈표 2-25〉 국민포럼단 FGI 평가 절차 110

〈표 2-26〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 인지 111

〈표 2-27〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 이용(1) 112

〈표 2-28〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 이용(2) 113

〈표 2-29〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 이용(3) 114

〈표 2-30〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 부정 인식(1) 115

〈표 2-31〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 부정 인식(2) 116

〈표 2-32〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 부정 인식(3) 117

〈표 2-33〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 부정 인식(4) 118

〈표 2-34〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 긍정 인식(1) 119

〈표 2-35〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 긍정 인식(2) 120

〈표 2-36〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 긍정 인식(3) 121

〈표 2-37〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 긍정 인식(4) 121

〈표 2-38〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(1) 122

〈표 2-39〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(2) 123

〈표 2-40〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(3) 124

〈표 2-41〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(4) 125

〈표 2-42〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(5) 126

〈표 2-43〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(6) 127

〈표 2-44〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(7) 128

〈표 2-45〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 긍정 평가(8) 128

〈표 2-46〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 부정 평가(1) 129

〈표 2-47〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 부정 평가(2) 130

〈표 2-48〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 부정 평가(3) 131

〈표 2-49〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 부정 평가(4) 132

〈표 2-50〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 영향력에 대한 부정 평가(5) 133

〈표 2-51〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 관련 주요 쟁점 논의(1) 134

〈표 2-52〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 관련 주요 쟁점 논의(2) 135

〈표 2-53〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 관련 주요 쟁점 논의(3) 136

〈표 2-54〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 관련 주요 쟁점 논의(4) 137

〈표 2-55〉 국민포럼단 FGI 조사 : AI 영상 합성 서비스 관련 주요 쟁점 논의(5) 138

〈표 2-56〉 AI 윤리영향평가 전문가 평가단의 구성 139

〈표 2-57〉 AI 윤리영향평가 전문가 평가 절차와 방법 141

〈표 2-58〉 2차 전문가 평가지 평가 항목 145

〈표 2-59〉 인권보장 - 긍정적 영향 유형과 주요 키워드 148

〈표 2-60〉 인권보장 - 긍정적 영향을 받는 대상 148

〈표 2-61〉 인권보장 - 부정적 영향 유형과 주요 키워드 149

〈표 2-62〉 인권보장 - 부정적 영향을 받는 대상 150

〈표 2-63〉 프라이버시 보호 - 긍정적 영향 유형과 주요 키워드 151

〈표 2-64〉 프라이버시 보호 - 긍정적 영향을 받는 대상 151

〈표 2-65〉 프라이버시 보호 - 부정적 영향 유형과 주요 키워드 153

〈표 2-66〉 프라이버시 보호 - 부정적 영향을 받는 대상 153

〈표 2-67〉 다양성 존중 - 긍정적 영향 유형과 주요 키워드 155

〈표 2-68〉 다양성 존중 - 긍정적 영향을 받는 대상 155

〈표 2-69〉 댜앙성 존중 - 부정적 영향 유형과 주요 키워드 156

〈표 2-70〉 다양성 존중 - 부정적 영향을 받는 대상 157

〈표 2-71〉 침해금지 - 긍정적 영향 유형과 주요 키워드 158

〈표 2-72〉 침해금지 - 긍정적 영향을 받는 대상 158

〈표 2-73〉 침해금지 - 부정적 영향 유형과 주요 키워드 160

〈표 2-74〉 침해금지 - 부정적 영향을 받는 대상 160

〈표 2-75〉 공공성 - 긍정적 영향 유형과 주요 키워드 162

〈표 2-76〉 공공성 - 긍정적 영향을 받는 대상 162

〈표 2-77〉 공공성 - 부정적 영향 유형과 주요 키워드 163

〈표 2-78〉 공공성 - 부정적 영향을 받는 대상 164

〈표 2-79〉 연대성 - 긍정적 영향 유형과 주요 키워드 165

〈표 2-80〉 연대성 - 긍정적 영향을 받는 대상 165

〈표 2-81〉 연대성 - 부정적 영향 유형과 주요 키워드 167

〈표 2-82〉 연대성 - 부정적 영향을 받는 대상 167

〈표 2-83〉 데이터 관리 - 긍정적 영향 유형과 주요 키워드 168

〈표 2-84〉 데이터 관리 - 긍정적 영향을 받는 대상 169

〈표 2-85〉 데이터 관리 - 부정적 영향 유형과 주요 키워드 170

〈표 2-86〉 데이터 관리 - 부정적 영향을 받는 대상 170

〈표 2-87〉 책임성 - 긍정적 영향 유형과 주요 키워드 172

〈표 2-88〉 책임성 - 긍정적 영향을 받는 대상 172

〈표 2-89〉 책임성 - 부정적 영향 유형과 주요 키워드 174

〈표 2-90〉 책임성 - 부정적 영향을 받는 대상 174

〈표 2-91〉 안전성 - 긍정적 영향 유형과 주요 키워드 176

〈표 2-92〉 안전성 - 긍정적 영향을 받는 대상 176

〈표 2-93〉 안전성 - 부정적 영향 유형과 주요 키워드 177

〈표 2-94〉 안전성 - 부정적 영향을 받는 대상 178

〈표 2-95〉 투명성 - 긍정적 영향 유형과 주요 키워드 179

〈표 2-96〉 투명성 - 긍정적 영향을 받는 대상 179

〈표 2-97〉 투명성 - 부정적 영향 유형과 주요 키워드 181

〈표 2-98〉 투명성 - 부정적 영향을 받는 대상 181

〈표 2-99〉 정책적 측면 정부지원과 대응 방향(1) : 교육 및 리터러시 강화 196

〈표 2-100〉 정책적 측면 정부지원과 대응 방향(2) : 정부규제 및 관리체계 개선 197

〈표 2-101〉 정책적 측면 정부지원과 대응 방향(3) : 산업진흥 및 연구지원 199

〈표 2-102〉 정책적 측면 정부지원과 대응 방향(4) : 글로벌 협력 및 표준화 199

〈표 2-103〉 법ㆍ제도적 측면 정부지원과 대응 방향(1) : 법ㆍ제도 정비 및 규제 개선 200

〈표 2-104〉 법ㆍ제도적 측면 정부지원과 대응 방향(2) : 범죄 및 악용 방지 202

〈표 2-105〉 법ㆍ제도적 측면 정부지원과 대응 방향(3) : 플랫폼 및 기술 제공자 규제 203

〈표 2-106〉 법ㆍ제도적 측면 정부지원과 대응 방향(4) : 자율적 규제 기반 강화 203

〈표 2-107〉 기술적 측면 정부지원과 대응 방향(1) : 탐지 및 판독 기술 개발 204

〈표 2-108〉 기술적 측면 정부지원과 대응 방향(2) : 기술 안전성 및 윤리 강화 205

〈표 2-109〉 기술적 측면 정부지원과 대응 방향(3) : 연구개발 및 기술투자 206

〈표 2-110〉 기술적 측면 정부지원과 대응 방향(4) : 협력 및 교류 강화 206

〈표 3-1〉 「영상 합성 분야 인공지능 윤리기준 자율점검표」 초안 점검문항 예시 234

〈표 3-2〉 「영상 합성 분야 인공지능 윤리기준 자율점검표」 초안에 대한 서면 자문 예시 235

〈표 3-3〉 「영상 합성 분야 인공지능 윤리기준 자율점검표」 문항 수 변동추이 236

〈표 3-4〉 「이스트소프트 AI Human 윤리점검표」 개발 경과 239

〈표 4-1〉 AI 윤리 소통채널 첨부파일 다운로드 통계(2024년 상위 10건) 243

〈표 4-2〉 AI 윤리 소통채널 주요 기능 244

그림목차 13

[그림 1-1] 본 연구의 추진 체계 24

[그림 2-1] AI 윤리영향평가 절차 28

[그림 2-2] 긍정적 영향력 발생 가능성 32

[그림 2-3] 긍정적 영향력 크기 33

[그림 2-4] 긍정적 영향력 대상 범위 34

[그림 2-5] 긍정적 영향력 지속 기간 35

[그림 2-6] 부정적 영향력 발생 가능성 36

[그림 2-7] 부정적 영향력 크기 37

[그림 2-8] 부정적 영향력 대상 범위 38

[그림 2-9] 부정적 영향력 지속 기간 39

[그림 2-10] 부정적 영향력 해결 가능성 40

[그림 2-11] 영역별 AI 서비스 인지도 41

[그림 2-12] 영역별 AI 서비스 친숙도 42

[그림 2-13] 영역별 AI 서비스 통제 가능성 인식 43

[그림 2-14] 영역별 AI 서비스에 대한 두려움 인식 44

[그림 2-15] 영역별 AI 서비스 수용 가능성 인식 45

[그림 2-16] 영역별 AI 서비스에 대한 정부 개입 필요성 인식 46

[그림 2-17] 영역별 AI 서비스의 사회적 효용 인식 47

[그림 2-18] 영역별 AI 서비스의 일상생활 밀접 여부 인식 48

[그림 2-19] 긍정적/부정적 영향 발생 가능성 비교 49

[그림 2-20] 긍정적/부정적 영향 크기 비교 50

[그림 2-21] AI 시스템 위험 인지도 51

[그림 2-22] AI 영상 합성 서비스 유형 56

[그림 2-23] 딥브레인AI社 AI 영상 합성 서비스 58

[그림 2-24] 솔트룩스社 AI 영상 합성 서비스 59

[그림 2-25] 신세시아社 'AI 비디오 에디터' 61

[그림 2-26] 디아이디社 '크리에이티브 리얼리티 스튜디오' 62

[그림 2-27] 엘라이社 '엘라이 에디터' 62

[그림 2-28] 대표적인 AI 영상 합성 서비스 기반 기술 64

[그림 2-29] 적대적 생성 신경망(GAN)의 네트워크 구조 64

[그림 2-30] 변분 오토인코더(VAE) 기본 구조 65

[그림 2-31] 재파라미터화 트릭을 사용한 변형 자동 인코더의 구성도 66

[그림 2-32] 확산 모델(Diffusion Model)의 동작 원리 66

[그림 2-33] 실제 음성에 가짜 영상ㆍ얼굴 스왑 딥페이크 생성 68

[그림 2-34] 실제 비디오에 음성을 합성한 딥페이크 생성 69

[그림 2-35] 실제 비디오에 음성이 복제된(Voice-Cloned) 딥페이크 생성 69

[그림 2-36] 가짜 비디오와 가짜 오디오의 딥페이크 생성 70

[그림 2-37] AI 기반 영상 합성 관련 언론보도 분석 결과 94

[그림 2-38] AI 기반 이미지 합성 관련 언론보도 분석 결과 94

[그림 2-39] AI 기반 음성 합성 관련 언론보도 분석 결과 95

[그림 2-40] AI 기반 영상 합성 활용 사례 및 이슈(1) 97

[그림 2-41] AI 기반 영상 합성 활용 사례 및 이슈(2) 98

[그림 2-42] AI 기반 영상 합성 활용 사례 및 이슈(3) 99

[그림 2-43] AI 기반 영상 합성 활용 사례 및 이슈(4) 101

[그림 2-44] AI 기반 이미지 합성 활용 사례 및 이슈(1) 102

[그림 2-45] AI 기반 이미지 합성 활용 사례 및 이슈(2) 103

[그림 2-46] AI 기반 이미지 합성 활용 사례 및 이슈(3) 104

[그림 2-47] AI 기반 이미지 합성 활용 사례 및 이슈(4) 105

[그림 2-48] AI 기반 음성 합성 활용 사례 및 이슈(1) 106

[그림 2-49] AI 기반 음성 합성 활용 사례 및 이슈(2) 107

[그림 2-50] AI 기반 음성 합성 활용 사례 및 이슈(3) 108

[그림 2-51] 전문가 평가지 문항 및 응답 예시 142

[그림 2-52] 1차 전문가 평가 결과 분석 예시 144

[그림 2-53] 인공지능 윤리기준 10대 핵심요건 지표 비교(긍정) 146

[그림 2-54] 인공지능 윤리기준 10대 핵심요건 지표 비교(부정) 146

[그림 2-55] 인권보장 - 긍정 영향 주요 지표 비교 148

[그림 2-56] 인권보장 - 부정 영향 주요 지표 비교 150

[그림 2-57] 프라이버시 보호 - 긍정 영향 주요 지표 비교 152

[그림 2-58] 프라이버시 보호 - 부정 영향 주요 지표 비교 154

[그림 2-59] 다양성 존중 - 긍정 영향 주요 지표 비교 155

[그림 2-60] 다양성 존중 - 부정 영향 주요 지표 비교 157

[그림 2-61] 침해금지 - 긍정 영향 주요 지표 비교 159

[그림 2-62] 침해금지 - 부정 영향 주요 지표 비교 161

[그림 2-63] 공공성 - 긍정 영향 주요 지표 비교 162

[그림 2-64] 공공성 - 부정 영향 주요 지표 비교 164

[그림 2-65] 연대성 - 긍정 영향 주요 지표 비교 166

[그림 2-66] 연대성 - 부정 영향 주요 지표 비교 167

[그림 2-67] 데이터 관리 - 긍정 영향 주요 지표 비교 169

[그림 2-68] 데이터 관리 - 부정 영향 주요 지표 비교 171

[그림 2-69] 책임성 - 긍정 영향 주요 지표 비교 173

[그림 2-70] 책임성 - 부정 영향 주요 지표 비교 175

[그림 2-71] 안전성 - 긍정 영향 주요 지표 비교 176

[그림 2-72] 안전성 - 부정 영향 주요 지표 비교 178

[그림 2-73] 투명성 - 긍정 영향 주요 지표 비교 180

[그림 2-74] 투명성 - 부정 영향 주요 지표 비교 182

[그림 2-75] 윤리 영향 유형 매핑 분석 그래프 예시(좌:긍정 영향, 우:부정 영향) 183

[그림 2-76] 인공지능 윤리기준 10대 핵심요건 매핑 분석(좌:긍정 영향, 우:부정 영향) 184

[그림 2-77] 전체 윤리 영향 유형 매핑 분석(긍정 영향) 184

[그림 2-78] 전체 윤리 영향 유형 매핑 분석(부정 영향) 185

[그림 2-79] 인권보장 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 186

[그림 2-80] 프라이버시 보호 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 187

[그림 2-81] 다양성 존중 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 188

[그림 2-82] 침해금지 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 189

[그림 2-83] 공공성 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 190

[그림 2-84] 연대성 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 191

[그림 2-85] 데이터 관리 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 192

[그림 2-86] 책임성 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 193

[그림 2-87] 안전성 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 194

[그림 2-88] 투명성 요건 - 윤리 영향 유형 매핑 분석(좌:긍정 영향, 우:부정 영향) 195

[그림 3-1] 딥페이크를 활용한 디에이징 기술 예시(디즈니플러스 '카지노') 211

[그림 3-2] AI 영상 합성 기술을 활용한 키오스크 예시(신한은행 'AI 은행원') 211

[그림 3-3] AI 가상 인간을 활용한 브랜드 홍보 예시(SKT 광고모델 AI 가상인간 나수아 212

[그림 3-4] AI 가상 인간 템플릿을 활용한합성 영상 제작 서비스 예시(네오사피엔스, 타입캐스트) 212

[그림 3-5] 영상 합성 분야 인공지능 윤리기준 자율점검표 예시 236

[그림 3-6] 이스트소프트 AI Human 서비스 238

[그림 3-7] 「이스트소프트 AI Human 윤리점검표」 초안 공개 설명회 240

[그림 3-8] 「이스트소프트 AI Human 윤리점검표」 최종안 240

[그림 4-1] AI 윤리 소통채널 홈페이지 메인화면 241

[그림 4-2] AI 윤리 소통채널 홈페이지 방문자 통계 242

[그림 4-3] AI 윤리 소통채널 의견수렴 243

[그림 4-4] AI 윤리 소통채널 홈페이지 메뉴 244

[그림 4-5] AI 윤리 소통채널 상세 페이지 : 소개 메뉴 245

[그림 4-6] AI 윤리 소통채널 상세 페이지 : AI 윤리실천 246

[그림 4-7] AI 윤리 소통채널 상세 페이지 : AI 윤리교육 247

[그림 4-8] AI 윤리 소통채널 상세 페이지 : 정책저장소 248

[그림 4-9] AI 윤리 소통채널 상세 페이지 : AI 윤리정책 포럼 248

[그림 4-10] AI 윤리 소통채널 상세 페이지 : 참여소통방 249

[그림 4-11] AI 윤리 소통채널 영문 웹사이트 250