표제지
목차
1. 서론 7
1.1. 연구 필요성과 목적 7
1.2. 연구의 내용과 방법 9
2. 생성형 AI 신기술 분류와 유형화 13
2.1. 생성형 AI 규제 동향 13
가. 생성형 AI 기술 발전 13
나. 생성형 AI와 기존의 AI 차이 15
다. 생성형 AI의 잘못된 영향에 관한 원인 분류 17
2.2. AI 규제 동향 유형화 19
가. 생성형 AI 규제 동향 19
나. 생성형 AI 규제 유형화 21
2.3. 선거 과정에서의 AI 활용 24
가. 유권자 명부 관리 25
나. 투표소 위치 결정 31
다. 투표 부스에서 발생할 수 있는 문제점 예측 37
라. 유권자 인증 41
마. 영상 모니터링 46
3. 주요국의 생성형 AI의 선거 활용 문제 분석 55
3.1. 미국 55
가. 생성형 AI의 선거 위해 및 방해 사례 55
나. 생성형 AI에 의한 안보 위협 사례 60
3.2. 중국 64
가. 생성형 AI에 의한 정치 위해 사례 64
나. 생성형 AI에 의한 저작권 분쟁 사례 65
3.3. 영국 67
가. 생성형 AI의 선거활용 문제점 67
나. 정치 캠페인과 생성형 AI 72
3.4. 독일 73
가. 독일의 AI 선거 활용 문제 개요 73
나. '새로운 책임 재단' 보고서의 주요 내용 73
다. 연방선거관리위원회의 "가짜뉴스와 사실" 코너 신설 76
라. 독일에서 생성형 AI를 이용한 딥페이크 비디오 사례 77
4. 주요국의 AI 및 생성형 AI 선거 규제 79
4.1. 미국 79
가. AI 관련 입법 추진 개요 79
나. 생성형 AI 선거 입법 동향 및 원칙 중심 규제 동향 82
다. 소결 93
4.2. 영국 95
가. AI 관련 입법 추진 개요 95
나. 영국의 AI 국가 전략 108
다. AI 관련 주요 계획과 행위자 114
4.3. 유럽연합 116
가. AI 관련 입법 추진 개요 116
나. 생성형 AI 선거 입법 동향 및 원칙 중심 규제 동향 119
4.4. 미국과 EU의 협력과 경쟁 128
가. EU-미국 인공지능을 위한 공동로드맵 128
나. EU-미국 AI 규제 격차 133
4.5. 중국 136
가. 생성형 AI에 대한 규제 도입 배경 136
나. 생성형 AI에 대한 규제 137
4.6. 독일 140
가. AI와 민주주의에 대한 독일의 주요 논의 140
나. 연방정치교육원의 "디지털 가짜정보" 위험 분석 149
다. 독일의 AI 및 생성형 AI 선거 규제 개요 153
라. 연방선거관리위원회 153
마. 연방선거관리위원회의 "가짜뉴스와 사실(Faken gegen Fake News)" 코너 158
바. 독일의 AI 규제 방식 161
사/아. 생성형 AI 관련 규제의 갈림길에 선 독일 162
4.7. 스위스 165
가. 최근 생성형 AI 선거규제 관련 논의 165
나. AI 규제에 대한 의회의 논의: AI와 민주주의의 위기와 기회 - 연방의회 의원의 질의와 정부의 답변 166
다. 스위스의 AI 역량 예측 169
라. 스위스의 생성형 AI 규제 172
4.8. 핀란드 175
가. 허위 정보로부터 가장 자유로운 국가로 선정된 핀란드의 대응 175
나. AI 및 빅데이터에 적용되는 법률 및 규정 178
5. 결론 182
요약 199
참고문헌 210
〈표 2-1〉 생성형 AI가 최근 과학 논문, 뉴스 기사, 소셜미디어에서 나오는 허위 정보에 미치는 영향을 우려해야 하는 이유에 대한 네 가지 주장 18
〈표 2-2〉 선거과정에서 AI 활용의 위험과 방향성 25
〈표 2-3〉 핵심 평가에 대한 전반적인 요약 54
〈표 4-1〉 미국의 'AI 로드맵'의 5가지 전략 79
〈표 4-2〉 미 연방 AI 및 생성형 AI 규제 개요 81
〈표 4-3〉 AI 행정명령 내 주요 사항 84
〈표 4-4〉 알고리즘 책임법 2022 내 영향평가 주요 사항 88
〈표 4-5〉 캘리포니아 주, 직장기술책임법의 주요 사항 89
〈표 4-6〉 DC 알고리즘에 의한 차별금지법이 요구하는 새로운 사항 91
〈표 4-7〉 미국 주 선거 및 선거운동에서의 AI 사용 적용 법령 92
〈표 4-8〉 2023년 선거 및 선거운동에서 AI 관련 법령 92
〈표 4-9〉 영국의 국가 AI 전략 개요 109
〈표 4-10〉 영국의 국가 AI 전략의 세 가지 원칙과 시기별 계획 111
〈표 4-11〉 유럽의회가 채택한 AI 관련 입법 이니셔티브 117
〈표 4-12〉 EU 집행위원회에서 마련한 초안과 비교하여 2022년 5월 EU 의회 안에서 변경된 주요 사항 118
〈표 4-13〉 EU의 AI 시스템 공급자 및 사업자의 법적 의무 121
〈표 4-14〉 EU의 AI 시스템 수입업체 / 유통업체별 법적 의무 122
〈표 4-15〉 DSA 내 온라인 중개 서비스 유형별 의무사항 124
〈표 4-16〉 DMA 내 게이트키퍼의 경쟁제한 및 불공정행위 125
〈표 4-17〉 유럽 각국의 가짜뉴스 관련 법적 규제 내용 126
〈표 4-18〉 TTC 10개 작업그룹 129
〈표 4-19〉 TTC '인공지능을 위한 공동로드맵' 내 협력의 접근방식에 관한 제시 131
〈표 4-20〉 EU AI법과 미국 AI 권리장전 내 위험관리 규제 격차 비교 135
〈표 4-21〉 중국 생성형 AI 서비스 관리 잠정 방법 주요 내용 138
〈표 5-1〉 생성형 AI 선거규제 국가별 비교 분석 198
〈그림 1-1〉 연구 추진전략 방법 및 추진체계 11
〈그림 1-2〉 연구 추진체계 11
〈그림 1-3〉 연구진 구성 및 역할 분담 12
〈그림 2-1〉 ChatGPT 출시 이후 주요 대형언어모델(LLM) 개발 일정 14
〈그림 2-2〉 AI 환경에 적합한 LLM과 대화형 챗봇 16
〈그림 2-3〉 가트너, 2023년 이머징 테크놀로지 하이프 사이클 17
〈그림 2-4〉 생성형 AI 규제 유형화 21
〈그림 2-5〉 위스콘신 유권자 거주 확인용 발송 우편물 사례 27
〈그림 2-6〉 시설 위치에 대한 클러스터링 이미지 33
〈그림 2-7〉 인도 텔랑가나주 2020 지방선거에서 얼굴 인식 사용 42
〈그림 2-8〉 선거에 초점을 맞춘 CCTV 모니터링 서비스를 설명하는 VMukti의 페이지 48
〈그림 2-9〉 두 대의 카메라로 이루어지는 개인 재식별: (싱가포르국립대, NTU) 래피드 리치 객체 검색 연구실 50
〈그림 3-1〉 조 바이든 대통령이 트렌스젠더 혐오 발언하는 가짜 영상 55
〈그림 3-2〉 도널드 트럼프 전 대통령이 체포되는 가짜 영상 56
〈그림 3-3〉 'Beat Biden'이라는 제목의 영상 내 중국이 대만을 공격하는 가짜 영상 58
〈그림 3-4〉 트럼프가 앤서니 파우치 전 소장과 포옹하는 허위 사진 60
〈그림 3-5〉 미 국방부 건물 폭발에 관한 가짜 이미지 트윗 61
〈그림 3-6〉 젤렌스키 우크라이나 대통령의 항복 선언 허위 영상 62
〈그림 3-7〉 푸틴 러시아 대통령의 항복 선언 허위 영상 63
〈그림 3-8〉 생성형 AI로 제작된 이스라엘-하마스 전쟁 이미지 64
〈그림 3-9〉 마이크로소프트 위기정보 보고서(Microsoft Threat Intelligence report)에서 게재된 중국 IO 자산이 게시한 AI 생성 이미지 65
〈그림 3-10〉 중국 내 지식재산권 분쟁 사례였던 AI 생성 이미지 66
〈그림 3-11〉 미국 상원의원 테드 크루즈의 페이스북 정보 활용 스캔들 67
〈그림 3-12〉 러시아 SNS 계정 15만여 개가 브렉시트 투표에 개입 69
〈그림 4-1〉 페이스북이 영국 일간지에 낸 허위 정보 예방 캠페인(2017년 5월) 101
〈그림 4-2〉 영국 정부의 허위 정보 대응가이드 104
〈그림 4-3〉 EU AI 위험유형 분류 피라미드 119
〈그림 4-4〉 2023년 미디어 리터러시 순위 176
〈그림 4-5〉 핀란드의 우수 사회 지표 176
〈그림 5-1〉 생성형 AI 규제 유형화 183
〈그림 5-2〉 2023 확장된 미디어 리터리시 순위 196
〈그림 5-3〉 Media Freedom 순위 197