본문 바로가기 주메뉴 바로가기
22대 대한민국 국회 국회정보길라잡이 국회의원검색
회원가입 로그인
HOME

정보검색

소장정보 검색

국회도서관 홈으로 정보검색 소장정보 검색
결과 내 검색 동의어 포함
결과 내 검색 동의어 포함

-

목차보기

표제지 1

목차 10

요약문 3

Summary 7

제1장 서론 14

제1절 연구 배경 및 필요성 14

1. 연구 배경 14

2. 연구의 필요성 14

제2절 연구 목적 및 구성 15

1. 연구 목적 15

2. 연구 구성 및 절차 16

제2장 인공지능 안전 및 위험 논의 현황 17

제1절 인공지능 안전의 이해 17

1. 인공지능 안전의 개념 17

제2절 AI 안전 관련 주요국 정책 21

1. 인공지능 위험에 대한 국제적 대응 21

2. 해외 AI 안전 연구소 동향 24

제3절 AI 안전 관련 기업의 대응 31

1. 해외 주요 기업 31

2. 한국 주요 기업 35

제3장 인공지능 위험 유형 및 사례 38

제1절 인공지능 위험 유형 38

1. 영국 AI 안전연구소, AI 안전 국제 과학 보고서 38

2. 미국 NIST, AI 위험 관리 프레임워크 47

3. MIT 연구진, AI 위험 분류 및 위험 저장소 48

4. 중국 연구진, AI 위험 분류 연구 51

5. AI 안전 연구 분석 53

제2절 인공지능 위험별 사례 분석 54

1. 악의적 사용 위험 사례 54

2. 오작동 위험 사례 56

3. 시스템적 위험 사례 58

4. 교차 위험 사례 60

제4절 인공지능 위험 관련 표준 논의 62

제4장 인공지능 안전 확보를 위한 위험 분석 65

제1절 조사 설계 65

1. 조사 방법 및 절차 65

2. AI 위험의 우선순위 분석 65

제2절 AI 위험 분류 및 AHP 모델 67

1. AHP 모델의 구성 67

2. AI 위험 분류 및 주요 내용 69

제3절/제2절 분석 결과 73

1. 위험 시급성과 위험발생 가능성 평가 결과 73

2. AI 위험의 우선순위 분석 결과 77

3. AI 위험의 우선순위 집단 간 인식 차이 80

제5장 결론 및 시사점 84

제1절 주요 결과 및 시사점 84

제2절 요약 및 결론 87

참고문헌 89

[부록] 93

표목차 12

〈표 2-1〉 AI 윤리ㆍ신뢰성ㆍ안전성 관련 국제 사회 대응 흐름 23

〈표 2-2〉 AI 안전 수준(AI Safety Levels, ASL) 34

〈표 3-1〉 요슈아 벤지오 연구팀의 AI 위험 분류 및 주요 내용 39

〈표 3-2〉 NIST AI RMF: 생성 AI 프로파일의 위험 분류 48

〈표 3-3〉 MIT 연구진의 AI 위험 인과 분류 결과 일부 49

〈표 3-4〉 AI 위험 도메인 분류 50

〈표 3-5〉 중국 연구진의 AI 위험에 관한 세부 분류 52

〈표 3-6〉 ISO/IEC 2023의 위험 분석 62

〈표 3-7〉 AI 시스템 수명 주기 단계별 위험(ISO/IEC 23894-2023) 63

〈표 3-8〉 AI 위험 평가 및 처리 과정(ISO/IEC 42001-2023) 64

〈표 4-1〉 AI 위험의 발생가능성과 심각성 67

〈표 4-2〉 AI의 사회문화적 위험과 개념 69

〈표 4-3〉 AI의 경제 및 환경적 위험과 개념 70

〈표 4-4〉 AI의 기술적 위험과 개념 71

〈표 4-5〉 AI 위험의 발생 가능성과 심각성-집단 비교 76

〈표 4-6〉 위험분류별 AI 위험의 우선순위 78

〈표 4-7〉 AI 안전 대응이 필요한 AI 위험의 우선순위 분석 결과 79

그림목차 13

[그림 1-1] 연구 추진 체계 16

[그림 2-1] AI Safety와 관련 개념 간의 관계 도식화 18

[그림 2-2] 구글 딥마인드 안전 프레임워크 구성요소 간의 관계 33

[그림 3-1] 중국 연구진의 AI 위험 분류 개요 51

[그림 4-1] AI 위험 우선순위 분석을 위한 AHP 모델 68

[그림 4-2] 사회문화적 위험 7점 척도 조사 결과 73

[그림 4-3] 경제 및 환경적 위험 7점 척도 조사 결과 74

[그림 4-4] 기술적 위험 7점 척도 조사 결과 74

[그림 4-5] 위험분류별 AI 위험의 중요도 분석 결과 78

[그림 4-6] AI 위험의 중요도 분석 결과 80

[그림 4-7] 주요 위험 분류별 AI 위험의 중요도 - 산업계 전문가 81

[그림 4-8] AI 위험의 우선순위 분석 결과 - 산업계 전문가 81

[그림 4-9] 주요 위험 분류별 AI 위험의 중요도 - 학계 및 연구계 전문가 82

[그림 4-10] AI 위험의 우선순위 분석 결과 - 학계 및 연구계 전문가 83

부록표목차 12

〈부록 A1〉 AI 위험 관련 검토 자료 93

추천서가 (다양한 추천 자료를 만나보세요)

권호기사보기

권호기사 목록 테이블로 기사명, 저자명, 페이지, 원문, 기사목차 순으로 되어있습니다.
기사명 저자명 페이지 원문 기사목차