본문 바로가기 주메뉴 바로가기
22대 대한민국 국회 국회정보길라잡이 국회의원검색
회원가입 로그인
HOME

정보검색

소장정보 검색

국회도서관 홈으로 정보검색 소장정보 검색

결과 내 검색

동의어 포함

고급검색

인명/단체명

저자정보 상세정보
인명/단체명을 입력하세요.

키워드

  • 대표어

  • 외국어

-

목차보기

표제지 1

목차 19

요약문 5

Ⅰ. 빅데이터 분석을 활용한 안전ㆍ신뢰 AI 이슈 분석 연구 27

1. 연구 개요 28

2. 분석 결과 32

1) 안전ㆍ신뢰 AI 관련 주요 이슈 도출 33

2) 중심 이슈 심층 분석 37

3) 대중 반응 분석 42

3. 종합 제언 54

Ⅱ. 전문가 심층 분석 57

1. Healthcare AI 안전ㆍ신뢰 58

헬스케어 빅데이터 모델 생성과정의 이슈 / 김종엽 59

의사결정의 책임소재(Misjudgement) / 신수용 65

헬스케어 AI 데이터 신뢰성 / 김태원 69

헬스케어 AI와 건강 형평성, 격차 / 연미영;양세정 77

민간기업의 건강데이터 상업적 활용과정의 이슈 / 강준석 89

개인정보 유출ㆍ침해 / 류현숙 99

편향, 과의존 / 양세정, 연미영 111

2. Humanoid AI 안전ㆍ신뢰 125

휴머노이드 AI의 개념과 동향 / 장하영;최은미;전진우 126

휴머노이드 AI의 물리적 안전 / 장하영;전진우 132

인간-휴머노이드, 휴머노이드-휴머노이드간 의사소통 / 임화섭 141

센싱과정에서의 프라이버시 / 조승한 147

인간-휴머노이드AI 상호작용의 윤리적 도전 / 최은미 153

3. Brain AI 안전ㆍ신뢰 165

브레인 AI 기술의 개념과 연구 동향 / 천기우;이기원 166

AI 뇌신호 디코딩과 기억 왜곡 / 임창환;이기원;안소영 179

인지능력 증강의 사회적 문제 / 안소영;강민구 189

양방향 BCI 기술과 뇌변화 - 중독, 의존 / 서민아;천기우 200

Ⅲ. 안전ㆍ신뢰 AI 정책대안 분석 및 개선방향 조사 214

1. 조사 개요 215

제1절 조사 개요 216

제2절 조사 절차 217

제3절 응답자 특성 220

2. 조사 결과 221

제1절 전문가 및 일반시민의 조사결과 비교 222

제2절 관련된 안전ㆍ신뢰 이슈에 대한 의견 230

제3절 AI 안전ㆍ신뢰 이슈에 대한 정책대안 관련 의견 244

제4절 AI 안전ㆍ신뢰 이슈에 대한 자유의견 261

[부록] 조사 설문지 264

Ⅳ. 안전ㆍ신뢰 AI 기술영향평가 결과 278

Ⅰ. 2024년 기술영향평가 결과 : 안전ㆍ신뢰 AI기술 279

Ⅱ. 2024년 기술영향평가 결과 : 안전ㆍ신뢰 AI기술 283

1. 기술 개요 283

2. 평가 내용 및 방법 292

3. 기술영향평가 결과 298

Ⅲ. 시사점 및 개선방향(안) 335

Ⅳ. 향후 일정 341

[부록] 시민포럼 개선 및 운영 365

판권기 2

표목차 21

〈표 Ⅰ-1〉 안전ㆍ신뢰 AI 관련 48개 이슈 목록(이상치 2개 항목 포함) 33

〈표 Ⅰ-2〉 '안전ㆍ신뢰 AI' 관련 주요 이벤트 보도자료 38

〈표 Ⅰ-3〉 트렌드 분석 결과 - 중심 이슈 및 관리 필요 이슈 41

〈표 Ⅰ-4〉 '휴머노이드'의 안전ㆍ신뢰 관련 유튜브 게시글 42

〈표 Ⅰ-5〉 '뇌-컴퓨터 인터페이스(BCI)'의 안전ㆍ신뢰 관련 유튜브 게시글 46

〈표 Ⅰ-6〉 '인공지능 헬스케어'의 안전ㆍ신뢰 관련 유튜브 게시글 50

〈표 Ⅱ-1〉 생성형 AI 활용 신약 개발 사례 71

〈표 Ⅱ-2〉 정책제언 76

〈표 Ⅱ-3〉 AI의 특이점(singularity)과 로봇공학의 발달 127

〈표 Ⅱ-4〉 체화된 지능과 로봇의 비교 129

〈표 Ⅱ-5〉 실외이동로봇 인증 심사 항목 135

〈표 Ⅲ-1〉 조사 내용 216

〈표 Ⅲ-2〉 AI와 관련된 안전ㆍ신뢰 이슈에 대한 평가 기준 218

〈표 Ⅲ-3〉 AI 안전ㆍ신뢰 이슈에 대한 정책대안 평가 기준 219

〈표 Ⅲ-4〉 응답자 특성 - 전문가 조사 220

〈표 Ⅲ-5〉 응답자 특성 - 일반시민 조사 220

〈표 Ⅲ-6〉 AI와 관련된 안전ㆍ신뢰 이슈 발생가능성 평가 결과 223

〈표 Ⅲ-7〉 AI와 관련된 안전ㆍ신뢰 이슈 발생예상시기 평가 결과 224

〈표 Ⅲ-8〉 AI와 관련된 안전ㆍ신뢰 이슈 영향력(파급효과) 평가 결과 226

〈표 Ⅲ-9〉 AI 안전ㆍ신뢰 이슈에 대한 정책대안의 중요성 평가 결과 227

〈표 Ⅲ-10〉 AI 안전ㆍ신뢰 이슈에 대한 정책대안의 시급성 평가 결과 229

〈표 Ⅲ-11〉 이슈 의견 - (1) AI가 수집하는 개인정보의 보호 230

〈표 Ⅲ-12〉 이슈 의견 - (2) AI 서비스 이용의 경제적 차별 231

〈표 Ⅲ-13〉 이슈 의견 - (3) AI 의사결정의 책임소재 232

〈표 Ⅲ-14〉 이슈 의견 - (4) AI 판단과정의 투명성 233

〈표 Ⅲ-15〉 이슈 의견 - (5) AI 의존과 인간성 234

〈표 Ⅲ-16〉 이슈 의견 - (6) AI 헬스케어의 신뢰성 235

〈표 Ⅲ-17〉 이슈 의견 - (7) 맞춤형 헬스케어 서비스 불평등 236

〈표 Ⅲ-18〉 이슈 의견 - (8) 휴머노이드 로봇의 안전성 237

〈표 Ⅲ-19〉 이슈 의견 - (9) 휴머노이드의 사회적 영향 238

〈표 Ⅲ-20〉 이슈 의견 - (10) 뇌-컴퓨터 인터페이스의 안전성 239

〈표 Ⅲ-21〉 이슈 의견 - (11) 인지능력 증강의 윤리성 240

〈표 Ⅲ-22〉 이슈 의견 - (12) 뇌 데이터 보안 241

〈표 Ⅲ-23〉 이슈 의견 - (13) AI 기술 의존성 242

〈표 Ⅲ-24〉 이슈 의견 - (14) 시스템 통합과 상호운용성 243

〈표 Ⅲ-25〉 정책 대안 의견 - (1) 미래기술 안전성 기본법 244

〈표 Ⅲ-26〉 정책 대안 의견 - (2) 인간친화 기술 윤리안전 가이드라인 245

〈표 Ⅲ-27〉 정책 대안 의견 - (3) 민감정보 기반 기술 거버넌스 246

〈표 Ⅲ-28〉 정책 대안 의견 - (4) 첨단기술 품질인증ㆍ평가체계 247

〈표 Ⅲ-29〉 정책 대안 의견 - (5) 미래기술 안전성 혁신 네트워크 248

〈표 Ⅲ-30〉 정책 대안 의견 - (6) 미래기술 안전 전문가 양성 249

〈표 Ⅲ-31〉 정책 대안 의견 - (7) 첨단기술 안전 리터러시 250

〈표 Ⅲ-32〉 정책 대안 의견 - (8) 미래기술 안전성 R&D 251

〈표 Ⅲ-33〉 정책 대안 의견 - (9) 헬스케어 AI 임상안전 제도 252

〈표 Ⅲ-34〉 정책 대안 의견 - (10) 의료 AI 데이터 표준화 253

〈표 Ⅲ-35〉 정책 대안 의견 - (11) 의료 AI 실증 플랫폼 254

〈표 Ⅲ-36〉 정책 대안 의견 - (12) 브레인 인터페이스 안전기준 255

〈표 Ⅲ-37〉 정책 대안 의견 - (13) 인지증강 기술 관리제도 256

〈표 Ⅲ-38〉 정책 대안 의견 - (14) 뇌신호 처리 신뢰성 제도 257

〈표 Ⅲ-39〉 정책 대안 의견 - (15) 로봇 물리안전 기준 258

〈표 Ⅲ-40〉 정책 대안 의견 - (16) 로봇-인간 상호작용 제도 259

〈표 Ⅲ-41〉 정책 대안 의견 - (17) 로봇협업 안전관리 제도 260

〈표 Ⅳ-1〉 안전ㆍ신뢰AI의 다양한 정의 284

〈표 Ⅳ-2〉 GPT 모델 업데이트 경과 286

〈표 Ⅳ-3〉 Anthropic의 인공지능 블랙박스 연구 286

〈표 Ⅳ-4〉 안전ㆍ신뢰AI 기술(2022 기술수준평가 결과) 288

〈표 Ⅳ-5〉 헬스케어 AI 분야 전문가 이슈 304

〈표 Ⅳ-6〉 헬스케어 AI 분야 전문가 정책과제 305

〈표 Ⅳ-7〉 휴머노이드 AI 분야 전문가 이슈 307

〈표 Ⅳ-8〉 휴머노이드 AI 분야 전문가 정책과제 308

〈표 Ⅳ-9〉 브레인 AI 분야 전문가 이슈 309

〈표 Ⅳ-10〉 브레인 AI 분야 전문가 정책과제 309

〈표 Ⅳ-11〉 헬스케어 AI 분야 시민포럼 기대와 이슈 311

〈표 Ⅳ-12〉 헬스케어 AI 분야 시민포럼 정책과제 311

〈표 Ⅳ-13〉 휴머노이드 AI 분야 시민포럼 기대와 이슈 313

〈표 Ⅳ-14〉 휴머노이드 AI 분야 시민포럼 정책과제 314

〈표 Ⅳ-15〉 브레인 AI 분야 시민포럼 기대와 이슈 316

〈표 Ⅳ-16〉 브레인 AI 분야 시민포럼 정책과제 317

〈표 Ⅳ-17〉 14개 주요 이슈 319

〈표 Ⅳ-18〉 17개 주요 과제 321

〈표 Ⅳ-19〉 AI와 관련된 안전ㆍ신뢰 이슈에 대한 평가 기준 325

〈표 Ⅳ-20〉 설문조사를 위한 14개 주요 이슈 가상 시나리오 325

〈표 Ⅳ-21〉 14개 주요 이슈의 발생예상시기 비교 327

〈표 Ⅳ-22〉 AI 안전ㆍ신뢰 이슈에 대한 정책대안 평가 기준 329

〈표 Ⅳ-23〉 17개 주요 과제별 관리 방안 332

〈표 Ⅳ-24〉 AI 안전ㆍ신뢰를 위한 5개 핵심 이슈 및 9개 핵심 과제 333

〈표 Ⅳ-25〉 '안전ㆍ신뢰 AI' 관련 주요 이벤트 보도자료 354

〈표 Ⅳ-26〉 '인공지능 헬스케어'의 안전ㆍ신뢰 관련 유튜브 게시글 356

〈표 Ⅳ-27〉 '휴머노이드'의 안전ㆍ신뢰 관련 유튜브 게시글 359

〈표 Ⅳ-28〉 '뇌-컴퓨터 인터페이스(BCI)'의 안전ㆍ신뢰 관련 유튜브 게시글 362

그림목차 24

[그림 Ⅰ-1] 토픽 모델링 기반 주요 이슈 도출 개요도 29

[그림 Ⅰ-2] 이상 보도량 개요 31

[그림 Ⅰ-3] '안전ㆍ신뢰 AI' 이슈 담론 분석 결과 35

[그림 Ⅰ-4] '안전ㆍ신뢰 AI' 이슈 인식 변화 분석 37

[그림 Ⅰ-5] '안전ㆍ신뢰 AI' 관련 보도량 빈도 및 밀도 분석 결과 40

[그림 Ⅰ-6] '휴머노이드'의 안전ㆍ신뢰 관련 유튜브 댓글 키워드 TOP 25 45

[그림 Ⅰ-7] '뇌-컴퓨터 인터페이스(BCI)'의 안전ㆍ신뢰 관련 유튜브 댓글 키워드 TOP 25 49

[그림 Ⅰ-8] '인공지능 헬스케어'의 안전ㆍ신뢰 관련 유튜브 댓글 키워드 TOP 25 53

[그림 Ⅱ-1] 개인 맞춤형 헬스케어AI 기술에서의 주요 이슈 60

[그림 Ⅱ-2] 각 국가의 데이터를 사용한 AI 논문의 비율 72

[그림 Ⅱ-3] 코로나 19 관련 이주민 차별 경험 78

[그림 Ⅱ-4] 인공지능에서 차별의 연쇄효과 79

[그림 Ⅱ-5] 건강 불평등의 AI 사이클 84

[그림 Ⅱ-6] 이주민 비대면 진료 관련 기사 85

[그림 Ⅱ-7] NYC 무료 인터넷 제공 관련 기사 86

[그림 Ⅱ-8] 글로벌 헬스케어 시장에서의 IoT 시장 규모, 2018-2030 96

[그림 Ⅱ-9] 의료 및 건강분야 AI 활용에 관한 미국인의 인식조사 102

[그림 Ⅱ-10] 연합학습(Federated Learning) 모델 108

[그림 Ⅱ-11] 기반모델: 다양한 형태의 데이터를 통합하여 학습한 모델로 다양한 작업을 수행 128

[그림 Ⅱ-12] 구글 로보틱 트랜스포머 2(Robotic Transformer 2) 130

[그림 Ⅱ-13] 실외이동로봇 인증 대상 정의 135

[그림 Ⅱ-14] 휴머노이드 로봇의 윤리적 위험성 확장 137

[그림 Ⅱ-15] 자동차 관리법과 관련 법령 현황 137

[그림 Ⅱ-16] BCI 기술의 컨셉 168

[그림 Ⅱ-17] 로잔연방공대의 뉴로컴 171

[그림 Ⅱ-18] 로잔연방공대의 보행보조 171

[그림 Ⅱ-19] Case Wwstern 대학교의 Neural Bypass 172

[그림 Ⅱ-20] Caltech 대학교의 Bionic Arm 173

[그림 Ⅱ-21] Neuralink의 원숭이 실험 174

[그림 Ⅱ-22] 영장류 2D 커서 조작 BCI 시스템의 전체 개념도 186

[그림 Ⅱ-23] 영장류의 커서 궤적을 통해 추정된 시행 간 운동 반응 상관관계 분포도와 단일 시행 내 평균 커서 속도를 나타낸 그래프 186

[그림 Ⅱ-24] 정보취약계층 디지털정보화 수준.(2023 디지털정보격차 실태조사, 과학기술정보통신부) 193

[그림 Ⅱ-25] BCI operation principle 200

[그림 Ⅱ-26] 양방향 BCI 기술 사례 203

[그림 Ⅱ-27] 양방향 BCI 기술을 통한 디코딩 204

[그림 Ⅲ-1] 조사 절차 217

[그림 Ⅲ-2] AI와 관련된 안전ㆍ신뢰 이슈 발생가능성 평가 결과 222

[그림 Ⅲ-3] AI와 관련된 안전ㆍ신뢰 이슈 발생예상시기 평가 결과 224

[그림 Ⅲ-4] AI와 관련된 안전ㆍ신뢰 이슈 영향력(파급효과) 평가 결과 225

[그림 Ⅲ-5] AI 안전ㆍ신뢰 이슈에 대한 정책대안의 중요성 평가 결과 227

[그림 Ⅲ-6] AI 안전ㆍ신뢰 이슈에 대한 정책대안의 시급성 평가 결과 228

[그림 Ⅳ-1] 유형별 파운데이션 모델 수 증가 285

[그림 Ⅳ-2] 연도별 깃허브 오픈소스 프로젝트 수 285

[그림 Ⅳ-3] 머신러닝 모델의 파라미터 수(로그스케일) 285

[그림 Ⅳ-4] 주요 모델의 성능 발전 285

[그림 Ⅳ-5] AI Index 24(좌), Global AI Index 2024(우)에 나타난 한국의 특허 역량 289

[그림 Ⅳ-6] 2022 기술수준평가에서 특허 분석 결과 290

[그림 Ⅳ-7] 평가단계별 평가방법 295

[그림 Ⅳ-8] 토픽 모델링 기반 주요 이슈 도출 개요도 296

[그림 Ⅳ-9] 20204 기술영향평가 시민포럼 진행 절차 297

추천서가 (다양한 추천 자료를 만나보세요)

권호기사보기

권호기사 목록 테이블로 기사명, 저자명, 페이지, 원문, 기사목차 순으로 되어있습니다.
기사명 저자명 페이지 원문 기사목차

권호

기사명 원문보기 기사목차
닫기