본문 바로가기 주메뉴 바로가기
22대 대한민국 국회 국회정보길라잡이 국회의원검색
회원가입 로그인
HOME

정보검색

소장정보 검색

국회도서관 홈으로 정보검색 소장정보 검색
결과 내 검색 동의어 포함
결과 내 검색 동의어 포함

-

목차보기

표제지 1

목차 3

Ⅰ. 서론: LLM의 급격한 확산, 블랙박스 문제 5

1. LLM의 확산과 블랙박스 문제 5

2. 내부 메커니즘 이해의 필요성 7

Ⅱ. 기계적 해석가능성 기술의 이해: 개념과 연구동향 9

1. 기계학습의 기본 접근법과 임베딩 9

2. 트랜스포머 기술의 이해 11

3. 기계적 해석가능성(Mechanistic Interpretability)의 이해 14

4. 기계적 해석가능성 연구 동향 16

가. 관찰 기반 접근법(Observational Approaches) 16

나. 개입 기반 접근법(Interventional Approaches) 17

다. 자동화된 회로 탐색(Automated Circuit Discovery) 18

5. 기계적 해석가능성을 통해 밝혀진 LLM의 특징 20

가. 중첩현상과 개념적 특성의 분해 20

나. 인간과 다른 계산방식의 발견 22

다. 개념공간에 기반한 다국어 처리 23

라. 실제 추론과정과 설명의 불일치 23

6. 기계적 해석가능성 분야의 향후 연구과제 24

가. 확장성(Scalability)의 문제 24

나. 중첩 문제의 복잡성 24

다. 모델들 간의 보편성 가설(Universality Hypothesis) 26

라. 실질적 효용성에 관한 비판 26

Ⅲ. LLM 기계적 해석가능성 기술의 활용 27

1. 다양한 도메인별 활용 사례 27

가. 금융 서비스 분야 28

나. 의료ㆍ헬스케어 분야 29

다. 안전ㆍ위험 분야 30

라. 검색ㆍ정보검색 및 미디어 분야 30

2. 기술확산을 위한 연구방향 30

가. 기계적 해석가능성 도구들의 고도화 및 표준화 30

나. 인간과의 상호작용 관점에서 접근 31

다. 정책 및 규제 마련을 위한 기술적 토대 제공 32

Ⅳ. 결론 및 제언 33

Ⅴ. 참고문헌 35

판권기 2

그림목차 4

[그림 1] AI 도입 기업의 AI 활용 범위: 기능 수 기준 5

[그림 2] Word2Vec을 통해 시각화된 단어 임베딩 10

[그림 3] 언어의 특정 패턴을 학습한 트랜스포머 어텐션 헤드 12

[그림 4] 반복 패턴을 감지하는 '귀납 헤드(Induction Head)' 회로 작동 방식 15

[그림 5] 활성화 패칭(Activation Patching)을 이용한 인과적 개입 실험 과정 18

[그림 6] 희소 오토인코더(Sparse Autoencoder, SAE)의 개념도 19

[그림 7] SAE를 통해 추출된 '금문교(Golden Gate Bridge)' feature의 활성화 사례 21

[그림 8] 두 자릿수 덧셈을 수행하는 LLM 내부의 병렬 계산 과정 22

[그림 9] 다국어 처리 '반의어 찾기' 연산 회로 23

[그림 10] 희소 오토인코더(SAE) 및 사전 학습(Dictionary Learning)의 주요 한계 25

[그림 11] 기계적 해석가능성 방법론의 활용 예시 27

[그림 12] 공정대출법 위반 탐지 결정 과정을 위한 질문 28

[그림 13] 희소 오토인코더 기법을 이용한 내부 Feature 사전 29

추천서가 (다양한 추천 자료를 만나보세요)

권호기사보기

권호기사 목록 테이블로 기사명, 저자명, 페이지, 원문, 기사목차 순으로 되어있습니다.
기사명 저자명 페이지 원문 기사목차