표제지
목차
I. 서론 9
1. 연구 배경 및 필요성 9
2. 연구의 범위 11
3. 논문의 구성 12
II. 이론적 배경 13
1. 딥러닝(Deep Learning) 13
1) 딥러닝의 이해 13
2) 자연어 처리 분야에 사용되는 딥러닝 기술 15
2. BERT 21
1) BERT 소개 21
2) 사전 훈련 23
3) 파인 튜닝 23
III. 실험 25
1. 데이터셋 25
2. 모델 29
3. 실험 및 결과 분석 31
4. 결론 및 향후 과제 33
IV. 모니터링 업무 자동화 프로그램 36
1. 모니터링 업무 자동화 프로그램 설계 36
2. 모니터링 업무 자동화 프로그램 구현 38
V. 결론 48
참고문헌 49
국문초록 51
ABSTRACT 53
[표 2-1] 다양한 자연어 처리 과제에 대한 테스트 결과 21
[표 3-1] 데이터셋 개수 28
[표 3-2] 학습 파라미터 31
[표 3-3] 성능 차이(epoch 조정) 31
[표 3-4] 성능 차이(epoch, learning-rate 조정) 33
[그림 1-1] RPA 도입 효과 10
[그림 1-2] 스크립트에 작성된 문장과 다르게 상담하는 상황 11
[그림 2-1] 인공지능, 머신러닝, 딥러닝 간 관계도 13
[그림 2-2] 얕은 신경망 구조 14
[그림 2-3] 심층 신경망 구조 14
[그림 2-4] 순환신경망 예시 16
[그림 2-5] Sequence to Sequence 모델 예시 17
[그림 2-6] Attention 맵 18
[그림 2-7] Transformer 모델 구조 20
[그림 2-8] BERT 프레임워크 22
[그림 2-9] BERT 파인튜닝 예시 24
[그림 3-1] Quora Question Pair 데이터셋 25
[그림 3-2] Question_pair 데이터셋 25
[그림 3-3] 테스트셋에 활용할 가상 스크립트 26
[그림 3-4] 생성한 변형 문장 예시 27
[그림 3-5] 테스트 데이터셋 28
[그림 3-6] 문장 유사성 분석 모델 프레임워크 29
[그림 3-7] 문장 유사성 분석 모델 구현 코드 30
[그림 3-8] transformer 설치 및 import 방법 30
[그림 3-9] 학습 데이터셋과 테스트 데이터셋 정확도 시각화 32
[그림 3-10] 모델의 예측이 틀린 문장 34
[그림 4-1] 모니터링 업무 자동화 프로그램 사용 방법 36
[그림 4-2] 텍스트 변환된 통화 내용 형태 37
[그림 4-3] 출력 데이터 형태 37
[그림 4-4] 전처리 단계 38
[그림 4-5] 전처리 단계 결과 40
[그림 4-6] 예측 단계 41
[그림 4-7] 예측 단계 결과 43
[그림 4-8] 후처리 단계 44
[그림 4-9] 누락 여부 판단 규칙 45
[그림 4-10] 모니터링 자동화 프로그램 수행 결과 46