본문 바로가기 주메뉴 바로가기
국회도서관 홈으로 정보검색 소장정보 검색

결과 내 검색

동의어 포함

목차보기

표제지 2

목차 5

국문초록 9

제1장 서론 10

제1절 연구배경 10

제2절 기존 경로 계획 알고리즘의 한계점 11

제3절 연구 목표 12

제2장 연구 방법 13

제1절 시스템 개요 13

제2절 MAPPO Learning Approach 14

제3절 강화학습 설계 17

1. 선분기반 상태 표현 17

2. 관측 및 전역 상태 공간 19

3. 행동 공간 22

4. 보상 함수 설계 23

제3장 실험 및 연구 결과 26

제1절 실험 구성 26

1. 실험 설정 26

2. 강화학습 환경 설정 28

3. 평가 지표 29

4. 민감도 분석 30

제2절 실험 결과 32

1. 다양한 환경 조건에서의 제안된 방법의 성능평가 32

2. 기존 독립형 가치함수와의 성능 평가 36

3. 기존 CTDE 구조의 MADRL 알고리즘과의 성능 평가 37

4. 기존 상태 표현 방식과의 성능 평가 39

5. 작업 환경에서의 성능 평가 41

6. 기존 경로 계획 기법과의 성능 평가 45

제4장 논의 및 결론 47

제1절 논의 47

1. 기존 실험 결과에 대한 종합 논의 47

2. 한계점 및 추후연구 49

제2절 결론 50

참고문헌 51

ABSTRACT 55

표목차 7

〈표 3-1〉 MAPPO 알고리즘 하이퍼파라미터 28

〈표 3-2〉 평가 지표 설명 29

〈표 3-3〉 여러 시나리오에서 안전 마진(ε) 조정을 통한 성공률 30

〈표 3-4〉 시나리오2 보상 계수(ωᵢ) 변화에 따른 성공률 31

〈표 3-5〉 제안된 방법의 시나리오별 성능 평가 32

〈표 3-6〉 중앙집중 가치함수와 독립 가치함수의 정량적 비교 37

〈표 3-7〉 HAPPO, HATRPO, HAA2C, 그리고 MAPPO 정량적 비교 37

〈표 3-8〉 상태표현 방법의 정량적 비교 40

〈표 3-9〉 다양한 작업 환경에서의 정책 정량적 비교 42

〈표 3-10〉 단일 및 다중 협동로봇 작업 성능의 정량적 비교 43

〈표 3-11〉 두 개의 협동로봇 환경에서 수행된 벤치마킹 결과 46

그림목차 8

〈그림 2-1〉 MADRL 기반 프레임워크 13

〈그림 2-2〉 MAPPO 프레임워크 17

〈그림 2-3〉 선분 기반 협동로봇 표현을 위한 추상화 파이프라인 19

〈그림 3-1〉 강화학습에 사용된 네 가지 시뮬레이션 환경 26

〈그림 3-2〉 모든 시나리오 평균 보상 값 32

〈그림 3-3〉 모든 시나리오 성공 사례 시각화 34

〈그림 3-4〉 강화학습에 사용된 네 개 협동로봇 기반 시뮬레이션 환경 35

〈그림 3-5〉 네 개 협동로봇 시나리오 성공 사례 시각화 35

〈그림 3-6〉 가치함수의 구조적 차이점 36

〈그림 3-7〉 시나리오별 알고리즘 평균 보상 곡선 38

〈그림 3-8〉 상태 표현: 선분 기반 방식과 키포인트 및 OBB 방식 39

〈그림 3-9〉 네 가지 공유 작업공간 장면 41

〈그림 3-10〉 모든 작업환경에서의 성공 사례 시각화 44

〈그림 3-11〉 벤치마킹을 위한 작업공간 장면 45

초록보기

 본 논문에서는 다중 에이전트 심층 강화학습(MADRL) 기반의 충돌 회피 경로 계획 프레임워크를 제안한다. 제안된 방법은 MADRL 의 중앙집중식 학습 및 분산식 실행 구조(CTDE)의 강화학습을 채택하여 로봇 간의 협조적 정책을 유도한다. 특히, 고차원 관절 공간의 연산 효율성을 극대화하기 위해 로봇의 링크를 기하학적 선분으로 모델링하는 상태 표현 방식을 도입하여 기존 방식 대비 계산 복잡도를 낮추면서도 충돌 감지에 필요한 공간 정보를 효과적으로 포착한다. 제안 방법은 NVIDIA Isaac Sim에서 다양한 공유·중첩 작업공간 시나리오를 대상으로 구현 및 검증되었다. 이러한 결과는 제안된 프레임워크가 실시간 충돌 회피 기반 다중 협동로봇 제어 문제에서 높은 효과성과 확장성을 제공함을 입증한다.