권호기사보기
| 기사명 | 저자명 | 페이지 | 원문 | 기사목차 |
|---|
결과 내 검색
동의어 포함
본 연구는 경량 대규모 언어모델 환경에서 검색 증강 생성(RAG)과 소프트 프롬프트 튜닝이 성능과 효율성에 미치는 결합 효과를 분석한다. SBA 정책 질의응답 벤치마크를 활용하여, 정밀도설정, RAG 방식, 소프트 프롬프트 적용 여부를 포함한 총 18개의 실험 구성 하에서 Liquid 기반모델과 Transformer 기반 모델을 비교하였다. 분석 결과, 소프트 프롬프트의 효과는 모델 아키텍처에 따라 상이하게 나타났다. Liquid 모델에서는 응답 품질과 지연시간 안정성이 동시에 개선된 반면, Transformer 모델에서는 품질과 효율성 간의 뚜렷한 상충관계가 확인되었다. 또한 범주별 분석을 통해 수치 및 기준 기반 질문 유형이 지속적인 성능 병목 요인으로 나타났으며, 이는 경량LLM 실무 적용을 위한 정규화 중심 개선의 필요성을 시사한다.
This study examines how retrieval-augmented generation (RAG) and soft prompt tuning jointly influence performance and efficiency in lightweight large language models. Using an SBA policy QA benchmark, we compare a Liquid-based model and a Transformer-based model across 18 experimental configurations covering precision settings, RAG modes, and soft prompting. Results reveal architecture-dependent effects: soft prompting improves both answer quality and latency stability in the Liquid model, whereas it introduces a quality?efficiency trade-off in the Transformer model.
Category-level analysis identifies numeric and criteria-based questions as persistent bottlenecks, highlighting the need for normalization-oriented improvements in lightweight LLM deployment.*표시는 필수 입력사항입니다.
| 전화번호 |
|---|
| 기사명 | 저자명 | 페이지 | 원문 | 기사목차 |
|---|
| 번호 | 발행일자 | 권호명 | 제본정보 | 자료실 | 원문 | 신청 페이지 |
|---|
도서위치안내: / 서가번호:
우편복사 목록담기를 완료하였습니다.
*표시는 필수 입력사항입니다.
저장 되었습니다.