finetuning1

• 

  [Paper Review] Fine-Tuning and Prompt Optimization: Two Great Steps that Work Better Together TL;DR스탠퍼드 연구진은 복잡한 다단계 NLP 작업에서 모듈형 언어 모델 파이프라인의 최적화를 위해 'BetterTogether' 알고리즘을 제안했다. 이 알고리즘은 프롬프트 최적화(Prompt Optimization)와 가중치 조정(Fine-Tuning)을 번갈아 수행하여 멀티턴 QA, 수학문제 해결, 테이블 데이터 분류 태스크에서 최대 78%의 성능 향상을 달성했다. BFRS와 LoRA 기법을 활용해 프롬프트 예시를 최적화하고 모델을 미세 조정함으로써, 제한된 학습 데이터에서도 높은 정확도의 NLP 시스템 구축이 가능해졌다.Fine-Tuning and Prompt Optimization: Two Great Steps that Work Better Together자연어 처리(NLP) 분야에서 언어 모.. 리뷰/논문 리뷰 2024. 10. 26.