본문 바로가기

LangChain

[리뷰] Udemy - Langchain으로 LLM 기반 어플리케이션 개발하기 들어가며 LLM을 애플리케이션에 적용하려면 개발자는 프롬프트를 보내고 기다리는 것 외에도 고려해야할 많은 작업이 있습니다. LLM이 이전의 대화 내용을 기억하게 하기 위해 기록을 유지해야하고, 토큰의 한도를 지키는 전략을 취하면서 프롬프트 및 응답의 적절성을 판단하고 조정하는 등 상당한 노력을 필요로 합니다. 랭체인은 이러한 수고를 덜어주며 언어 모델 기반의 애플리케이션을 개발하도록 돕는 SDK입니다. 이번 글에서는 글또 9기 활동 중 유데미로부터 강의 쿠폰을 지원받아 【한글자막】 랭체인 - LangChain 으로 LLM 기반 애플리케이션 개발하기 강좌를 수강하고 느낀 점과 새롭게 알게된 점에 대해 간단히 정리한 부분을 남겨보려합니다. 강의에 대한 간단한 개요와 장단점은 아래와 같습니다. 목표: 실제 L.. 더보기
LLM 애플리케이션을 위한 사내 프롬프트 관리 패키지 개발기 이번 글은 사내의 LLM 프롬프트를 관리하면서 겪은 문제와 해당 문제 개선을 위한 패키지를 개발한 과정에 대해 작성하였습니다. 제품 개발에서 프롬프트 엔지니어링의 어려움 1) 타 팀과 협업 프롬프트 엔지니어링에는 언어 모델을 원하는 출력으로 안내하는 고품질 프롬프트를 만드는 작업이 포함됩니다. 그러나 프로덕트를 위한 과정에서 신속한 엔지니어링은 단독으로 수행하는 경우가 드뭅니다. 종종 프롬프트를 형성하고 미세 조정하기 위해 전문 지식을 제공하는 다른 팀 구성원과의 협업이 필요합니다. 효과적인 협업 없이는 다양한 팀원의 집단적 지식과 통찰력을 활용하는 것이 어려워지고 신속한 엔지니어링 프로세스를 방해합니다. 협업 프롬프트 엔지니어링의 주요 과제 중 하나는 다양한 프롬프트 반복에서 일관성을 보장하는 것입니다.. 더보기