API

[BOOK REVIEW] LLM 서비스 설계와 최적화

한빛미디어 서평단 활동을 위해서책을 협찬받아 작성된 서평입니다.📚 책 소개오늘 소개할 책은 ⌜LLM 서비스 설계와 최적화 (슈레야스 수브라마니암)⌟이다. 📍 책 선택 이유 부스트캠프에서 OpenAI API를 활용한 기능을 개발하는 부분을 맡아서 진행한 적이 있었다. 프롬프트 최적화를 진행하느라 프롬프트를 작성하고 API를 호출한 후 결과를 보는 작업을 반복하고 최종 프롬프트로 원하는 작업을 진행하기 위해 많은 양의 결과를 한 번에 요청했다가 중간에 에러가 발생하여 처음부터 다시 하는 등의 상황이 발생하여 많은 시간을 들이고 API 비용으로 많은 돈을 낭비하게 된 경험이 있다. LLM을 활용할 수 밖에 없는 요즘, 비용 최적화와 성능 최적화를 위한 설계 방법을 익힐 필요가 있음을 절실하게 느끼게 되었..