다건 ChatCompletion vs Batch

ChatCompletion처리에 대한 여러가지 상황 및 Batch 도입 실패기

Overview 최근 회사 업무를 진행하며 다건의 ChatCompletion을 처리해야 하는 업무를 수행하였습니다. 타이트한 일정 속에서 개발 구조를 고민하고, 프롬프트 수정 및 개발을 병행하는 한편, 데이터 전처리 파트와의 조율 등 여러 업무를 동시에 처리해야 했습니다. 충분한 시간을 가지고 꼼꼼하게 계획하지 못했던 점은 아쉬웠지만, 이 과정에서 성능 개선 옵션과 트러블슈팅을 통해 알게 된... [Read More]

UV 사용기

UV를 Nexus를 사용하여 dependency를 관리

Overview UV 사용기인데, 네트워크가 단절된, 소위 말하는 폐쇄망, 등등의 환경에서 개발을 하고 있다. 또한 pip를 이용한 패키지 관리를 하고 있는데 사내 Nexus를 이용하는데 requirements.txt 파일내 패키지 디펜던시 패키지 버전까지 명시가 되있지 않아 디펜던시 패키지 버전이 최신이 나올떄 최신을 떙기는 바람에? 사내 Nexus가 디스크가 풀이 차는? 상황에 의하여 이슈가 Sometimes 발생하고... [Read More]
Tags: UV Python

JQuery

짧고 간단하게 Jquery에 관하여

Overview 매우 오랜만에 작성하는 글, 중간에 여러 가지 일이 많앗다, 그리고, 갑자기 AI시대의 도래에 맞춰서 AI BackEnd Engineer 직무를 수행중이다. 작년 이떄쯤 부서 이동하게 되면서 AI 관련 업무를 수행하게 되었는데, 그와중에 개발한 서비스들은 혁신금융서비스로 지정되기도 하고 감회가 새롭다. 중간에 Pyhton도 하게되고, 여전히 Spring Framework(SpringBoot) 기반 웹어플리케이션 개발을 하기도하고, 각설하고, 계정계/기간계/사무계... [Read More]