제미나이로 프로젝트 하다가 진짜 말아먹은 사람 있냐

회사에서 내부 문서 요약 프로젝트 할 때 GPT-4보다 제미나이가 저렴하길래 덥썩 쓰다가 끝장났음. 영어로된 기술 문서 1,200개 넣었더니 '이거 보안상 안 될 것 같아요' 하고 800개를 거절당함. 거기다 토큰 계산 알고리즘 이상한지 예상 2배이상 나옴. 프로젝트 기한 3일 남았을 때 실감함.

결국 피벗해서 오픈소스 Llama3 돌리면서 야근 48시간 한게 회심의 역작이긴 했는데, 덕분에 클라우드 요금 400만원 나옴. 저격글 쓰는 거 아니고 그냥 저렴하다는 말에는 숨겨진 비용이 있다는 얘기만 하고 싶음. 다음부터는 '클라우드 락인 끝? ' 이런 소리 나올까봐 안절부절하네 ㅋㅋ