대기업들이 AI 모델을 API 호출 단가 내려주려고 그러는 거 보니까

친구가 요즘 회사에서 새로 나온 클라우드 AI 서비스 들고 와서 자랑을 하길래 한번 봤는데, 내가 생각했던 것보다 반값에 쓸 수 있길래 깜짝 놀랐음. 생각해보니 요즘 OpenAI o3나 Claude 3.7 시리즈들이 나오면서 경쟁이 미친 듯이 붙잖아. 거기다가 오픈소스 모델들이 일반화되면서 Microsoft가나 Google이나 '우리도 내부 모델 만들면서 동시에 가격 더 내릴 수 있다' 이러면서 마구마구 싸게 풀어버리는 거지. 예전에 GPT-4가 한 토큰에 몇 센트 하던 시절 생각하면 지금은 거의 착한 가격 수준이 됐음.

사실 개발자들한테는 이게 완전 기회야. 난 요즘 Next. js 프로젝트에다가 Hugging Face 모델 돌려서 작은 기능 하나 넣어보고 있는데 API 비용이 싸서 부담이 하나도 없더라고. 덕분에 실험 속도가 미친 듯이 붙어서 하루에 새로운 기능 3~4개씩 시도해보고 있음.

근데 이거 중소기업들한테도 기회지만, 돈 좀 있는 대기업들은 더 큰 비전 짜고 있을 것 같음. 요즘 듣는 소문으론 내년 초쯤에 대기업들이 GPT-4o급 모델을 직접 호스팅해서 내부 서비스에다가 붙인다는 얘기도 있던데 이게 진짜로 되면 생태계가 완전히 뒤집어질 거야. 암튼 지금이 API 단가 싸진 거 무시 못할 기회인 듯.