GPU 빌리는 거 진짜 돈아깝다 생각했는데 계산해보니까 역전되는 순간이 있더라

8개월 동안 T4로만 모델 돌리다가 V100 빌려쓴 사람인데, 사실 하루 2만원대면 별 거 아닌 줄 알았어. 근데 지난주에 직접 한번 계산해보니까 내가 또라이였던 거지. 집에 있던 랙 서버 4대 전기세가 월 15만원 나오는데, 구글 콜라보 프로 2만원짜리 하루 6시간만 써도 동일 성능이고 전기도 안나옴. 여기서 한 발 더 나가서 Paperspace P5000 한 달 28만원 짜리 계속 쓰면 내가 한 달에 100시간 정도 쓰는 기준으로 서버 사고 유지비 붙일 때보다 16% 싸지더라.

물론 연산 더 붙일 수 있으면 다르겠지만, 개발이나 실험용으로만 쓰면 빌리는 게 효율적인 시점이 따로 있었음. 내 경우엔 주 40시간 작업 기준으로 1년 쓰면 차라리 빌리는 게 돈도 시간도 남았음. 진짜 온프레미스 유지비 숨겨진 거 많아서 고려하면 생각보다 빠르게 타협점 바뀜.