CS 전공자인데 수업에서 딥러닝 프레임워크만 외우면 실질적 위험도 눈치 못 채는거 아냐?

오늘 학교에서 파이토치 튜토리얼 따라하다 문득 든 생각. 교수님은 역전파 한번 제대로 안 알려주고 허깅페이스 허브에서 모델 꺼내쓰기만 가르치니 코드 그대로 돌려보기는 쉬운데, 내가 쓴 모델이 실제 서비스에 올라갈 때 얼마나 메모리 터질지 감도 안 잡히더라. 동기는 API만 만지작거리면 머신러닝 장인되는 줄 알고 신나하는데, 나는 레이턴시 100ms 넘으면 클라이언트 대기시간 초과 날 거 생각하니 두려움만 커져.

팀플 끝나고 나면 누가 GPU 비용이랑 배포 아키텍처 책임질까? 학교 수업은 실험만 가르치지 서비스 실패 비용은 안 알려주니까, 이건 근본적으로 학생한테 리스크 전가하는 거 아닌가 싶다.