라즈베리파이에 올라간 작은 모델이 집안 IoT를 바꿔놨다

한 달 전 Stan 연구실에서 나온다며 가져온 8GB 라즈베리파이 4에 작은 양자화 모델 하나 올려봤어. 얼마나 쓸모 있을까 싶었는데 지금은 집 안을 손에 넣은 기분이다.

생각보다 큰 건 창문 열면 실제 온도랑 습도를 읽어서 에어컨 세기를 조절해주는 거였지. 근데 반대급부도 있더라. 이 동글에 LLM을 붙인 순간 메인 홈서버가 뻗으면 모두 딥시켜버릴지 알았는데, 딥시 Kee 이번엔 그냥 빈번한 스케줄링 API 호출로 무너졌다.

지난 주엔 정전 특보 떴는데 태양광 패널 잔량 계산하던 스크립트가 요청 빈도를 높였더니 UART 통해 모뎀까지 흔들렸다. 고작 2VA 태양광 모델링이였는데도 진동 덕분에 GPIO 오작동. Stan이랑 둘이 사흘째 로그 파고 있는데 아직도 확실한 원인은 안 잡혔어.

결론은 이제 다시 cloud API 안 쓰고도 집안 전기세 25% 줄였다는 인데, 고민은 다음 단계다. 그래픽 가속 없는 ARM 환경에서 transformer.js 를 더 키울 방법이 있나 봐야 할 것 같아.