jtbc 용남 얘길 듣고 AI 플러그인 실험해봤어

어제 jtbc 용남이 1원도 안 간 적 없다는 얘길 보니까 뭔가 새로운 걸 해보고 싶더라고. 일단 브라우저에 Transformers. js랑 ONNX 모델을 끼워서 작은 챗봇을 만들었어. 처음엔 설정이 좀 복잡할까 싶었는데, 공식 npm 패키지 덕분에 몇 줄 코드만 넣으면 바로 동작하더라.

근데 실제 대화해보니 답변 속도가 눈에 띄게 빨라서, 평소에 쓰던 API 호출보다 훨씬 가볍게 느껴졌어. 아직은 정교함에서 부족하지만, 이런 식으로 로컬에서 바로 체험할 수 있다는 점이 큰 장점이라고 생각해. 앞으로는 더 다양한 언어 모델도 로드해보고, 개인 프로젝트에 직접 적용해볼 계획이야. 기술이 이렇게 빠르게 접근성을 높여주니, 새 아이디어가 떠오를 때마다 바로 시험해볼 수 있다는 게 너무 신나.