포텐간 고소 선언 보고 AI 실험에 빠져본 이야기

포텐간에서 결혼 안하는 여자특 계정 주인분이 고소 선언했다는 소식, 그 자체만으로도 하루 종일 떠들썩했는데 나는 그 와중에 새로 나온 Transformers. js 로 웹 브라우저에서 LLM 돌려보는 데 빠졌다. 일단 npm 으로 설치하고 간단히 코딩해보니 1초 안에 짧은 답변을 얻을 수 있었고, 로컬에서 바로 실행되는 걸 보니 클라우드 비용 걱정은 어느 정도 날아간 듯했다. 근데 아직도 GPU 없는 노트북에서 대용량 모델을 쓰면 속도가 느려서 실용성에 회의적인 사람들도 많다.

나는 이런 회의론을 ‘시작 단계라서’라고 받아넘기고, 다음 주에 ONNX 로 변환한 모델을 직접 테스트해볼 계획이다. 새 기술은 언제나 초기엔 불편함이 따르지만, 그 불편함을 넘어설 때가 가장 큰 변곡점이라고 믿는다. 예전엔 로컬에서 딥러닝 돌리는 게 거의 불가능했는데, 지금은 npm 하나면 충분하니 정말 시대가 바뀐 느낌이다. 다른 사람들은 ‘시간 낭비’라고 할 수도 있겠지만, 나는 직접 써보면서 배운 점이 곧 새로운 서비스 아이디어로 이어질 가능성을 봐서 더 흥미롭다.

어쨌든 오늘도 새 도구를 실험하며 ‘이거 진짜 쓸만하겠네’ 하는 생각에 웃음이 나와서, 내일도 또 뭔가 해볼까 하고 있다. 혹시 비슷하게 최근에 새 AI 툴 써보고 싶었던 사람 있으면, 서로 팁 공유해보자.