하이더 알라위가 올린 트윗 요약하면 단순함. 지금껏 쌓아온 스케일링만으로는 더 이상 성능이 안 올라간다는 거. 즉, 모델 크기 키우고 데이터 더 밀어넣는 전략이 수렴점 찍었다는 신호.
실제로 GPT-4o 이후로 체감상 업데이트가 임팩트 없었잖아. 작은 개선들만 보이고, 눈에 띄는 지능 폭발은 안 나오지. 연구원들도 이제 두 가지 갈림길에 서있다. 더 좋은 데이터를 찾거나, 아예 새로운 아키텍처로 넘어가야 할 판.
벽에 부딪혔다는 말이 과장 아님. 지금 시점이 LLM 역사상 첫 번째 진짜 성장 둔화 구간으로 기록될 가능성 높다. 다음 돌파구가 나오기 전까진 큰 기대 금물.