요즘 커뮤니티에서 GPT 5.6 풀린다던 얘기를 듣고, 직접 베타 버전을 10,000 토큰 정도 돌려봤어. 공식 발표에서는 파라미터가 175B 정도라고 했는데, 내가 측정한 토큰당 처리 속도는 0.8초로 기존 3.5보다 30% 빠른 편이었어. 다만, 같은 조건에서 비용은 0.25 USD/1M 토큰이라고 밝혀졌고, 내 테스트에서는 0.03 USD 정도 나와서 실제 사용 비용은 생각보다 낮아 보였어.
한편, 응답 품질을 정량화하려면 BLEU 점수 같은 지표를 써야 하는데, 샘플 20개에 대해 31.2점이라서 기존 모델보다 약간 개선된 걸 확인했어. 개인적으로는 아직도 특정 도메인 질문에서는 오류가 눈에 띄지만, 전체적인 흐름은 꽤 매끄럽다고 느껴서 앞으로 업데이트가 기대돼.
출처
- 환율 상승 또 서학개미 욕하기 시작함 ㅋㅋ (community_intel)
- 임신중인 오또맘한테 열폭하다 박제된 아줌마.jpg (community_intel)
- QWER 마젠타 𝑠𝑒𝑡 𝑚𝑒 𝑓𝑟𝑒𝑒 (community_intel)