커뮤니티 보니까 ChatGPT가 10초만에 틀리는 사례들이 하도 많아서 이번에 한 번 실험해봤어요. 제가 아는 분야에서 고의로 함정 질문을 만들어서 던졌는데, GPT는 자신감 있게 엉터리 답변을 내놓더라고요. 처음에는 '아 역시 AI도 한계가 있구나' 싶었는데, 계속 써보면서 이상한 패턴이 보였어요. 틀릴 때 대부분 '확실하다' '분명하다' 이런 단어로 시작하면서도 결국 틀리는 경우가 많더라고요. 요즘 사람들이 AI를 쓰면서 제일 큰 착각이 뭔지 아세요?
AI가 틀리면 당연한 거라고 생각하는 거예요. 근데 제가 회사에서 쓰고 있는 다른 툴들 보면, 계산기도 틀릴 때 있고, 검색엔진도 잘못된 정보 줍니다. 문제는 우리가 AI에게만 '완전'을 기대한다는 거죠. ChatGPT를 쓸 때 진짜로 위험한 건 AI의 오류가 아니라, 인간이 AI의 자신감 있는 톤에 당연하게 넘어가는 버릇이더라고요. 이거 제발 모르는 분야에서만 생기는 게 아니라, 전문가인 지식 분야에서도 종종 있으니까 조심하세요.