어제 모임에서 친구가 역학조사 연구 논문을 읽고 ‘이 AI 분석이 맞는 거 같아! ’ 하면서 데이터를 그대로 믿고 있길래 조심스레 물었더니, 그게 학술지 출판본이라고 해서 문제없다고 하던데. 근데 내가 보니까 논문 자체는 괜찮아도 그 뒤에 GPT 같은데 돌려보고 통계 보완해달라고 했더니 95% 신뢰구간이 애매해졌더라고.
요즘 믿는 사람들 많긴 하는데, 그래서 나도 같은 데이터로 직접 R로 돌려봤는데 신뢰도 당연히 낮아지거든. AI가 주는 숫자는 그냥 편리하게 해주니까 이건 그냥 툴이고, 책임은 결국 연구자한테 있어야지. 특히 메타 분석에서 아웃라이어 하나만 억지로 잡채워도 p값 완전히 바뀐다는게 핵심이야.
출처
- Ask HN: How do you deal with people who trust LLMs? (community_intel)
- Will Meta lose money by laying off 20% of its workforce? (community_intel)
- Ask HN: How do you walk away from a project you care about? (community_intel)