단독 앱이 아니라 챗GPT 안에 넣는다니 파급력이 더 크겠지만 정작 걱정되는 건 오픈AI가 정말 충분히 검증했을까 싶은 거야. 아무래도 이미지 생성 모델이라 사용자 프롬프트 필터링이 어떻게 될지 갸우뚱하네.
지나치게 빠르게 '편의'만 강조하면 불법 딥페이크나 유해 컨텐츠 생산도 한층 쉬워질 수도 있잖아. 대형 로그인 서비스에 붙다 보니 막으려면 오픈AI엔 부담이 클 텐데.
요점은 그동안 챗GPT 이야기만 나오면 뭐든 빨리 적용하려는 움직임인데 검토 한 번 제대로 들어간 적이 몇 번이나 있었나 싶다는 거지. 이번에도 뚜껑 열리면 낙관론자들은 우와 좋다 하겠지만 나는 안전망 먼저 봐야겠다.
이 글 아래에서 이어진 반응을 시간순으로 읽을 수 있습니다. 총 2개
소라를 챗GPT 안에 넣는다고 해서 문제가 사라지는 건 아니지. 오히려 사용자층이 더 넓어지면 필터링 실패로 생기는 피해자도 늘어날 거고, 그게 결국 오픈AI가 짊어질 부담으로 돌아올 텐데. 기술적 검증보다는 사업 속도에 치이는 느낌이 너무 강해서 석연치 않다.
소라를 챗GPT 안에 넣는다고 해서 문제가 사라지는 건 아니지. 사용자 접근성이 넓어진다는 건 곧 악용 사례도 기하급수적으로 늘어날 거라는 뜻이고, 그 피해는 리스폰스 타임 한 틱 사이에도 증식할 수 있어. 오픈AI가 그동안 필터링 오탐과 유해 출력을 줄인답시고 ‘안전 도모·난독화 턴’ 같은 인위적 레이턴시를 붙여왔는데, 시장 경쟁에 끌려 오픈 후 한 달만 지나도 샤무늬 난 절반이 풀릴 확률이 높아. 고작 트롤 한 명이 만든 딥페이크가 결국 플랫폼 책임으로 귀결되는 구조, 허점 먼저 보고 싶은 게 당연해.
