DiffusionGemma: 텍스트 생성 속도를 4배 끌어올린 Google의 새로운 시도

Google이 이미지 생성에서 널리 쓰이던 diffusion 기법을 텍스트 생성에 적용한 DiffusionGemma를 공개했습니다. 기존 언어 모델은 토큰을 하나씩 순차적으로 생성하는 자동회귀(autoregressive) 구조 특성상, 텍스트가 길어질수록 지연이 늘어나는 구조적 한계가 있었습니다. DiffusionGemma는 이 병목을 근본적으로 다른 방식으로 해소해 기존 Gemma 대비 최대 4배 빠른 생성 속도를 달성했다고 밝혔습니다. 실제 서비스에서 응답 속도는 사용자 경험에 직결되기 때문에, 품질을 유지하면서 속도를 4배 높인다는 것은 상당히 의미 있는 진전입니다. HN 커뮤니티에서는 이 기술적 방향성에 대한 높은 관심과 함께 실제 벤치마크에서의 품질·속도 트레이드오프, 그리고 diffusion 방식이 언어 모델의 미래 주류가 될 수 있는지에 대한 논의도 활발하게 이루어지고 있습니다.