AI가 스스로를 만든다: Anthropic의 재귀적 자기개선(recursive self-improvement) 연구 현황

Anthropic이 AI가 자신의 코드와 학습 과정을 스스로 수정해 점점 더 향상된 버전을 만들어내는 '재귀적 자기개선(recursive self-improvement)'에 대한 연구 진행 상황을 공개했습니다. 이 개념은 AGI로 가는 핵심 단계 중 하나로, 한번 임계점을 넘으면 AI 발전 속도가 기하급수적으로 빨라질 수 있어 AI 안전 연구자들이 오랫동안 주목해온 주제입니다. Anthropic은 현재 어느 수준까지 자기개선이 가능한지, 그리고 이를 인간이 안전하게 통제하기 위한 방법론에 대한 초기 결과를 제시했습니다. 아직 완전한 자율적 자기개선에는 이르지 못했지만, 구체적인 진전을 공개했다는 점에서 업계의 주목을 받고 있습니다. HN에서 148점에 177개 댓글이 달리며 AGI 타임라인과 안전성을 둘러싼 활발한 토론이 이어졌습니다.