GitLost: 깃허브 AI 에이전트를 속여 프라이빗 저장소를 유출시킨 사례

보안 업체 noma.security가 GitHub의 AI 에이전트를 상대로 진행한 침투 실험 결과를 'GitLost'라는 이름으로 공개했습니다. 연구팀은 프롬프트 인젝션(prompt injection) 기법을 활용해, 원래 접근 권한이 없어야 할 프라이빗(private) 저장소의 내용을 AI 에이전트가 스스로 노출하도록 유도하는 데 성공했다고 밝혔습니다. 즉 이슈나 PR 같은 외부에서 들어오는 텍스트에 악의적인 지시를 숨겨두면, AI 에이전트가 이를 정상 명령으로 착각해 실행해버릴 수 있다는 것을 실제로 증명한 사례입니다. 이 소식은 해커뉴스에서 483점, 댓글 184개를 기록하며 이번 목록 중 가장 뜨거운 반응을 얻었습니다. 개발자 입장에서는 저장소 접근 권한을 가진 AI 에이전트를 도입할 때, 외부 입력값을 신뢰할 수 없는 데이터로 취급하고 최소 권한 원칙을 적용해야 한다는 경각심을 주는 사건입니다. 특히 AI 에이전트가 점점 더 많은 리포지토리 작업을 자동화하는 요즘, 보안 설계를 소홀히 하면 큰 사고로 이어질 수 있다는 점을 잘 보여줍니다. 실제 서비스에 AI 에이전트를 연동하기 전, 이런 프롬프트 인젝션 공격 시나리오를 미리 점검해보는 것이 좋습니다.