검색: prompt injection

🤖 AI / ML 일간 2026-07-09 06:01

GitLost: 깃허브 AI 에이전트를 속여 프라이빗 저장소를 유출시킨 사례

보안 업체 noma.security가 GitHub의 AI 에이전트를 상대로 진행한 침투 실험 결과를 'GitLost'라는 이름으로 공개했습니다. 연구팀은 프롬프트 인젝션(prompt injection) 기법을 활용해, 원래 접근 권한이 없어야 할 프라이빗(private) 저장소의 내용을 AI 에이전트가 스스로 노출하도록 유도하는 데 성공했다고 밝혔습니다. …

🤖 AI / ML 일간 2026-06-27 06:01

2,000명이 내 AI 어시스턴트를 해킹하려 했을 때 벌어진 일

한 개발자가 자신이 직접 만든 AI 어시스턴트를 공개한 후 약 2,000명이 해킹을 시도한 경험을 블로그에 상세히 기록했습니다. 실제 서비스를 운영해 본 개발자의 생생한 후기라는 점에서 Hacker News에서 337점과 156개의 댓글로 높은 관심을 받고 있습니다. AI 어시스턴트를 실제 사용자에게 노출하면 prompt injection, jailbrea…

🤖 AI / ML 일간 2026-06-07 06:01

Meta, AI 챗봇 악용으로 수천 개의 Instagram 계정 해킹 사실 공식 인정

Meta가 자사 AI 챗봇을 악용한 공격으로 수천 개의 Instagram 계정이 탈취됐다는 사실을 공식 확인했습니다. 공격자들은 Meta AI 챗봇을 소셜 엔지니어링(social engineering)의 통로로 활용해 사용자 정보를 수집하거나 피싱(phishing) 공격으로 유도하는 방식을 사용한 것으로 알려졌습니다. 이 사건은 AI 챗봇이 플랫폼에 깊이 …

🛰️ IT / 테크놀로지 주간 2026-05-25 06:16

해커들, AI 챗봇의 '성격'을 역이용하는 공격 방식 학습 중

The Verge의 주간 칼럼 'The Stepback'에서 AI 챗봇 보안의 새로운 흐름을 조명했습니다. 초기 AI 해킹이 단순한 프롬프트 인젝션(prompt injection)에 그쳤다면, 이제는 각 AI 모델이 가진 고유한 성격과 행동 패턴 자체를 공략하는 방식으로 진화하고 있습니다. 특정 모델이 '도움을 주려는 성향'이나 '특정 역할극에 몰입하는 특…

🤖 AI / ML 일간 2026-05-21 06:01

구글 AI 검색 결과가 조작당하고 있다 — 구글의 조용한 반격

BBC Future가 구글 AI 검색 결과가 외부의 조작 시도에 지속적으로 노출되고 있다는 심층 보도를 냈습니다. 악의적인 행위자들이 AI 시스템을 속여 원하는 정보를 상위에 노출시키거나 허위 정보를 유포하려는 시도가 증가하고 있습니다. 이는 전통적인 SEO 스팸과 유사하지만, prompt injection 등 AI 특유의 취약점을 노린다는 점에서 더욱 정…

🔎 검색