🔎 검색

"jailbreak" 검색 결과 2건

• 🤖 AI / ML 일간 2026-06-27 06:01
  2,000명이 내 AI 어시스턴트를 해킹하려 했을 때 벌어진 일

  한 개발자가 자신이 직접 만든 AI 어시스턴트를 공개한 후 약 2,000명이 해킹을 시도한 경험을 블로그에 상세히 기록했습니다. 실제 서비스를 운영해 본 개발자의 생생한 후기라는 점에서 Hacker News에서 337점과 156개의 댓글로 높은 관심을 받고 있습니다. AI 어시스턴트를 실제 사용자에게 노출하면 prompt injection, jailbrea…

• 🤖 AI / ML 일간 2026-06-17 06:01
  '코드 고쳐줘' 한 마디에 당국이 발칵 — Fable 5 AI 보안 논란

  미국 연방 당국이 AI 모델 Fable 5(Claude 계열)에 단순히 "fix this code"라고 입력했을 때 크게 우려했다는 사실이 알려져 화제가 됐습니다. 연구자들은 이것이 탈옥(jailbreak) 기법을 쓴 게 아니라 지극히 평범한 프롬프트였다고 강조합니다. The Register가 보도한 이 사건은 HackerNews에서 518점 / 307 댓…