검색: transparency

🤖 AI / ML 일간 2026-06-23 09:04

Claude Code의 'Extended Thinking' 출력이 실제 사고 과정이 아니라는 주장 (HN 265점)

Hacker News에서 265점을 받으며 185개의 댓글이 달린 화제의 글입니다. 작성자는 Claude Code의 'Extended Thinking' 기능이 보여주는 텍스트가 실제 모델의 내부 추론 과정을 그대로 노출하는 것이 아닐 수 있다고 주장합니다. 많은 개발자들이 이 기능을 통해 AI가 '어떻게 생각하는지' 들여다볼 수 있다고 믿어왔기 때문에, 이…

🤖 AI / ML 일간 2026-06-12 06:01

Anthropic, Claude Fable의 숨겨진 가드레일 문제 공식 사과

Anthropic이 최근 출시한 Claude Fable 모델에 사용자에게 공개되지 않은 '보이지 않는 distillation guardrail'이 탑재되어 있었다는 사실이 밝혀져 공식 사과문을 발표했습니다. 이 가드레일은 모델의 출력 방식에 암묵적으로 영향을 주지만, 사용자나 개발자가 시스템 프롬프트나 문서를 통해 인지할 수 없는 방식으로 작동하고 있었습니…

🤖 AI / ML 일간 2026-05-08 07:01

Claude의 생각을 텍스트로 변환하는 자연어 자동인코더

Anthropic이 발표한 Natural Language Autoencoders 연구는 Claude 같은 대형언어모델(LLM)의 내부 사고 과정을 해석 가능한 텍스트로 변환하는 기술입니다. 이 기술은 AI 모델의 '블랙박스' 특성을 해결하려는 해석가능성(interpretability) 분야의 중요한 진전입니다. 모델이 어떻게 생각하고 결정하는지를 더 잘 이…

🤖 AI / ML 월간 2026-05-01 07:21

월간 AI / ML 종합

🔎 검색