검색: alignment

🤖 AI / ML 일간 2026-05-26 06:01

sapientinc, 계층적 추론(Hierarchical Reasoning) 구조 채택한 언어 모델 'HRM-Text-1B' 공개

sapientinc가 계층적 추론(Hierarchical Reasoning) 구조를 도입한 새로운 언어 모델 HRM-Text-1B를 공개했습니다. 기존 autoregressive 방식과 달리 prefix-LM 아키텍처를 채택해 다층적인 추론 단계를 명시적으로 처리하는 것이 특징입니다. 1B 파라미터의 비교적 작은 모델임에도 불구하고 공개 직후 9만 회 이상…

🤖 AI / ML 월간 2026-05-01 07:21

월간 AI / ML 종합

4월은 AI 에이전트와 LLM 기술의 실무화·대중화가 급속진행되는 한편, Claude Code 신뢰성 위기, 보안 침해, 저작권·안전성 논쟁 등으로 AI 산업의 근본적 과제들이 부각된 달입니다. 기술 발전의 가속화와 윤리·정책적 우려의 심화 사이에서 AI 산업이 한 단계의 전환기를 맞이하고 있습니다. ## 1. AI 에이전트 기술의 실무화 가속화 및 안전…

🤖 AI / ML 일간 2026-05-01 07:00

LLM을 Fine-tuning할 때 저작권 있는 도서의 내용이 모델 내에 숨어있다가 다시 활성화되는 현상이 보고되었습니다. 이는 AI 모델의 안전성(Alignment)을 강화하려는 노력이 마치 "두더지 잡기" 게임처럼 예상 밖의 부작용을 야기할 수 있음을 시사합니다. 해당 연구 결과는 GitHub 저장소로 공개되었으며, Hacker News에서 186개의 …

🔎 검색