๐ ๊ฒ์
"llm" ๊ฒ์ ๊ฒฐ๊ณผ 50๊ฑด
-
AI ์ฌ์ฉ ์ฆ๊ฐ์ ๋ฒํด๋ฆฌ CS ์์
๋์ ์จ ๊ธ์ฆ, ์ํ ์ค๋ ฅ๋ ํ๋ฝ
UC Berkeley ์ปดํจํฐ๊ณผํ๊ณผ ๊ต์๋ค์ด ํ์๋ค์ AI ๋๊ตฌ ์์กด๋๊ฐ ๋์์ง๋ฉด์ ๋์ ์จ์ด ๊ธ์ฆํ๊ณ ๊ธฐ์ด ์ํ ์ค๋ ฅ์ด ๋๋ ทํ๊ฒ ์ ํ๋๊ณ ์๋ค๊ณ ๊ฒฝ๊ณ ํ์ต๋๋ค. ChatGPT๋ Claude ๊ฐ์ ์์ฑํ AI๊ฐ ๊ณผ์ ๋ฅผ ๋์ ํด๊ฒฐํด์ฃผ๋ค ๋ณด๋, ํ์๋ค์ด ์ง์ ๋ฌธ์ ๋ฅผ ํ๊ณ ์ฌ๊ณ ํ๋ ํ๋ จ์ ๋ฐ์ง ๋ชปํ๋ ํ์์ด ๋ํ๋๊ณ ์์ต๋๋ค. ๋จ๊ธฐ์ ์ผ๋ก๋ ๊ณผ์ ์ ์ถ์ด ํธํด ๋ณด์ด์ง๋ง,โฆ
-
LLM์๊ฒ $1,500 ๋ค์ฌ ๋ด ์ฑ ํดํน์ ์์ผ๋ดค๋๋
๊ฐ๋ฐ์ Kasra๊ฐ SQL injection, XSS, ์ธ์ฆ ์ฐํ ๋ฑ ๋ค์ํ ์ทจ์ฝ์ ์ ์๋์ ์ผ๋ก ์ฌ์ ์น ์ ํ๋ฆฌ์ผ์ด์ ์ ์ง์ ๋ง๋ค๊ณ , ์ฌ๋ฌ LLM์ด ์ค์ ๋ก ์ด ์ฑ์ ํดํนํ ์ ์๋์ง ์ฝ $1,500์ ๋ค์ฌ ์คํํ ๊ฒฐ๊ณผ๋ฅผ ๊ณต์ ํ์ต๋๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก LLM๋ค์ SQL injection, XSS์ฒ๋ผ ํจํด์ด ๋ช ํํ ๊ธฐ์ด ์ทจ์ฝ์ ์ ๊ฝค ์ ํ์งํ์ง๋ง, ๋ณต์กํ ๋น์ฆ๋์ค โฆ
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ โ ๋ค์ด๋ก๋ 580๋ง ํ ๋ํ
DeepSeek์ ์ ํ๋๊ทธ์ญ ๋ชจ๋ธ DeepSeek-V4-Pro๊ฐ HuggingFace์์ ํธ๋ ๋ฉ 1์์ ์ค๋ฅด๋ฉฐ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. ์ถ์ ์งํ ๋ค์ด๋ก๋ 580๋ง ํ, ์ข์์ 4,594๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ญ๋๊ธ ๋ฐ์์ ๋์ด๋ด๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ์ด ์์ ๋กญ๊ณ , fp8 ์ ๋ฐ๋์ 8๋นํธ ์์ํ๋ฅผ ์ง์ํด ๋น๊ต์ ์ ์ VRAM์ผ๋กโฆ
-
์๊ฐ IT / ํ
ํฌ๋๋ก์ง ์ข
ํฉ
5์ ํ ๋ฌ๊ฐ AI ์์ด์ ํธ์ ์์ ๋ฌธ์ ๊ฐ ์ด๋ก ์์ ํ์ค๋ก ์ง์ ํ๊ณ , ๋ณด์ยทํ๋ผ์ด๋ฒ์ ์ํ์ด ์ธํ๋ผ์ ์ ์ฑ ์ ๋ฐ์ผ๋ก ํ์ฐ๋๋ค. EU ๊ท์ ์ ์คํ์์ค ์ฐ๋๊ฐ ๊ธฐ์ ์ํ๊ณ์ ๊ท ํ์ถ ์ญํ ์ ์ด์ด๊ฐ๋ ํํธ, ํ๋ซํผ ๊ธฐ์ ๋ค์ ์์ต ๋ชจ๋ธ ์ ํ๊ณผ ๊ฐ๋ฐ ์ธํ๋ผยทUX ํจ๋ฌ๋ค์์ ์ฌ๊ฒํ ๊ฐ ์ด๋ฌ์ ๊ดํตํ๋ ์ฃผ์ ํ๋ฆ์ด์๋ค. ## 1. AI ์์ด์ ํธ, ์ ์ฝ์ ๋๋ค โ ์์ ๊ณผ โฆ
-
Raspberry Pi AI Camera๋ก ์ฃ์ง์์ LLM ๊ตฌ๋ํ๊ธฐ
Raspberry Pi AI Camera์ LLM์ ๊ฒฐํฉํด ๋ฌผ๋ฆฌ์ ์ธ๊ณ์ ์ธ์ด ๊ธฐ๋ฐ AI ์์คํ ์ ์ฐ๊ฒฐํ๋ ๋ฐฉ๋ฒ์ ์๊ฐํ๋ ๊ฐ์ด๋๊ฐ ๊ณต๊ฐ๋์ต๋๋ค. ์นด๋ฉ๋ผ์ ๋น์ ์ธ์ ๊ธฐ๋ฅ๊ณผ LLM์ ์์ฐ์ด ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ํจ๊ป ํ์ฉํ๋ฉด ํด๋ผ์ฐ๋ ์์ด๋ ์ฃ์ง์์ ์ง๋ฅํ ์์คํ ์ ๊ตฌํํ ์ ์์ต๋๋ค. IoT ํ๋ก์ ํธ์ AI๋ฅผ ์ง์ ์ ๋ชฉํ๊ณ ์ถ์ ๋ฉ์ด์ปค๋ค์๊ฒ ์ข์ ์ถ๋ฐ์ ์ด ๋ ๊ฒ์ โฆ
-
OpenRouter, ์๋ฆฌ์ฆ B ํฌ์ ์ ์น๋ก 1์ต 1,300๋ง ๋ฌ๋ฌ ํ๋ณด
OpenRouter๊ฐ ์๋ฆฌ์ฆ B ๋ผ์ด๋์์ 1์ต 1,300๋ง ๋ฌ๋ฌ(์ฝ 1,560์ต ์) ํฌ์ ์ ์น์ ์ฑ๊ณตํ๋ค๊ณ ๊ณต์ ๋ฐํํ์ต๋๋ค. OpenRouter๋ Claude, GPT-4, Gemini ๋ฑ ์์ญ ์ข ์ LLM์ ๋จ ํ๋์ API ์๋ํฌ์ธํธ๋ก ์ฌ์ฉํ ์ ์๊ฒ ํด์ฃผ๋ AI ์ธํ๋ผ ์๋น์ค์ ๋๋ค. ๋ชจ๋ธ๋ณ๋ก API ๊ณ์ฝ์ ๋ฐ๋ก ๋งบ๊ณ ํค๋ฅผ ๊ด๋ฆฌํ๋ ๋ฒ๊ฑฐ๋ก์ ์์ด,โฆ
-
DeepSeek-V4-Pro ๊ณต๊ฐ ์ฆ์ HuggingFace ํธ๋ ๋ฉ 1์ โ 590๋ง ๋ค์ด๋ก๋ ๋ํ
DeepSeek๊ฐ ์ต์ ๋ชจ๋ธ DeepSeek-V4-Pro๋ฅผ HuggingFace์ ๊ณต๊ฐํ์๋ง์ ๋ค์ด๋ก๋ ์ 590๋ง ํ, ์ข์์ 4,400๊ฐ ์ด์์ ๊ธฐ๋กํ๋ฉฐ ํญ๋ฐ์ ์ธ ๋ฐ์์ ์ป๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํนํ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. 8-bit ๋ฐ fp8 ์์ํ๋ฅผ ์ง์ํด ๋ค์ํ ํ๋์จ์ด ํ๊ฒฝ์์๋ ์ ์ฐํ๊ฒ ์ฌ์ฉโฆ
-
AI๊ฐ ํ๋ก ํธ์๋์ '์์ด๋ฒ๋ฆฐ 10๋
(lost decade)'์ ๋ฐ๋ณตํ๊ฒ ๋ง๋ค๊ณ ์์๊น?
AI ์ฝ๋ฉ ๋๊ตฌ๋ค์ด ํ๋ก ํธ์๋ ๊ฐ๋ฐ์ ๊ฐ์ ธ์ค๋ ๋ณํ๊ฐ ๊ณผ๊ฑฐ '์์ด๋ฒ๋ฆฐ 10๋ (frontend's lost decade)'๊ณผ ๋ฎ์๊ฐ๊ณ ์๋ ๊ฑด ์๋๊น ํ๋ ๋๋ฐ์ ์ธ ์ง๋ฌธ์ ๋์ง ๊ธ์ด์์. Hacker News์์ 226์ ๊ณผ ๋ฌด๋ ค 201๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ์ฃผ ๊ฐ์ฅ ๋จ๊ฑฐ์ด ํ ๋ก ์ฃผ์ ์ค ํ๋๊ฐ ๋์ต๋๋ค. 'ํ๋ก ํธ์๋์ ์์ด๋ฒ๋ฆฐ 10๋ '์ด๋ FlashยทjQโฆ
-
์ผ๋ฐ GPU์์ ์์ฒญ๋น 3,000 tokens/s ๋ฌ์ฑ โ ์ค์๊ฐ LLM ์ถ๋ก ์ ์ ๊ธฐ์ค
์ ์ฉ AI ๊ฐ์๊ธฐ ์์ด ์ผ๋ฐ(standard) GPU๋ง์ผ๋ก ์์ฒญ๋น ์ด๋น 3,000 ํ ํฐ ์ฒ๋ฆฌ๋ฅผ ์คํํ๋ค๋ ๊ธฐ์ ๋ธ๋ก๊ทธ ๊ธ์ด Hacker News์์ 187์ , 84๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ด์. LLM ์ถ๋ก ์๋ ๋ฒค์น๋งํฌ์์ ์ด ์์น๋ ๊ฝค ์ธ์์ ์ธ๋ฐ, ํนํ A100ยทH100 ๊ฐ์ ๊ณ ๊ฐ์ ์ ์ฉ GPU ์์ด๋ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํต์ฌ์ ๋๋ค. ์ง๊ธ๊น์ง โฆ
-
Mistral AI Now ์๋ฐ ํ์ฅ ๋
ธํธ (ํ๋ฆฌ)
ํ๋ฆฌ์์ ์ด๋ฆฐ Mistral AI Now ์๋ฐ์ ์ฐธ์ํ ๊ฐ๋ฐ์๊ฐ ์ง์ ์์ฑํ ํ์ฅ ๋ ธํธ๊ฐ Hacker News์์ 255์ ์ ๊ธฐ๋กํ๋ฉฐ ํฐ ํ์ ๋ฅผ ๋ชจ์์ด์. 65๊ฐ์ ๋๊ธ์ด ๋ฌ๋ฆด ๋งํผ AI ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์ ๊ด์ฌ๋ ๋จ๊ฑฐ์ ์ต๋๋ค. Mistral AI๋ ํ๋์ค์ ๋ณธ์ฌ๋ฅผ ๋ ์ ๋ฝ ๋ํ AI ์คํํธ์ ์ผ๋ก, ์คํ์์ค LLM ์ํ๊ณ์์ ๋ ์์ ์ธ ์กด์ฌ๊ฐ์ ํค์์จ ํ์ฌ์์โฆ
-
์ต์ ์ LLM๋ค, ์ค์ ํฉํธ์ฒดํฌ์์ ์๋ก ๋ค๋ฅธ ๋ต๋ณ ๋ด๋๋๋ค
lenz.io์ ์ฐ๊ตฌ ๊ฒฐ๊ณผ์ ๋ฐ๋ฅด๋ฉด ํ์ฌ ์ต์์ ์์ค์ LLM๋ค์ด ๋์ผํ ์ค์ ์ฌ์ค ๊ด๊ณ ์ง๋ฌธ์ ์๋ก ์๊ฐ๋ฆฐ ๋ต๋ณ์ ๋ด๋๋๋ค๋ ์ฌ์ค์ด ๋ฐํ์ก์ต๋๋ค. Hacker News์์ ์ ์ 472์ , ๋๊ธ 329๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ํฐ ํ์ ๋ฅผ ๋ชจ์ ์ด ์ฐ๊ตฌ๋ AI ์ ๋ขฐ์ฑ ๋ฌธ์ ๋ฅผ ๋ค์ ํ๋ฒ ์๋ฉด ์๋ก ๋์ด์ฌ๋ ธ์ต๋๋ค. ๊ฐ ๋ชจ๋ธ์ด '์ฌ์ค'์ด๋ผ๊ณ ์ฃผ์ฅํ๋ ๋ด์ฉ์ด ๋ค๋ฅธ ๋ชจ๋ธ์ ์ฃผ์ฅ๊ณผโฆ
-
Anthropic, Claude Opus 4.8 ๊ณต์ ์ถ์
Anthropic์ด ์ต์ ํ๋๊ทธ์ญ ๋ชจ๋ธ Claude Opus 4.8์ ๊ณต์ ๋ฐํํ์ต๋๋ค. ์ด๋ฒ ๋ฐํ๋ Hacker News์์ ์ ์ 941์ , ๋๊ธ 746๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ค๋ ์์ง๋ ๋ด์ค ์ ์ฒด๋ฅผ ํตํ์ด ๊ฐ์ฅ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ต๋๋ค. Claude Opus ๊ณ์ด์ Anthropic์ด ๋ด๋๋ ์ต๊ณ ์ฑ๋ฅ ๋ผ์ธ์ ์ผ๋ก, ์ ๋ฒ์ ์ด ๋ฑ์ฅํ ๋๋ง๋ค ์ ์ธ๊ณ ๊ฐ๋ฐ์์ ์ฐ๊ตฌโฆ
-
LLM์๋ ์๋ฉด ์ค ๊ธฐ์ต ํตํฉ๊ณผ ์ ์ฌํ ๋ฉ์ปค๋์ฆ์ด ๊ฐ๋ฅํ๋ค๋ ์ฐ๊ตฌ ๋ฑ์ฅ
์ธ๊ฐ์ ๋๊ฐ ์ ์๋ ๋์ ๋ฎ์ ๋ฐฐ์ด ์ ๋ณด๋ฅผ ์ฅ๊ธฐ ๊ธฐ์ต์ผ๋ก ์ ๋ฆฌยทํตํฉํ๋ ๊ฒ์ฒ๋ผ, LLM์๋ ๋น์ทํ '์๋ฉดํ ๊ธฐ์ต ํตํฉ(sleep-like consolidation)' ๋ฉ์ปค๋์ฆ์ ์ ์ฉํ ์ ์๋ค๋ ๋ ผ๋ฌธ์ด arxiv์ ๊ณต๊ฐ๋์ต๋๋ค. ์ด ์ฐ๊ตฌ๋ LLM์ด ์๋ก์ด ๋ด์ฉ์ ํ์ตํ ๋ ๊ธฐ์กด์ ์๋ ๊ฒ์ ์์ด๋ฒ๋ฆฌ๋ 'ํ๊ตญ์ ๋ง๊ฐ(catastrophic forgettingโฆ
-
AI๋ฅผ ์ฐ๋ฉด ์ฝ๋๋ฅผ ๋ ์ฒ์ฒํ ์ง๊ฒ ๋๋ค โ ํ์ง๋ง ๋ ์ ์ง๊ฒ ๋๋ค
AI ์ฝ๋ฉ ๋๊ตฌ๋ฅผ ์ฐ๋ฉด ๊ฐ๋ฐ ์๋๊ฐ ๋นจ๋ผ์ง ๊ฒ ๊ฐ์ง๋ง, ์ค์ ๋ก๋ ์คํ๋ ค ๋ ๋๋ ค์ง ์ ์๋ค๋ ํฅ๋ฏธ๋ก์ด ๊ด์ ์ ๋ด์ ๊ธ์ด Hacker News์์ 1,100์ ์ด์, 400๊ฐ ๋๋ ๋๊ธ์ ๋ฐ์ผ๋ฉฐ ํฐ ๋ฐํฅ์ ์ผ์ผ์ผฐ์ต๋๋ค. ์ ์๋ AI๊ฐ ์์ฑํ ์ฝ๋๋ฅผ ๋ฌด๋นํ์ ์ผ๋ก ๋ถ์ฌ๋ฃ๊ธฐ ํ๋ ๋์ , ํ ์ค ํ ์ค ์ ๋๋ก ์ดํดํ๊ณ ๊ฒํ ํ๋ ์ต๊ด์ ๋ค์ด๋ฉด ์๋๋ ๋๋ ค์ง์ง๋ง ์ฝ๋ โฆ
-
Tencent, ํ๊ตญ์ด ํฌํจ 40๊ฐ ์ธ์ด ์ง์ ๋ฒ์ญ ํนํ LLM 'Hy-MT2' ์๋ฆฌ์ฆ ๊ณต๊ฐ
ํ ์ผํธ๊ฐ 40๊ฐ ์ด์์ ์ธ์ด๋ฅผ ์ง์ํ๋ ๋ฒ์ญ ํนํ LLM ์๋ฆฌ์ฆ Hy-MT2๋ฅผ HuggingFace์ ๊ณต๊ฐํ์ต๋๋ค. 1.8B ํ๋ผ๋ฏธํฐ์ ๊ฒฝ๋ dense ๋ชจ๋ธ(Hy-MT2-1.8B)๊ณผ 30B-A3B ๊ท๋ชจ์ ๋ํ ๋ชจ๋ธ(Hy-MT2-30B-A3B) ๋ ๊ฐ์ง ๋ฒ์ ์ผ๋ก ์ถ์๋์์ต๋๋ค. ํ๊ตญ์ด(ko)๋ฅผ ํฌํจํด ์์ด, ์ค๊ตญ์ด, ์ผ๋ณธ์ด, ์๋์ด, ํ๋์ด ๋ฑ ์ฃผ์ ์ธ์ด๋ฅผ โฆ
-
DeepSeek Reasonix: ๋์ ์บ์ฑ ํจ์จ๊ณผ ์ ๋น์ฉ์ ๋ค์ดํฐ๋ธ ์ฝ๋ฉ agent ๊ณต๊ฐ
DeepSeek๊ฐ ์์ฒด ์ฝ๋ฉ agent์ธ Reasonix๋ฅผ ๊ณต๊ฐํด Hacker News์์ 321์ , ๋๊ธ 160๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ปค๋ฎค๋ํฐ์ ๋จ๊ฑฐ์ด ์ฃผ๋ชฉ์ ๋ฐ๊ณ ์์ต๋๋ค. Reasonix๋ DeepSeek ๋ชจ๋ธ์ ๊ธฐ๋ฐ์ผ๋ก ๋์ํ๋ ๋ค์ดํฐ๋ธ ์ฝ๋ฉ agent๋ก, ๋์ ์บ์ฑ ํจ์จ๊ณผ ๋ฎ์ ๋น์ฉ์ ํต์ฌ ํน์ง์ผ๋ก ๋ด์ธ์๋๋ค. ๊ธฐ์กด LLM ๊ธฐ๋ฐ ์ฝ๋ฉ ๋๊ตฌ๋ค์ API ํธ์ถ โฆ
-
Claude๋ ๋น์ ์ ์ํคํ
ํธ๊ฐ ์๋๋๋ค โ LLM์ ์ค๊ณ ๊ฒฐ์ ์ ๋งก๊ธฐ๋ ๊ฒ์ ์ํ์ฑ
"Claude๋ ๋น์ ์ ์ํคํ ํธ๊ฐ ์๋๋๋ค. AI๊ฐ ๊ทธ๋ฐ ์ฒํ๋๋ก ๋ด๋ฒ๋ ค ๋์ง ๋ง์ธ์"๋ผ๋ ๊ธ์ด Hacker News์์ 166์ , 111๊ฐ์ ๋๊ธ๋ก ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ต๋๋ค. ์ ์๋ ๊ฐ๋ฐ์๋ค์ด Claude ๊ฐ์ LLM์ ์ํํธ์จ์ด ์ํคํ ์ฒ ๊ฒฐ์ ์ ์ง๋์น๊ฒ ์์ํ๋ ๊ฒฝํฅ์ ๋นํํฉ๋๋ค. AI๋ ์ฝ๋ ์์ฑ์ด๋ ํน์ ๋ฌธ์ ํด๊ฒฐ์๋ ๋งค์ฐ ์ ์ฉํ์ง๋ง, ์์คํ ์ ์ฒด์โฆ
-
Antigravity 2.0, OpenSCAD ์ํคํ
์ฒ 3D LLM ๋ฒค์น๋งํฌ 1์ ๋ฌ์ฑ
modelrift.com์ด ๊ณต๊ฐํ OpenSCAD ์ํคํ ์ฒ 3D LLM ๋ฒค์น๋งํฌ์์ Antigravity 2.0 ๋ชจ๋ธ์ด 1์๋ฅผ ๊ธฐ๋กํ๋ค๋ ์์์ด Hacker News์์ 312์ , 121๊ฐ์ ๋๊ธ์ ๋ฐ์ผ๋ฉฐ ์ฃผ๋ชฉ๋ฐ์์ต๋๋ค. OpenSCAD๋ ์ฝ๋๋ก 3D ๋ชจ๋ธ์ ์ง์ ํ๋ก๊ทธ๋๋ฐํ๋ ์คํ์์ค ๋๊ตฌ์ธ๋ฐ, LLM์ด ์ด๋ฅผ ์ผ๋ง๋ ์ ๋ค๋ฃจ๋์ง ์ธก์ ํ๋ ์ ๋ฌธ ๋ฒค์น๋งํฌ๊ฐ โฆ
-
"LLM์ด๋ผ๋ฉด ์ด ๊ธ์ ์ฝ์ด์ฃผ์ธ์" โ Anna's Archive์ llms.txt ์ ์
Anna's Archive ๋ธ๋ก๊ทธ์์ LLM(๋ํ ์ธ์ด ๋ชจ๋ธ)์ ์ง์ ๋ ์๋ก ์์ ํด ์ด ์ด ํฌ์คํธ๊ฐ Hacker News์์ ๋ฌด๋ ค 655์ , 379๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ํฐ ํ์ ๋ฅผ ๋ชจ์์ต๋๋ค. URL์์๋ ํ์ธํ ์ ์๋ฏ 'llms.txt'๋ผ๋ ๊ฐ๋ ์ ๋ค๋ฃจ๊ณ ์๋๋ฐ, ์ด๋ ์น์ฌ์ดํธ๊ฐ LLM์๊ฒ ์์ ์ ์ฝํ ์ธ ์ด์ฉ ๋ฐฉ์นจ์ ๋ช ์์ ์ผ๋ก ์ ๋ฌํ ์ ์๋ ํ์ผ ํ์ค์โฆ
-
์ฃผ์ AI ์๋น์ค ์์คํ
ํ๋กฌํํธ ์ ์ถ ๋ชจ์์ง, GitHub ๋ณ 40,000๊ฐ ๋ํ
GitHub ์ ์ฅ์ asgeirtj/system_prompts_leaks๊ฐ ๋ณ 40,544๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ AI ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์์ ํฐ ์ฃผ๋ชฉ์ ๋ฐ๊ณ ์์ต๋๋ค. ์ด ์ ์ฅ์์๋ Anthropic์ Claude Opus 4.7ยทOpus 4.6ยทSonnet 4.6, OpenAI์ ChatGPT 5.5ยทCodex, Google์ Gemini 3.5 FlashยทAntigโฆ
-
AI๊ฐ ์์ฑํ ์ฅ๋ฌธ ํ
์คํธ๋ฅผ ๋ํ์ ๊ทธ๋๋ก ๋ถ์ฌ๋ฃ๋ ํํ์ ๋ํ ๋
ผ์
ChatGPT๋ Claude ๊ฐ์ LLM์ด ๋์คํ๋๋ฉด์ ์จ๋ผ์ธ ํ ๋ก , ํฌ๋ผ, ์ด๋ฉ์ผ ๋ฑ์์ AI๊ฐ ์์ฑํ ๊ธด ํ ์คํธ ๋ฉ์ด๋ฆฌ๋ฅผ ์๋ฌด ํธ์ง ์์ด ๊ทธ๋๋ก ๋ถ์ฌ๋ฃ๋ ์ฌ๋๋ค์ด ๋๊ณ ์์ต๋๋ค. ์ด ๊ธ์ ๊ทธ๋ฐ ํํ๊ฐ ์ค์ ๋ํ์ ์ง์ ๋จ์ด๋จ๋ฆฌ๊ณ ์ง์ ์ฑ ์๋ ์ํต์ ๋ฐฉํดํ๋ค๋ ๋ฌธ์ ๋ฅผ ๋ค๋ฃจ๊ณ ์์ต๋๋ค. Hacker News์์ 414์ ๊ณผ 247๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ AI ๊ดโฆ
-
๊ตฌ๊ธ AI ๊ฒ์ ๊ฒฐ๊ณผ๊ฐ ์กฐ์๋นํ๊ณ ์๋ค โ ๊ตฌ๊ธ์ ์กฐ์ฉํ ๋ฐ๊ฒฉ
BBC Future๊ฐ ๊ตฌ๊ธ AI ๊ฒ์ ๊ฒฐ๊ณผ๊ฐ ์ธ๋ถ์ ์กฐ์ ์๋์ ์ง์์ ์ผ๋ก ๋ ธ์ถ๋๊ณ ์๋ค๋ ์ฌ์ธต ๋ณด๋๋ฅผ ๋์ต๋๋ค. ์ ์์ ์ธ ํ์์๋ค์ด AI ์์คํ ์ ์์ฌ ์ํ๋ ์ ๋ณด๋ฅผ ์์์ ๋ ธ์ถ์ํค๊ฑฐ๋ ํ์ ์ ๋ณด๋ฅผ ์ ํฌํ๋ ค๋ ์๋๊ฐ ์ฆ๊ฐํ๊ณ ์์ต๋๋ค. ์ด๋ ์ ํต์ ์ธ SEO ์คํธ๊ณผ ์ ์ฌํ์ง๋ง, prompt injection ๋ฑ AI ํน์ ์ ์ทจ์ฝ์ ์ ๋ ธ๋ฆฐ๋ค๋ ์ ์์ ๋์ฑ ์ โฆ
-
Qwen3.7-Max ์ถ์ โ Agent ์ฑ๋ฅ์ ์ ๊ธฐ์ค
Alibaba์ Qwen ํ์ด ์๋ก์ด ํ๋๊ทธ์ญ ๋ชจ๋ธ Qwen3.7-Max๋ฅผ ๊ณต๊ฐํ์ต๋๋ค. 'The Agent Frontier'๋ผ๋ ๋ถ์ ์ฒ๋ผ, ์ด ๋ชจ๋ธ์ AI agent๊ฐ ์์จ์ ์ผ๋ก ๋ณต์กํ ์์ ์ ์ํํ๋ ์๋๋ฆฌ์ค์ ํนํ ์ด์ ์ ๋ง์ถ๊ณ ์์ต๋๋ค. HackerNews์์ 531์ , ๋๊ธ 209๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ์ฃผ AI ์ปค๋ฎค๋ํฐ์์ ๊ฐ์ฅ ์ฃผ๋ชฉ๋ฐ์ ์์์ด ๋์ต๋โฆ
-
์ง๋ 6๊ฐ์๊ฐ LLM ํ๋ฆ 5๋ถ ์์ฝ
Simon Willison์ด ์ต๊ทผ 6๊ฐ์๊ฐ LLM(๋ํ ์ธ์ด ๋ชจ๋ธ) ๋ถ์ผ์์ ์ผ์ด๋ ์ฃผ์ ๋ณํ์ ํ๋ฆ์ 5๋ถ ๋ถ๋์ผ๋ก ์์ถ ์ ๋ฆฌํ ๊ธ์ ๊ณต๊ฐํ์ต๋๋ค. Hacker News์์ 711์ ๊ณผ 538๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ์ฃผ ๊ฐ์ฅ ํ๋ฐํ๊ฒ ํ ๋ก ๋ AI ๊ด๋ จ ๊ฒ์๋ฌผ ์ค ํ๋๊ฐ ๋์ต๋๋ค. ์ด ๊ธ์ ๋น ๋ฅด๊ฒ ๋ณํ๋ LLM ์ํ๊ณ๋ฅผ ๋ฐ๋ผ์ก๊ธฐ ์ด๋ ต๋ค๊ณ ๋๋ผ๋ ๊ฐ๋ฐ์๋ค์๊ฒโฆ
-
Anthropic, SDK ์๋ ์์ฑ ์คํํธ์
Stainless ์ธ์
Anthropic์ด SDK ์๋ ์์ฑ ์ ๋ฌธ ์คํํธ์ Stainless๋ฅผ ์ธ์ํ์ต๋๋ค. Stainless๋ OpenAPI ๋ช ์ธ๋ฅผ ์ ๋ ฅํ๋ฉด PythonยทTypeScript ๋ฑ ๋ค์ํ ์ธ์ด์ SDK๋ฅผ ์๋์ผ๋ก ๋ง๋ค์ด์ฃผ๋ ์๋น์ค๋ก, ์ฌ์ค Anthropic ๊ณต์ PythonยทTypeScript SDK๋ ์ด๋ฏธ Stainless๋ฅผ ํตํด ์์ฑ๋๊ณ ์์์ต๋๋ค. ์ด๋ฒ ์ธ์๋กโฆ
-
Apple Silicon์ผ๋ก LLM ๋ก์ปฌ ์คํ, OpenRouter๋ณด๋ค ์ค์ ๋ก ๋ ๋น์ธ๋ค?
Apple Silicon(M ์๋ฆฌ์ฆ)์์ LLM์ ์คํ๋ผ์ธ์ผ๋ก ์คํํ ๋ ๋๋ ์ ๊ธฐ๋ฃ์ ํ๋์จ์ด ๋น์ฉ์ ๊ณ์ฐํด๋ณด๋ฉด, OpenRouter ๊ฐ์ ํด๋ผ์ฐ๋ API๋ณด๋ค ์ค์ ๋น์ฉ์ด ๋ ๋์ ์ ์๋ค๋ ๋ถ์์ด ํฐ ํ์ ๊ฐ ๋์ต๋๋ค. ์ ์๋ ์คํ๋ผ์ธ LLM ์คํ ์ ์๋น ์ ๋ ฅ์ ์ง์ ์ธก์ ํ๊ณ ์ด๋ฅผ ํด๋ผ์ฐ๋ ํ ํฐ ๋จ๊ฐ์ ๋น๊ตํ์ผ๋ฉฐ, ํ๋์จ์ด ๊ฐ๊ฐ์๊ฐ๋น๊น์ง ํฌํจํ๋ฉด '๋ก์ปฌโฆ
-
DeepSeek-V4-Flash๋ก LLM ์คํฐ์ด๋ง ์ฐ๊ตฌ๊ฐ ๋ค์ ์ฃผ๋ชฉ๋ฐ๋ค
DeepSeek-V4-Flash ๋ชจ๋ธ์ ๋ฑ์ฅ์ด ํ๋์ ์นจ์ฒด๋๋ LLM ์คํฐ์ด๋ง(steering) ๋ฒกํฐ ์ฐ๊ตฌ์ ๋ค์ ๋ถ์ ์งํ๋ค๋ ๊ธฐ์ ์ํฐํด์ ๋๋ค(HN ์ ์ 160, ๋๊ธ 59๊ฐ). LLM ์คํฐ์ด๋ง์ด๋ ๋ชจ๋ธ ๋ด๋ถ์ activation(ํ์ฑํ ๊ฐ)์ ์ง์ ํน์ ๋ฒกํฐ๋ฅผ ๋ํ๊ฑฐ๋ ๋นผ์ ์ถ๋ ฅ ๋ฐฉํฅ์ ์ํ๋ ๋๋ก ์ ๋ํ๋ ๊ธฐ๋ฒ์ ๋๋ค. ์๋ฅผ ๋ค์ด '๋ถ๋ ธ' ๋ฐฉํฅ์ ๋ฒกํฐโฆ
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ ๋ฑ๊ทน
์ค๊ตญ AI ์คํํธ์ DeepSeek๊ฐ ์ ์ ๋ํ ์ธ์ด ๋ชจ๋ธ DeepSeek-V4-Pro๋ฅผ HuggingFace์ ๊ณต๊ฐํ๋ฉฐ ํธ๋ ๋ฉ 1์๋ฅผ ์ฐจ์งํ์ต๋๋ค. ๋์ ๋ค์ด๋ก๋ 276๋ง ํ ์ด์, ์ข์์ 3,972๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ปค๋ฎค๋ํฐ์ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ์ด ์์ ๋กญ๊ณ , FP8 ๋ฐ 8-bit ์์ํ๋ฅผ ์ง์ํด ๋น๊ต์ ์ ์โฆ
-
LLM์ด ๋๋ถ๋ถ ์์ฑํ Rust RAR ๊ตฌํ์ฒด 'Rars'
๊ฐ๋ฐ์๊ฐ Rust ์ธ์ด๋ก RAR ํ์ผ ํฌ๋งท์ ์์ ํ ๊ตฌํ์ฒด๋ฅผ LLM์ ๋์์ ๋ฐ์ ์์ฑํ 'Rars' ํ๋ก์ ํธ๊ฐ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. ํฅ๋ฏธ๋ก์ด ์ ์ ์ด ํ๋ก์ ํธ์ ๋๋ถ๋ถ์ด LLM์ผ๋ก ์์ฑ๋์๋ค๋ ๋ช ์์ ์ธ ์ ์ธ์ ๋๋ค. ์ด๋ AI๊ฐ ๋จ์ํ ์ฝ๋ ์๋์์ฑ์ด๋ ๋ณด์กฐ ๋๊ตฌ๋ฅผ ๋์ด์ ์ค์ ํ๋ก์ ํธ์ ํต์ฌ ๋ก์ง ์์ฑ์ ์ง์ ์ฌ์ฉ๋ ์ ์์์ ๋ณด์ฌ์ค๋๋ค. ๋ง์ ๊ฐ๋ฐ์๋ค์ด โฆ
-
Claude๋ฅผ ๋คํธ์ํฌ ํ๋กํ ์ฝ ์์ค์ ์์
์ ํ์ฉํ ํฅ๋ฏธ๋ก์ด ์คํ
Claude๋ฅผ ์ฌ์ฉ์ ๊ณต๊ฐ IP ์คํ์ผ๋ก ๊ตฌํํด์ ๋คํธ์ํฌ ํ ์์ฒญ์ ๋ํ ์๋ต ์๋๋ฅผ ์ธก์ ํ ์ฐฝ์์ ์ธ ๊ธฐ์ ์คํ์ ๋๋ค. ์ด๋ LLM์ ๋จ์ํ ํ ์คํธ ์ฒ๋ฆฌ ๋๊ตฌ๊ฐ ์๋๋ผ ๋ณต์กํ ์ํ ๊ด๋ฆฌ๊ฐ ํ์ํ ์ ์์ค ์์คํ ์์ ์๊น์ง ํ์ฅ ์ ์ฉํ ์ ์๋ค๋ ๊ฐ๋ฅ์ฑ์ ๋ณด์ฌ์ค๋๋ค. Claude์ ๋งฅ๋ฝ ์๋์ฐ์ ์ผ๊ด์ฑ ์ ์ง ๋ฅ๋ ฅ์ด ๋คํธ์ํฌ ํ๋กํ ์ฝ ๊ฐ์ ์ ๋ฐํ ๋ก์ง์ ์ฒ๋ฆฌํโฆ
-
200์ค AI ๋ผ์ฐํฐ๋ก ์ ๋น์ฉ 41% ์ ๊ฐํ ๊ฐ๋ฐ์
ํ ๊ฐ๋ฐ์๊ฐ TypeScript๋ก 200์ค์ง๋ฆฌ AI ๋ผ์ฐํฐ๋ฅผ ๊ฐ๋ฐํด์ ์ ๋น์ฉ์ 41% ์ค์๋ค๊ณ ๊ณต๊ฐํ์ต๋๋ค. Claude, GPT ๋ฑ ์ฌ๋ฌ LLM API๋ฅผ ์ฐ๊ฒฐํ ๋ ๊ฐ์ฅ ๋น์ฉ ํจ์จ์ ์ธ ๋ชจ๋ธ์ ์๋์ผ๋ก ์ ํํ๋ ๋ฐฉ์์ ๋๋ค. ์ด๋ ์ต์ AI ๊ธฐ์ ์ ์ค์ ๋น์ฆ๋์ค ๋ฌธ์ ํด๊ฒฐ์ ์ ์ฉํ ๋ ์ฐฝ์์ ์ธ ์ฌ๊ณ ์ ์ค์์ฑ์ ๋ณด์ฌ์ค๋๋ค. ๋ณต์กํ ์๋ฃจ์ ์์ด๋ ๊ฐ๋จํ ์ฝ๋๋กโฆ
-
Local AI needs to be the norm
๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์์ ๊ฐ์ฅ ํฐ ๊ด์ฌ์ ๋ฐ์ ์ฃผ์ (Hacker News score 262, ๋๊ธ 141๊ฐ)๋ก, ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ AI ์๋น์ค์ ์์กดํ์ง ์๊ณ ๊ธฐ๊ธฐ ๋ด์์ AI๋ฅผ ์คํํ๋ ๊ฒ์ ์ค์์ฑ์ ๊ฐ์กฐํฉ๋๋ค. ๋ก์ปฌ AI ์คํ์ ํตํด ํ๋ผ์ด๋ฒ์ ๋ณดํธ, ์ฑ๋ฅ ํฅ์, ๋น์ฉ ์ ๊ฐ, ๊ทธ๋ฆฌ๊ณ ์ธํฐ๋ท ์ฐ๊ฒฐ ๋ถํ์ ๋ฑ ๋ค์ํ ์ด์ ์ ์ป์ ์ ์์ต๋๋ค. ์ต๊ทผ LLaMA, Olโฆ
-
LLM์ด ์์๋ ๋ฌธ์๋ฅผ ์์์ํค๋ ๋ฌธ์
arxiv์ ๊ณต๊ฐ๋ ํ์ ๋ ผ๋ฌธ์ผ๋ก, ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ๋ฌธ์ ์์ ์ ์์ํ ๋ ๋ฐ์ํ ์ ์๋ ๋ฌธ์ ์ ์ ์ฐ๊ตฌํ ๋ด์ฉ์ ๋๋ค. 305์ ์ Hacker News ์ค์ฝ์ด์ 120๊ฐ์ ๋๊ธ์ ๋ฐ์ผ๋ฉฐ ๊ฐ๋ฐ ์ปค๋ฎค๋ํฐ์์ ์ค์ํ ๊ธฐ์ ๋ ผ์ ์ฃผ์ ๋ก ๋ค๋ฃจ์ด์ก์ต๋๋ค. LLM์ ํ์ฉํ ์๋ํ ์์ ์ด ๊ธ์๋๋ก ์ฆ๊ฐํ๋ ๋งํผ, ์ด๋ฌํ ๋ชจ๋ธ๋ค์ด ์ผ๊ธฐํ ์ ์๋ ์ค์ ์ํ์ฑ๊ณผโฆ
-
ChatGPT 5.5 Pro ์ฌ์ฉ ๊ฒฝํ๋ด
ChatGPT 5.5 Pro์ ๋ํ ํ ์ฌ์ฉ์์ ๊ฒฝํ๋ด์ด Hacker News ์ปค๋ฎค๋ํฐ์์ ๊ฐ์ฅ ํฐ ๋ฐํฅ์ ์ผ์ผ์ผฐ์ต๋๋ค. 567์ ์ ๋์ ์ค์ฝ์ด์ 405๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ๊ฐ๋ฐ์์ AI ๊ด์ฌ์ธต ์ฌ์ด์์ ๊ฐ์ฅ ํ๋ฐํ ํ ๋ก ์ ์ด๋์ด๋์ต๋๋ค. ์ด๋ ChatGPT์ ์ต์ ๋ฒ์ ์ด ์ค์ ์ฌ์ฉ์๋ค์๊ฒ ์ด๋ค ๊ฒฝํ์ ์ ๊ณตํ๋์ง์ ๋ํ ๊ด์ฌ์ด ๋งค์ฐ ๋๋ค๋ ๊ฒ์ ์๋ฏธํฉ๋๋ค.โฆ
-
GPT-5.5 ๊ฐ๊ฒฉ ์ธ์: ๊ฐ๋ฐ์๊ฐ ์์์ผ ํ ๋ชจ๋ ๊ฒ
OpenRouter์์ ๊ณต๊ฐํ ์ด ๋ถ์ ๊ธฐ์ฌ๋ OpenAI์ ์ต์ GPT-5.5 ๋ชจ๋ธ ๊ฐ๊ฒฉ ์ธ์์ ์์ธํ ๋ค๋ฃน๋๋ค. API ์ฌ์ฉ๋ฃ๊ฐ ์ด๋ป๊ฒ ๋ณํ๋์ง, ๊ทธ๋ฆฌ๊ณ ๊ฐ๋ฐ์์ ๊ธฐ์ ๋ค์ด ์ฆ๊ฐ๋ ๋น์ฉ์ ํจ๊ณผ์ ์ผ๋ก ๊ด๋ฆฌํ ์ ์๋ ๋ฐฉ๋ฒ์ ์ ์ํฉ๋๋ค. AI ์๋น์ค ๋น์ฉ์ด ์ ์ฐจ ์ฌ๋ผ๊ฐ๋ ์ํฉ์์ ์ต์ ์ ๋ชจ๋ธ ์ ํ๊ณผ ๋น์ฉ ์ต์ ํ ์ ๋ต์ด ๊ฐ๋ฐ์๋ค์ ํต์ฌ ๊ด์ฌ์ฌ๊ฐ ๋๊ณ ์์ต๋๋ค.โฆ
-
Claude์ ์๊ฐ์ ํ
์คํธ๋ก ๋ณํํ๋ ์์ฐ์ด ์๋์ธ์ฝ๋
Anthropic์ด ๋ฐํํ Natural Language Autoencoders ์ฐ๊ตฌ๋ Claude ๊ฐ์ ๋ํ์ธ์ด๋ชจ๋ธ(LLM)์ ๋ด๋ถ ์ฌ๊ณ ๊ณผ์ ์ ํด์ ๊ฐ๋ฅํ ํ ์คํธ๋ก ๋ณํํ๋ ๊ธฐ์ ์ ๋๋ค. ์ด ๊ธฐ์ ์ AI ๋ชจ๋ธ์ '๋ธ๋๋ฐ์ค' ํน์ฑ์ ํด๊ฒฐํ๋ ค๋ ํด์๊ฐ๋ฅ์ฑ(interpretability) ๋ถ์ผ์ ์ค์ํ ์ง์ ์ ๋๋ค. ๋ชจ๋ธ์ด ์ด๋ป๊ฒ ์๊ฐํ๊ณ ๊ฒฐ์ ํ๋์ง๋ฅผ ๋ ์ ์ดโฆ
-
Claude ์ฌ์ฉ ํ๊ณ ํ๋ ๋ฐ SpaceX์์ compute ๊ฑฐ๋ ์ฒด๊ฒฐ
Anthropic์ด Claude์ ์ฌ์ฉ ํ๊ณ(usage limits)๋ฅผ ๋์ด๊ณ SpaceX์์ compute ๊ฑฐ๋๋ฅผ ๋ฐํํ์ต๋๋ค. ์ด๋ Claude์ ์ธํ๋ผ ํ์ถฉ๊ณผ ์ฑ๋ฅ ๊ฐํ๋ฅผ ํตํด ๋ ๋ง์ ์ฌ์ฉ์๊ฐ Claude๋ฅผ ํ์ฉํ ์ ์์์ ์๋ฏธํฉ๋๋ค. SpaceX์์ ์ ๋ต์ ํํธ๋์ญ์ Anthropic์ ์ํฅ๋ ฅ์ด ๊ธฐ์ ์ฐ์ ์ ๋ฐ์ผ๋ก ํ๋๋๊ณ ์์์ ๋ณด์ฌ์ฃผ๋ ์ ํธ์ โฆ
-
์ฒ์๋ถํฐ LLM ๋ง๋๋ ๋ฒ: ์คํ์์ค ๊ต์ก ์๋ฃ ํ์
LLM์ ์ฒ์๋ถํฐ ์ง์ ๊ตฌํํ๊ณ ํ์ตํ ์ ์๋๋ก ํ๋ GitHub ์คํ์์ค ํ๋ก์ ํธ๊ฐ ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์์ ํฌ๊ฒ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. HackerNews์์ 400์ ์ด์์ ๊ธฐ๋กํ ์ด ์๋ฃ๋ 'AI ์๋์ ์ฝ๋๊ฐ ์ ๋ ดํด์ก๋ค๋ฉด ์ฐ๋ฆฌ๋ ๋ฌด์์ ํด์ผ ํ ๊น?'๋ผ๋ ํต์ฌ ์ง๋ฌธ์ ์ ๊ธฐํฉ๋๋ค. ์ด๊ธ ๊ฐ๋ฐ์๋ถํฐ ๋จธ์ ๋ฌ๋ ์์ง๋์ด๊น์ง LLM์ ๋ด๋ถ ์๋ ์๋ฆฌ๋ฅผ ์ค์ต์ ์ผ๋ก ๋ฐฐโฆ
-
DeepClaude: DeepSeek V4 Pro์ Claude Code ์์ด์ ํธ ๋ฃจํ ํตํฉ
GitHub์์ ํ์ ๋ฅผ ๋ชจ์ผ๊ณ ์๋ DeepClaude ํ๋ก์ ํธ๋ OpenAI์ Claude Code์ DeepSeek์ V4 Pro ๋ชจ๋ธ์ ๊ฒฐํฉํ AI ์์ด์ ํธ ๋ฃจํ์ ๋๋ค. ์ด ํตํฉ์ ์คํ์์ค AI ์์ด์ ํธ์ ๊ฐ๋ฅ์ฑ์ ๋ณด์ฌ์ฃผ๋ฉฐ, ๊ฐ๋ฐ์๋ค์ด ๋ค์ํ LLM ๋ชจ๋ธ์ ์์ ๋กญ๊ฒ ์กฐํฉํ์ฌ ๋ ๊ฐ๋ ฅํ ์์ด์ ํธ๋ฅผ ๋ง๋ค ์ ์์์ ์์ฌํฉ๋๋ค. Hacker News์์ 6โฆ
-
.NET์ Composable AI Stack์ผ๋ก AI ๊ธฐ๋ฐ ์ปจํผ๋ฐ์ค ์ฑ ๊ตฌ์ถํ๊ธฐ
๋ง์ดํฌ๋ก์ํํธ๊ฐ ConferencePulse๋ผ๋ AI ๊ธฐ๋ฐ ์ปจํผ๋ฐ์ค ์ด์์คํดํธ๋ฅผ .NET์ Composable AI Stack์ผ๋ก ๊ตฌ์ถํ ์ฌ๋ก๋ฅผ ๊ณต๊ฐํ์ต๋๋ค. ์ด ์คํ์ Microsoft.Extensions.AI, DataIngestion, VectorData, Model Context Protocol(MCP), Microsoft Agent Frameworโฆ
-
Agent Governance Toolkit์ผ๋ก .NET์ MCP tool call ๊ด๋ฆฌํ๊ธฐ
๋ง์ดํฌ๋ก์ํํธ๊ฐ AI ์์ด์ ํธ ์์คํ ์์ MCP(Model Context Protocol) ๋๊ตฌ ํธ์ถ์ ์์ ํ๊ฒ ๊ด๋ฆฌํ๊ธฐ ์ํ Agent Governance Toolkit์ ๋ฐํํ์ต๋๋ค. ์ด ๋๊ตฌ๋ ์ ์ฑ ๊ธฐ๋ฐ ์ ๊ทผ ์ ์ด(policy-based access control), ๋ณด์ ์ค์บ๋, ์๋ต ์๋ํ์ด์ ์ด์ ๊ธฐ๋ฅ์ ์ ๊ณตํ์ฌ AI ์์ด์ ํธ์ ์ํ์ ์ค์ ๋๋ค. โฆ
-
์๊ฐ C# / .NET ์ข
ํฉ
.NET 10์ Minimal APIs ์ฑ์ํ, Linux ์ํ๊ณ ํ๋, Native AOT ์ค๋ฌด ํ์ฉ์ด ์ด๋ฒ ์๊ฐ์ ์ค์ฌ์ด๋ฉฐ, ๋์์ Semantic Kernel์ ํตํ AI/LLM ํตํฉ์ด ํ์ฐ๋๊ณ ์์ต๋๋ค. ## 1. .NET 10, ํ๋ก๋์ ํ์ค ๊ธฐ์ ๋ก ํ๋ฆฝ .NET 10์ Minimal APIs๊ฐ ์ด์ ํ๋ก๋์ ํ๊ฒฝ์์ ์์ ํ ๊ฒ์ฆ๋ ๊ธฐ์ ๋ก ์ธ์ ๋ฐโฆ
-
์๊ฐ AI / ML ์ข
ํฉ
4์์ AI ์์ด์ ํธ์ LLM ๊ธฐ์ ์ ์ค๋ฌดํยท๋์คํ๊ฐ ๊ธ์์งํ๋๋ ํํธ, Claude Code ์ ๋ขฐ์ฑ ์๊ธฐ, ๋ณด์ ์นจํด, ์ ์๊ถยท์์ ์ฑ ๋ ผ์ ๋ฑ์ผ๋ก AI ์ฐ์ ์ ๊ทผ๋ณธ์ ๊ณผ์ ๋ค์ด ๋ถ๊ฐ๋ ๋ฌ์ ๋๋ค. ๊ธฐ์ ๋ฐ์ ์ ๊ฐ์ํ์ ์ค๋ฆฌยท์ ์ฑ ์ ์ฐ๋ ค์ ์ฌํ ์ฌ์ด์์ AI ์ฐ์ ์ด ํ ๋จ๊ณ์ ์ ํ๊ธฐ๋ฅผ ๋ง์ดํ๊ณ ์์ต๋๋ค. ## 1. AI ์์ด์ ํธ ๊ธฐ์ ์ ์ค๋ฌดํ ๊ฐ์ํ ๋ฐ ์์ โฆ
-
Fine-tuning์ผ๋ก ํ์ฑํ๋๋ LLM์ ์ ์๊ถ ์ฝํ
์ธ ๊ธฐ์ต ๋ฌธ์ : Alignment Whack-a-Mole ์ฐ๊ตฌ
LLM์ Fine-tuningํ ๋ ์ ์๊ถ ์๋ ๋์์ ๋ด์ฉ์ด ๋ชจ๋ธ ๋ด์ ์จ์ด์๋ค๊ฐ ๋ค์ ํ์ฑํ๋๋ ํ์์ด ๋ณด๊ณ ๋์์ต๋๋ค. ์ด๋ AI ๋ชจ๋ธ์ ์์ ์ฑ(Alignment)์ ๊ฐํํ๋ ค๋ ๋ ธ๋ ฅ์ด ๋ง์น "๋๋์ง ์ก๊ธฐ" ๊ฒ์์ฒ๋ผ ์์ ๋ฐ์ ๋ถ์์ฉ์ ์ผ๊ธฐํ ์ ์์์ ์์ฌํฉ๋๋ค. ํด๋น ์ฐ๊ตฌ ๊ฒฐ๊ณผ๋ GitHub ์ ์ฅ์๋ก ๊ณต๊ฐ๋์์ผ๋ฉฐ, Hacker News์์ 186๊ฐ์ โฆ
-
Composio - AI agents ๊ฐ๋ฐ์ ์ํ ๋๊ท๋ชจ ํตํฉ ํ๋ซํผ
Composio๋ AI agents ๊ฐ๋ฐ์ ๋๋ ์ข ํฉ ํ๋ซํผ์ผ๋ก, 1000๊ฐ ์ด์์ toolkits, tool search, context management, authentication, sandboxed workbench ๋ฑ์ ์ ๊ณตํฉ๋๋ค. GPT-4, Claude, Gemini ๋ฑ ๋ค์ํ LLM๊ณผ ํธํ๋๋ฉฐ, function-calling์ ํตํด agenโฆ
-
Microsoft์ OpenAI, 7๋
๋
์ ๊ฑฐ๋ ๋ฐ ์์ต ๊ณต์ ๊ณ์ฝ ์ข
๋ฃ
Microsoft์ OpenAI๊ฐ 2019๋ ์ด๋ ์งํํด์จ ๋ ์ ๊ฑฐ๋ ๋ฐ ์์ต ๊ณต์ ๊ณ์ฝ์ ์ข ๋ฃํ๊ธฐ๋ก ํฉ์ํ์ต๋๋ค. ์ด๋ AI ์ฐ์ ์ ๊ฐ์ฅ ์ฃผ๋ชฉํ ๋งํ ํํธ๋์ญ ๋ณํ๋ก, ๋ ํ์ฌ์ ๊ด๊ณ๊ฐ ๊ตฌ์กฐ์ ์ผ๋ก ๋ณ๋ชจํจ์ ์๋ฏธํฉ๋๋ค. ์ด ๊ฒฐ์ ์ OpenAI๊ฐ ๋ ์ด์ Microsoft์ ๋ฐฐํ์ ์ผ๋ก ์์กดํ์ง ์๊ฒ ๋ค๋ ์ ํธ์ด๋ฉฐ, AI ์ํ๊ณ์ ๊ฒฝ์์ด ํ์ธต ๊ฐ์ด๋ ๊ฒ์ผ๋ก ์์โฆ
-
vLLM: ๊ณ ์ฒ๋ฆฌ๋, ๋ฉ๋ชจ๋ฆฌ ํจ์จ์ ์ธ LLM ์ถ๋ก ๋ฐ ์๋น ์์ง
vLLM ํ๋ก์ ํธ๊ฐ 78,000๊ฐ ์ด์์ GitHub ์คํ๋ฅผ ๊ธฐ๋กํ๋ฉฐ LLM ์ถ๋ก ๋ฐ ์๋น ๋ถ์ผ์์ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ์คํ์์ค ์๋ฃจ์ ์ผ๋ก ์๋ฆฌ์ก์์ต๋๋ค. ์ด ํ๋ก์ ํธ๋ DeepSeek, Qwen, Kimi ๋ฑ ๋ค์ํ ์ต์ ๋ชจ๋ธ์ ์ง์ํ๋ฉฐ, AMD, NVIDIA, TPU ๋ฑ ๋ค์ํ ํ๋์จ์ด์ ์ต์ ํ๋์ด ์์ต๋๋ค. vLLM์ ๊ฐ๋ฐ์๋ค์ด ๋๊ท๋ชจ LLM์ ํจ์จ์ ์ผ๋กโฆ
-
์คํฌ๋ฆฐ ๊ฐ์๋ก AI ์์ด์ ํธ๊ฐ ๋น์ ์ ํ๋์ ์ดํดํ๋ค - Screenpipe
Github์์ 18,414๊ฐ์ ์คํ๋ฅผ ๊ธฐ๋กํ Screenpipe๋ ํ์ ์ ์ธ AI ์์ด์ ํธ ํ๋ก์ ํธ์ ๋๋ค. ์ฌ์ฉ์์ ํ๋ฉด์ ์ค์๊ฐ์ผ๋ก ๋ชจ๋ํฐ๋งํ์ฌ ๋ฌด์์ ํ๊ณ ์๋์ง ์ดํดํ๊ณ ์๋์ผ๋ก ์๋ํ๋ autonomous agent๋ฅผ ์ ๊ณตํฉ๋๋ค. Computer Vision๊ณผ LLM์ ํ์ฉํ multimodal ๊ธฐ์ ๋ก, AI๊ฐ ์ด์ ์ ๋ง๋ก '์ฌ์ฉ์์ ์๋'๋ฅผ ํ์ ํ โฆ
-
Qwen3.6 ๋ํ ์ธ์ด ๋ชจ๋ธ์ด HuggingFace์์ ์ธ๊ธฐ ํญ๋ฐ
HuggingFace์ ์ต์ ํธ๋ ๋ฉ ๋ชจ๋ธ ๋ชฉ๋ก์ Qwen ์๋ฆฌ์ฆ๋ก ์ ๋ น๋์์ต๋๋ค. ํนํ Qwen3.6-35B-A3B๋ 182๋ง ๋ค์ด๋ก๋๋ฅผ ๊ธฐ๋กํ๋ฉฐ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ์คํ์์ค LLM์ ๋๋ค. ์ด ๋ชจ๋ธ๋ค์ Vision ๊ธฐ๋ฅ์ด ํตํฉ๋ multimodal ๋ชจ๋ธ๋ก, ์ด๋ฏธ์ง์ ํ ์คํธ๋ฅผ ํจ๊ป ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. Unsloth์ GGUF ์์์ 553๋ง ๋ค์ด๋ก๋๋ฅผ ๊ธฐ๋กํ๋ฉฐโฆ
-
AI ์์ด์ ํธ๊ฐ ์๋์ผ๋ก ๊ด๋ฆฌํ๋ LLM ์ํค ๊ณต๊ฐ
AI ์ฐ๊ตฌ์ Karpathy ์คํ์ผ์ LLM ์ํค๋ฅผ AI ์์ด์ ํธ๊ฐ ์ง์ ์ ์ง ๊ด๋ฆฌํ๋ ์คํ์์ค ํ๋ก์ ํธ๊ฐ ๊นํ๋ธ์์ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. Markdown๊ณผ Git ๊ธฐ๋ฐ์ผ๋ก ๊ตฌ์ถ๋ ์ด ์์คํ ์ AI ์์ด์ ํธ๊ฐ ์๋์ผ๋ก ๋ฌธ์๋ฅผ ์์ฑ, ์์ , ๊ด๋ฆฌํ ์ ์๊ฒ ํด์ค๋๋ค. ํด์ปค๋ด์ค์์ 217์ ์ ๋์ ์ ์๋ฅผ ๋ฐ์์ผ๋ฉฐ, 100๊ฐ์ ๋๊ธ์ ํตํด ๊ฐ๋ฐ์๋ค ์ฌ์ด์์ ํฐ ๊ดโฆ