๐ค AI / ML ยท ์ผ๊ฐ
-
AI๊ฐ ์ค์ค๋ก๋ฅผ ๋ง๋ ๋ค: Anthropic์ ์ฌ๊ท์ ์๊ธฐ๊ฐ์ (recursive self-improvement) ์ฐ๊ตฌ ํํฉ
Anthropic์ด AI๊ฐ ์์ ์ ์ฝ๋์ ํ์ต ๊ณผ์ ์ ์ค์ค๋ก ์์ ํด ์ ์ ๋ ํฅ์๋ ๋ฒ์ ์ ๋ง๋ค์ด๋ด๋ '์ฌ๊ท์ ์๊ธฐ๊ฐ์ (recursive self-improvement)'์ ๋ํ ์ฐ๊ตฌ ์งํ ์ํฉ์ ๊ณต๊ฐํ์ต๋๋ค. ์ด ๊ฐ๋ ์ AGI๋ก ๊ฐ๋ ํต์ฌ ๋จ๊ณ ์ค ํ๋๋ก, ํ๋ฒ ์๊ณ์ ์ ๋์ผ๋ฉด AI ๋ฐ์ ์๋๊ฐ ๊ธฐํ๊ธ์์ ์ผ๋ก ๋นจ๋ผ์ง ์ ์์ด AI ์์ ์ฐ๊ตฌ์๋ค์ด ์ค๋ซ๋์ ์ฃผ๋ชฉํด์จ ์ฃผ์ ์ ๋๋ค. Anthropic์ ํ์ฌ ์ด๋ ์์ค๊น์ง ์๊ธฐ๊ฐ์ ์ด ๊ฐ๋ฅํ์ง, ๊ทธ๋ฆฌ๊ณ ์ด๋ฅผ ์ธ๊ฐ์ด ์์ ํ๊ฒ ํต์ ํ๊ธฐ ์ํ ๋ฐฉ๋ฒ๋ก ์ ๋ํ ์ด๊ธฐ ๊ฒฐ๊ณผ๋ฅผ ์ ์ํ์ต๋๋ค. ์์ง ์์ ํ ์์จ์ ์๊ธฐ๊ฐ์ ์๋ ์ด๋ฅด์ง ๋ชปํ์ง๋ง, ๊ตฌ์ฒด์ ์ธ ์ง์ ์ ๊ณต๊ฐํ๋ค๋ ์ ์์ ์ ๊ณ์ ์ฃผ๋ชฉ์ ๋ฐ๊ณ ์์ต๋๋ค. HN์์ 148์ ์ 177๊ฐ ๋๊ธ์ด ๋ฌ๋ฆฌ๋ฉฐ AGI ํ์๋ผ์ธ๊ณผ ์์ ์ฑ์ ๋๋ฌ์ผ ํ๋ฐํ ํ ๋ก ์ด ์ด์ด์ก์ต๋๋ค.
-
AI ์ฌ์ฉ ์ฆ๊ฐ์ ๋ฒํด๋ฆฌ CS ์์
๋์ ์จ ๊ธ์ฆ, ์ํ ์ค๋ ฅ๋ ํ๋ฝ
UC Berkeley ์ปดํจํฐ๊ณผํ๊ณผ ๊ต์๋ค์ด ํ์๋ค์ AI ๋๊ตฌ ์์กด๋๊ฐ ๋์์ง๋ฉด์ ๋์ ์จ์ด ๊ธ์ฆํ๊ณ ๊ธฐ์ด ์ํ ์ค๋ ฅ์ด ๋๋ ทํ๊ฒ ์ ํ๋๊ณ ์๋ค๊ณ ๊ฒฝ๊ณ ํ์ต๋๋ค. ChatGPT๋ Claude ๊ฐ์ ์์ฑํ AI๊ฐ ๊ณผ์ ๋ฅผ ๋์ ํด๊ฒฐํด์ฃผ๋ค ๋ณด๋, ํ์๋ค์ด ์ง์ ๋ฌธ์ ๋ฅผ ํ๊ณ ์ฌ๊ณ ํ๋ ํ๋ จ์ ๋ฐ์ง ๋ชปํ๋ ํ์์ด ๋ํ๋๊ณ ์์ต๋๋ค. ๋จ๊ธฐ์ ์ผ๋ก๋ ๊ณผ์ ์ ์ถ์ด ํธํด ๋ณด์ด์ง๋ง, ์ฅ๊ธฐ์ ์ผ๋ก๋ ์ค๋ ฅ ์์ด ์กธ์ ํ ๊ฐ๋ฐ์๊ฐ ์์ฐ๋ ์ ์๋ค๋ ์ฐ๋ ค๊ฐ ํฝ๋๋ค. ๊ต์๋ค์ AI๋ฅผ ์์ ๊ธ์งํ๊ธฐ๋ณด๋ค AI๋ฅผ ์ฐ๋๋ผ๋ ์๋ฆฌ๋ฅผ ์ดํดํ๋๋ก ์ ๋ํ๋ ๊ต์ก ๋ฐฉ์์ ์ ํ์ด ํ์ํ๋ค๊ณ ๊ฐ์กฐํฉ๋๋ค. HN์์ ๋ฌด๋ ค 689์ ์ 639๊ฐ ๋๊ธ์ด ๋ฌ๋ฆฌ๋ฉฐ '๊ณต๊ฐ๋๋ค'๋ ๋ฐ์๊ณผ 'ํ์์ ํํ๊ธฐ ์ ์ ์ปค๋ฆฌํ๋ผ์ด ๋ฌธ์ '๋ผ๋ ๋ฐ๋ก ์ด ๋ง๋ถ๋ ๋ฑ ๋จ๊ฑฐ์ด ํ ๋ก ์ด ๋ฒ์ด์ก์ต๋๋ค. ์ฃผ๋์ด ๊ฐ๋ฐ์๋ผ๋ฉด AI์ ํธ๋ฆฌํจ์ ๊ธฐ๋๊ธฐ ์ ์ ๊ธฐ์ด ์๊ณ ๋ฆฌ์ฆ๊ณผ ์ํ ์ญ๋์ ์ง์ ์๋ ๊ฒ์ด ์ปค๋ฆฌ์ด์ ํจ์ฌ ์ ๋ฆฌํ๋ค๋ ์ ์ ์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์ ๋๋ค.
-
LLM์๊ฒ $1,500 ๋ค์ฌ ๋ด ์ฑ ํดํน์ ์์ผ๋ดค๋๋
๊ฐ๋ฐ์ Kasra๊ฐ SQL injection, XSS, ์ธ์ฆ ์ฐํ ๋ฑ ๋ค์ํ ์ทจ์ฝ์ ์ ์๋์ ์ผ๋ก ์ฌ์ ์น ์ ํ๋ฆฌ์ผ์ด์ ์ ์ง์ ๋ง๋ค๊ณ , ์ฌ๋ฌ LLM์ด ์ค์ ๋ก ์ด ์ฑ์ ํดํนํ ์ ์๋์ง ์ฝ $1,500์ ๋ค์ฌ ์คํํ ๊ฒฐ๊ณผ๋ฅผ ๊ณต์ ํ์ต๋๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก LLM๋ค์ SQL injection, XSS์ฒ๋ผ ํจํด์ด ๋ช ํํ ๊ธฐ์ด ์ทจ์ฝ์ ์ ๊ฝค ์ ํ์งํ์ง๋ง, ๋ณต์กํ ๋น์ฆ๋์ค ๋ก์ง ๋ฒ๊ทธ๋ ์ฌ๋ฌ ๋จ๊ณ๋ฅผ ์ฐ์์ ์ผ๋ก ํ์ฉํด์ผ ํ๋ ๊ณต๊ฒฉ์์๋ ๋๋ ทํ ํ๊ณ๋ฅผ ๋ณด์์ต๋๋ค. '์ทจ์ฝ์ ์ ์ฐพ๋ ๊ฒ'๊ณผ '์ค์ ๊ณต๊ฒฉ์ผ๋ก ์ฐ๊ฒฐํ๋ ๊ฒ' ์ฌ์ด์๋ ์์ง ํฐ ๊ฒฉ์ฐจ๊ฐ ์๋ค๋ ์ ์ด ํฅ๋ฏธ๋กญ์ต๋๋ค. ์ด ์คํ์ AI ๊ธฐ๋ฐ ๋ณด์ ์๋ํ์ ๊ฐ๋ฅ์ฑ๊ณผ ํ์ค์ ์ธ ํ๊ณ๋ฅผ ์ค๋น์ฉ์ผ๋ก ๊ฒ์ฆํ๋ค๋ ์ ์์ ๋ณด์์ ๊ด์ฌ ์๋ ๊ฐ๋ฐ์์๊ฒ ๋งค์ฐ ์ค์ฉ์ ์ธ ์ธ์ฌ์ดํธ๋ฅผ ์ค๋๋ค. HN์์ 362์ , 197๊ฐ ๋๊ธ๋ก ํฐ ๋ฐํฅ์ ์ผ์ผ์ผฐ์ต๋๋ค.
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ โ ๋ค์ด๋ก๋ 580๋ง ํ ๋ํ
DeepSeek์ ์ ํ๋๊ทธ์ญ ๋ชจ๋ธ DeepSeek-V4-Pro๊ฐ HuggingFace์์ ํธ๋ ๋ฉ 1์์ ์ค๋ฅด๋ฉฐ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. ์ถ์ ์งํ ๋ค์ด๋ก๋ 580๋ง ํ, ์ข์์ 4,594๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ญ๋๊ธ ๋ฐ์์ ๋์ด๋ด๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ์ด ์์ ๋กญ๊ณ , fp8 ์ ๋ฐ๋์ 8๋นํธ ์์ํ๋ฅผ ์ง์ํด ๋น๊ต์ ์ ์ VRAM์ผ๋ก๋ ๊ตฌ๋ํ ์ ์๋ ๊ฒ์ผ๋ก ์๋ ค์ ธ ์์ต๋๋ค. text-generation ํ์ดํ๋ผ์ธ์ ์ง์ํ๋ฉฐ ๋ํํ(conversational) ์ฌ์ฉ์๋ ์ต์ ํ๋์ด ์์ต๋๋ค. DeepSeek๋ ์ค๊ตญ AI ์คํํธ์ ์์๋ ์คํ์์ค LLM ์ปค๋ฎค๋ํฐ์์ ๊พธ์คํ ๋์ ํ๊ฐ๋ฅผ ๋ฐ์์จ ํ์ผ๋ก, V4-Pro ์ญ์ ๊ธ๋ก๋ฒ ์ต์์ ๋ชจ๋ธ๋ค๊ณผ ๊ฒฝ์ํ๋ ์ฑ๋ฅ์ ๋ชฉํ๋ก ๊ฐ๋ฐ๋ ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค. ์คํ์์ค LLM ์ํ๊ณ์์ DeepSeek์ ์ํฅ๋ ฅ์ด ๊ณ์ ํ๋๋๊ณ ์์์ ํ์ธํ ์ ์๋ ๋ฆด๋ฆฌ์ค์ ๋๋ค.
-
AI ์์ ํญ์ฆ์ผ๋ก DDR5 32GB ๊ฐ๊ฒฉ $375 ๋ํ โ PC ์กฐ๋ฆฝ ์์ฅ ์ง๊ฒฉํ
AI ๋ฐ์ดํฐ์ผํฐ ํฌ์ ์ดํ์ ์ฌํ๊ฐ ์ผ๋ฐ ์๋น์ PC ์กฐ๋ฆฝ ์์ฅ๊น์ง ๋ฒ์ง๊ณ ์์ต๋๋ค. 32GB DDR5 ๋ฉ๋ชจ๋ฆฌ ๊ฐ๊ฒฉ์ด ์ต์ 375๋ฌ๋ฌ(์ฝ 51๋ง ์)๊น์ง ์น์์ผ๋ฉฐ PC๋ฅผ ์ง์ ์กฐ๋ฆฝํ๋ ค๋ ๊ฐ๋ฐ์ยท๊ฒ์ด๋จธ๋ค์๊ฒ ํฐ ๋ถ๋ด์ด ๋๊ณ ์์ต๋๋ค. DRAM ์ ์กฐ์ฌ๋ค์ด AI ์๋ฒ์ฉ HBM(๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ) ์์์ ๋์ํ๊ธฐ ์ํด ์์ฐ ๋ผ์ธ์ ์ฌํธํ๋ฉด์ ์ผ๋ฐ ์๋น์์ฉ DDR5 ๊ณต๊ธ์ด ํฌ๊ฒ ์ค์ด๋ ๊ฒ์ด ์ฃผ์ ์์ธ์ผ๋ก ๊ผฝํ๋๋ค. HN์์ 347์ ยท312๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ์ปค๋ฎค๋ํฐ์์๋ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์๋๋ฐ, ๋ง์ ๊ฐ๋ฐ์๋ค์ด "AI ์ธํ๋ผ ํฌ์ ๋ถ์ด ๋ด ์ทจ๋ฏธ ์ํ๊น์ง ์ํฅ์ ์ค๋ค"๋ ๋ฐ์์ ๋ณด์์ต๋๋ค. ๊ณ ์ฑ๋ฅ AI ์ธํ๋ผ ํ์ฅ์ด ๋ฐ๋์ฒด ๊ณต๊ธ๋ง ์ ๋ฐ์ ๊ฑธ์ณ ์์์น ๋ชปํ ํ๊ธํจ๊ณผ๋ฅผ ๋ด๊ณ ์์์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์ ๋๋ค.
-
Uber, ์ง์ 1์ธ๋น AI ๋๊ตฌ ์ฌ์ฉ ํ๋ ์ $1,500 ์ค์ โ ๊ธฐ์
AI ๋น์ฉ ๊ด๋ฆฌ์ ๊ธฐ์ค์
Uber๊ฐ ์ง์ 1์ธ๋น ์ 1,500๋ฌ๋ฌ(์ฝ 200๋ง ์)์ AI ๋๊ตฌ ์ฌ์ฉ ์ํ์ ์ ๋์ ํ๋ค๋ ์์์ด ์๋ ค์ง๋ฉด์ ๊ธฐ์ ์ปค๋ฎค๋ํฐ์์ ๊ธฐ์ ์ AI ๋๊ตฌ ๋น์ฉ ๊ด๋ฆฌ ๋ฐฉ์์ ๋ํ ๋ ผ์๊ฐ ๋จ๊ฑฐ์์ก์ต๋๋ค. ๊ฐ๋ฐ์ ๋ธ๋ก๊ฑฐ Simon Willison์ ์ด ์์น๊ฐ AI ๋๊ตฌ ๊ฐ๊ฒฉ ์ฑ ์ ์ ๊ฐ๋ ํ๋ ๋ฐ ์ ์ฉํ ์ค์ง์ ๊ธฐ์ค์ ์ด ๋ ์ ์๋ค๊ณ ๋ถ์ํ์ต๋๋ค. ์ 1,500๋ฌ๋ฌ๋ ๊ณ ์ฌ์ AI ์ฝ๋ฉ ์ด์์คํดํธ์ ์ฌ๋ฌ AI ์๋น์ค๋ฅผ ์ถฉ๋ถํ ํ์ฉํ ์ ์๋ ์์ค์ด๋ฉด์๋, ๊ธฐ์ ์ด ๋น์ฉ ํต์ ์ ํ์์ฑ์ ์ธ์ํ๊ธฐ ์์ํ์์ ๋ณด์ฌ์ฃผ๋ ์ ํธ์ด๊ธฐ๋ ํฉ๋๋ค. HN์์ 222์ ยท276๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ํฐ ํธ์์ ์ป์๊ณ , ๋ง์ ๊ฐ๋ฐ์๋ค์ด ์์ ์ ์ AI ๋๊ตฌ ์ง์ถ์ ๊ณต์ ํ๋ฉฐ ์ด ํ๋๊ฐ ํ์ค์ ์ธ์ง ํ ๋ก ํ์ต๋๋ค. AI ๋์ ํจ์จ ์ธก์ ๊ณผ ํฉ๋ฆฌ์ ๋น์ฉ ๊ด๋ฆฌ๊ฐ ๊ธฐ์ ํ์ฅ์ ์ค์ง์ ๊ณผ์ ๋ก ๋ ์ค๋ฅด๊ณ ์์์ ์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์ ๋๋ค.
-
DeepSeek-V4-Pro, HuggingFace์์ 580๋ง ๋ค์ด๋ก๋ ๋ํ
DeepSeek์ ์ต์ ๋ชจ๋ธ DeepSeek-V4-Pro๊ฐ HuggingFace ํธ๋ ๋ฉ์ ์ด๋ฆ์ ์ฌ๋ฆฌ๋ฉฐ ํฐ ๊ด์ฌ์ ๋ชจ์์ต๋๋ค. 580๋ง ํ ์ด์์ ๋ค์ด๋ก๋์ 4,500๊ฐ ์ด์์ ์ข์์๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ๋ชฉ๋ก์์ ์๋์ ์ธ ๋ค์ด๋ก๋ ์์น๋ฅผ ๋ณด์ฌ์คฌ์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํ๊ณ , 8-bit ๋ฐ fp8 ์์ํ๋ฅผ ์ง์ํด ๋ค์ํ ํ๋์จ์ด ํ๊ฒฝ์์ ํจ์จ์ ์ผ๋ก ์คํํ ์ ์์ต๋๋ค. text-generation ํ์ดํ๋ผ์ธ์์ ํ์ฉ๋๋ ๋ํํ ๋ชจ๋ธ๋ก, HuggingFace์ ์ถ๋ก ์๋ํฌ์ธํธ์๋ ํธํ๋ฉ๋๋ค. ์ค๊ตญ AI ๊ธฐ์ DeepSeek์ ๊ณ ์ฑ๋ฅ ์คํ์์ค ๋ชจ๋ธ์ ๊พธ์คํ ์ถ์ํ๋ฉฐ ๊ธ๋ก๋ฒ AI ์ปค๋ฎค๋ํฐ์์ ์กด์ฌ๊ฐ์ ํค์๊ฐ๊ณ ์์ต๋๋ค. ์ด ๋์ ๋ค์ด๋ก๋ ์์น๋ ์ค์ ํ๋ก๋์ ํ๊ฒฝ์์๋ ํ๋ฐํ ์ฑํ๋๊ณ ์์์ ๋ฐฉ์ฆํฉ๋๋ค.
-
Flux.ai, ์คํ์์ค ํ๋์จ์ด ๊ธฐ์
Adafruit์ ๋ฒ์ ์๊ตฌ์ ๋ฐ์ก
AI ๊ธฐ๋ฐ PCB ์ค๊ณ ํด์ ๊ฐ๋ฐํ๋ Flux.ai๊ฐ ๋ฒ๋ฌด๋ฒ์ธ Fenwick์ ํตํด ์คํ์์ค ํ๋์จ์ด ์ปค๋ฎค๋ํฐ์ ์์ง์ ๊ธฐ์ ์ธ Adafruit์ ๋ฒ์ ์๊ตฌ์(demand letter)๋ฅผ ๋ฐ์กํ ์ฌ์ค์ด ์๋ ค์ก์ต๋๋ค. Adafruit๋ ์ด ์ฌ์ค์ ๊ณต์ ๋ธ๋ก๊ทธ์ ์ง์ ๊ณต๊ฐํ์๊ณ , Hacker News์์ 541์ , 227๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ๋ชฉ๋ก์์ ๊ฐ์ฅ ๋์ ์ปค๋ฎค๋ํฐ ๋ฐ์์ ์ด๋์ด๋์ต๋๋ค. Adafruit๋ DIY ์ ์ ๋ฉ์ด์ปค ๋ฌธํ์ ์คํ์์ค ํ๋์จ์ด ์ํ๊ณ๋ฅผ ์ด๋์ด์จ ๊ธฐ์ ์ผ๋ก ๊ฐ๋ฐ์๋ค ์ฌ์ด์์ ๋ํฐ์ด ์ ๋ขฐ๋ฅผ ๋ฐ๊ณ ์์ต๋๋ค. ์๊ตฌ์์ ๊ตฌ์ฒด์ ์ธ ๋ด์ฉ์ ์์๋ฃ์ ๋ช ์๋์ง ์์์ง๋ง, AI ์คํํธ์ ์ด ์คํ์์ค ์นํ์ ๊ธฐ์ ์ ๋ฒ์ ์๋ฐ์ ๊ฐํ๋ค๋ ์ฌ์ค ์์ฒด๊ฐ ์ปค๋ฎค๋ํฐ์ ๊ฐํ ๋ฐ๋ฐ์ ๋ถ๋ฌ์ผ์ผ์ผฐ์ต๋๋ค. ์ด ์ฌ๊ฑด์ AI ๊ธฐ์ ๋ค์ด ์ฑ์ฅํ๋ฉด์ ์ง์์ฌ์ฐ๊ถ ๋ถ์์ด ์คํ์์คยท๋ฉ์ด์ปค ์ํ๊ณ๋ก๊น์ง ๋ฒ์ง๊ณ ์์์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก๋ก ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค.
-
Microsoft, ์ฝ๋ฉยท์ถ๋ก AI ๋ชจ๋ธ๊ณผ ์์จ ์์ด์ ํธ Scout ํ๊บผ๋ฒ์ ๊ณต๊ฐ
Microsoft๊ฐ ํ๋ฃจ ๋ง์ ์ฌ๋ฌ AI ์ ํ์ ์ฐ๋ฌ์ ๋ฐํํ๋ฉฐ ์ ๊ณ์ ์ด๋ชฉ์ ์ง์ค์์ผฐ์ต๋๋ค. ์ฝ๋ฉ ํนํ ๋ชจ๋ธ MAI-Code-1-Flash๋ Hacker News์์ 228์ , 105๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ๊ฐ์ฅ ํฐ ์ฃผ๋ชฉ์ ๋ฐ์๊ณ , ์ถ๋ก ๋ฅ๋ ฅ์ ์ด์ ์ ๋ง์ถ MAI-Thinking-1๋ ํจ๊ป ๊ณต๊ฐ๋์์ต๋๋ค. ์ฌ๊ธฐ์ ๋ํด OpenClaw ํ๋ซํผ ๊ธฐ๋ฐ์ ์์จ AI ์์ด์ ํธ Scout๊น์ง ๋ฐํ๋์์ต๋๋ค. ์ด๋ฆ์ 'MAI'๋ Microsoft AI๋ฅผ ์ค์ธ ์์ฒด ๋ธ๋๋๋ก ๋ณด์ด๋ฉฐ, 'Flash'๋ ๊ฒฝ๋ยท๊ณ ์ ํฌ์ง์ ๋์, 'Thinking'์ ๋ณต์กํ ์ถ๋ก ์์ ํนํ๋ฅผ ์์ฌํฉ๋๋ค. ์ด๋ฒ ๋ฐํ๋ค์ Microsoft๊ฐ OpenAI์์ ํ๋ ฅ ๊ด๊ณ๋ฅผ ๋์ด ๋ ์์ ์ธ AI ๋ชจ๋ธ ๊ฐ๋ฐ์ ๋ณธ๊ฒฉ์ ์ผ๋ก ๋์๊ณ ์์์ ์ ๋ณด์ฌ์ค๋๋ค. ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์์๋ ๊ธฐ์กด ๋ชจ๋ธ๊ณผ์ ์ฑ๋ฅ ๋น๊ต ๋ฐ ์ค์ ํ์ฉ ๊ฐ๋ฅ์ฑ์ ๋ํ ํ ๋ก ์ด ํ๋ฐํ๊ฒ ์ด์ด์ก์ต๋๋ค.
-
Anthropic, SEC์ S-1 ์ด์ ๋น๊ณต๊ฐ ์ ์ถ โ IPO ํ๋ณด ๊ณต์ํ
Claude AI๋ก ์ ๋ช ํ Anthropic์ด ๋ฏธ๊ตญ ์ฆ๊ถ๊ฑฐ๋์์ํ(SEC)์ ๊ธฐ์ ๊ณต๊ฐ(IPO)๋ฅผ ์ํ S-1 ์ด์์ ๋น๊ณต๊ฐ๋ก ์ ์ถํ์ต๋๋ค. S-1์ ๋ฏธ๊ตญ ์ฆ์ ์์ฅ์ ์ํด ๋ฐ๋์ ์ ์ถํด์ผ ํ๋ ๋ฑ๋ก ์ ์ฒญ์์ธ๋ฐ, '๋น๊ณต๊ฐ ์ ์ถ(confidential submission)' ๋ฐฉ์์ ํํ๋ฉด SEC์ ๋จผ์ ์กฐ์ฉํ ๊ฒํ ๋ฅผ ๋ง์น ๋ค ์์ฅ ์ํฉ์ ๋ณด๊ณ ์์ฅ ์์ ์ ๊ฒฐ์ ํ ์ ์๋ ์ ์ฐ์ฑ์ด ์๊น๋๋ค. OpenAI, Google ๋ฑ๊ณผ AI ๋ชจ๋ธ ๊ฒฝ์์ ๋ฒ์ด๋ ์์ค์ ์ด๋ฐ ์์ง์์ด ๋์๋ค๋ ์ ์์ ์ ๊ณ์ ์ด๋ชฉ์ด ์ง์ค๋๊ณ ์์ต๋๋ค. Hacker News์์ 344์ , 265๊ฐ ๋๊ธ๋ก ์ด๋ฒ ๋ด์ค ๋ฌถ์ ์ค ๊ฐ์ฅ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ต๋๋ค. Anthropic์ ์์ฅ์ด ํ์คํ๋๋ฉด AI ์คํํธ์ ์ํ๊ณ ์ ๋ฐ์๋ ํฐ ์ํฅ์ ๋ฏธ์น ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค. ์์ง ๊ณต๊ฐ ์์ฅ ์ผ์ ์ด๋ ๊ธฐ์ ๊ฐ์น๋ ๋ฐํ๋์ง ์์์ผ๋, ์ถ๊ฐ ๊ณต์๋ฅผ ์ง์ผ๋ด์ผ ํ ๊ฒ ๊ฐ์ต๋๋ค.
-
DuckDuckGo, 'AI ์๋ ๊ฒ์' ์ ๊ทผ์ฑ ๊ฐํ โ ํธ๋ํฝ ๊ธ์ฆ
DuckDuckGo๊ฐ AI ๊ธฐ๋ฐ ๊ฒ์ ๊ฒฐ๊ณผ ์์ด ์์ ๋งํฌ๋ง ๋ณด์ฌ์ฃผ๋ ์ ํต์ ๊ฒ์ ๋ชจ๋๋ก์ ์ ๊ทผ์ ๋ ์ฝ๊ฒ ๋ง๋๋ ์ ๋ฐ์ดํธ๋ฅผ ๋ฐํํ์ต๋๋ค. Google๊ณผ Microsoft Bing์ด AI ์์ฝ์ ์ ๋ฉด์ ๋ด์ธ์ฐ๋ฉด์, ์ญ์ค์ ์ผ๋ก 'AI ์๋ ๊ฒ์'์ ๋ํ ์์๊ฐ ๋น ๋ฅด๊ฒ ๋๊ณ ์๋ค๋ ์ ์ด ํฅ๋ฏธ๋กญ์ต๋๋ค. ๋ง์ ์ฌ์ฉ์๋ค์ด AI๊ฐ ์ฌ๊ฐ๊ณตํ ๋ต๋ณ๋ณด๋ค ์๋ณธ ์นํ์ด์ง ๋งํฌ๋ฅผ ์ง์ ๋ณด๊ณ ์ถ์ด ํ๋ค๋ ์ ํธ๋ก ์ฝํ๋๋ค. Hacker News์์ 256์ , 131๊ฐ ๋๊ธ๋ก ๋์ ๊ด์ฌ์ ๋์์ต๋๋ค. ๊ฐ๋ฐ์๋ ๊ธฐ์ ์ ๋ฌธ๊ฐ ์ปค๋ฎค๋ํฐ์์๋ AI ๊ฒ์ ๊ฒฐ๊ณผ์ ์ค๋ฅ๋ ํ๊ฐ(hallucination) ๋ฌธ์ ๋ฅผ ์ง์ ๊ฒฝํํ ์ฌ๋๋ค์ด ๋ง์์์ธ์ง, ์ด ๋ด์ค์ ํนํ ๊ณต๊ฐํ๋ ๋ฐ์์ด ๋ง์์ต๋๋ค. AI ๋์ ์ ์ญํ(backlash) ํ์์ ์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์ ๋๋ค.
-
ํ๋ก๋ฆฌ๋ค ์ฃผ ๊ฒ์ฐฐ์ด์ฅ, OpenAIยทSam Altman ์๋๋ก ๊ธฐ๋ง์ ๊ดํ ์์ก ์ ๊ธฐ
ํ๋ก๋ฆฌ๋ค ์ฃผ ๊ฒ์ฐฐ์ด์ฅ James Uthmeier๊ฐ OpenAI์ CEO Sam Altman์ ์๋๋ก ์๋น์ ๊ธฐ๋ง ํ์ ํ์ ์์ก์ ์ ๊ธฐํ์ต๋๋ค. ์ฃผ(ๅท) ์ ๋ถ๊ฐ ์ง์ ๋์์ OpenAI๋ฅผ ๊ฒจ๋ฅํ ์ฒซ ๋ฒ์งธ ์ฌ๋ก๋ก, AI ๊ธฐ์ ์ ๋ํ ๋ฒ์ ๊ท์ ๊ฐ ๋ณธ๊ฒฉํ๋๊ณ ์๋ค๋ ์ ํธ๋ก ๋ณผ ์ ์์ต๋๋ค. ์์ฅ์๋ OpenAI์ AI ๊ด๋ จ ๋ฆฌ์คํฌ๋ฅผ ์๋น์์๊ฒ ์ ๋๋ก ์๋ฆฌ์ง ์์๋ค๋ ๋ด์ฉ์ด ํฌํจ๋ ๊ฒ์ผ๋ก ์๋ ค์ก์ต๋๋ค. Hacker News์์ ๊ด๋ จ ๊ธฐ์ฌ ๋ ๊ฐ๊ฐ ํฉ์ฐ 119์ , 57๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ํ์ ๊ฐ ๋์ต๋๋ค. EU์ AI Act(์ธ๊ณต์ง๋ฅ๋ฒ) ์ํ์ ์ด์ด ๋ฏธ๊ตญ ๋ด์์๋ ์ฃผ ์ ๋ถ ์ฐจ์์ ๊ท์ ์์ง์์ด ํ์ฐ๋๋ ๋ถ์๊ธฐ์ ๋๋ค. OpenAI ์ ์ฅ์์๋ ์ฌ๋ฌ ๋ฒ์ ยท๊ท์ ๋ฆฌ์คํฌ๊ฐ ๋์์ ์์ด๊ณ ์๋ ์ํฉ์ด์ด์, IPO๋ฅผ ์ถ์ง ์ค์ธ Anthropic๊ณผ ๋์กฐ์ ์ธ ๋ชจ์ต์ ๋ณด์ด๊ณ ์์ต๋๋ค.
-
ByteDance์ Lance, ์ด๋ฏธ์งยท์์ยทํ
์คํธ๋ฅผ ํ๋๋ก โ any-to-any ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ ๊ณต๊ฐ
ByteDance Research๊ฐ Lance๋ผ๋ any-to-any ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ์ HuggingFace์ ๊ณต๊ฐํ์ต๋๋ค. ์ด๋ฏธ์ง ์์ฑ, ๋น๋์ค ์์ฑ, ์ด๋ฏธ์ง ํธ์ง, ๋น๋์ค ์ดํด ๋ฑ ์๋ก ๋ค๋ฅธ ๋ชจ๋ฌ๋ฆฌํฐ ์์ ์ ๋จ์ผ ๋ชจ๋ธ ํ๋๋ก ์ฒ๋ฆฌํ ์ ์๋ค๋ ์ ์ด ๊ฐ์ฅ ํฐ ํน์ง์ ๋๋ค. Qwen2.5-VL-3B-Instruct๋ฅผ ๋ฒ ์ด์ค ๋ชจ๋ธ๋ก ํ์ฉํ์ผ๋ฉฐ, ๋ ผ๋ฌธ(arxiv:2605.18678)๋ ํจ๊ป ๋ฐํ๋์ด ๊ธฐ์ ์ ์ธ ๋ฐฐ๊ฒฝ์ ํ์ธํ ์ ์์ต๋๋ค. ์์ง ๊ณต๊ฐ๋ ์ง ์ผ๋ง ๋์ง ์์ ๋ค์ด๋ก๋๋ 2,948๊ฑด์ด์ง๋ง, ์ด๋ฏธ ์ข์์๊ฐ 991๊ฐ์ ๋ฌํด ์ปค๋ฎค๋ํฐ์ ๊ธฐ๋๊ฐ์ด ๋์ต๋๋ค. Apache-2.0 ๋ผ์ด์ ์ค๋ก ์ฐ๊ตฌ์ ์์ ์ ํ์ฉ ๋ชจ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํฉ๋๋ค. ํ ์คํธยท์ด๋ฏธ์งยท์์์ ๋๋๋๋ ํตํฉ AI ๋ชจ๋ธ์ ๊ฐ๋ฅ์ฑ์ ๊ด์ฌ ์๋ค๋ฉด ๋ ผ๋ฌธ๊ณผ ํจ๊ป ์ดํด๋ณผ ๋งํ ๋ฆด๋ฆฌ์ค์ ๋๋ค.
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ โ ๋ค์ด๋ก๋ 580๋ง ๊ฑด ๋ํ
DeepSeek AI๊ฐ ๊ณต๊ฐํ DeepSeek-V4-Pro๊ฐ HuggingFace ํธ๋ ๋ฉ ์ต์์์ ์ค๋ฅด๋ฉฐ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. ๊ณต๊ฐ ์ดํ ๋ค์ด๋ก๋ ์๊ฐ 580๋ง ๊ฑด์ ๋์ด์ฐ๊ณ ์ข์์๋ 4,493๊ฐ์ ๋ฌํด ํ์ฌ ์ปค๋ฎค๋ํฐ์์ ๊ฐ์ฅ ์ฃผ๋ชฉ๋ฐ๋ ํ ์คํธ ์์ฑ ๋ชจ๋ธ ์ค ํ๋๋ก ์๋ฆฌ ์ก์์ต๋๋ค. fp8 ๋ฐ 8-bit ์ถ๋ก ์ ์ง์ํด ์๋์ ์ผ๋ก ๊ฐ๋ฒผ์ด ํ๋์จ์ด์์๋ ํจ์จ์ ์ผ๋ก ์คํํ ์ ์๋ค๋ ์ ์ด ๊ฐ์ ์ผ๋ก ๊ผฝํ๋๋ค. HuggingFace Transformers ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์์ ํ ํธํ๋๊ณ Inference Endpoint๋ ์ง์ํ๋ฏ๋ก ๋ฐ๋ก API ํํ๋ก ๋ถ์ด๊ธฐ๋ ์ฝ์ต๋๋ค. ๊ณต์ ๋ฒค์น๋งํฌ ๊ฒฐ๊ณผ(eval-results)๋ ํจ๊ป ์ ๊ณต๋์ด ์ฑ๋ฅ์ ๊ฐ๊ด์ ์ผ๋ก ํ์ธํ ์ ์์ต๋๋ค. ๋ผ์ด์ ์ค๊ฐ MIT๋ผ ์์ ์ ํ์ฉ๋ ์์ ๋กญ์ต๋๋ค. ์ฃผ๋์ด ๊ฐ๋ฐ์๋ผ๋ฉด Transformers๋ง ์ค์น๋์ด ์์ผ๋ฉด ๋ฐ๋ก ๋ถ๋ฌ์ ์คํํด๋ณผ ์ ์์ผ๋ ์ง์ ๋๋ ค๋ณด๋ ๊ฒ์ ๊ฐ๋ ฅํ ์ถ์ฒํฉ๋๋ค.
-
๋ก์ปฌ ๊ธฐ๊ธฐ์์ ๋์๊ฐ๋ 1-Bit ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ โ Bonsai Image 4B ๋ฑ์ฅ
PrismML์ด ๋ก์ปฌ ๊ธฐ๊ธฐ์์ ์ง์ ์คํํ ์ ์๋ ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ Bonsai Image 4B๋ฅผ ๋ฐํํ์ต๋๋ค. ํต์ฌ์ 1-bit ์์ํ ๊ธฐ์ ์ ์ ์ฉํด ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ๋ํญ ์ค์๋ค๋ ์ ์ผ๋ก, ๊ณ ์ฌ์ GPU ์์ด๋ ์ด๋ฏธ์ง ์์ฑ์ ์๋ํ ์ ์๋ค๋ ๊ธฐ๋๊ฐ์ Hacker News์์ ์ ์ 196์ , ๋๊ธ 71๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ํ์ ๋ฅผ ๋ชจ์์ต๋๋ค. ํด๋ผ์ฐ๋ API์ ์์กดํ์ง ์๊ณ ์จ๋๋ฐ์ด์ค์์ ์ด๋ฏธ์ง๋ฅผ ๋ง๋ค์ด๋ผ ์ ์๋ค๋ ๊ฒ์ ํ๋ผ์ด๋ฒ์๋ ๋น์ฉ ์ธก๋ฉด์์๋ ๋งค๋ ฅ์ ์ธ ํฌ์ธํธ์ ๋๋ค. 4B ๊ท๋ชจ ํ๋ผ๋ฏธํฐ๋ฅผ 1-bit์ผ๋ก ์์ถํ๋ฉด์ ์ค์ฉ์ ์ธ ์ฑ๋ฅ์ ์ ์งํ๋ ์ ๊ทผ๋ฒ ์์ฒด๊ฐ ์ด ๋ถ์ผ์์ ์ฃผ๋ชฉํ ๋งํ ์๋์ ๋๋ค. ๋ก์ปฌ AI ๋๊ตฌ๋ ์ฃ์ง ์ถ๋ก ์ ๊ด์ฌ ์๋ ๋ถ๋ค์ด๋ผ๋ฉด ํ ๋ฒ ์ดํด๋ณผ ๋งํ ํ๋ก์ ํธ์ ๋๋ค.
-
OpenRouter, ์๋ฆฌ์ฆ B ํฌ์ ์ ์น๋ก 1์ต 1,300๋ง ๋ฌ๋ฌ ํ๋ณด
OpenRouter๊ฐ ์๋ฆฌ์ฆ B ๋ผ์ด๋์์ 1์ต 1,300๋ง ๋ฌ๋ฌ(์ฝ 1,560์ต ์) ํฌ์ ์ ์น์ ์ฑ๊ณตํ๋ค๊ณ ๊ณต์ ๋ฐํํ์ต๋๋ค. OpenRouter๋ Claude, GPT-4, Gemini ๋ฑ ์์ญ ์ข ์ LLM์ ๋จ ํ๋์ API ์๋ํฌ์ธํธ๋ก ์ฌ์ฉํ ์ ์๊ฒ ํด์ฃผ๋ AI ์ธํ๋ผ ์๋น์ค์ ๋๋ค. ๋ชจ๋ธ๋ณ๋ก API ๊ณ์ฝ์ ๋ฐ๋ก ๋งบ๊ณ ํค๋ฅผ ๊ด๋ฆฌํ๋ ๋ฒ๊ฑฐ๋ก์ ์์ด, ํ๋์ ํค๋ก ๋ค์ํ ๋ชจ๋ธ์ ์์ ๋กญ๊ฒ ์ ํํ ์ ์์ด ์คํํธ์ ๊ณผ ๊ฐ๋ฐ์๋ค์๊ฒ ํฐ ์ธ๊ธฐ๋ฅผ ์ป๊ณ ์์ต๋๋ค. Hacker News์์ 246์ , 110๊ฐ ๋๊ธ์ ๊ธฐ๋กํ ๋งํผ ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ ๋ฐ์๋ ๋งค์ฐ ๋จ๊ฑฐ์ ์ต๋๋ค. ๋จ์ผ ๋ชจ๋ธ ์์กด์ ํผํ๊ณ ์ฌ๋ฌ AI ๋ชจ๋ธ์ ์ ์ฐํ๊ฒ ํ์ฉํ๋ ค๋ ๊ธฐ์ ์์๊ฐ ๊ธ์ฆํ๋ฉด์, LLM ๋ผ์ฐํ ยท๊ฒ์ดํธ์จ์ด ์์ฅ์ด ๋ ๋ฆฝ์ ์ธ ๋น์ฆ๋์ค ์นดํ ๊ณ ๋ฆฌ๋ก ์ฑ์ฅํ๊ณ ์์์ ์ ๋ณด์ฌ์ฃผ๋ ์์์ ๋๋ค.
-
DeepSeek-V4-Pro ๊ณต๊ฐ ์ฆ์ HuggingFace ํธ๋ ๋ฉ 1์ โ 590๋ง ๋ค์ด๋ก๋ ๋ํ
DeepSeek๊ฐ ์ต์ ๋ชจ๋ธ DeepSeek-V4-Pro๋ฅผ HuggingFace์ ๊ณต๊ฐํ์๋ง์ ๋ค์ด๋ก๋ ์ 590๋ง ํ, ์ข์์ 4,400๊ฐ ์ด์์ ๊ธฐ๋กํ๋ฉฐ ํญ๋ฐ์ ์ธ ๋ฐ์์ ์ป๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํนํ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. 8-bit ๋ฐ fp8 ์์ํ๋ฅผ ์ง์ํด ๋ค์ํ ํ๋์จ์ด ํ๊ฒฝ์์๋ ์ ์ฐํ๊ฒ ์ฌ์ฉํ ์ ์์ผ๋ฉฐ, transformers ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ํธํ๋๊ณ safetensors ํฌ๋งท์ ์ง์ํด ๋น ๋ฅด๊ณ ์์ ํ ๋ชจ๋ธ ๋ก๋ฉ์ด ๊ฐ๋ฅํฉ๋๋ค. DeepSeek๋ ์์ ๊ณต๊ฐํ ๋ชจ๋ธ๋ค๋ ๋ฐ์ด๋ ์ฑ๋ฅ๊ณผ ์คํ์์ค ๊ณต๊ฐ๋ก ํฐ ํ์ ๋ฅผ ๋ชจ์๋๋ฐ, ์ด๋ฒ V4-Pro ์ญ์ ๊ทธ ํ๋ฆ์ ์ด์ด๊ฐ๋ฉฐ ์คํ์์ค LLM ์ํ๊ณ ๊ฒฝ์์ ํ์ธต ์น์ดํ๊ฒ ๋ง๋ค ์ ๋ง์ ๋๋ค. ๋น์ฉ ๋ถ๋ด ์์ด ์ต์ ๊ณ ์ฑ๋ฅ ๋ชจ๋ธ์ ์ง์ ๋ฐฐํฌํ๊ณ ์ถ์ ๊ฐ๋ฐ์๋ผ๋ฉด ์ฃผ๋ชฉํ ๋งํ ๋ฆด๋ฆฌ์ฆ์ ๋๋ค.
-
ํ ๊ธฐ์
์ด ์ค์๋ก ํ ๋ฌ์ Claude AI์ 5์ต ๋ฌ๋ฌ๋ฅผ ์ง์ถํ๋ค
์ด๋ฆ์ด ๋ฐํ์ง์ง ์์ ์ด๋ ๊ธฐ์ ์ด ๋จ ํ ๋ฌ ๋ง์ Anthropic์ Claude AI ์ด์ฉ ๋น์ฉ์ผ๋ก ๋ฌด๋ ค 5์ต ๋ฌ๋ฌ(์ฝ 6,900์ต ์)๋ฅผ ์ง์ถํ ์ถฉ๊ฒฉ์ ์ธ ์ฌ๊ฑด์ด Tom's Hardware๋ฅผ ํตํด ๋ณด๋๋์ต๋๋ค. ์์ธ์ ์ง์๋ค์๊ฒ Claude ๋ผ์ด์ ์ค๋ฅผ ์ ๊ณตํ ๋ ์ฌ์ฉ๋ ํ๋(usage limit)๋ฅผ ์ค์ ํ์ง ์์ ๊ฒ์ผ๋ก ์ ํด์ง๋๋ค. AI ์๋น์ค๋ฅผ ์ฌ๋ด์ ์ ์ฌ ๋์ ํ ๋ ๋น์ฉ ๊ด๋ฆฌ ์ ์ฑ ๊ณผ ๋ชจ๋ํฐ๋ง ์ฒด๊ณ๋ฅผ ์ฌ์ ์ ๋ง๋ จํ์ง ์์ผ๋ฉด ์ผ๋ง๋ ํฐ ์ํ์ด ์๊ธธ ์ ์๋์ง๋ฅผ ๋จ์ ์ผ๋ก ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์ ๋๋ค. ๊ท๋ชจ์ ๊ด๊ณ์์ด API ๊ธฐ๋ฐ AI ๋๊ตฌ๋ฅผ ๋์ ํ ๋๋ ๋ฐ๋์ ์ง์ถ ํ๋์ ์๋ฆผ ์ค์ ์ ๋จผ์ ๊ตฌ์ฑํ๋ ๊ฒ์ด ํ์๋ผ๋ ๊ตํ์ ๋จ๊น๋๋ค. AI ๊ฑฐ๋ฒ๋์ค(governance)์ ๋น์ฉ ํต์ ๊ฐ ๊ธฐ์ ๋์ ๋งํผ์ด๋ ์ค์ํ ์๋๊ฐ ๋์์ ์ค๊ฐํ๊ฒ ํด์ฃผ๋ ์ด์ผ๊ธฐ์ ๋๋ค.
-
AI๊ฐ ํ๋ก ํธ์๋์ '์์ด๋ฒ๋ฆฐ 10๋
(lost decade)'์ ๋ฐ๋ณตํ๊ฒ ๋ง๋ค๊ณ ์์๊น?
AI ์ฝ๋ฉ ๋๊ตฌ๋ค์ด ํ๋ก ํธ์๋ ๊ฐ๋ฐ์ ๊ฐ์ ธ์ค๋ ๋ณํ๊ฐ ๊ณผ๊ฑฐ '์์ด๋ฒ๋ฆฐ 10๋ (frontend's lost decade)'๊ณผ ๋ฎ์๊ฐ๊ณ ์๋ ๊ฑด ์๋๊น ํ๋ ๋๋ฐ์ ์ธ ์ง๋ฌธ์ ๋์ง ๊ธ์ด์์. Hacker News์์ 226์ ๊ณผ ๋ฌด๋ ค 201๊ฐ์ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ์ฃผ ๊ฐ์ฅ ๋จ๊ฑฐ์ด ํ ๋ก ์ฃผ์ ์ค ํ๋๊ฐ ๋์ต๋๋ค. 'ํ๋ก ํธ์๋์ ์์ด๋ฒ๋ฆฐ 10๋ '์ด๋ FlashยทjQuery ๊ฐ์ ๋๊ตฌ์ ๊ณผ๋ํ๊ฒ ์์กดํ๋ฉด์ ์น ๊ฐ๋ฐ์ ๊ธฐ์ด ์ญ๋์ด ์ ์ฒด๋๋ ์๊ธฐ๋ฅผ ๊ฐ๋ฆฌํค๋ ํํ์ด์์. ํ์๋ AI ๋๊ตฌ๋ค์ด ๋น ๋ฅธ ๊ฒฐ๊ณผ๋ฌผ ์์ฐ์๋ ์ ๋ฆฌํ์ง๋ง, ๊ฐ๋ฐ์๊ฐ ์ง์ ์ฌ๊ณ ํ๊ณ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ์ญ๋์ ํค์ฐ๋ ๊ฒ์ ๋ฐฉํดํ ์ ์๋ค๋ ์ฐ๋ ค๋ฅผ ์ ๊ธฐํฉ๋๋ค. ์ปค๋ฎค๋ํฐ ๋๊ธ์์๋ ์ฐฌ๋ฐ ์๊ฒฌ์ด ํฝํฝํ๊ฒ ๊ฐ๋ ธ๊ณ , 'AI ๋๊ตฌ๋ฅผ ์ด๋ป๊ฒ ํ๋ช ํ๊ฒ ์จ์ผ ํ๋๊ฐ'์ ๋ํ ๋ณธ์ง์ ์ธ ๋ ผ์์ผ๋ก ์ด์ด์ก์ด์. ์ฃผ๋์ด ๊ฐ๋ฐ์๋ผ๋ฉด AI์ ์์กดํ๋ฉด์๋ ๊ธฐ์ด ์ค๋ ฅ์ ์ด๋ป๊ฒ ์ ์งํ ์ง ๊ณ ๋ฏผํด๋ณผ ์ข์ ๊ณ๊ธฐ๊ฐ ๋๋ ๊ธ์ ๋๋ค.
-
์ผ๋ฐ GPU์์ ์์ฒญ๋น 3,000 tokens/s ๋ฌ์ฑ โ ์ค์๊ฐ LLM ์ถ๋ก ์ ์ ๊ธฐ์ค
์ ์ฉ AI ๊ฐ์๊ธฐ ์์ด ์ผ๋ฐ(standard) GPU๋ง์ผ๋ก ์์ฒญ๋น ์ด๋น 3,000 ํ ํฐ ์ฒ๋ฆฌ๋ฅผ ์คํํ๋ค๋ ๊ธฐ์ ๋ธ๋ก๊ทธ ๊ธ์ด Hacker News์์ 187์ , 84๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ด์. LLM ์ถ๋ก ์๋ ๋ฒค์น๋งํฌ์์ ์ด ์์น๋ ๊ฝค ์ธ์์ ์ธ๋ฐ, ํนํ A100ยทH100 ๊ฐ์ ๊ณ ๊ฐ์ ์ ์ฉ GPU ์์ด๋ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํต์ฌ์ ๋๋ค. ์ง๊ธ๊น์ง LLM์ ์๋น์ค ์์ค์ผ๋ก ์ด์ํ๋ ค๋ฉด ๋ง๋ํ ํ๋์จ์ด ๋น์ฉ์ด ํ์ํ๋ค๋ ์ธ์์ด ๊ฐํ๋๋ฐ, ์ด ์ ๊ทผ๋ฒ์ ๊ทธ ์ง์ ์ฅ๋ฒฝ์ ํฌ๊ฒ ๋ฎ์ถ ๊ฐ๋ฅ์ฑ์ ๋ณด์ฌ์ค์. ์๊ท๋ชจ ํ์ด๋ ์คํํธ์ ์ด ์์ฒด์ ์ผ๋ก LLM ๊ธฐ๋ฐ ์๋น์ค๋ฅผ ๊ตฌ์ถํ ๋ ์ค์ง์ ์ธ ๋์์ด ๋ ์ ์๋ค๋ ์ ์์ ์ค์ฉ์ ์ธ ์๋ฏธ๊ฐ ํฝ๋๋ค. LLM ์ถ๋ก ์ต์ ํ๋ ์จํ๋ ๋ฏธ์ค(on-premises) ๋ฐฐํฌ์ ๊ด์ฌ ์๋ ๋ถ๋ค์ด๋ผ๋ฉด ์๋ฌธ์์ ๊ตฌ์ฒด์ ์ธ ๊ตฌํ ๋ฐฉ์์ ์ง์ ํ์ธํด๋ณด์๊ธธ ์ถ์ฒํด์.