๐ ๊ฒ์
"gpu" ๊ฒ์ ๊ฒฐ๊ณผ 9๊ฑด
-
Anthropic, IPO ์๋๊ณ AI ๊ณผ์ ์ง์ถ ๋
ผ๋์ ์ง๋ฉด
Axios ๋ณด๋์ ๋ฐ๋ฅด๋ฉด, Claude AI ๋ชจ๋ธ์ ๊ฐ๋ฐํ๋ Anthropic์ด ๊ธฐ์ ๊ณต๊ฐ(IPO)๋ฅผ ์๋๊ณ AI ์ธํ๋ผ์ ์ฐ๊ตฌ๊ฐ๋ฐ์ ์์๋ถ๋ ๋ง๋ํ ์ง์ถ์ ๋๊ณ ํฌ์์์ ์ ๊ณ์ ๋ฐ๋ฐ์ ์ง๋ฉดํ๊ณ ์์ต๋๋ค. AI ๊ธฐ์ ์ด ์์ฅ์ ์ค๋นํ๋ ๋จ๊ณ์์๋ ์์ต์ฑ๊ณผ ๋น์ฉ ๊ตฌ์กฐ์ ๋ํ ์์ฅ์ ๊ฒ์ฆ์ด ํจ์ฌ ์๊ฒฉํด์ง๋๋ฐ, Anthropic๋ ๊ทธ ๊ด๋ฌธ์ ํต๊ณผํ๋ ์ค์ ๋๋ค. ํ์ฌโฆ
-
์๊ฐ IT / ํ
ํฌ๋๋ก์ง ์ข
ํฉ
5์ ํ ๋ฌ๊ฐ AI ์์ด์ ํธ์ ์์ ๋ฌธ์ ๊ฐ ์ด๋ก ์์ ํ์ค๋ก ์ง์ ํ๊ณ , ๋ณด์ยทํ๋ผ์ด๋ฒ์ ์ํ์ด ์ธํ๋ผ์ ์ ์ฑ ์ ๋ฐ์ผ๋ก ํ์ฐ๋๋ค. EU ๊ท์ ์ ์คํ์์ค ์ฐ๋๊ฐ ๊ธฐ์ ์ํ๊ณ์ ๊ท ํ์ถ ์ญํ ์ ์ด์ด๊ฐ๋ ํํธ, ํ๋ซํผ ๊ธฐ์ ๋ค์ ์์ต ๋ชจ๋ธ ์ ํ๊ณผ ๊ฐ๋ฐ ์ธํ๋ผยทUX ํจ๋ฌ๋ค์์ ์ฌ๊ฒํ ๊ฐ ์ด๋ฌ์ ๊ดํตํ๋ ์ฃผ์ ํ๋ฆ์ด์๋ค. ## 1. AI ์์ด์ ํธ, ์ ์ฝ์ ๋๋ค โ ์์ ๊ณผ โฆ
-
Cloudflare Turnstile, WebGL ํ๊ฑฐํ๋ฆฐํ
์๊ตฌ ๋
ผ๋
CAPTCHA๋ฅผ ๋์ฒดํ๋ Cloudflare์ ๋ด ํ์ง ๋๊ตฌ Turnstile์ด WebGL์ ํตํ GPU ์ ๋ณด ์์ง, ์ฆ ๊ธฐ๊ธฐ ํ๊ฑฐํ๋ฆฐํ ์ ํ์๋ก ์๊ตฌํ๋ค๋ ์ฌ์ค์ด ๋ฐํ์ก์ต๋๋ค. ํ๊ฑฐํ๋ฆฐํ ์ ์ฟ ํค ์์ด๋ ์ฌ์ฉ์๋ฅผ ์๋ณํ๊ณ ์ถ์ ํ ์ ์๋ ๊ธฐ์ ์ด๋ผ ๊ฐ์ธ์ ๋ณด ์นจํด ์ฐ๋ ค๊ฐ ๋งค์ฐ ํฝ๋๋ค. ํนํ ํ๋ผ์ด๋ฒ์๋ฅผ ์ค์ํด JavaScript๋ฅผ ์ ํํ๊ฑฐ๋ WebGL์ ๋นํ์ฑโฆ
-
๋ก์ปฌ ๊ธฐ๊ธฐ์์ ๋์๊ฐ๋ 1-Bit ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ โ Bonsai Image 4B ๋ฑ์ฅ
PrismML์ด ๋ก์ปฌ ๊ธฐ๊ธฐ์์ ์ง์ ์คํํ ์ ์๋ ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ Bonsai Image 4B๋ฅผ ๋ฐํํ์ต๋๋ค. ํต์ฌ์ 1-bit ์์ํ ๊ธฐ์ ์ ์ ์ฉํด ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ๋ํญ ์ค์๋ค๋ ์ ์ผ๋ก, ๊ณ ์ฌ์ GPU ์์ด๋ ์ด๋ฏธ์ง ์์ฑ์ ์๋ํ ์ ์๋ค๋ ๊ธฐ๋๊ฐ์ Hacker News์์ ์ ์ 196์ , ๋๊ธ 71๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ํ์ ๋ฅผ ๋ชจ์์ต๋๋ค. ํด๋ผ์ฐ๋ API์ ์์กดโฆ
-
์ผ์ฑ์ ์, HBM4E ์ํ ์ธ๊ณ ์ต์ด ์ถํ โ ์ ์ธ๋ ๋๋น ์๋ 20% ํฅ์
์ผ์ฑ์ ์๊ฐ HBM4E(4์ธ๋ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ E๋ฒ์ ) ์ํ์ ์ธ๊ณ ์ต์ด๋ก ์ถํํ์ต๋๋ค. ์ด๋ฒ HBM4E๋ ์ง์ ์ธ๋ ๋๋น 20% ๋น ๋ฅธ ์๋๋ฅผ ๋ฌ์ฑํ ๊ฒ์ผ๋ก ์๋ ค์ก์ต๋๋ค. HBM์ AI ์ฐ์ฐ์ ํนํ๋ GPU์ ํ์ฌ๋๋ ๊ณ ์ฑ๋ฅ ๋ฉ๋ชจ๋ฆฌ๋ก, AI ์ธํ๋ผ ์์ ๊ธ์ฆ๊ณผ ํจ๊ป ๋ฐ๋์ฒด ์์ฅ์ ํต์ฌ ์ ํ์ผ๋ก ๋ ์ฌ๋์ต๋๋ค. ์ผ์ฑ์ ์๋ HBM ์์ฅ์์ SKํ์ด๋์ค์ ์น์ดํ๊ฒ โฆ
-
์ผ๋ฐ GPU์์ ์์ฒญ๋น 3,000 tokens/s ๋ฌ์ฑ โ ์ค์๊ฐ LLM ์ถ๋ก ์ ์ ๊ธฐ์ค
์ ์ฉ AI ๊ฐ์๊ธฐ ์์ด ์ผ๋ฐ(standard) GPU๋ง์ผ๋ก ์์ฒญ๋น ์ด๋น 3,000 ํ ํฐ ์ฒ๋ฆฌ๋ฅผ ์คํํ๋ค๋ ๊ธฐ์ ๋ธ๋ก๊ทธ ๊ธ์ด Hacker News์์ 187์ , 84๊ฐ ๋๊ธ์ ๊ธฐ๋กํ๋ฉฐ ๋จ๊ฑฐ์ด ๋ฐ์์ ์ป์์ด์. LLM ์ถ๋ก ์๋ ๋ฒค์น๋งํฌ์์ ์ด ์์น๋ ๊ฝค ์ธ์์ ์ธ๋ฐ, ํนํ A100ยทH100 ๊ฐ์ ๊ณ ๊ฐ์ ์ ์ฉ GPU ์์ด๋ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํต์ฌ์ ๋๋ค. ์ง๊ธ๊น์ง โฆ
-
AI ์นฉ ๊ตฌ์ฑ ๋น์ฉ์ 3๋ถ์ 2๊ฐ ๋ฉ๋ชจ๋ฆฌ โ AI ํ๋์จ์ด ๋น์ฉ ๊ตฌ์กฐ์ ๊ทผ๋ณธ์ ๋ณํ
Epoch AI์ ๋ถ์์ ๋ฐ๋ฅด๋ฉด AI ์นฉ ๊ตฌ์ฑ ๋น์ฉ์์ ๋ฉ๋ชจ๋ฆฌ๊ฐ ์ฐจ์งํ๋ ๋น์จ์ด ๊ฑฐ์ 3๋ถ์ 2์ ๋ฌํ๊ฒ ๋์ต๋๋ค. Hacker News์์ 211์ , 229๊ฐ์ ๋๊ธ๋ก ํ๋ฐํ ํ ๋ก ์ ๋ถ๋ฌ์ผ์ผํจ ์ฃผ์ ์ ๋๋ค. AI ๋ชจ๋ธ์ ๊ท๋ชจ๊ฐ ์ปค์ง๋ฉด์ ๋์ฉ๋ ๊ณ ์ ๋ฉ๋ชจ๋ฆฌ(HBM ๋ฑ)์ ๋ํ ์์๊ฐ ํญ๋ฐ์ ์ผ๋ก ์ฆ๊ฐํ๊ณ , ์ด๊ฒ์ด ๋ฐ๋์ฒด ์๊ฐ ๊ตฌ์กฐ๋ฅผ ๊ทผ๋ณธ์ ์ผ๋ก ๋ฐ๊ฟ๋๊ณ ์์ต๋๋คโฆ
-
NVIDIA RTX 5080, Watch Dogs์์ 450 FPS ๋ฌ์ฑ (๋ฌด์์ค ์ค์ผ์ผ๋ง ํ์ฉ)
NVIDIA์ ์ต์ ํ๋๊ทธ์ญ ๊ทธ๋ํฝ ์นด๋์ธ RTX 5080์ด Watch Dogs ๊ฒ์์์ ํ์ ์ ์ธ ์ฑ๋ฅ์ ์ ๋ณด์์ต๋๋ค. ๋ฌด์์ค ์ค์ผ์ผ๋ง(lossless scaling) ๊ธฐ์ ์ ํ์ฉํ์ฌ ์ต๋ 450 FPS(์ด๋น ํ๋ ์ ์)๋ผ๋ ๋๋ผ์ด ํ๋ ์๋ฅ ์ ๋ฌ์ฑํ์ต๋๋ค. ์ด๋ ์ฐจ์ธ๋ GPU์ ํ์ํ ์ฒ๋ฆฌ ์ฑ๋ฅ์ ์ง์ ์ฆ๋ช ํ๋ ๋ฒค์น๋งํฌ ๊ฒฐ๊ณผ๋ก, ๊ฒ์ ์ ๊ณ์ ํฐ ํ์ฅ์ ์ผ์ผโฆ
-
TorchTPU: Google TPU์์ PyTorch ๋ค์ดํฐ๋ธ ์คํ
Google ๊ฐ๋ฐํ์ด PyTorch๋ฅผ Google์ TPU(Tensor Processing Unit)์์ ์ง์ ์คํํ ์ ์๋ ์๋ก์ด ๊ธฐ์ ์ธ TorchTPU๋ฅผ ๊ณต๊ฐํ์ต๋๋ค. ์ด๋ ๋จธ์ ๋ฌ๋ ๊ฐ๋ฐ์๋ค์๊ฒ ๋งค์ฐ ์ค์ํ ์์์ด๋ฉฐ, ์ ๊ณ์์ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ํ๋ ์์ํฌ์ ๊ณ ์ฑ๋ฅ ํ๋์จ์ด์ ์๋ฒฝํ ํตํฉ์ ์๋ฏธํฉ๋๋ค. ๊ธฐ์กด์๋ PyTorch ์ฌ์ฉ์๋ค์ด ์ฃผ๋ก GPU ์ค์ฌ์โฆ