๐ ๊ฒ์
"fp8" ๊ฒ์ ๊ฒฐ๊ณผ 5๊ฑด
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ โ ๋ค์ด๋ก๋ 580๋ง ํ ๋ํ
DeepSeek์ ์ ํ๋๊ทธ์ญ ๋ชจ๋ธ DeepSeek-V4-Pro๊ฐ HuggingFace์์ ํธ๋ ๋ฉ 1์์ ์ค๋ฅด๋ฉฐ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. ์ถ์ ์งํ ๋ค์ด๋ก๋ 580๋ง ํ, ์ข์์ 4,594๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ญ๋๊ธ ๋ฐ์์ ๋์ด๋ด๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ์ด ์์ ๋กญ๊ณ , fp8 ์ ๋ฐ๋์ 8๋นํธ ์์ํ๋ฅผ ์ง์ํด ๋น๊ต์ ์ ์ VRAM์ผ๋กโฆ
-
DeepSeek-V4-Pro, HuggingFace์์ 580๋ง ๋ค์ด๋ก๋ ๋ํ
DeepSeek์ ์ต์ ๋ชจ๋ธ DeepSeek-V4-Pro๊ฐ HuggingFace ํธ๋ ๋ฉ์ ์ด๋ฆ์ ์ฌ๋ฆฌ๋ฉฐ ํฐ ๊ด์ฌ์ ๋ชจ์์ต๋๋ค. 580๋ง ํ ์ด์์ ๋ค์ด๋ก๋์ 4,500๊ฐ ์ด์์ ์ข์์๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ด๋ฒ ๋ชฉ๋ก์์ ์๋์ ์ธ ๋ค์ด๋ก๋ ์์น๋ฅผ ๋ณด์ฌ์คฌ์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํ๊ณ , 8-bit ๋ฐ fp8 ์์ํ๋ฅผ ์ง์ํด ๋ค์ํ ํ๋โฆ
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ โ ๋ค์ด๋ก๋ 580๋ง ๊ฑด ๋ํ
DeepSeek AI๊ฐ ๊ณต๊ฐํ DeepSeek-V4-Pro๊ฐ HuggingFace ํธ๋ ๋ฉ ์ต์์์ ์ค๋ฅด๋ฉฐ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. ๊ณต๊ฐ ์ดํ ๋ค์ด๋ก๋ ์๊ฐ 580๋ง ๊ฑด์ ๋์ด์ฐ๊ณ ์ข์์๋ 4,493๊ฐ์ ๋ฌํด ํ์ฌ ์ปค๋ฎค๋ํฐ์์ ๊ฐ์ฅ ์ฃผ๋ชฉ๋ฐ๋ ํ ์คํธ ์์ฑ ๋ชจ๋ธ ์ค ํ๋๋ก ์๋ฆฌ ์ก์์ต๋๋ค. fp8 ๋ฐ 8-bit ์ถ๋ก ์ ์ง์ํด ์๋์ ์ผ๋ก ๊ฐ๋ฒผ์ด ํ๋์จ์ด์์โฆ
-
DeepSeek-V4-Pro ๊ณต๊ฐ ์ฆ์ HuggingFace ํธ๋ ๋ฉ 1์ โ 590๋ง ๋ค์ด๋ก๋ ๋ํ
DeepSeek๊ฐ ์ต์ ๋ชจ๋ธ DeepSeek-V4-Pro๋ฅผ HuggingFace์ ๊ณต๊ฐํ์๋ง์ ๋ค์ด๋ก๋ ์ 590๋ง ํ, ์ข์์ 4,400๊ฐ ์ด์์ ๊ธฐ๋กํ๋ฉฐ ํญ๋ฐ์ ์ธ ๋ฐ์์ ์ป๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ๋ ์์ ๋กญ๊ฒ ๊ฐ๋ฅํ๋ค๋ ์ ์ด ํนํ ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค. 8-bit ๋ฐ fp8 ์์ํ๋ฅผ ์ง์ํด ๋ค์ํ ํ๋์จ์ด ํ๊ฒฝ์์๋ ์ ์ฐํ๊ฒ ์ฌ์ฉโฆ
-
DeepSeek-V4-Pro, HuggingFace ํธ๋ ๋ฉ 1์ ๋ฑ๊ทน
์ค๊ตญ AI ์คํํธ์ DeepSeek๊ฐ ์ ์ ๋ํ ์ธ์ด ๋ชจ๋ธ DeepSeek-V4-Pro๋ฅผ HuggingFace์ ๊ณต๊ฐํ๋ฉฐ ํธ๋ ๋ฉ 1์๋ฅผ ์ฐจ์งํ์ต๋๋ค. ๋์ ๋ค์ด๋ก๋ 276๋ง ํ ์ด์, ์ข์์ 3,972๊ฐ๋ฅผ ๊ธฐ๋กํ๋ฉฐ ์ปค๋ฎค๋ํฐ์ ํญ๋ฐ์ ์ธ ๊ด์ฌ์ ๋ฐ๊ณ ์์ต๋๋ค. MIT ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋์ด ์์ ์ ํ์ฉ์ด ์์ ๋กญ๊ณ , FP8 ๋ฐ 8-bit ์์ํ๋ฅผ ์ง์ํด ๋น๊ต์ ์ ์โฆ