โญ๏ธ AI์ํฌ๋ก๋๋ณ ๋ค์ํ ์ ๊ทผ - ์จํ๋ ๋ฏธ์ค์ ํด๋ผ์ฐ๋ ๋ณํ [์ถ๊ฐ] ์ฌ๊ธฐ์ ์ค๊ตญ ์์ฅ์ ํจ๊ป ๋ด์ผ ํฉ๋๋ค. ์ค๊ตญ์ ์ด๋ฏธ ์ด ํ๋ฆ์ AI Box, ์ฆ ์ค๊ตญ์ ํํ์ผ๋ก๋ ๋๋ชจ๋ธ ์ผ์ฒด๊ธฐ, ํ๋ จยท์ถ๋ก ์ผ์ฒด๊ธฐ, ์ง๋ฅ์ฐ์
์ผ์ฒด๊ธฐ๋ผ๋ ํํ๋ก ๋น ๋ฅด๊ฒ ์ํํํ๊ณ ์์ต๋๋ค.
์๊ตฌ๊ถ์ด API ๊ธฐ๋ฐ ํด๋ผ์ฐ๋ ์ถ๋ก ํ๋ซํผ์ ์ค์ฌ์ผ๋ก AI ์๋น์ค๋ฅผ ํ์ฅํ๋ค๋ฉด, ์ค๊ตญ์ ๊ธฐ์
ยท์ ๋ถยท๋ณ์ยทํ๊ตยท์ ์กฐ ํ์ฅ์ ๋ชจ๋ธ, ์ถ๋ก ์๋ฒ, ์ง์๋ฒ ์ด์ค, ๋ณด์ ์ฒด๊ณ, ์
๋ฌด ์ ํ๋ฆฌ์ผ์ด์
์ ๋ฌถ์ด ํ์ฅ ์ค์นํ AI ํจํค์ง๋ก ๊ณต๊ธํ๋ ๊ฒฝํฅ์ด ๊ฐํฉ๋๋ค. FT๋ ์ค๊ตญ์ AI-in-a-box ์ ํ์ด ๊ธฐ์
์ ์จํ๋ ๋ฏธ์คยทํ๋ผ์ด๋น ํด๋ผ์ฐ๋ ์์์ ๊ฒฐํฉํ๋ฉด์ ์๋ฆฌ๋ฐ๋ฐยท๋ฐ์ด๋ยทํ
์ผํธ ๊ฐ์ ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋ ์ ๋ต๊ณผ ๋ค๋ฅธ ์์ฉํ ๊ฒฝ๋ก๋ฅผ ๋ง๋ค๊ณ ์๋ค๊ณ ๋ถ์ํ์ต๋๋ค.
์ค๊ตญ์ AI Box๋ ๋จ์ํ ์๋ฒ ๋ฐ์ค๊ฐ ์๋๋๋ค. ํ๋์จ์ด, ๋ชจ๋ธ, ์ถ๋ก ๋ฐํ์, ๋ฐ์ดํฐ ์ ์, ์ง์๋ฒ ์ด์ค, ๊ถํ๊ด๋ฆฌ, ์ฐ์
๋ณ ์ ํ๋ฆฌ์ผ์ด์
์ ํ๋๋ก ๋ฌถ์ ํตํฉ ์ปจ์คํ
ํ AI ํ์ดํ๋ผ์ธํ๊ณ ์ ์ ๋ฉ๋๋ค. ๊ธฐ์
๊ณ ๊ฐ ์
์ฅ์์๋ GPU ์๋ฒ๋ฅผ ๋ฐ๋ก ์ฌ๊ณ , ๋ชจ๋ธ์ ๋ฐ๋ก ๊ณ ๋ฅด๊ณ , ๋ฒกํฐDB์ RAG๋ฅผ ๋ฐ๋ก ๋ถ์ด๊ณ , ์
๋ฌด ์์คํ
์ฐ๋์ ๋ฐ๋ก ๋ฐ์ฃผํ๋ ๋์ , โ์ฐ๋ฆฌ ์กฐ์ง ์์ ๋ฐ๋ก ์ค์นํด์ ์ธ ์ ์๋ AI ์์คํ
โ์ ์ํฉ๋๋ค. ์ค๊ตญ์ ์ผ์ฒด๊ธฐ ์
์ฒด๋ค์ ๋ฐ๋ก ์ด ์์๋ฅผ ๊ฒจ๋ฅํฉ๋๋ค.
๋ํ์ ์ธ ์ถ์ ํ์จ์ด Ascend ์ํ๊ณ์
๋๋ค. ํ์จ์ด๋ FusionCube A3000 ๊ฐ์ ํ๋ จยท์ถ๋ก ์ด์ตํฉ ์ผ์ฒด๊ธฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ณ ์ฑ๋ฅ ์คํ ๋ฆฌ์ง, ํ๋ จยท์ถ๋ก ๋
ธ๋, ๋คํธ์ํฌ ์ฅ๋น, AI ํ๋ซํผ ์ํํธ์จ์ด๋ฅผ ํตํฉํ๋ ๊ตฌ์กฐ๋ฅผ ์ ์ํด์์ต๋๋ค. ๋ํ iFlytek, Zhipu AI, CloudWalk, ModelBest ๋ฑ ๋ชจ๋ธ ๊ธฐ์
๋ค๊ณผ ํ๋ ฅํด Ascend ๊ธฐ๋ฐ ๋๋ชจ๋ธ ์ผ์ฒด๊ธฐ ์ํ๊ณ๋ฅผ ํ์ฅํ์ต๋๋ค. ์ด๋ ๋จ์ ํ๋์จ์ด ํ๋งค๊ฐ ์๋๋ผ, ๊ตญ์ฐ AI ์นฉโ๋ชจ๋ธโ์ฐ์
์ ํ๋ฆฌ์ผ์ด์
โํ๋ผ์ด๋น ๋ฐฐํฌ๋ฅผ ๋ฌถ๋ ์ค๊ตญ์ AI ์ธํ๋ผ ์ ๋ต์
๋๋ค.
2025๋
์ดํ์๋ DeepSeek ๋ฑ ์ฌ๋ฌ ์คํ์์ค ๋ชจ๋ธ ์ฑ์ฅํจ๊ณผ๋ก ์ด ์์ฅ์ด ๋ ๋น ๋ฅด๊ฒ ํ์ฐ๋์ต๋๋ค. ์ค๊ตญ ํ์ง ๋ณด๋์ ๋ฐ๋ฅด๋ฉด JD Cloud, Tianyi Cloud, Baidu AI Cloud, Volcano Engine, Inspur Cloud, H3C, Lenovo, Sugon ๋ฑ ๋ค์ ์
์ฒด๊ฐ DeepSeek ์ผ์ฒด๊ธฐ ๋๋ ๋๋ชจ๋ธ ์ผ์ฒด๊ธฐ ์๋ฃจ์
์ ๋ด๋์์ต๋๋ค. ํนํ ์ค๊ตญ์์๋ ์ ๋ฌด, ๊ธ์ต, ์๋ฃ, ๊ต์ก, ์ ์กฐ์ฒ๋ผ ๋ฐ์ดํฐ ๋ณด์๊ณผ ํ์ฅ ํต์ ๊ฐ ์ค์ํ ์์ญ์์ ์ด๋ฌํ ์ผ์ฒด๊ธฐ ์์๊ฐ ๊ฐํ๊ฒ ๋ํ๋๊ณ ์์ต๋๋ค.
์ด ์์ฅ์๋ ์ธ ๊ฐ์ง ์ ํ์ ๊ธฐ์
์ด ์์ฌ ์์ต๋๋ค.
์ฒซ์งธ๋ ํ์จ์ด, ๋ ๋
ธ๋ฒ, H3C, Inspur, Sugon์ฒ๋ผ ์๋ฒยท์คํ ๋ฆฌ์งยท๋คํธ์ํฌ ์ธํ๋ผ๋ฅผ ๊ฐ์ถ ํ๋์จ์ดยท์์คํ
์
์ฒด์
๋๋ค.
๋์งธ๋ iFlytek, Zhipu AI, Baidu, Alibaba, ByteDance์ฒ๋ผ ๋ชจ๋ธ๊ณผ AI ํ๋ซํผ์ ๊ฐ์ง ๋ชจ๋ธยทํด๋ผ์ฐ๋ ์
์ฒด์
๋๋ค.
์
์งธ๋ Digital China, ZStack, FIT2CLOUD, MaxKB ๊ณ์ด์ฒ๋ผ ๊ณ ๊ฐ์ฌ์ ์
๋ฌด ์์คํ
๊ณผ AI ์ ํ๋ฆฌ์ผ์ด์
์ ์ฐ๊ฒฐํ๋ SIยทํ๋ซํผยท์ปจ์คํ
์
์ฒด์
๋๋ค. ์ค๊ตญ ์ฆ๊ถ์๋ณด๋ ๋๋ชจ๋ธ ์ผ์ฒด๊ธฐ ์์ฅ์ ์ฃผ์ ํ๋ ์ด์ด๋ฅผ ์์คํ
ํตํฉ์ฌ, ์ ํ๋ฆฌ์ผ์ด์
์
์ฒด, ๋ชจ๋ธ ์
์ฒด, GPU ์์ ์
์ฒด๋ก ๊ตฌ๋ถํ๊ณ ์์ต๋๋ค.
์ค์ํ ๊ฒ์ ์ธ ๋ฒ์งธ ์ ํ์
๋๋ค.
์ค์ ๊ธฐ์
AI ๋์
์์ ๊ฐ์ฅ ํฐ ๋ณ๋ชฉ์ ๋ชจ๋ธ ์์ฒด๋ณด๋ค ์
๋ฌด ๋ฐ์ดํฐ, ๊ถํ ์ฒด๊ณ, ๊ธฐ์กด ERPยทSCMยทCRMยทOA ์์คํ
, ์ง์๋ฒ ์ด์ค, ์ํฌํ๋ก์ฐ, ์ด์๊ด๋ฆฌ๋ฅผ ์ฐ๊ฒฐํ๋ ์ผ์
๋๋ค. ๊ทธ๋์ ์ค๊ตญ์์๋ AI Box๊ฐ ๋จ์ํ โ๋๋ชจ๋ธ์ด ๋ค์ด๊ฐ ์๋ฒโ๊ฐ ์๋๋ผ, ์ปจ์คํ
๊ณผ ๊ตฌ์ถ ํ๋ก์ ํธ์ ์
๊ตฌ ์ญํ ์ ํฉ๋๋ค. ์ฅ๋น๋ฅผ ๋ฉํํ ๋ค ์ฐ์
๋ณ ์ง์๋ฒ ์ด์ค ๊ตฌ์ถ, ํ๋กฌํํธยทAgent ์ํฌํ๋ก์ฐ ์ค๊ณ, ๋ด๋ถ ์์คํ
์ฐ๋, ๋ชจ๋ธ ๋ฏธ์ธ์กฐ์ , ๊ถํ๊ด๋ฆฌ, ์ด์ ๋ชจ๋ํฐ๋ง์ผ๋ก ์ด์ด์ง๋ ํ์ดํ๋ผ์ธ์ ํจ๊ป ํ๋งคํ๋ ๊ตฌ์กฐ์
๋๋ค.
์๋ฅผ ๋ค์ด Alibaba Cloud์ AI Stack์ Qwen๊ณผ DeepSeek ๊ณ์ด ๋ชจ๋ธ์ ๊ธฐ์
ํ๋ผ์ด๋น ํ๊ฒฝ์ ๋ฐฐํฌํ ์ ์๋ ์ํํธ์จ์ดยทํ๋์จ์ด ์ผ์ฒดํ ์๋ฃจ์
์ผ๋ก ์๊ฐ๋๋ฉฐ, ๋จ์ผ ์ฅ๋น๋ฟ ์๋๋ผ ๋ค์ค ์ฅ๋น ํ์ฅ, ํด๋ผ์ฐ๋ยท์ฃ์ง ํตํฉ, ํ๋ จยท์ถ๋ก ํตํฉ ์ค์ผ์ค๋ง์ ๊ฐ์กฐํฉ๋๋ค. ZStack์ DeepSeek ์ผ์ฒด๊ธฐ๋ Ascend, Hygon, NVIDIA ๋ฑ ๋ค์ํ GPU ํ๊ฒฝ์ ์ง์ํ๊ณ , ์ ์ฐฝ(ไฟกๅ) ํฉ๊ท์ฑ๊ณผ ๊ณ ๊ฐ์ฉ ๋ณด์ ์ํคํ
์ฒ, ์ผ์ํ๋ AI ํ๋ผ์ด๋น ๋ฐฐํฌ๋ฅผ ๊ฐ์กฐํฉ๋๋ค. MaxKB ๊ฐ์ ๊ธฐ์
์ฉ Agent ํ๋ซํผ์ ์ง์ ์ ์, ์ํฌํ๋ก์ฐ ํธ์ฑ, ํ๋ฌ๊ทธ์ธ ํ์ฅ, Agent ๊ฐ๋ฐ, ์ ํ๋ฆฌ์ผ์ด์
๋ฐฐํฌ์ ์ด์๊ด๋ฆฌ๋ฅผ ํ๋์ ํ๋ซํผ์ผ๋ก ์ ๊ณตํ๋ค๊ณ ์ค๋ช
ํฉ๋๋ค.
์ฆ ์ค๊ตญ์ AI Box์ ๋ณธ์ง์ AI ์ธํ๋ผ์ ์ ํํ์
๋๋ค. ์ถ๋ก ์๋ฒ๋ง ํ๋ ๊ฒ์ด ์๋๋ผ, โ๊ณ ๊ฐ์ฌ๊ฐ AI๋ฅผ ์ค์ ์
๋ฌด์ ๋ถ์ด๊ธฐ ์ํด ํ์ํ ์ ๊ณผ์ ์ ํจํค์งํโํฉ๋๋ค. ์ด ์ ์์ ๋ค๋น์ฐ์ค์ Token Factory์ ์ค๊ตญ์ AI Box๋ ๋ฐฉํฅ์ ๋ค๋ฅด์ง๋ง ๊ฐ์ ๋ฌธ์ ๋ฅผ ๋ณด๊ณ ์์ต๋๋ค. ๋ค๋น์ฐ์ค๋ ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ์์ ํ ํฐ ์์ฐ ํจ์จ๊ณผ ์ถ๋ก ์ฑ๋ฅ์ ๊ทน๋ํํ๋ ค ํ๊ณ , ์ค๊ตญ AI Box ์
์ฒด๋ค์ ํ์ฅ ์ค์นํ์ผ๋ก ๋ชจ๋ธยท๋ฐ์ดํฐยท์
๋ฌด ์์คํ
ยท์ถ๋ก ์ธํ๋ผ๋ฅผ ๋ฌถ์ด ๊ณ ๊ฐ์ ๋์
์ฅ๋ฒฝ์ ๋ฎ์ถ๋ ค ํฉ๋๋ค.
(1/2)
โญ๏ธ ์ค์ [ AI ์ธํ๋ผ ๊ฒฝ์์ ๋ค์ ์ ์ฅ: ์ถ๋ก ์ต์ ํ ๋ ์ด์ด์ ๋ค๋น์ฐ์ค์ Token Factory ์ ๋ต]
AI ์ธํ๋ผ ๊ฒฝ์์ ๋ฌด๊ฒ์ค์ฌ์ด ๋ฐ๋๊ณ ์์ต๋๋ค. ์ง๊ธ๊น์ง ์์ฅ์ ๊ด์ฌ์ ๋๊ฐ ๋ ๋ง์ GPU๋ฅผ ํ๋ณดํ๋๋, ๋๊ฐ ๋ ํฐ ๋ชจ๋ธ์ ํ์ต์ํค๋๋์ ์ง์ค๋์ด ์์์ต๋๋ค. ๊ทธ๋ฌ๋ AI ์๋น์ค๊ฐ ์ค์ ์
๋ฌด์ ์ฐ์
ํ์ฅ์ผ๋ก ๋ค์ด๊ฐ๋ฉด์ ๊ฒฝ์์ ํต์ฌ์ ์ ์ ๋ค๋ฅธ ๊ณณ์ผ๋ก ์ด๋ํ๊ณ ์์ต๋๋ค.
(* ์ถ๋ก ์ ๊ณต๊ฐ์ ํ์ฅํ๋ค - ๋ผ๋ ์ฃผ์ ๋ก ๋ณธ์ธ์ ์ด๋ฐ ์ถ์ธ๋ฅผ ๋ฐํํ ์ ์ด ์์๋ค)
์ด์ ์ค์ํ ์ง๋ฌธ์ ๋จ์ํ โ์ผ๋ง๋ ํฐ ๋ชจ๋ธ์ ๋๋ฆด ์ ์๋๊ฐโ๊ฐ ์๋๋๋ค. ๊ฐ์ ๋ชจ๋ธ์ ์ผ๋ง๋ ๋ฎ์ ๋น์ฉ์ผ๋ก, ์ผ๋ง๋ ๋น ๋ฅด๊ฒ, ์ผ๋ง๋ ์์ ์ ์ผ๋ก, ์ผ๋ง๋ ๊ธด ์์
ํ๋ฆ ์์์ ์คํํ ์ ์๋๊ฐ๊ฐ ๋ ์ค์ํด์ง๊ณ ์์ต๋๋ค. ์ด๊ฒ์ด ๋ฐ๋ก ์ถ๋ก ์ต์ ํ ๋ ์ด์ด๊ฐ ๋ถ์ํ๋ ์ด์ ์
๋๋ค.
์ถ๋ก ์ต์ ํ ๋ ์ด์ด๋ ๋จ์ํ ๋ชจ๋ธ์ ๋น ๋ฅด๊ฒ ๋๋ฆฌ๋ ๊ธฐ์ ์ด ์๋๋๋ค. AI ์ํฌ๋ก๋์ ์ฑ๊ฒฉ์ ์ฝ๊ณ , ๊ทธ ์ํฌ๋ก๋์ ๋ง์ถฐ ๋ชจ๋ธยท๋ฐํ์ยท๋ฉ๋ชจ๋ฆฌยท๋คํธ์ํฌยทํ๋์จ์ด ์์์ ์ฌ๋ฐฐ์นํ๋ ์คํ ์ต์ ํ ๊ณ์ธต์
๋๋ค. ๊ธฐ์กด์ ๋ชจ๋ธ ์๋น์ด โ๋ชจ๋ธ์ API๋ก ์ ๊ณตํ๋ ๊ฒโ์ ๊ฐ๊น์ ๋ค๋ฉด, ์ถ๋ก ์ต์ ํ ๋ ์ด์ด๋ โAI ์๋น์ค๊ฐ ์ค์ ๋ก ์ด๋ค ๋ฐฉ์์ผ๋ก ์คํ๋๋์งโ๋ฅผ ์ดํดํ๊ณ ๊ทธ ๊ตฌ์กฐ ์์ฒด๋ฅผ ์ต์ ํํฉ๋๋ค.
์๋ฅผ ๋ค์ด ์ผ๋ฐ ์ฑ๋ด, ์ฝ๋ ์์ฑ, ๊ฒ์์ฆ๊ฐ, ๋ฉํฐ๋ชจ๋ฌ ์๋น์ค, ์์ด์ ํธํ AI๋ ๋ชจ๋ ๋ค๋ฅธ ๋ณ๋ชฉ์ ๊ฐ์ง๋๋ค. ์ด๋ค ์ํฌ๋ก๋๋ ์ฒซ ํ ํฐ ์ง์ฐ์๊ฐ์ด ์ค์ํ๊ณ , ์ด๋ค ์ํฌ๋ก๋๋ ์ ์ฒด ์ฒ๋ฆฌ๋์ด ์ค์ํฉ๋๋ค. ์ด๋ค ์๋น์ค๋ ๊ธด ์ปจํ
์คํธ๋ก ์ธํด KV cache๊ฐ ๋ณ๋ชฉ์ด ๋๊ณ , ์ด๋ค ์๋น์ค๋ ๋ฐ๋ณต์ ์ธ ๋๊ตฌ ํธ์ถ๊ณผ ์ธ๋ถ ์์คํ
์ฐ๋ ๋๋ฌธ์ ์ํ ๊ด๋ฆฌ์ ๋ฐํ์ ์ค์ผ์ค๋ง์ด ์ค์ํด์ง๋๋ค.
ํนํ Agentic AI ์๋์๋ ์ด ๋ฌธ์ ๊ฐ ๋ ๋ณต์กํด์ง๋๋ค. AI๊ฐ ๋จ์ํ ํ ๋ฒ ๋ตํ๊ณ ๋๋๋ ๊ฒ์ด ์๋๋ผ, ์ค์ค๋ก ๊ณํํ๊ณ , ์ฌ๋ฌ ๋๊ตฌ๋ฅผ ํธ์ถํ๊ณ , ์ค๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ์ตํ๋ฉฐ, ๋ค์ ํ๋จํ๊ณ , ์ฌ๋ฌ ์์ด์ ํธ์ ํ๋ ฅํ๋ ๊ตฌ์กฐ๋ก ๋ฐ์ ํ๊ณ ์๊ธฐ ๋๋ฌธ์
๋๋ค. ์ด ๊ฒฝ์ฐ ์ถ๋ก ๋น์ฉ์ ๋จ์ผ ์๋ต ๋จ์๊ฐ ์๋๋ผ ์ ์ฒด ์์
ํ๋ฆ ๋จ์๋ก ๊ณ์ฐ๋์ด์ผ ํฉ๋๋ค.
๋ฐ๋ผ์ ์์ผ๋ก์ ์ถ๋ก ์ต์ ํ๋ ๋จ์ํ ๋ชจ๋ธ ๊ฒฝ๋ํ๋ ์์ํ์ ๋จธ๋ฌผ ์ ์์ต๋๋ค. prefill๊ณผ decode์ ๋ถ๋ฆฌ, continuous batching, speculative decoding, KV cache ๊ด๋ฆฌ, ๋ฉ๋ชจ๋ฆฌ ๊ณ์ธตํ, ๋ฐํ์ ์ค์ผ์ค๋ง, NPU/GPU ์ปค๋ ์ต์ ํ, ๋คํธ์ํฌ ๋ณ๋ชฉ ์ํ, ์์ด์ ํธ ์ํ ๊ด๋ฆฌ, ๋๊ตฌ ํธ์ถ ์ต์ ํ๊น์ง ํ๋์ ์์คํ
๋ฌธ์ ๋ก ์ฐ๊ฒฐ๋ฉ๋๋ค.
๊ฒฐ๊ตญ ์ถ๋ก ์ต์ ํ ๋ ์ด์ด๋ AI ์๋์ ์๋ก์ด ์ด์์ฒด์ ์ ๊ฐ๊น์ด ์ญํ ์ ํ๊ฒ ๋ฉ๋๋ค. ๋ชจ๋ธ๊ณผ ํ๋์จ์ด ์ฌ์ด์ ์กด์ฌํ๋ฉด์, ์ค์ AI ์๋น์ค์ ์คํ ํจํด์ ์ฝ๊ณ ๊ฐ์ฅ ํจ์จ์ ์ธ ๋ฐฉ์์ผ๋ก ์ฐ์ฐยท๋ฉ๋ชจ๋ฆฌยท์คํ ๋ฆฌ์งยท๋คํธ์ํฌ ์์์ ๋ฐฐ์นํ๋ ๊ณ์ธต์
๋๋ค. ์์ผ๋ก AI ํด๋ผ์ฐ๋์ AI ์ธํ๋ผ ๊ธฐ์
์ ๊ฒฝ์๋ ฅ์ ๋จ์ํ GPU ๋ณด์ ๋์ด ์๋๋ผ, ๋์ผํ ์ฐ์ฐ ์์์์ ์ผ๋ง๋ ๋ง์ ํ ํฐ์ ์์ ์ ์ผ๋ก ์์ฐํ๊ณ , ๊ณ ๊ฐ์ ์ค์ ์๋น์ค ๋น์ฉ์ ์ผ๋ง๋ ๋ฎ์ถ ์ ์๋๋๋ก ํ๊ฐ๋ ๊ฐ๋ฅ์ฑ์ด ํฝ๋๋ค.
์ด ํ๋ฆ์ ๋ณด์ฌ์ฃผ๋ ๋ํ์ ์ธ ์ฌ๋ก๊ฐ ๋ฐ๋ก ๋ค๋น์ฐ์ค์ Eigen AI ์ธ์์
๋๋ค.
์ ๋ฝ๊ณ AI ํด๋ผ์ฐ๋ ๊ธฐ์
๋ค๋น์ฐ์ค(Nebius Group)๋ ํ์ง ์๊ฐ 5์ 1์ผ, AI ์ถ๋ก ๋ฐ ๋ชจ๋ธ ์ต์ ํ ๊ธฐ์
Eigen AI๋ฅผ ์ฝ 6์ต 4,300๋ง ๋ฌ๋ฌ์ ์ธ์ํ๋ค๊ณ ๋ฐํํ์ต๋๋ค. ์ด๋ฒ ๊ฑฐ๋๋ ํ๊ธ๊ณผ A๊ธ ์ฃผ์์ผ๋ก ๊ตฌ์ฑ๋๋ฉฐ, Eigen AI์ ๊ธฐ์ ์ ๋ค๋น์ฐ์ค์ ๊ด๋ฆฌํ ์ถ๋ก ํ๋ซํผ์ธ Token Factory์ ํตํฉ๋ ์์ ์
๋๋ค.
์ด๋ฒ ์ธ์์ ํต์ฌ์ ๋จ์ํ ์ธ๋ ฅ ํ๋ณด๊ฐ ์๋๋ผ, ์ถ๋ก ์ต์ ํ ๋ ์ด์ด๋ฅผ ์ฅ์
ํ๋ ค๋ ์ ๋ต์
๋๋ค. AI ์ธํ๋ผ ๊ฒฝ์์ ์ง๊ธ๊น์ง GPU ํ๋ณด์ ๋ฐ์ดํฐ์ผํฐ ์ฆ์ค์ ์ง์ค๋ผ ์์์ง๋ง, ์ค์ ์๋น์ค ๋จ๊ณ์์๋ ๊ฐ์ GPU๋ก ์ผ๋ง๋ ๋ ๋ง์ ํ ํฐ์, ๋ ๋ฎ์ ์ง์ฐ์๊ฐ๊ณผ ๋น์ฉ์ผ๋ก ์ฒ๋ฆฌํ๋๋๊ฐ ์ค์ํด์ง๊ณ ์์ต๋๋ค. ์ด ์ง์ ์์ Eigen AI์ ๋ชจ๋ธ ์ต์ ํ ๊ธฐ์ ์ด ๋ค๋น์ฐ์ค์ ๊ธ๋ก๋ฒ ์ปดํจํ
์ธํ๋ผ์ ๊ฒฐํฉ๋ฉ๋๋ค.
Eigen AI๋ AI ์ถ๋ก ๊ณผ ๋ชจ๋ธ ์ต์ ํ์ ํนํ๋ ํ์ฌ์
๋๋ค. ํนํ GPU/NPU ๊ฐ์ AI ๊ฐ์๊ธฐ์์ ๋ชจ๋ธ์ ๋ ํจ์จ์ ์ผ๋ก ์คํํ๊ณ , ํ ํฐ ์๋น๋ฅผ ์ค์ด๋ฉฐ, ๋์ผํ ์ฐ์ฐ ์์์์ ๋ ๋ง์ ์ฒ๋ฆฌ๋์ ๋์ด๋ด๋ ๋ฐ ๊ฐ์ ์ ๊ฐ์ง ๊ฒ์ผ๋ก ํ๊ฐ๋ฉ๋๋ค. Nebius๋ ์์ฌ๊ฐ ์ด๋ฏธ ์ฌ๋ฌ ์คํ์์ค ๋ชจ๋ธ์ ์ต์ ํ ์๋ํฌ์ธํธ๋ฅผ ๊ณต๋ ๊ฐ๋ฐํ์ผ๋ฉฐ, ๊ทธ ๊ฒฐ๊ณผ๊ฐ Artificial Analysis ๊ธฐ์ค ์ฌ๋ฌ ๋ชจ๋ธ์์ ์ต์์๊ถ ์ฑ๋ฅ์ ๊ธฐ๋กํ๋ค๊ณ ์ค๋ช
ํ์ต๋๋ค.
๋ค๋น์ฐ์ค๊ฐ ๋งํ๋ Token Factory๋ ๋จ์ํ API ํธ์ถ ํ๋ซํผ์ด ์๋๋๋ค. ๋ง ๊ทธ๋๋ก AI ์๋น์ค์ ํ์ํ ํ ํฐ์ ๋๋์ผ๋ก, ์์ ์ ์ผ๋ก, ๋ฎ์ ๋น์ฉ์ผ๋ก ์์ฐํ๋ ์ถ๋ก ์ธํ๋ผ ํ๋ซํผ์ ๊ฐ๊น์ต๋๋ค. ์์ผ๋ก AI ์๋น์ค์ ๋น์ฉ ๊ตฌ์กฐ๋ ํ์ต๋ณด๋ค ์ถ๋ก ์ชฝ์์ ๋ ํฌ๊ฒ ๋ฒ์ด์ง ๊ฐ๋ฅ์ฑ์ด ๋์ต๋๋ค. ํนํ ์ฅ๋ฌธ ์ปจํ
์คํธ, reasoning ๋ชจ๋ธ, MoE ๊ตฌ์กฐ, ์์ด์ ํธํ AI๊ฐ ํ์ฐ๋ ์๋ก ํ ํฐ ์ฒ๋ฆฌ๋๊ณผ ์ถ๋ก ํจ์จ์ AI ํด๋ผ์ฐ๋ ์ฌ์
์์ ํต์ฌ ๊ฒฝ์๋ ฅ์ด ๋ฉ๋๋ค