่จปๅ†Šไธฆๅˆ†ไบซ้‚€่ซ‹้€ฃ็ต๏ผŒๅฏ็ฒๅพ—ๅฝฑ็‰‡ๆ’ญๆ”พ่ˆ‡้‚€่ซ‹็Žๅ‹ตใ€‚

Mooni Insight ๐Ÿ’ซ
@Semicon_player
Semiconductor ๐Ÿง”๐Ÿปโ€โ™€๏ธ
ๅŠ ๅ…ฅ February 2024
6.2K ๆญฃๅœจ้—œๆณจ    63.5K ็ฒ‰็ตฒ
Meta Amazon ๋“ฑ๋“ฑ ๋น…ํ…Œํฌ์˜ ์ตœ๊ทผ ์กฐ์ •๊ณผ ์ธํ…”์˜ ๋ฐ˜๋“ฑ์„ ๋ณด๋ฉด์„œ ํ•œ ๊ฐ€์ง€ ํฅ๋ฏธ๋กœ์šด ์งˆ๋ฌธ์„ ํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค. ๊ณผ์—ฐ ์ง€๋‚œ 10๋…„ ๋™์•ˆ ๋น…ํ…Œํฌ๋“ค์€ ๋ฐ˜๋„์ฒด ํ•˜๋“œ์›จ์–ด ์ธํ”„๋ผ ํˆฌ์ž๋ฅผ ๋„ˆ๋ฌด ๊ฐ€๋ณ๊ฒŒ ๋ณธ ๋Œ€๊ฐ€๋ฅผ ์น˜๋ฅด๊ณ  ์žˆ๋Š” ๊ฒƒ์€ ์•„๋‹๊นŒ์š”? ๊ณผ๊ฑฐ ํด๋ผ์šฐ๋“œ ์‹œ๋Œ€์—๋Š” ์†Œํ”„ํŠธ์›จ์–ด์™€ ์„œ๋น„์Šค๊ฐ€ ์••๋„์ ์ธ ๊ฐ€์น˜๋ฅผ ๋งŒ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. ๋ฐ˜๋„์ฒด๋Š” ๊ณต๊ธ‰์—…์ฒด์˜ ์˜์—ญ์ด์—ˆ๊ณ , ๋น…ํ…Œํฌ๋Š” ๊ทธ ์œ„์—์„œ ํ”Œ๋žซํผ์„ ๊ตฌ์ถ•ํ•˜๋ฉด ๋์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ AI ์‹œ๋Œ€๋Š” ๋‹ค๋ฆ…๋‹ˆ๋‹ค. ์ด์ œ๋Š” GPU, HBM, ํŒจํ‚ค์ง•, ์ „๋ ฅ, ๋ƒ‰๊ฐ, ๊ด‘๋„คํŠธ์›Œํฌ๊นŒ์ง€ ๋ชจ๋‘ ํ™•๋ณดํ•ด์•ผ ๊ฒฝ์Ÿ๋ ฅ์ด ์œ ์ง€๋ฉ๋‹ˆ๋‹ค. ์‹ค์ œ๋กœ ์ตœ๊ทผ AI ํˆฌ์ž ๊ฒฝ์Ÿ์€ ๋ชจ๋ธ ๊ฒฝ์Ÿ์ด ์•„๋‹ˆ๋ผ ์ธํ”„๋ผ ๊ฒฝ์Ÿ์— ๊ฐ€๊นŒ์›Œ์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์—”๋น„๋””์•„์˜ ํ–‰๋ณด๊ฐ€ ์ด๋ฅผ ์ž˜ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ์—”๋น„๋””์•„๋Š” ๋‹จ์ˆœ GPU ํšŒ์‚ฌ๊ฐ€ ์•„๋‹ˆ๋ผ ์ƒํƒœ๊ณ„ ํˆฌ์ž์ž๊ฐ€ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ํŒจํ‚ค์ง• ๋ถ„์•ผ์—์„œ๋Š” TSMC์™€์˜ ํ˜‘๋ ฅ์„ ํ™•๋Œ€ํ•˜๊ณ , ๋„คํŠธ์›Œํฌ ๋ถ„์•ผ์—์„œ๋Š” Mellanox ์ธ์ˆ˜ ์ดํ›„ InfiniBand์™€ Ethernet ์ƒํƒœ๊ณ„๋ฅผ ์žฅ์•…ํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ด‘ํ†ต์‹  ๋ถ„์•ผ์—์„œ๋Š” ์‹ค๋ฆฌ์ฝ˜ ํฌํ† ๋‹‰์Šค์™€ NVLink ๊ด‘์ „์†ก ๊ธฐ์ˆ ์— ํˆฌ์žํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ์ „๋ ฅ ์ธํ”„๋ผ์™€ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ๋ƒ‰๊ฐ ์ƒํƒœ๊ณ„์—๋„ ์ž๋ณธ์ด ์œ ์ž…๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ธํ…” ์—ญ์‹œ ํฅ๋ฏธ๋กญ์Šต๋‹ˆ๋‹ค. ์‹œ์žฅ์€ ํ•œ๋™์•ˆ ์ธํ…”์„ CPU ํšŒ์‚ฌ๋กœ๋งŒ ๋ดค์ง€๋งŒ, ํ˜„์žฌ ์ธํ…”์ด ๋ณด์œ ํ•œ ์ž์‚ฐ์€ 18A ๊ณต์ •, EMIB, Foveros, ์ฒจ๋‹จ ํŒจํ‚ค์ง•, ๊ทธ๋ฆฌ๊ณ  ๋ฏธ๊ตญ ๋‚ด ์ œ์กฐ ์ธํ”„๋ผ์ž…๋‹ˆ๋‹ค. ์ตœ๊ทผ ์ „ SKํ•˜์ด๋‹‰์Šค CEO ์ด์„ํฌ ์˜์ž… ์—ญ์‹œ ๋‹จ์ˆœ ์ธ์‚ฌ ์ด๋™์ด๋ผ๊ธฐ๋ณด๋‹ค ๋ฉ”๋ชจ๋ฆฌยทํŒจํ‚ค์ง•ยทํŒŒ์šด๋“œ๋ฆฌ๋ฅผ ์—ฐ๊ฒฐํ•˜๋Š” ์žฅ๊ธฐ ์ „๋žต์˜ ์ผ๋ถ€๋กœ ํ•ด์„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ์™ธ์—๋„ ๋ณ€ํ™”๋Š” ๊ณณ๊ณณ์—์„œ ๋‚˜ํƒ€๋‚ฉ๋‹ˆ๋‹ค. ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ๋Š” ์ž์ฒด AI ์นฉ๊ณผ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ์„ค๊ณ„์— ํˆฌ์žํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ์•„๋งˆ์กด์€ Trainium๊ณผ Inferentia๋ฅผ ํ†ตํ•ด AI ๋ฐ˜๋„์ฒด ๋‚ด์žฌํ™”๋ฅผ ์ถ”์ง„ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ตฌ๊ธ€์€ TPU๋ฅผ ์ง€์†์ ์œผ๋กœ ํ™•๋Œ€ํ•˜๊ณ  ์žˆ๊ณ , ๋ฉ”ํƒ€๋Š” ์ž์ฒด ASIC๊ณผ AI ์ธํ”„๋ผ ๊ตฌ์ถ•์— ์ˆ˜์‹ญ์กฐ ์› ๊ทœ๋ชจ์˜ ์ž๋ณธ์„ ํˆฌ์ž…ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ณผ๊ฑฐ์—๋Š” ์†Œํ”„ํŠธ์›จ์–ด๊ฐ€ ํ•˜๋“œ์›จ์–ด๋ฅผ ์••๋„ํ–ˆ์ง€๋งŒ, ์•ž์œผ๋กœ๋Š” ํ•˜๋“œ์›จ์–ด๋ฅผ ํ†ต์ œํ•˜๋Š” ๊ธฐ์—…์ด ์†Œํ”„ํŠธ์›จ์–ด ๊ฒฝ์Ÿ๋ ฅ๊นŒ์ง€ ๊ฐ€์ ธ๊ฐ€๋Š” ์‹œ๋Œ€๊ฐ€ ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฒฐ๊ตญ AI ์‹œ๋Œ€์˜ ์Šน์ž๋Š” ๊ฐ€์žฅ ๋›ฐ์–ด๋‚œ ๋ชจ๋ธ์„ ๋งŒ๋“  ๊ธฐ์—…์ด ์•„๋‹ˆ๋ผ, ์ „๋ ฅยทGPUยทHBMยทํŒจํ‚ค์ง•ยท๊ด‘๋„คํŠธ์›Œํฌ๋ฅผ ๊ฐ€์žฅ ์•ˆ์ •์ ์œผ๋กœ ํ™•๋ณดํ•œ ๊ธฐ์—…์ผ ๊ฐ€๋Šฅ์„ฑ์ด ๋†’์Šต๋‹ˆ๋‹ค. ์ง€๊ธˆ ์‹œ์žฅ์€ ์ƒˆ๋กœ์šด ์‹œํ—˜๋Œ€ ์œ„์— ์˜ฌ๋ผ์™€ ์žˆ์Šต๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” AI ํ˜๋ช…์„ ๋ณด๊ณ  ์žˆ๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ, ์–ด์ฉŒ๋ฉด AI ์ธํ”„๋ผ ํŒจ๊ถŒ ์ „์Ÿ์˜ ์‹œ์ž‘์„ ๋ณด๊ณ  ์žˆ๋Š” ๊ฒƒ์ธ์ง€๋„ ๋ชจ๋ฆ…๋‹ˆ๋‹ค.
้กฏ็คบๆ›ดๅคš