[º¸¾È´º½º ¹Ú¹Ì¿µ ±âÀÚ] Ä«Ä«¿À¿£ÅÍÇÁ¶óÀÌÁî´Â Áö³ 11ÀÏ ¡®NVIDIA X Ä«Ä«¿ÀŬ¶ó¿ìµå ¿øµ¥ÀÌ AI °³¹ßÀÚ ºÎƮķÇÁ¡¯¸¦ ¼ºÈ²¸®¿¡ °³ÃÖÇß´Ù°í ¹àÇû´Ù.
![](http://www.boannews.com/media/upFiles2/2024/07/1005965860_5757.jpg)
[»çÁø=Ä«Ä«¿À¿£ÅÍÇÁ¶óÀÌÁî]
º» Çà»ç´Â Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ NVIDIA GPU ÀνºÅϽº¸¦ È°¿ëÇÑ ¿Â¡¤¿ÀÇÁ¶óÀÎ Çà»ç·Î, ¡®AI¿Í Ŭ¶ó¿ìµå ±â¼ú¼¼¹Ì³ª¡¯ ¹× ¡®Ä«Ä«¿ÀŬ¶ó¿ìµå¿Í NVIDIA AI¸¦ È°¿ëÇÑ AIÀÎÆÛ·±½º ºÎƮķÇÁ¡¯·Î ³ª´² ÁøÇàµÆ´Ù.
1ºÎ Çà»çÀÎ ¡®AI¿Í Ŭ¶ó¿ìµå ±â¼ú¼¼¹Ì³ª¡¯¿¡¼´Â ¿£ºñµð¾ÆÀÇ AI ¼Ö·ç¼Ç ¼Ò°³ ¹× Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ ±â¼ú°ú ¼ºñ½º¸¦ ÁÖÁ¦·Î ÇÑ ¼¼¼ÇÀÌ ÁøÇàµÆ´Ù. ¿Â¶óÀÎÀ¸·Î ÁøÇàµÈ 1ºÎ Çà»ç´Â 200¸í ¸ðÁý¿¡ 400¿©¸íÀÌ ³Ñ°Ô ½ÅûÇØ ½ÅûÀÚ Àü¿ø Âü¿©·Î È®´ë ½Ç½ÃÇÒ ¸¸Å AI¿Í Ŭ¶ó¿ìµå¸¦ ÇâÇÑ ³ôÀº °ü½Éµµ¸¦ º¸¿´´Ù.
2ºÎ Çà»ç´Â Ä«Ä«¿ÀŬ¶ó¿ìµå ±â¹Ý NVIDIA GPU¸¦ È°¿ëÇØ °Å´ë ¾ð¾î ¸ðµ¨ ¶ó¸¶3(LLaMa3)ÀÇ ÀÎÆÛ·±½º ÃÖÀûÈ ¹× ¹èÆ÷ °ü·Ã ÃֽŠ±â¼úÀ» ½Ç½ÀÇß´Ù. ¿ÀÇÁ¶óÀÎÀ¸·Î ÁøÇàµÈ 2ºÎ Çà»ç´Â ±íÀÌ ÀÖ´Â ¾çÁúÀÇ ±³À°À» À§ÇØ 30¸íÀ¸·Î Á¦ÇÑÇØ ÁøÇàµÆ´Âµ¥, ´Ù¾çÇÑ »ê¾÷±ºÀÇ °³¹ßÀÚµéÀÌ Âü¼®ÇØ ³ôÀº ¸¸Á·µµ¸¦ ³ªÅ¸³Â´Ù.
ƯÈ÷ 2ºÎ Çà»çÀÎ ºÎƮķÇÁ¿¡¼´Â NVIDIAÀÇ ¼Ö·ç¼Ç ¾ÆÅ°ÅØÆ®°¡ Á÷Á¢ Ä«Ä«¿ÀŬ¶ó¿ìµå ±â¹Ý ȯ°æºÎÅÍ ÀÎÆÛ·±½º ½Ç½À±îÁö ÁøÇà, Âü¼®ÀÚµéÀÌ ´Ü½Ã°£¿¡ AI¡¤Å¬¶ó¿ìµå¿¡ ±íÀÌ ÀÖ´Â ÀÌÇظ¦ µµ¿Ô´Ù. ±¸Ã¼ÀûÀ¸·Î´Â ¡âKakaoCloud ½Ç½À ȯ°æ ¼Â¾÷ ¡âTensorRT-LLM ¹× Triton Inference Server ¼Ò°³ ¡âTensorRT-LLM ½Ç½À ¡âÃÖÀûÈµÈ ¿£Áø ¹èÆ÷ ½Ç½À in Triton Inference Server ¡âNIM ¼Ò°³(°ÀÇ) ¡âNIM ½Ç½À(·¦)À» ÁøÇàÇϸç Âü¼®ÀÚµéÀÇ ³ôÀº È£ÀÀÀ» ¹Þ¾Ò´Ù.
Ä«Ä«¿ÀŬ¶ó¿ìµå¿Í NVIDIA °£ °øµ¿ Çà»ç °³Ãִ óÀ½ÀÌÁö¸¸ Çù·Â °ü°è´Â ¿À·¡ÀüºÎÅÍ Áö¼ÓµÇ°í ÀÖ´Ù. Áö³ 5¿ù ±Û·Î¹ú ½´ÆÛÄÄÇ»ÅÍ TOP500¿¡¼ 44À§ 70À§¿¡ ·©Å©µÇ¸ç ±Û·Î¹ú ±â¼ú·ÂÀ» ÀÎÁ¤¹ÞÀº Ä«Ä«¿ÀŬ¶ó¿ìµå´Â °í¼º´É Ŭ¶ó¿ìµå ÄÄÇ»ÆÃÀ» ±¸¼ºÇϴµ¥, NVIDIA GPU¸¦ Àû±Ø È°¿ëÇÏ°í ÀÖ´Ù. ÀÌó·³ »ý¼ºÇüAI¿¡ ÇÊ¿äÇÑ °í¼º´É Ŭ¶ó¿ìµå ÄÄÇ»Æà ±â¼ú ¹× ½ÃÀå ¼ºÀåÀ» À§ÇØ Çù·ÂÀ» À̾°¥ ¿¹Á¤ÀÌ´Ù.
ÀÌÁöÇý Ä«Ä«¿À¿£ÅÍÇÁ¶óÀÌÁî CGO(ÃÖ°í¼ºÀåÃ¥ÀÓÀÚ)´Â ¡°NVIDIA¿Í °øµ¿À¸·Î °³ÃÖÇÑ ºÎƮķÇÁ°¡ Âü¿©ÀÚµéÀÇ ³ôÀº °ü½É°ú ¸¸Á·µµ¸¦ º¸¿© ÁغñÇÑ º¸¶÷À» ´À³¤´Ù¡±¸ç, ¡°Ä«Ä«¿ÀŬ¶ó¿ìµå ±â¹ÝÀÇ NVIDIA GPU¸¦ È°¿ëÇÑ ±³À°¿¡ ´õÇØ, °í¼º´É Ŭ¶ó¿ìµå ÄÄÇ»Æà ½ÃÀå¿¡¼ Â÷º°ÈµÈ ±â¼ú·ÂÀ¸·Î ¼ºÀåÇØ °¥ ¼ö ÀÖµµ·Ï ¾ç»çÀÇ Çù·Â °ü°è¸¦ °ø°íÈ÷ ÇÒ °Í¡±À̶ó°í ¸»Çß´Ù.
ÇÑÆí, ÃÖ±Ù ½ºÅ¸Æ®¾÷ ±â¾÷ÀÇ AI¡¤Å¬¶ó¿ìµå °³¹ß ȯ°æÀ» Áö¿øÇϱâ À§ÇØ Ä«Ä«¿ÀŬ¶ó¿ìµå ±â¹Ý ½ºÅ¸Æ®¾÷ »ó»ý ÇÁ·Î±×·¥ ¡®·ÎÄÏ·±Ã³¡¯¸¦ °ø°³ÇÏ°í AI¡¤·Îº¸Æ½½º¡¤°ÔÀÓ µî ´Ù¾çÇÑ ±â¼ú ºÐ¾ßÀÇ ½ºÅ¸Æ®¾÷À» ¸ðÁý ÁßÀÌ´Ù. ½ÅûÇÑ ¸ðµç ±â¾÷¿¡ Ä«Ä«¿ÀŬ¶ó¿ìµå Å©·¹µ÷ ¹× ±â¼ú Áö¿ø, Ä«Ä«¿À¿öÅ© µî ´Ù¾çÇÑ ÇýÅÃÀ» ¹«»ó Á¦°øÇÑ´Ù.
[¹Ú¹Ì¿µ ±âÀÚ(mypark@boannews.com)]
<ÀúÀÛ±ÇÀÚ: º¸¾È´º½º(www.boannews.com) ¹«´ÜÀüÀç-Àç¹èÆ÷±ÝÁö>