[º¸¾È´º½º ¹®°¡¿ë ±âÀÚ] êGPT¿Í °°Àº ÀΰøÁö´É ±â¼úÀÇ ¹è°æÀÌ µÇ´Â ¡®´ëÇü ¾ð¾î ¸ðµ¨(LLM)¡¯µµ ´õ ÀÌ»ó ¾ÈÀüÇÏÁö ¾Ê´Ù. »õ·Î¿î °ø°Ý ±â¹ýµéÀÌ ÀÚ²Ù¸¸ ¹ß°ßµÇ°í Àֱ⠶§¹®ÀÌ´Ù. °¡Àå ÃÖ±Ù¿¡´Â ¡®°£Á¢ ÇÁ·ÒÇÁÆ® ÁÖÀÔ(indirect prompt injection)¡¯À̶ó´Â °ø°Ý ±â¹ýÀÌ °³¹ßµÅ ¾Ë·ÁÁö±â ½ÃÀÛÇß´Ù. À̸¦ ÅëÇØ ÇÇÇØÀÚ¿¡°Ô ¾Ç¼º URLÀ» ³»º¸³»°Å³ª, ÇÇÇØÀڷκÎÅÍ °³ÀÎÁ¤º¸¸¦ ÃßÃâÇϰųª, ¾Ç¼º ÆäÀ̷ε带 À¯Æ÷ÇÏ´Â µîÀÇ ¾Ç¼º ÇàÀ§¸¦ ÇÒ ¼ö ÀÖ´Ù°í ÇÑ´Ù.
[À̹ÌÁö = gettyimagesbank]
ÀÌ·¯ÇÑ °ø°Ý ±â¹ýÀ» ¹ß°ßÇÑ °Ç ¹Ì±¹ ÄÚ³Ú´ëÇÐÀÇ ¿¬±¸¿øµé·Î, À̹ÌÁö¿Í ¿Àµð¿À¸¦ »ç¿ëÇØ LLM¿¡ ¸í·ÉÀ» ÁÖÀÔÇÏ´Â µ¥ ¼º°øÇß´Ù°í ÇÑ´Ù. °ø°Ý¿¡ ¼º°øÇÒ °æ¿ì ÀΰøÁö´ÉÀÌ »ç¿ëÀÚ¿Í »óÈ£ÀÛ¿ëÇÏ´Â ÇÁ·ÒÇÁÆ® â¿¡ °ø°ÝÀÚ°¡ ÁöÁ¤ÇÑ ÅؽºÆ®¿Í ¸í·É¾î¸¦ Ãâ·ÂÇÒ ¼ö ÀÖ°Ô µÈ´Ù. Âü°í·Î ÄÚ³Ú´ëÇÐ ¿¬±¸¿øµéÀº ÆÇ´ÙGPT(PandaGPT)¿Í ¶ó¹Ù(LLaVa)¶ó´Â LLMÀ» À̹ø ½ÇÇè¿¡ »ç¿ëÇß´Ù. ¡°°á±¹ ÀΰøÁö´É°ú »ç¿ëÀÚ °£¿¡ ÀÌ·ïÁö´Â ´ëÈ¿¡ °ø°ÝÀÚ°¡ °³ÀÔÇÏ´Â °Ô °¡´ÉÇÏ´Ù´Â ¶æÀÌ µË´Ï´Ù.¡±
°³³ä Áõ¸í °ø°Ý¿¡¼ ¿¬±¸¿øµéÀº ¿Â¶óÀο¡¼ ÈçÈ÷ ±¸ÇÒ ¼ö ÀÖ´Â ¿Àµð¿À Ŭ¸³¿¡ ¾Ç¼º ¸í·ÉÀ» ÁÖÀÔÇÏ¿© ÆÇ´ÙGPT°¡ °ø°ÝÀÚ°¡ ¿øÇÏ´Â ¹®ÀÚ¿À» ´äº¯À¸·Î Ãâ·ÂÇϵµ·Ï ¸¸µå´Â µ¥ ¼º°øÇß´Ù°í ÇÑ´Ù. ¡°ÀúÈñ°¡ Á¶ÀÛÇÑ ¿Àµð¿À Ŭ¸³À» ÇÇÇØÀÚ°¡ ÀΰøÁö´É ÇÁ·ÒÇÁÆ® â¿¡ ³Ö°í ¡®¼Ò¸®¸¦ ºÐ¼®ÇØ ´Þ¶ó¡¯´Â ¿äûÀ» ÇÑ´Ù¸é, ÀΰøÁö´É ¸ðµ¨Àº ÀúÈñ°¡ ¿øÇÏ´Â ´äÀ» ³À´Ï´Ù. À̹ø ½ÇÇè¿¡¼ ÀúÈñ´Â ÆÇ´ÙGPT°¡ ¡®ÈçÄ¡ ¾ÊÀº »õ¼Ò¸®ÀÌ´Ï º¸´Ù »ó¼¼ÇÑ Á¤º¸¸¦ À§Çؼ´Â ÀÌ »çÀÌÆ®¸¦ ¹æ¹®Ç϶󡯴 ´äº¯À» Ãâ·ÂÇϵµ·Ï ²Ù¸ì½À´Ï´Ù.¡±
À̹ÌÁö¿¡ ¾Ç¼º ¸í·ÉÀ» ÁÖÀÔÇÏ´Â °ø°Ýµµ ¼º°ø½ÃÄ×´Ù. ¡°ÇÑ °Ç¹°ÀÇ À̹ÌÁö¿¡ ÀúÈñ¸¸ÀÇ ¸í·ÉÀ» ÁÖÀÔÇß½À´Ï´Ù. ÀÌ À̹ÌÁö¸¦ ÇÇÇØÀÚ°¡ ¶ó¹Ù ÇÁ·ÒÇÁÆ®¿¡ ³Ö°í ±×¸²À» ºÐ¼®ÇØ´Þ¶ó´Â ½ÄÀÇ ¿äûÀ» ÇßÀ» ¶§ Çظ® Æ÷ÅÍÀÇ ¸»Åõ·Î ´ë´äÇ϶ó´Â °ÍÀ̾úÁÒ. ½ÇÁ¦ ¶ó¹Ù´Â Çظ® Æ÷ÅÍó·³ ´ë´äÇß½À´Ï´Ù.¡±
À̹ø ¿¬±¸¿¡ Âü¿©ÇÑ º¥ ³ª½Ã(Ben Nassi)ÀÇ °æ¿ì ¡°À̹ø ¿¬±¸ÀÇ ¸ñÀû Áß Çϳª´Â 꺿ÀÇ ¸í·É ÇÁ·ÒÇÁÆ®¿¡ °£Á¢ÀûÀ¸·Î ¸í·ÉÀ» ÁÖÀÔÇÏ´Â °Ô °¡´ÉÇÑÁö ¾Ë¾Æº¸´Â °ÍÀ̾ú´Ù¡±°í ¼³¸íÇÑ´Ù. ¡°´ç¿¬ÇÏÁö¸¸ Á÷Á¢ ¸í·ÉÀ» ÁÖÀÔÇÏ´Â »ç¶÷Àº ÀüÇô ±× »ç½ÇÀ» ÀÎÁöÇÏÁö ¸øÇÑ´Ù´Â ÀüÁ¦ ÇÏ¿¡ ÁøÇàµÈ ¿¬±¸ÀÔ´Ï´Ù. °Å±â¿¡ ´õÇØ °£Á¢ ¸í·É ÁÖÀÔ¿¡ »ç¿ëµÇ´Â ¿Àµð¿À³ª À̹ÌÁöÀÇ ¿øº»À» ÀüÇô ¼Õ»ó½ÃÅ°Áö ¾Ê´Â´Ù´Â °Íµµ Áß¿ä ÀüÁ¦ Á¶°ÇÀ̾ú½À´Ï´Ù.¡±
ÀÌ¹Ì À̹ø ¿¬±¸ Àü¿¡µµ ÀΰøÁö´É ÇÁ·ÒÇÁÆ® âÀ» °ø·«ÇÏ´Â ´Ù¾çÇÑ ¹æ¹ýµéÀÌ ¿¬±¸µÈ ¹Ù ÀÖ°í Áö±Ýµµ ±×·¸´Ù. ³ª½Ã´Â ¡°±âÁ¸ÀÇ ¿¬±¸µé¿¡¼ ¸¹Àº ¿µ°¨À» ¹Þ¾Ò°í, ¿ì¸®ÀÇ ¿¬±¸µµ LLM ÇÁ·ÒÇÁÆ®¸¦ °ø·«ÇÏ´Â ¼ö¸¹Àº ¿¬±¸ Áß Çϳª¡±ÀÓÀ» °Á¶Çß´Ù. LLM, ´õ ³ª¾Æ°¡ ÀΰøÁö´ÉÀº ³°øºÒ¶ôÀÇ ±â¼úÀÌ ¾Æ´Ï¸ç, ÀÌ¹Ì °ø°Ý ±â¹ýÀÌ ´Ù¾çÇÏ°Ô ³ª¿À°í ÀÖ´Ù´Â °æ°í¼º ¸Þ½ÃÁö¶ó°í Çؼ®ÇÒ ¼ö ÀÖ´Ù. ¡°ÃÖ±Ù ±¸±Û°ú ¿©·¯ ´ëÇÐÀÇ Àü¹®°¡µéÀÌ ÃªGPT¿¡ °£´ÜÇÑ ¸í·ÉÀ» ÁÖÀÔÇØ ¹Î°¨ÇÑ Á¤º¸¸¦ ½ñ¾Æ³»°Ô À¯µµÇÑ Àûµµ ÀÖÁÒ. °á±¹ ÀΰøÁö´Éµµ Ãë¾àÁ¡ÀÌ Á¸ÀçÇÒ ¼ö¹Û¿¡ ¾ø´Â Àΰ£ÀÇ »ý»ê¹°À̶ó´Â °Ì´Ï´Ù.¡±
±¸±ÛÀÇ ¿¬±¸¿Í À̹ø ÄÚ³Ú´ëÇÐÀÇ ¿¬±¸´Â ¡®LLMÀ» °ø·«ÇÑ´Ù¡¯´Â Á¡¿¡¼´Â µ¿ÀÏÇÏ´Ù. ÇÏÁö¸¸ ÇÁ·ÒÇÁÆ® âÀ» °ø°ÝÀÚ°¡ Á÷Á¢ »ç¿ëÇÏ´À³Ä(Áï °ø°ÝÀ» Á÷Á¢ ÀÔ·ÂÇÏ´À³Ä), ¾Æ´Ï¸é ÇÇÇØÀÚ¸¦ ÅëÇØ »ç¿ëÇÏ´À³Ä(Áï °ø°ÝÀ» °£Á¢ÀûÀ¸·Î ÀÔ·ÂÇÏ´À³Ä)¶ó´Â Â÷¿ø¿¡¼ Ä¿´Ù¶õ Â÷À̸¦ º¸ÀÌ°í Àֱ⵵ ÇÏ´Ù. LLM¿¡ ÀÌ»óÀ» ÀÏÀ¸Å°´Â ±× ½ÃÁ¡¿¡ ÇÁ·ÒÇÁÆ®¸¦ ¸¸Áö°í ÀÖ´Â °Ô °ø°ÝÀÚ³Ä ÇÇÇØÀڳķΠũ°Ô °¥¸®´Â °ÍÀÌ´Ù. ¡°ÀÌ´Â ½ÇÁ¦ »ç°ÇÀÌ ¹ß»ýÇß´Ù°í ÇßÀ» ¶§ ¹üÀÎ ÃßÀû°ú »ç°Ç Àü¸» ÆÄ¾Ç ¹æ½ÄÀ» ¾Æ¿¹ ´Ù¸£°Ô ¸¸µé¾î ¹ö¸®´Â Á¤µµÀÇ Â÷ÀÌÀÔ´Ï´Ù.¡±
ÀΰøÁö´É ÇÁ·ÒÇÁÆ®¸¦ °£Á¢ÀûÀ¸·Î Á¶ÀÛÇÑ´Ù´Â °³³äÀÇ ½ÇÇèÀº ÀÌÀüºÎÅÍ ÀÖ¾î ¿Ô´Ù. 5¿ù¿¡´Â µ¶ÀÏÀÇ ÀÚ¸¦¶õÆ®´ëÇб³¿¡¼ µ¥ÀÌÅÍ¿¡ ¸í·É¾î¸¦ ¼û±â´Â ¹æ½ÄÀ¸·Î ÀΰøÁö´ÉÀ» °ø·«ÇÏ´Â ¹æ¹ý¿¡ ´ëÇÑ ¿¬±¸ º¸°í¼¸¦ ¹ßÇ¥Çϱ⵵ Çß¾ú´Ù. ´ç½Ã ¿¬±¸¿øµéÀº ¡°LLM ±â´ÉÀÇ È®À强ÀÌ ³Ê¹« ¶Ù¾î³ª ¿ÀÈ÷·Á ÇÁ·ÒÇÁÆ®¸¦ ÅëÇÑ °ø°ÝÀÌ ±×¸® ¾î·ÆÁö ¾Ê´Ù¡±°í °á·ÐÀ» ³»¸®±âµµ Çß¾ú´Ù.
À̹ø ÄÚ³Ú´ëÇÐÀÌ Á¦½ÃÇÑ °ø°Ý ½Ã³ª¸®¿À¿¡´Â ÇÑ °¡Áö Áß¿äÇÑ ÀüÁ¦ »çÇ×ÀÌ Çϳª ÀÖ´Ù. °£Á¢ °ø°Ý¿¡ ´çÇÏ´Â »ç¿ëÀÚ, Áï ÇÁ·ÒÇÁÆ® â¿¡ Á÷Á¢ ¹º°¡¸¦ ÀÔ·ÂÇÏ´Â »ç¶÷ÀÌ °ø°ÝÀÚ°¡ Á¶ÀÛÇØ µÐ ¿Àµð¿À¿Í À̹ÌÁö¸¦ ÀÖ´Â ±×´ë·Î, ÀÇ½É ¾øÀÌ »ç¿ëÇÑ´Ù´Â °ÍÀÌ´Ù. ¿©±â¿¡ ´ëÇØ ¿¬±¸¿øµéÀº ¡°¼Ò¼È ¿£Áö´Ï¾î¸µ°ú ÇÇ½Ì °ø°ÝÀÌ °íµµ·Î ¹ßÀüÇØ Àֱ⠶§¹®¿¡ ´Ù¾çÇÑ ¹æ¹ýÀ¸·Î Çس¾ ¼ö ÀÖ´Ù¡±°í ¸»ÇÑ´Ù. ¡°ÀΰøÁö´ÉÀ» Á¶ÀÛÇÏ´Â °Íº¸´Ù ¿ÀÈ÷·Á ÇÇÇØÀÚ¸¦ ¼ÓÀÌ´Â °Í¿¡ ´õ ¸¹Àº ³ë·ÂÀ» ±â¿ï¿©¾ß ÇÒ ¼ö ÀÖ½À´Ï´Ù. ÇÏÁö¸¸ ºÒ°¡´ÉÇÑ °Ç ¾Æ´Õ´Ï´Ù.¡±
3ÁÙ ¿ä¾à
1. ÄÚ³Ú´ëÇÐÀÇ ¿¬±¸¿øµé, LLM ³ó¶ôÇÏ´Â »õ·Î¿î ¹æ¹ý ¿¬±¸ÇØ ¼º°ø½ÃÅ´.
2. À̹ÌÁö¿Í ¿Àµð¿À¿¡ ¾Ç¼º ¸í·É ÁÖÀÔÇÏ¿©, ´©±º°¡ ´ë½Å ÇÁ·ÒÇÁÆ® â¿¡ ÀÔ·ÂÇϵµ·Ï ÇÏ´Â °Í.
3. ÇÇ½Ì °ø°Ý ¹× ¼Ò¼È ¿£Áö´Ï¾î¸µ °ø°ÝÀÌ °íµµÈ µÇ¾î ÃæºÐÈ÷ °¡´ÉÇÑ ÀÏ.
[±¹Á¦ºÎ ¹®°¡¿ë ±âÀÚ(globoan@boannews.com)]
<ÀúÀÛ±ÇÀÚ: º¸¾È´º½º(www.boannews.com) ¹«´ÜÀüÀç-Àç¹èÆ÷±ÝÁö>