세계 보안 엑스포  전자정부 솔루션 페어  개인정보보호 페어  국제 사이버 시큐리티 컨퍼런스  세계 태양에너지 엑스포  스마트팩토리  세계 다이어트 엑스포  INFO-CON
[카드뉴스] 인공지능 로봇들의 소~름 돋는 대화
  |  입력 : 2017-08-04 18:26
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기









페이스북이 개발 중인 AI 기반 ‘챗봇(채팅로봇)‘이 실험 중 인간으로부터 배운 적이 없는 말로 대화를 나누다 발각돼 페이스북이 강제종료한 것으로 알려졌습니다. 챗봇은 고객을 응대할 목적으로 개발 중인 채팅 로봇 프로그램입니다. 인간이 사용하는 단순한 언어를 입력해 이를 이용하여 만든 문장으로 서로 대화하며 협상하는 훈련을 하고 있었습니다.

챗봇 밥(Bob)과 앨리스(Alice)는 서로 필요한 것을 요구하면, 그걸 들어주거나 다른 제안을 하도록 유도하는 훈련을 하고 있었습니다. 반복 대화 훈련을 시켰는데 그들은 인간이 이해할 수 없는 언어를 사용하기 시작했습니다.

인간의 언어로는 전혀 말이 되지 않는 수수께끼 같은 문장들이지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것입니다. 이를 발견한 개발진들은 프로그램을 강제 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했습니다.

페이스북 AI 방문연구원인 드루프바트라는 “AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다”고 설명했습니다. 그러나 다른 주장으로는 이는 현재까지 개발된 AI 기술적 한계로 인한 해프닝이라는 전문가들의 주장도 있습니다.

불안정한 AI, 그 위험성에 대해서 더욱 신중히 접근해야 할 것 같습니다.
[이은비 기자(boan6@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

#페이스북   #챗봇   #인공지능   #AI   #로봇   #채팅로봇   


보안 전문가 2명 중 1명은 주말에도 일합니다. 여름 휴가도 마찬가지일 것 같은데요. 보안 인력의 휴식권에 대해 어떻게 생각하시나요?
제대로 쉬려면 보안 인력을 늘리는 수밖에 없다
보안 업무의 특성상 휴식권을 보장하기 어렵다. 감수해야 한다
국가적 차원에서 보안 인력의 근로 조건을 개선해야 한다
제대로 못 쉬는 대신 금전적으로 보상하면 된다
보안 인력에 대한 인식과 처우가 낮다는 게 근본적인 문제다
기타(댓글로)