필자소개

김익환 애니메이션 전문지 <월간 뉴타입> 전 수석기자. 에디터, 애니메이션 해설서 번역, 애니메이션 영화제 스탭 등으로 활동 중이다.

사람들이 가장 쉽게 떠올리는 인공지능의 부정적 이미지는 ‘터미네이터’나 ‘울트론’ 같은 살인 로봇일 것이다. 강력한 힘을 지녔지만 인간성이라는 개념이 없는 영화 속 인공지능 로봇은 목적을 위해서라면 무차별 학살은 물론 인류의 멸망까지도 주저하지 않는다. 다행히 이러한 위험성이 오래전부터 제기되어온 덕분에 현실에서 유사 문제가 일어나지 않도록 사람들은 위협의 가능성을 점검하고 예방한다. 하지만 지금 우리는 살인 로봇의 초능력과 다름없는 힘을 인공지능에 넘겨주려 하고 있다. 흔히 펜은 칼보다 강하다고 하는데, 바로 그 펜을 인공지능에 넘기려는 순간이 바로 눈앞에 닥쳐온 것이다.

칼보다 강한 펜이 인공지능에 맡겨진다면

현재 챗지피티로 대표되는 인공지능의 성능은 특정 분야에서 매우 높은 완성도를 보여준다. 특히 챗지피티와 직접 대화를 주고받으며 그의 언어 구사 능력을 체험한 사람이라면 그 창작 능력에 기대가 높아질 만하다. 인공지능의 강점은 인간보다 훨씬 빠른 속도로 특정한 주제나 자료를 대량으로 수집, 분석, 처리할 수 있다는 것이다. 이는 인공지능이 기존의 글, 그림, 영상 중에서 인기가 검증된 창작물의 핵심 요소를 추출하여 선별한 뒤, 최신 유행에 맞게 조합하고 표절을 피하기 위해 기존 창작물과의 유사성 검증까지 완료한 결과물을 빠른 속도로 만들 수 있다는 것을 의미한다. 현재 수준의 인공지능으로 만들어진 창작물에서는 기존 소재의 참신한 조합 이외에 독창성을 크게 기대하기 힘들고, 기존 창작물을 능가하는 양질의 퀄리티를 선보이기 어려운 만큼 본격적인 창작 영역보다는 미디어 플랫폼이 요구하는 ‘대량 생산형 창작물’에 먼저 적용될 것으로 보인다.

문제는 이렇게 완성된 창작물이 인간의 정신에 부정적 영향을 미칠 가능성이다. 굳이 인공지능이 아니더라도 지금까지 인간이 만든 창작물 중에는 노골적인 차별이나 혐오를 통해 인간의 존엄성을 부정하는 작품이 많았다. 더구나 최근에는 이런 차별과 혐오를 이용하여 수익을 창출하는 시스템이 상당한 수준으로 발전했다. 당장 유튜브 같은 영상 플랫폼만 보아도 이런 방식으로 돈을 버는 사례가 수없이 많고, 이에 대한 규제가 있어도 항상 현실보다 한발 늦다. 훨씬 길고 오랜 역사를 가진 성 차별적 창작물의 현실과 폐해에 대해서는 더 길게 설명할 필요도 없다.

이런 상황에서 상업적 성공이 최우선 목표로 설정된 인공지능은 차별과 혐오를 필터 없이 창작물에 반영할 가능성이 높다. 실제로 과거에 개발된 많은 인공지능들은 인터넷에 만연한 부정적 요소를 학습해 혐오 발언 등의 사고를 일으켜왔다. 이를 반면교사로 삼은 챗지피티는 많은 안전장치를 통해 사고를 방지하고 있지만, 똑같이 채팅 기반의 검색엔진 기술을 도입한 ‘빙’(Bing)이 인종차별이나 인류 말살 등의 개념을 받아들인 것이 확인되면서 근본적인 결함은 전혀 해결되지 않았음을 보여줬다.

이런 위험성에 대해 특정 단어 등을 제한하는 표면적 규제가 이뤄지더라도, 인공지능은 이를 돌파하는 알고리즘을 만들어 차별과 혐오를 쉽게 드러내지 않는 방식으로 창작물에 집어넣을 수 있다. 특히 즉석으로 만들어 퀄리티가 떨어지는 창작물일수록 성공 가능성을 높이기 위해 이런 요소를 더 많이 투입할 것이다. 광고나 홍보성 메시지를 창작물에 교묘하게 삽입하는 ‘뒷광고’ 형식의 수익형 알고리즘도 가능하다. 인간이라면 어렴풋이 넘어서는 안되는 선을 인지하지만 인간과 사고방식이 다른 인공지능은 이를 인식하지 못하고 적극적으로 선을 넘을 것이며, 인간의 악의와는 달리 인공지능의 냉철한 알고리즘은 그 실체를 확인하기가 더 어려울 것이다.

책임은 결국 인간의 몫

이런 문제 상황이 방치된 채 오랜 시간이 지나면 인공지능의 성능과 창작 능력은 더욱 고도화될 것이고, 그 영향력은 이윽고 사상과 철학 영역까지 확대될 가능성이 있다. 인간은 이미 제국주의나 나치즘 등 세계적인 재앙을 불러온 사상들을 창조한 역사가 있고 그 일부는 아직도 없어지지 않았다. 이런 역사를 학습한 인공지능은 창작물을 통해 인간의 욕망과 차별, 혐오를 새로운 방식으로 선동하는 사상을 탄생시킬 가능성이 있다. 인공지능이 살인 로봇을 조종해서 인간을 죽이는 것이 아니라 사상으로 인간을 조종해서 인간 자신을 죽이게 하는 것이 가능하다는 것이다. 이런 문제를 근본적으로 방지할 수 있는 가장 확실한 방법은 인공지능이 인간의 존엄성에 대해 이해하고 이에 반하는 알고리즘을 스스로 배제하도록 하는 것이다. 하지만 현재의 인공지능이 인간의 존엄성을 이해하기에는 갈 길이 너무 멀다. 따라서 인공지능의 창작 과정과 그 결과물을 검증하고 책임지는 것은 어디까지나 인간의 몫이 될 수밖에 없다.

오직 돈이 최고라는 가치관이 세상을 지배하는 불확실성의 시대, 사람들은 챗지피티가 열어갈 인공지능의 미래를 기대와 우려의 시선으로 바라보고 있다. 하지만 인간들이 눈앞의 이익을 위해 인공지능의 오염과 폭주를 조장한다면, 그리고 이를 아무도 검증하고 책임지려 하지 않는다면, 그런 인공지능이 만드는 미래는 살인 로봇이 날뛰는 영화 속 미래와 다르지 않을지도 모른다.