때때로 블로그 등을 보면, 남의 글을 퍼다가 무작정 쌓아놓는 사람들이 있다. 소셜 미디어에도 비슷한 일을 하는 이들이 있다. 자기 인생이나 생각을 보여주는 글을 남기는 대신 남의 글을 공유하는 데 골몰하는 사람들이다. 이들은 좋게 느껴져 모아들인 숱한 글들이 언젠가 도움이 되리라 생각하는 듯하다. 어리석을 뿐이다. 아무리 모으고 쌓아도, 데이터는 본래 인생이나 세상을 제대로 설명하지 못하기 때문이다.
빅데이터나 인공지능의 힘에 대한 오해도 흔히 여기에서 비롯한다. “상상할 수 없을 정도로 거대한 데이터 양이 있으면, 인간 행동을 정확히 예측하고 제어할 수 있을 것이다.” 미국의 기술 문화 비평가 크리스 앤더슨의 말이다. 기술 예찬론자인 그는 이론, 즉 세상을 조리 있게 설명해주는 이야기 모형의 종말을 주장한다. 철학도, 인류학도, 심리학도, 문학도 더 이상 필요 없다는 것이다. 데이터 과학이 그 일을 대신할 것이기 때문이다. “이제 우리는 인간이 왜 그런 행위를 하는지를 전례 없는 정확도로 추적해서 측정할 수 있다. 데이터만 충분히 확보된다면, 숫자가 알아서 말해줄 것이다.”
이는 착각에 불과하다. 구글이나 페이스북이나 아마존 같은 회사만 살펴봐도 알 수 있다. 언뜻 보기에, 이들은 빅데이터를 통해 인간 행동의 일반 규칙을 파악한 후, 거기에 맞춰 회사를 운영하는 듯하다. 부분적으로는 맞다. 하지만 애덤 알터 뉴욕대 교수의 말처럼, “오늘날 테크놀로지는 중독을 유발하는 쪽으로 훨씬 많이 발전하고 있다.” 빅테크 회사들은 우리를 깊게 이해한 후, 우리의 내적 욕구에 맞춰 행동하지 않는다. 반대로, 우리 욕망과 행위를 길들여 특정 소비 행위에 중독시키는 데 더 많은 시간과 노력을 들인다.
근본적 이유가 있다. 데이터를 아무리 많이 누적해도, 세계를 이해하거나 인간 상호작용을 통찰하는 건 불가능하기 때문이다. 한병철 독일 베를린예술대학 교수의 <서사의 위기>(다산초당)에 따르면, 빅데이터와 인공지능으로 알 수 있는 건 잘해야 사물이나 사건들 사이의 상대적 관계, 다시 말해 확률적인 지식뿐이다.
가령, 챗GPT 같은 인공지능은 문장과 문장 간에 어떤 관계가 있는지만 알려준다. 우리가 특정 주제를 물으면, 이 인공지능은 그동안 수집해 정제한 데이터 속에서 그 주제를 이야기하는 가장 그럴듯한 문장을 찾아 처음에 보여준 후, 그다음에 이어질 확률이 가장 높은 문장을 찾아 보여주고, 다시 그다음에 이어질 확률이 가장 높은 문장을 찾아 보여준다. 정확성과는 아무 상관없이 단지 연관성만 보여주는 것이다. 확률적 지식을 쌓아서 만든 지식은 본질적으로 ‘아무 말 대잔치’일 수밖에 없다. 가령, 전체 답변을 구성하는 각 문장의 오류 확률이 모두 2% 정도라 해도, 누적될수록 오류가 커져서 나중엔 엄청난 헛소리가 되어버린다. 챗GPT에서 보여주는 답이 길어질수록 엉망이 되는 이유다. 구글 창업자 세르게이 브린에 따르면, 구글의 최신 인공지능 제미니의 정확도는 고작 80%에 불과하다. 챗GPT도 큰 차이가 없다. 현재 방식으론 몇천억 원을 들여 성능을 높여봐야 해상도가 다소 높아지는 데 그친다. 현재의 인공지능 열풍엔 큰 거품이 끼어 있다. 인공지능은 어쩌다 틀리는 게 아니라 항상 환각에 빠져 있기 때문이다.
인공지능은 사물이나 사건이 단순히 서로 얼마나 연관되는지를 보여줄 뿐, 그들이 ‘왜’ 그렇게 서로 연관되는지를 조금도 해명하지 못한다. 다섯 살 아이조차도 세계가 완벽하고 투명하게 해명될 때까지 ‘왜’라고 묻지 않던가. 인간의 사유 방식은 별로 데이터 누적적이지 않다. 인간은 ‘왜’에 대한 대답, 즉 인과성을 중심으로 자기와 세계를 이해한다. 이 때문에 겪는 오류도 있지만, 이는 기꺼이 감수할 만하다. 그래야 사유의 가장 강력한 힘을 얻어서 과거를 돌아보고 현재를 성찰해 미래를 예측한 후 이를 새로 고쳐 쓸 수 있는 까닭이다.
한병철은 말한다. “우리 정신엔 사물들을 관계성 안에 집어넣은 후에도 ‘왜’ 그렇게 관계되어 있는지를 설명하는 질서가 필요하다.” 상관성에 머무르는 원시 수준의 사고론 지식의 가장 고차원적 형식인 세계 이해에 도달할 수 없다. “‘인공’지능은 정신이 아니다. 사물의 새로운 질서, 새로운 이야기는 정신만이 할 수 있다. 지능은 계산하고 센다. 정신은 이야기한다.” 문학이든, 철학이든, 과학이든 간에 이야기는 세계에 고유한 질서를 부여한다. 이미 존재하는 것을 바탕 삼아 아직 오지 않은 것을 내다보고, 그에 맞추어 삶의 목표를 다시 설정하도록 이끈다. ‘왜’에 대한 대답 없는 삶은 순간의 누적일 순 있어도 인생이라고 할 수는 없다.
미국의 시인 마야 안젤루가 말하듯, “인생은 숨 쉬는 횟수가 아니라 숨이 멎는 순간으로 측정된다.” 좋은 삶은 오직 질적 경험의 유무에 달려 있다. 우리는 자기 삶에 질서를 부여하는 것만 남기고, 나머지는 모조리 망각의 강물 속에 흘려보내는 식으로 살아간다. 숨 막힐 듯한 깊은 감동, 영감을 촉발하는 숭고함, 내면에서 의미의 꽃이 피어나는 시간, ‘아!’ 하는 소리와 함께 시간 전체가 어떤 가치가 있었는지를 깨닫는 순간을 경험하지 못했다면, 그 삶은 허망하다.
<기억의 뇌과학>(웅진지식하우스)에서 미국의 심리학자 리사 제노바는 말했다. “인생에서 의미 있는 부분들을 자세히 기억할 줄 알아야 한다. 이런 기억은 내가 나임을 느끼게 해주고, 인생을 하나의 서사로 인식하게 해주며, 타인과의 연결 안에서 성장할 수 있는 잠재력을 제공한다.” 우리 인생에선 지식과 정보를 한없이 누적하는 기억술보다 무엇을 기억하고 잊을지를 분별하는 망각의 기술이 더 중요하다는 말이다. 자아를 구성하고 삶에 의미를 불어넣지 못하는 순간들이 빠르게 흩어져 사라지게 놔둘수록, 우리는 한 번뿐인 인생, 유한한 시간을 더 가치 있는 방향으로 조금씩 집중시킬 수 있다.
좋은 지식은 누적적이지 않다. <과학 혁명의 구조>(까치)에서 토머스 쿤이 주장하듯, “과학의 발전은 세상에 대한 절대적 진리를 향해 누적적으로 나아가는 것이 아니라, 하나의 패러다임에서 다른 패러다임으로 단절적 변화를 연속적으로 겪는다.” 데이터를 배치해 정확도를 높이려면, 조리(논리)에 바탕을 둔 패러다임이 필요하다. 전체를 한 줄로 꿰는 실, 즉 조리가 없는 데이터는 아무리 많이 쌓아두어도 우리와 세계에 관해 한마디도 이야기하지 않는다. 사람들은 인공지능이 인간 지능을 닮을까 두려워한다. 아마도 그런 날은 오지 않을 것이다. 오히려 그 반대를 염려해야 한다. 무엇이 인생의 의미와 가치를 불어넣는가를 이해하고, 거기에 맞춰 주체적으로 인생을 살기보다, 닥치는 대로 데이터를 모으고 쌓으면서 오류 투성이 인공지능이 이끄는 대로 사는 것을 걱정해야 하는 것이다. 그 삶의 끝은 공허와 허무뿐이다.
장은수 문학평론가
읽기 중독자. 출판평론가. 민음사에서 오랫동안 책을 만들고, 대표이사를 역임했다. 현재 편집문화실험실 대표로 주로 읽기와 쓰기, 출판과 미디어에 대한 생각의 도구들을 개발하고 있다.
