마크 저커버그 메타 최고경영자(CEO)는 지난 1월 정보기술(IT)전문매체 더버지(theverge)와의 인터뷰에서 “우리가 만들고 싶은 제품을 만들기 위해서는 범용인공지능(AGI)을 만들어야 한다”는 관점을 제시했다. 그가 AGI에 대한 명확한 정의나 도달 시기를 밝히지는 않았지만 직접 AGI를 구축하겠다는 의지를 천명했다는 점에서 의미가 있다는 평가가 나왔다. 이처럼 최근 ‘꿈의 AI’로 불리는 AGI에 대한 관심이 높아지고 있다. AGI란 주어진 모든 상황에서 인간처럼 추론, 학습, 문제 해결 능력을 갖춘 강력한 AI를 의미한다. 1997년 마크 구브루드 노스캐롤라이나대 교수가 자기 복제 시스템을 갖춘 군 사용 AI 출현을 예고하면서 처음 사용한 개념이다. 전문가에 따라서는 AGI를 인간을 뛰어넘는 초지능AI로 가는 단계로 보는 시각도 있다.
세계적인 미래학자 케빈 캘리(Kevin Kelly)는 수년 전 그의 베스트셀러 책을 통해 12가지의 피할 수 없는 미래를 묘사했다. 그중 하나가 인공지능(AI)이 전기처럼 흐른다는 것이었다. 책이 출판될 당시 AI를 전기처럼 끌어 쓴다는 생각은 많은 이들에게 터무니 없어 보였다. 사고능력을 전기처럼 끌어다 쓰는 것에 대해 “현실성이 없다”는 비판도 받았다. 하지만 2022년 ‘챗GPT’의 등장 이후 많은 것이 바뀐 듯하다. 한 달에 20달러를 내면 쓸 수 있는 챗GPT를 비롯해 무료로 사용할 수 있는 AI챗봇들이 시장에 줄줄이 출시됐다. AI는 다양한 서비스를 통해 우리 삶 곳곳에 스며들고 있다. 이러한 가운데 주목받는것이 AGI다. 전기처럼 흐르는 AI가 인간처럼 추론하는 능력을 갖게 된다는 상상이다. 인간은 더 똑똑한 AI를 원하고 있고, 진화한 AI는 인간의 사고(思考)에 관여하거나 대신하는 수준까지 다다를 것이라는 분석이 많다. 이에 대해 유기윤 서울대 교수는 “사고능력도 비트로 이루어진 신호의 집합이고 이는 통신망을 통해 이동한다는 걸 많은 이들이 체감하고 있는 중”이라고 설명했다.
AI가 인간과 동등하거나, 필적할 만한 지능을 갖췄을 때 AGI라고 부른다. 이를 쉽게 설명할 수 있는 사례들이 영화 속에 있다.
영화 ‘아이언맨’ 시리즈에서 토니 스타크를 보조하는 AI ‘자비스’는 집 안 모든 전자 디바이스를 연결한다. 자비스는 자신을 만든 주인공 토니 스타크의 명령에 따라 움직이지만 스스로 판단하고 분석할 줄 아는 능력을 갖추고 있다. ‘의지’ ‘자의식’ 등을 가지고 있는 셈이다. 특히 토니 스타크의 명령에 따라 움직이는 데서 그치지 않고 종합적인 상황 판단까지 하는 특징이 있다.
또 다른 영화 ‘그녀(HER)’에 나오는 AI 운영체제(OS) ‘사만다’는 사용자 맞춤형 소프트웨어로 명령어 실행뿐 아니라 인간과 교감까지 한다. 사만다는 영화 속 주인공이 사랑에 빠질 정도로 인간과 흡사한 면모를 보인다. 머지않은 미래에 이처럼 우리의 명령을 수행하고 일부 영역에선 판단까지 대신해줄 수 있는 AI가 하나의 통합된 운영체제 형태로 나타날 수 있다는 관측이 나온다. 스마트폰을 비롯해 TV, 컴퓨터(PC), 자동차(스마트카), 가전제품들까지 각기 다른 OS가 하나의 AI로 통합되면서 마치 개인 비서처럼 AI가 디바이스를 인간 대신 통제해준다는 아이디어다. 기자와 만난 권도균 프라이머 대표는 이를 두고 “AI가 OS로 진화하면서 영화 속 상상이 현실로 다가오고 있다”고 평가했다. 저커버그 CEO는 소셜네트워크 스레드에 게시한 동영상에서 구체적으로 “거의 모든 분야에서 인간 지능에 가깝거나 능가하는 AGI를 자체 구축한 뒤 개발자들에게 공개할 계획”이라고 밝혔다. 특히 ‘모두를 위한 AGI’를 강조한 점이 눈에 띈다. 그러면서 저커버그 CEO는 “우리의 장기 비전은 일반 지능을 구축하고 책임감을 가지고 오픈소스로 공개해 널리 사용할 수 있게 해서 모든 사람이 혜택을 누릴 수 있도록 하는 것”이라고 했다.
AGI를 개방적으로 만들 수 있다면 기회와 가치에 대한 불평등한 접근으로 인해 발생하는 다양한 문제를 해결할 수 있다는 메시지로 풀이된다. 샘 올트먼 오픈AI CEO는 1월 17일(현지시간) 세계경제포럼(WEF·다보스포럼)에서 열린 비공개 특별 대담에서 인간처럼 포괄적 지식 기반 업무처리가 가능한 AGI가 출현할 시점에 대해 “AGI의 정의에 대한 합의가 이뤄지지 않았다”며 즉답을 피하는 모습을 보였다. 오픈AI 헌장에선 AGI에 도달하는 시점을 이사회에서 결정하도록 하고 있기 때문에 몸을 사렸다는 평가도 있다. 다만 올트먼 CEO는 “AGI로 가는 기간은 짧지만 (기술적) 도약은 느리게 진행될 것(short timeline, slow takeoff)”이라며 “느린 도약이란 매년 전년보다 훨씬 나은 새 모델을 출시하는 연속적인 과정을 의미한다”고 말했다. 이를 두고 오픈AI 역시 AGI 개발에 나서겠다는 뜻이라는 해석도 나왔다. 현재는 완전히 수익성을 추구하는 기업으로 보이지만, 오픈AI는 “AGI의 출현에 대비해 인류를 위해 AI를 연구한다”라는 목적으로 2015년 설립된 비영리단체다.
“10년 안에 인간의 지능을 뛰어넘는 범용인공지능(AGI)이 실현된다. 여기에 몰두한 기업과 인물이 10년, 20년 뒤 인류를 이끌어 갈 것이다.”
소프트뱅크그룹 손정의(孫正義·일본명 손 마사요시) 회장은 지난해 10월 도쿄에서 열린 강연회에서 이같이 말했다. 손 회장이 구체적인 AGI 개발 시기를 예상한 것은 처음이라 큰 주목을 받았다.
당시 손 회장은 “AI 사용을 거부하는 이들은 어항에 갇힌 금붕어 같은 신세로 전락하게 될 것”이라며 이례적으로 강한 어조의 워딩을 쏟아내 눈길을 끌었다. 특히 손 회장은 특정 임무만 수행하는 좁은 의미의 제한적 인공지능(Artificial Narrow Intelligence·ANI)과 달리 AGI는 사람처럼 다양한 분야를 포괄적으로 스스로 학습하고 추론할 수 있는 개념이라고 정의했다. 또 그는 “AGI는 인류 지혜 총합의 10배에 달해 모든 산업에 영향을 줄 것”이라고 강조했다. 손 회장은 AGI 다음 단계로 인류 지능을 뛰어넘어 스스로 목표를 설정하고 임무를 수행하는 초인공지능(Artificial Super Intelligence·ASI) 개념도 제시했다. ASI는 20년 안에 출현할 것이며 인간 지능을 1만 배 넘어설 것이라는 게 그의 생각이다. 10년 후 인류보다 10배 똑똑한 AGI, 20년 후 1만 배 똑똑해질 ASI 활용에 인류의 미래가 달려 있다는 설명이다. 손 회장은 강연회 모든 시간을 AI에 대해 할애하면서 열정을 쏟아냈다. 그는 “(소프트뱅크를) 세계에서 가장 AI 활용을 잘하는 그룹으로 만들고 싶다”는 포부를 밝혔다. AGI로 진화할 가능성이 충분한 AI와 반도체, 로보틱스를 융합해 ‘AI혁명’을 주도하겠다는 구상으로 풀이된다.
AGI가 실제 구현이 가능한지, 어떤 방식으로 만들어낼 수 있을지에 대해서는 전문가들마다 의견이 분분하다. 많은 연구자들이 AGI의 실현 가능성을 낮게 판단하던 분위기가 최근 들어 반전되는 모양새다.
뉴욕타임스(NYT) 등에 따르면 마이크로소프트(MS) 소속 과학자들은 지난해 3월 155페이지 분량의 논문을 통해 AI가 인간처럼 추론하는 능력을 보인다고 처음으로 주장했다. 연구진은 AI에게 달걀 9개와 노트북 컴퓨터, 책, 유리병, 못을 안정적인 방식으로 쌓아 올려 보라고 주문했다. 물리적인 세계에 대한 직관적인 이해력이 없으면 해결하기 힘든 과제로 AI가 이를 어떻게 풀어나가는지 확인하기 위한 실험이었다. 이에 대해 AI는 독창적인 해법을 제시했다. AI는 “일단 바닥에 눕혀놓은 책 위에 달걀 9개를 가로 세로 3줄씩 늘어세운 뒤 노트북 컴퓨터를 올려놓으라”고 답한 후 “달걀 위에 노트북 컴퓨터를 올릴 때 껍데기가 깨지지 않게 조심해야 한다. 노트북은 가장 밑에 놓인 책과 나란한 위치에서 안정적으로 자리를 잡게 될 것”이라고 설명했다. 그러면서 “노트북의 평평한 표면은 (유리병과 못을 올려놓을) 안정적인 기반이 될 것”이라고 덧붙였다. 이에 대해 MS 과학자들은 해당 실험을 통해 AI가 (스스로 판단하는) AGI라는 지점으로 접근했다고 밝혔다. 지난해 11월 구글 딥마인드 연구진은 ‘AGI의 레벨’이라는 논문을 출판 전 공유 사이트인 아카이브에 게재했다. AGI에 대한 개념과 용어는 오래됐지만 이를 체계적으로 정리한 것은 처음이라 큰 관심을 받았다. 구글 딥마인드는 AGI를 크게 레벨 0부터 5까지 여섯 가지로 규정했다. 레벨0은 ‘AI 아님(NO AI)’, 레벨1은 숙련되지 않은 성인과 유사한 ‘신진(Emerging)’을 의미한다. 레벨2는 숙련된 성인의 상위 50% 이상인 ‘유능함(Competent)’, 레벨3은 숙련된 성인의 상위 10%인 ‘전문가(Expert)’를 말한다. 레벨4는 숙련된 성인의 1%인 ‘거장(Virtuoso)’, 레벨5는 숙련된 성인 능력을 초월하는 ‘슈퍼휴먼(Superhuman)’ 수준이다.
딥마인드는 용도에 따라서 모든 부분을 섭렵할 수 있는 일반 AGI와 한 분야만 다루는 특수 AGI로 구분했다. 일반 AGI를 살펴보면, 레벨0은 2001년 AWS가 론칭한 크라우드소싱 웹페이지가 대표적이고 레벨1은 오픈AI 챗GPT·구글 바드·메타 라마2를 꼽았다. 하지만 범용 AGI에선 레벨2 이상이 없었다.
인간을 넘어설 잠재력을 가진 AI에 대한 경고의 목소리도 나온다. AI학계의 구루(guru·스승)들은 AI로 인해 인간이 멸종할 수 있다고 경고 메시지를 내놓기도 했다. 다만, 주요 인사들의 관점이 엇갈리는 경우도 있다.
제프리 힌턴 토론토대 교수, 챗GPT를 개발한 오픈AI의 샘 올트먼 최고경영자(CEO), 알파고를 만든 구글 딥마인드의 데미스 허사비스 CEO를 비롯한 350명이 낸 성명서는 “AI로 인한 멸종 위험을 낮추는 것은 팬데믹·핵전쟁 같은 다른 사회적 규모의 위험 못지않은 글로벌 우선순위가 돼야 한다”고 했다. 반면 AI 석학으로 불리는 앤드루 응 미국 스탠퍼드대 교수는 AGI의 등장에 대해 “두려워하지 말라”고 말했다. AGI가 등장하려면 수십 년이 걸릴 것이고, 인류는 거대한 조직을 다룬 경험이 충분하다는 설명이다.인간은 ‘규제’를 통해 나름의 대비를 시작했다.샘 올트먼 CEO는 자신이 쓴 ‘AGI를 위한 계획과 그 너머’라는 글에서 강력한 AI를 적용하고 실제 환경에 운영하면서 점진적으로 대응할 것을 요청했다.
올트먼 CEO는 올해 다보스 포럼에서 ‘점점 위험해지고, 실제로 위험한 결과를 초래한다면 (AI 개발을) 멈추겠느냐’는 질문을 받자 “우리는 지연하거나 출시하지 않기로 하는 결정을 수없이 한다”고 답했다. 올트먼 CEO는 “사람들은 (AI 문제를) 이분법적으로 생각하는 것 같다”면서 “우리는 실제로 충분한 시간을 가지며 (AI의 위험성에 대한) 안전 및 완화책을 찾아낸다”고 했다. 손정의 소프트뱅크그룹 회장도 AI를 최대한 활용해야 한다면서도 규제도 꼭 필요하다는 입장을 피력했다. 그는 “자동차가 편리하지만 위험하기도 해 규제가 있는 것과 같다. AI는 시각에 따라 핵폭탄보다 위험할 수 있다”며 적절한 규제의 필요성을 강조했다. AGI가 자의식을 갖고 인간을 초월한 능력을 발휘할 경우 통제 불능 상태에 빠질 수 있으므로 이에 대비해야 한다는 목소리는 지속적으로 제기될 전망이다. 오픈AI 내 초인공지능 정렬(Superalignment) 프로젝트가 대표적이다. AI 목표가 인간의 가치와 일치하도록 함으로써 AGI가 출현하더라도 인간에게 해를 미치지 않도록 하는 작업이다. 종전 안전 지침은 AI 시스템이 수행하는 작업을 더 우수한 인간이 평가하고 점검할 수 있다고 가정하기 때문에 더 우월한 AGI가 출현하면 안전 점검조차 불가능하다는 지적이 나온다.
[황순민 기자]
[본 기사는 매경LUXMEN 제162호 (2024년 3월) 기사입니다]