사진 확대

AI의 발전은 해커들에게도 강력한 무기가 되고 있다. 서 대표가 꼽은 대표적인 위협은 크게 두 갈래다. 하나는 AI를 활용한 ‘맞춤형 피싱(Phishing) 공격’이고, 다른 하나는 ‘AI 시스템 자체에 대한 공격’이다.

서 대표는 “LLM 탈옥을 유도해 범죄에 활용하는 사례가 다크웹에서 포착되고 있다”라며, 이러한 기법들이 악성 코드를 생성하거나 피싱 메일, 메시지 등에 활용된다고 설명했다.

AI는 특정 개인의 맥락과 말투를 분석해 정교한 피싱 문자를 생성할 수 있다. 특히 다국어 통번역 AI를 활용하면 해외 공격자들도 유창한 한국어로 국내를 겨냥한 피싱 공격을 시도할 수 있게 됐다. 과거에는 어색한 번역체가 피싱 메시지를 식별하는 단서였지만, 이제는 그 방어선이 사실상 무너진 셈이다.

기업 환경에서의 리스크는 더욱 심각하다. 기업의 핵심 데이터를 학습한 AI가 해킹될 경우, 단 한 번의 계정 탈취만으로 기업의 모든 내부 정보가 유출될 수 있는 치명적인 위험이 존재한다. 서 대표는 공격자와 방어자 사이의 구조적 비대칭성도 지적했다. “조직적으로 움직이는 글로벌 해킹 그룹의 경우 다양한 공격 경로를 통해 한곳의 취약점만 뚫으면 되지만, 방어자는 모든 곳을 막아야 한다는 한계점이 있다”는 것이다.

해커들의 활동 무대 역시 추적이 어려운 영역으로 이동한지 오래다. 이들은 특수 브라우저로만 접속 가능한 다크웹과 텔레그램 등에서 활동하면서 가상화폐로 거래를 이어간다. S2W는 바로 이 지점에서 차별화된 역량을 쌓아왔다.

다크웹에 흩어진 기록, 아이디, 이미지 등 파편화된 정보를 종합 분석해 범죄자의 실체를 추적한다는 설명이다.

또한 ‘N번방’ 사건으로 알려진 디지털 성착취물 제작 및 유포 사건 당시에는 비트코인 등 암호화폐 자금 흐름을 추적해 수사기관에 결정적인 정보를 제공함으로써 범죄자 검거에 기여한 바 있다.

사이버 위협이 고도화되는 한편으로, AI 에이전트의 본격적인 확산은 기업과 개인 모두에게 새로운 과제를 던지고 있다.

서 대표는 앤트로픽의 클로드를 예로 들며, AI 에이전트 시대에 기업이 통제력을 유지하고 보안을 강화하기 위한 구체적인 방법론을 제시했다.

첫 번째 원칙은 ‘데이터 버킷의 분리’다. 정보의 민감도에 따라 AI가 접근할 수 있는 영역을 처음부터 구분해두라는 것이다. 예컨대 A클라우드에는 사적인 정보를, B클라우드에는 공적 정보를 나눠 저장하는 식이다. 서 대표는 “다양한 SNS에서 소통하는 지인들이 서로 다르듯이, AI에 노출할 수 있는 정보 역시 별도로 관리해야 한다”라고 덧붙였다. 모든 데이터를 하나의 창고에 쌓아두고 AI에 열쇠를 맡기는 방식은 사고가 발생했을 때 피해 범위를 기하급수적으로 키운다.

두 번째는 ‘권한의 범위와 검증 지점’을 명확히 설계하는 일이다. AI 에이전트가 이메일 발송을 비롯해 자동화된 업무를 수행할 때, 어느 범위까지 권한을 부여하고 어떤 단계에서 사람이 검증할 것인지를 미리 정해야 한다는 조언이다. 구체적으로는 AI 에이전트에게 “이메일을 작성하되, 발송 전에 나에게 최종 검토를 받아라”라는 방식으로 지시를 설계하는 것이 대표적인 예다. AI의 속도와 인간의 판단을 분리·결합하는 구조다.

세 번째이자 가장 근본적인 장치는 ‘온톨로지(Ontology)’ 설계다. 서 대표는 “온톨로지는 AI가 데이터를 처리하는 경로를 미리 정의하여, AI가 원치 않는 기능을 수행하거나 과도한 권한을 갖지 않도록 차단하는 역할을 한다”라고 강조했다. AI는 본질적으로 확률로 작동한다. 99%의 확률로 정답을 가져오더라도, 1%의 확률로 오답을 내놓을 수 있다. 그러나 온톨로지로 로직을 설계하면 오답으로 가는 경로 자체를 사전에 차단할 수 있다. 확률적 불확실성을 구조적 안전장치로 제어하는 방식이다. 이를 통해 AI의 행동을 통제하고 보안성을 강화할 수 있다는 것이 서 대표의 설명이다.

S2W는 최근 비(非)보안 사업 분야로 영토를 넓히는 데 적극 투자하고 있다. 도메인 특화 온톨로지 플랫폼 ‘SAIP’를 출시하며 분석·방산, 금융 등 여러 분야에서 AI 기반 데이터 통합 및 의사결정 지원 시스템을 제공하는 중이다. 전략의 큰 그림은 미국 팔란티어(Palantir)의 경로와 닮아 있다. 정부 기관(B2G)에서 세계적인 기술력과 레퍼런스를 먼저 인정받은 뒤, 이를 바탕으로 민간 기업(B2B)과 글로벌 시장으로 확장해가는 방식이다.

사업 구조의 변화는 곧 조직 운영 방식의 변화로 이어지고 있다. S2W의 채용 방식 역시 달라졌다. 서 대표는 “기존에는 주니어들을 뽑아 키우자는 생각이 강했지만, 최근 S2W 내부에서도 팀장급 시니어 소수가 AI의 도움을 받아 과거 한 팀이나 섹터 전체가 수행하던 업무를 완결하는 구조로 전환되고 있다”라고 설명했다. 단순 코딩 테스트는 이제 거의 사라졌다. 대신 AI 에이전트를 활용한 기획력, 복합적인 문제 해결 능력, 그리고 다양한 도구를 통합적으로 운영해본 경험을 담은 포트폴리오가 핵심 평가 지표로 자리 잡았다. 코드를 ‘작성하는 능력’보다, AI를 ‘지휘하고 검증하는 능력’이 인재의 가치를 가르는 시대가 된 것이다.

[박수빈 기자]