(조세금융신문=이상현 기자) 인공지능(AI)이라는 현상을 정확히 이해하려면 역설적으로 기술(technology)의 얼개에서 벗어나야 한다. 인터넷의 시초가 동서 냉전시기 최초로 군사적 필요성에서 비롯됐듯, AI 역시 최근 신냉전 분위기에서 발전 동력을 얻었기 때문이다.

 

인류 생활 자체가 급속히 ‘디지털화’ 되다보니 디지털을 무력화 시키는 것이 곧 전쟁의 승리에 근접하는 지름길이 됐다. 전자기펄스(EMP) 포탄이 적의 디지털 무력화를 위한 하드웨어라면, AI는 소프트웨어다.

 

다른 외교안보적 요인의 영향 탓이겠지만, 인터넷은 그다지 냉전을 심화, 악화시키지는 않았다. 하지만 AI는 태동단계부터 외교안보 진영화, 양극화를 부활시키려는 힘을 기본동력으로 삼고 있는 점이 눈에 띈다.

 

현재 진영화가 심화되고 있는 외교안보 현실에 비춰, AI의 가치사슬 또한 인터넷의 산실인 펜타곤(미 국방부)을 중심으로 북대서양조약기구(NATO)와 서방국가들, 그 동맹국가들이 다시 미국을 구심으로 한 서쪽 진영으로 뭉칠 전망이다.

 

군대에 입대할 젊은이들이 빠른 속도로 줄어들고 불가피하게 238km의 군사분계선을 24시간 감시해야 하는 한국의 경우, AI의 군사안보적 가치가 무척 높다. 다만 30여년전 북방외교를 통해 중국, 러시아, 베트남과 국교를 맺고 많은 경제적 의존관계를 심화시켜온 성과를 일거에 되돌릴 수 있는 신냉전의 급류에 가장 먼저 뛰어드는 래프팅(rafting) 선수가 되는 것과는 별개다.

 

전문 해커는 군사안보 분야에서 AI가 진짜 무서운 점은 공격용 알고리즘을 짜주는 분야보다 사람들로 하여금 진짜처럼 믿도록 만드는 딥페이크(deepfake)나 피싱(fishing) 등 비군사 영역의 상용화 기술이라고 경고한다.

 

군사·안보 분야의 얼개로 AI를 보면, ‘인명살상’ 소지를 극소화 하고 전쟁자원 사용을 최소화 한다는 경제적 관점의 긍정적인 면을 볼 수도 있다. 그러나 현실과 구별할 수 없는 가짜세상, 누구도 잠시도 어떤 것도 믿을 수 없는 세상을 구현하는 전령이 AI라면, 얘기가 좀 복잡해 질 수 있다.

 

전쟁 일어나도 군인과 민간인 피해 최소화…강점

 

“우선 플랫폼이 전방위로 확산되고, 모든 일들이 자동화돼 미래 노동의 변화를 가져올 것이다. 그 다음 현실 세계 이외의 가상화 기술이 크게 발전하면서 가상화와 현실의 융합이 이뤄지고, 마지막으로 ‘초개인화(hyper-personalization)로 맞춤형’이 될 것이다. 4가지 큰 변화 방향이다.”

 

박윤규 과학기술정보통신부 2차관이 지난 6일 ‘대한민국의 디지털 권리장전’을 주제로 주한 외신기자 간담회에서 한 말이다.

 

인공지능(AI) 중심 ‘디지털 심화’의 시대. 이 4가지 큰 변화 방향은 인터넷혁명 이후 인류 진보에 커다란 획을 긋는 징표다.

 

심화된 디지털 기술이 군사안보 분야의 효율성을 높여 안보나 국방 패러다임 자체가 급변할 수 있다는 진단이 많다. 첨단 디지털기술을 무기체계에 활용하면 개별무기의 정확성과 정밀성은 물론 무기체계의 과학적·경제적 운용으로 전쟁이 일어나더라도 군인과 민간인에 피해를 줄일 수 있다.

 

박문언 한국국방연구원(KIDA) 국방인력연구센터장은 10월 18일 서울 삼성동 인터컨티넨탈호텔 서울 파르나스에서 열린 서울안보대화(SSD) 특별세션에서 “AI가 무기체계에 결합될 때 소위 ‘게임 체인저’가 돼 기존의 어떤 전쟁 양상과는 완전히 다른 전쟁을 하게 될 것”이라며 이 같이 밝혔다.

 

박 센터장은 이날 ‘전장(Battle Field)에서의 AI : 군사적 적용, 통제, 그리고 윤리적 책임’을 주제로 한 세션에 토론자로 나와 “사람과 사람의 전쟁이 아닌, 양측 다 돈이 많다면 ‘기계 대 기계’, 돈 없는 국가는 기계와 자국 군인이 전쟁을 치를 것”이라고 내다봤다.

 

김정호 카이스트 교수는 “한국은 비무장지대(DMZ)라는 중요한 경계선이 있고 많은 군인들이 이를 지켜야 하는 입장인데, 출산율이 떨어져 인구 수가 줄어드는 상황이라, AI가 군인들을 대체할 가능성이 높다”고 말했다.

 

또 “AI가 상대방 데이터센터를 해킹, 적의 정보체계를 무너뜨리면 전쟁 비용이 크게 줄어들 것”이라며 “가짜 뉴스를 퍼뜨려서 심리전에 활용, 상대 정보를 혼선을 줄 수도 있고, 심지어 아예 전쟁이 시작하기도 전에 무력화시킬 수도 있다”고 덧붙였다.

 

피아식별 안되고 전장도, 비밀도 없는 전쟁 치러야…약점

 

디지털 기술은 순식간에 효력을 발휘한다. 또 국경을 넘나들면서 적용된다. 따라서 한 나라에서만 개발되거나 디지털 기술이 가져오는 변화는 결코 ‘국지적’이지 않다.

 

박윤규 과학기술정보통신부 2차관은 “디지털 기술의 ‘즉시성’과 ‘국제성’을 담아내지 못한다면 국가적 차원의 문제를 넘어서서 국제사회가 함께 고민해야 하는 문제가 될 것”이라고 말했다.

 

군사안보 분야에서 사이버 공간은 물리적 전장과 달리 경계가 분명하지 않은 점이 문제다. 사이버공간에서는 민간인과 군인이 구분되지 않는 점도 군사적으로 취약점이다.

 

아룬 샹카르 셰즈왈(Arun Shankar SHEJWAL) 인도 국방부 사이버안보국장은 17일 SSD 인공지능 워킹그룹 회의에서 “어떤 사이버 행위자들도 그 공간을 이용할 수 있다는 특징, 모든 나라가 AI와 사이버 공격, 머신러닝 등 완전히 새로운 기술에 충분히 대응하기 어렵다”고 말했다.

 

그는 “이 때문에 국제협약이나 조약이 없는 상황에서 악의적 행위자들이 계속 공격을 할 수 있고 이에 대해 충분한 처벌 등 응징할 수 없는 상황”이라고 지적했다.

 

셰즈왈 국장에 따르면, 인도에서는 약 10억 명이 휴대전화를 사용한다. 온라인 금융거래 건수는 지난 8월 한달간에만 100억 건에 이른다. 인도 국민들은 인도가 자체 개발한 지불결제시스템 UPI(Unified Payments Interface)를 이용, 쉽게 온라인 거래를 할 수 있다. 셰즈왈 국장은 “엄청난 온라인 사용 환경은 디지털 공간이 전 세계가 공유하고 있는 공공재라는 점을 의미하며, 당연히 군사 차원의 디지털 전환에도 막대한 영향을 미친다”고 설명했다.

 

김정호 카이스트 교수는 SSD 18일 특별세션에서 “AI가 어려운 점은 방위산업이 너무 기술기반화 돼 있어 대부분 원천기술을 실리콘밸리에서 보유하고 있다는 점”이라며 “전통적 방위산업은 특정 군사지휘체계에 상응하는 군비산업이 있고, 비밀이 가능한데, 사이버보안분야는 디지털산업이 앞서가기 때문에 비밀 보고 등이 상당히 어려울 전망”이라고 밝혔다.

 

위험과 비용 줄이는 AI기술, 반도체 공급망 이해관계…기회

 

미래 지향적 시야로 앞선 AI 기술력을 갖춰 군사·외교·안보 정책의 주요한 도구로 삼는 기회로 활용하자는 게 전문가들의 한목소리다. 피할 수 없는 기술경쟁이지만 기술혁신과 사이버안보 관련 전문성 확보를 위해 전략적 국제협력이 중요하다는 점도 강조하고 있다.

 

이상근 고려대 정보보호대학원 교수(사이버국방학)는 “국방 분야도 디지털 전환을 통해 단계적으로 부상하고 있으며, 주요 국가들은 AI 등의 첨단 과학기술을 차세대 군사력의 핵심 능력으로 인식하고 있다”고 밝혔다.

 

사이버 기술이 군사안보에 미치는 영향 중 가장 중요한 개념이 ‘억지(deterrance)’다. AI를 활용해 사이버 공격을 할 수 있다는 차원에서, 더 선제적으로 공격 양상을 미리 예측을 하고 이를 억제하는 매우 중요한 개념이다. 우주나 심해 등 인류의 지식이 완벽하게 닿지 않은 곳에서는 적성국가라도 협력해야 할 때가 있다. 디지털 기술로 우주에서 신호를 주고받는 방법 등이 국제표준에 따르는 이유다. AI도 마찬가지다.

 

김정호 카이스트 교수는 “향후 10년 안에 인간이 AI의 지배를 받을 수 있다고 유발 하라리가 얘기했지만, 이는 AI가 우리에게 군사안보적 위기와 함께 기회를 줄 수 있음을 의미한다”고 말했다. 김 교수는 “AI는 물류나 의료, 심리, 재무, 인사 등에 영향을 미쳐 군사안보적 경제성을 높이는 한편 경계와 탐지, 도청, 분석, 훈련 등을 넘어 최종적으로 작전, 결정, 지시 등을 빠르게 정확하게 보장할 기회를 주고 있다”고 덧붙였다. 그는 특히 “살상무기에 생성형 AI을 적용하면 작전배치와 지휘 및 통신 과정에서 AI가 지휘관 역할을 할 수도 있다”고 강조했다.

 

하지만 국제사회가 양극화, 진영화 되는 과정에서 AI기술이 이를 부추길 가능성도 제기된다.

 

다니엘 불벤 스웨덴 대사는 17일 SSD 사이버안보실무그룹 토론회 기조강연에서 “중대한 지정학적인 난관의 시대, 사이버 안보는 뜻을 같이 하는 국가들 간에 외교와 국방 부문의 상호협력을 강화, 미래 안보위협에 대응하는 것이 중요해지고 있다”고 말했다.

 

불벤 대사는 “디지털 기술이 줄 수 있는 기회를 계속 신장시키고 사람과 사회 간의 신뢰를 창출하는 동시에 적대행위를 막는 강력한 공권력을 구축하는 게 우리 과제”라고 덧붙였다.

 

페이터 반 더 플리트(Peter Van Der Vlite) 주한 네덜란드 대사는 18일 SSD의 인공지능 특별세션에서 “AI로 군인과 민간인을 정확한 식별, 적절한 의사결정을 내려 민간인 희생자를 최소화 할 수 있다”고 말했다.

 

최근 팔레스타인 무장조직 하마스 대원들과 민간인이 뒤섞여 있는 가자지구에 이스라엘의 작전을 떠올리게 하는 대목이다. 네덜란드는 올해초 한국과 헤이그에서 사이버안보 관련 공동 세미나를 개최했다. 네덜란드는 세계 최고의 반도체 장비 제조국이다.

 

신냉전 진영화가 AI 앞세운 전선없는 전쟁 부추겨…위협

 

안철수 국회의원은 “AI 기술은 대량의 데이터를 학습, 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성을 가지고 있으며, ‘불분명한 데이터(Noisy data)’로 오류생성 가능성도 크다”고 잠재적 위험성을 강조했다.

 

싱가포르 정부 사이버안보 자문기관인 ACICE의 여서팽(YEO Seow Peng ) 센터장은 “2021년과 2022년 사이에 전세계적으로 사이버 공격이 38% 증가했다”며 “연구기관(사이버 시큐리티 벤처스) 발표에 따르면, 2023년 사이버 범죄로 인한 비용은 미화 8조 달러에 이르는데, 이는 미국과 중국의 국내총생산(GDP)에 조금 못 미치는 규모”라고 설명했다.

 

그러면서 “동남아시아의 경우에는 2021년과 2022년 사이에 사이버 문제가 86% 증가했다”면서 “거짓과 허위 등의 잘못된 정보와 보도 문제가 심각하게 온라인 상에서 퍼지고 있다”고 덧붙였다.

 

지구촌 양극화, 진영화가 AI를 활용한 사이버 전쟁을 부추길 수 있다는 지적도 나오고 있다.

 

박윤규 과기부 차관은 기자의 ‘전 세계적 인터넷 분절(分節,segment) 현상’ 관련 질문에 “인터넷이나 디지털 기술은 연결성과 즉시성, 국제성을 추구하므로 보편적으로 통용되는 게 가장 바람직한 현상”이라며 이를 위한 법제 필요성을 강조했다.

 

박 차관은 “딥페이크(deep fake) 등 가짜뉴스, 해킹이 AI를 통해 큰 규모로 증폭될 것이며, 이에 따라 AI의 긍정적 측면이 굉장히 훼손될 것”이라고 진단했다.

 

그러면서 “인터넷이 처음 추구했던 이상들이 국가권력과 충돌하면서 분절화되는 게 사실”이라며 “어떤 힘의 균형상태를 무시하는 그런 현상이 나타나고 있지만, 대한민국은 정보나 데이터들이 자유롭게 흐르고 또 특정한 뉴스나 데이터에 의해 편향되지 않는 인터넷 사이버 공간을 추구한다”고 강조했다.

 

차영민 국방보안연구소장은 “사이버 전쟁은 영토나 영공처럼 확실한 영역이 있는 게 아니라 시공간 구분이 매우 어려워 ‘지켜야 할 공간’을 제대로 식별하지 못한다”며 “전시와 평시의 개념도 모호하고 만성적인 무감각을 유도, 군사력 개입을 판단하기 위한 전환점(tipping point)를 찾기도 어렵다”고 밝혔다.

 

박문언 한국국방연구원(KIDA) 국방인력연구센터장은 “소프트웨어나 알고리즘을 통해 뭔가를 만들다 보면 100% 완벽한 건 없기 때문에, 기술적 난관에 부딪혀 입는 피해는 엄청나게 클 수도 있다”고 주장했다.

 

또 “직접적인 인명피해가 줄어들면 역설적으로 군비 경쟁을 부추겨 결과적으로 더 많은 전쟁을 부를 수도 있고, AI가 집행하는 행정부를 인간이 어느정도 신뢰할 수밖에 없는 상황이 오면, 인간에 의한 인간의 통제는 어려워질 수도 있다”고 경고했다. 그러면서 “특이점(singularity)을 넘어선 자율 무기가 나오게 되면, 소위 인류의 종말도 현실화 될 가능성이 생긴다”고 덧붙였다.

 

강점이 약점 되는 위협적인 기회…뒤죽박죽이 된 인공지능의 SWOT

 

최근 지구촌의 AI 논의가 급진전되는 것은 외교·안보적 진영화, 양극화와 무관하지 않다. 1960~1970년대 미국 국방부 산하 고등 연구국(Advanced Research Projects Agency, ARPA)의 연구용 네트워크가 시초가 돼 지금은 전 지구촌이 사용하고 있는 인터넷의 탄생 시점이 동서냉전이 한창이던 시절임을 떠올리면 쉽게 이해가 된다.

 

당시 미국 국방부 ARPA은 핵전쟁 등의 상황에서도 살아남을 수 있는 네트워크를 연구했었고 그 산물이 인터넷이다. 결국 최근의 AI 발전도 미국의 군사적 필요성이 가장 큰 동력이었음을 부인하기 어렵다.

 

허태근 국방부 국방정책실장은 올해 서울안보대화(SSD)에서 “생성형 AI의 군사적 이용은 국방·사회·안보에 있어 위기와 기회를 동시에 보여준다”며 “생성형 AI를 통한 사회적 공격 기술 개발이 진화, 이를 악용한 사회적 보안 위협도 매우 커지고 있다”고 말했다.

 

또 “이에 우리는 각국 사이버 분야의 군사적 대응 방안과 국가 전략을 공유하고 공조 방안을 모색해야 한다”며 “디지털 전환에 따른 국방·사회·안보 위협 해소를 위해 국제적 협력과 공조가 필수적”이라고 밝혔다. 한미동맹을 외교·안보 정책의 근간으로 삼고 있는 한국에게 국제협력은 곧 미국의 AI 정책을 구현하는 정책을 의미한다.

 

진영화, 양극화 된 AI 의제는 미국과 서방, 그 동맹국들이 외교·안보 현안을 이해하는 방식에서도 고스란히 드러난다.

 

싱가포르 ACICE 여서팽 센터장은 SSD 인공지능 워킹그룹 회의에서 “러시아가 우크라이나 침공 초기 가상사설망(VPN)을 이용해 서버 제어 장치를 탈취하고 대규모 악성코드를 배포, 유럽과 중동에 걸쳐 약 4만 개 정도의 위성 모뎀을 파괴했는데, 이것이 개전 초기 기선을 잡는데 큰 역할을 했다”고 주장했다.

 

이상근 교수는 “심리전에서 생성형 AI를 사람들을 설득하거나 또 다른 사람들의 어떤 마음을 조정을 하는 사이버 공격에 사용할 수 있다”고 말했다.

 

셰즈왈 인도 국방부 사이버안보국장은 “생성형 AI는 악의적 행위자들의 공격을 포함한 다양한 작전에 활용되며, 특정 정부 행정을 흔들 수 있고 사회·문화·정치적 영향을 미칠 수 있다”며 “역정보 유포 등을 통해 사람들의 인식을 바꾸거나 조작, 왜곡하는 식의 ‘사이버 공격’ 양상이 더 빈번해질 것”이라고 내다봤다. 미래의 전쟁이 심리전, 정보전이 주축이 될 것임을 예고한 것이다.

 

앵거스 랩슬리(Angus Lapslay) 북대서양조약기구(NATO) 방위정책기획 사무차장보는 “디지털화와 사이버화로 여러 위험이 대두되고 있다”며 “가장 부각되는 게 군사력 운용을 위한 작전 기획, 나아가 국방계획, 예산계획까지 민간이 전쟁을 기획할 수 있게된 점”이라고 밝혔다.

 

미래전쟁을 위한 병력 준비 등 일체의 기획과 계획에 디지털화가 필수인데, 사이버 역량은 군부대의 울타리 너머에서 더 빨리 진화하고 있기 때문이다. 랩슬리 차장보는 “탱크는 줄이고, 사이버 쪽에 투자하는 게 더 좋은 균형이 되지 않을까 생각한다”고 말했다.

 

국방부 정책자문위원으로, 한국 대표 해커기업을 경영해온 박찬암 스틸리언 대표이사는 “육해공, 우주까지 모두 사이버 전쟁의 영역”이라며 “AI가 공격 코드를 만들어주거나 보안 시스템을 우회하도록 해줄 수 있는데, 이건 그다지 특별한 게 아니다”고 말했다.

 

시간만 있으면 누구나 할 수 있는 공격준비이고, AI가 시간 효율성을 높여주며 기술장벽을 낮춰주는 수준이지, 해커 사회에서는 AI를 활용하는 게 특별한 장점은 아니라는 것.

 

박 대표는 그러나 “AI를 군사적으로 활용하는 진짜 큰 장점은 ‘사회공학 기법’인데, 사람을 속이는 딥페이크(deepfake)나 피싱(fishing) 등에서 AI가 엄청난 힘을 발휘한다”고 주장했다. AI가 사람의 취약성을 공략, 악성코드를 실행토록 미끼를 물도록 하는 과정을 AI가 잘 할 수 있다는 것이다.

 

---

AI 국제규범 수립, 디지털 원조에 앞장…한국의 인공지능 비전

 

— 인공지능·사이버안보·디지털포용 등 5대 기본법 입법 추진

— 네이버·LG·SKT·카카오·KT 등 5개사, 생성형 AI 발전 주도

 

과학기술정보통신부는 한국의 AI 기술력이 미국의 90% 가까이(89.1%) 도달했다고 보고 있다. 한국은 미국과 중국, 이스라엘과 함께 자체 초거대 AI를 보유한 지구촌 4개 나라의 반열에 올랐다는 평가다.

 

윤석열 대통령은 지난 9월 미국 뉴욕에서 열린 제 78회 유엔 총회에서 새로운 디지털 질서의 필요성을 세계인들에게 역설하고 디지털 권리장정의 기본 원칙을 제안했다. 국제사회가 새로운 디지털 질서의 기본방향을 선언한 지난 6월 ‘파리 이니셔티브’와 ‘디지털 권리장전’의 기조에 따라 지구촌 AI규범 논의에 주도적으로 참여한 것이다.

 

 

박윤규 과기정통부 차관은 지난 6일 외신기자들과 만나 “9월 25일 국무회의에서 대한민국의 디지털 권리장전을 확정했다”고 말했다.

 

이 ‘디지털 권리장전’을 헌법으로 삼아, ‘디지털 심화’ 시대를 구현하는 기본법으로서 ‘디지털 사회 기본법’을 마련하고 디지털 경제의 5대 기본법을 만든다는 게 윤석열 정부의 계획이다. 5대 기본법은 ‘인공지능 기본법’과 ‘데이터 산업법’, ‘메타버스 특별법’, ‘사이버 안보 기본법’, ‘디지털 포용법’ 등이다.

 

정부는 이런 디지털 경제 관련 5법을 만든 다음, 각 분야별로 쟁점이 되는 분야가 있다면 그것을 각각 개별적인 분야별 질서를 확립하도록 하는 체계를 갖고 있다.

 

한국 정부는 혁신을 지향하되 이득, 곧 혁신의 혜택은 사회 전체가 공유하는 ‘디지털 공동번영 사회’를 바람직한 미래상으로 삼고 있다.

 

AI 기술 개발과 사용을 위한 각종 국제협력에 앞장서되, 생성형 AI 규범 논의가 영국이나 미국 등 주요국 중심으로 진행되는 상황에서 한국 입장과 정책을 반영한 ‘지구촌 AI 거버넌스’를 주도적으로 정립해 나간다는 것.

 

국제연대 관점에서 국가간 디지털 격차 해소를 위한 개발원조(디지털 ODA)를 확대한다는 취지로 긴축 재정상황에서도 ODA 예산을 전년 대비 40% 늘렸다. 특히 아세안정상회 땐 아세안과 디지털 협력생태계 구축을 위한 예산지원 의지를 밝히기도 했다.

 

한국은 지난 2019년 이미 ‘AI 윤리 원칙’을 발표한 바 있다. 2020년 6월부터는 이 윤리 원칙을 점검할 수 있는 자율적 지표와 개발자들이 지켜야 하는 ‘개발 가이드라인’을 배포, 현장에 적용하고 있는 상태다. 오는 11월 영국에서 열리는 ‘AI 안전 정상회담’과 프랑스에서 열리는 경제협력개발기구(OECD) 권리 워크숍에서도 AI 리더십을 보여준다는 계획이다.

 

2023년 4분기 현재 미국과 중국 이외에 이스라엘, 한국 정도가 독자적 초거대 생성형 AI모델을 발표한 상태다. 한국에서는 네이버와 LG전자, SK텔레콤, 카카오, KT 등 5개 기업들이 생성형 AI사업을 발전시켜 왔다.

 

 

[조세금융신문(tfmedia.co.kr), 무단전재 및 재배포 금지]