인터넷뱅킹 암호체계… 양자컴퓨터 앞에선 다 뚫린다
양자역학 특징 살린 미래형 컴퓨터
 | | ▲ 그래픽 = 송재우 기자 jaewoo@munhwa.com |
요즘 은행업이 위기라고들 한다.
실제로 세계적인 감원 바람이 불고 있는 직종으로 분류된다.
고객이 직접 은행에 가야 해결할 수 있는 대면 업무가 크게 줄었고 대부분의 금융 관련 업무를 컴퓨터나 애플리케이션을 통해 할 수 있게 된 탓이다.
현금 인출뿐 아니라 기본적인 은행 업무를 볼 수 있는 현금자동입출금기(ATM)가 출현했을 때도 은행 창구직원이 크게 줄어든 선례가 있다.
이러던 차에, 작년 말 미국 국가안보국(NSA)은 경보 하나를 발령했다. 미국뿐 아니라 세계적으로 인터넷 상거래와 인터넷 뱅킹 등에서 사용되고 있는 정보보안
체계가 양자컴퓨터의 등장으로 해킹될 위험도가 크게 증가했다는 내용이다.
현재 세계적으로 인터넷상에서 개인정보를 해커로부터 지키기 위해 쓰는 암호 중에 가장 많이 사용되는 게 RSA 암호다.
1977년에 처음 이 암호 알고리즘을 개발한 세 사람(Rivest, Shamir Adleman) 이름의 첫 글자를 따서 명명됐다.
그런데 40년의 역사를 가진 이 암호가 더 이상 해킹 위험에서 우리를 보호해 주지 못할 거라는 것이다.
일파만파가 일어났다.
우리나라도 예외일 수 없다.
이미 금융정보의 보안체계가 해커에게 맥없이 뚫려 발생한 개인정보의 대량유출과 그로 인한 혼란을 수차례 경험해 본 터다.
그런데 현재 금융정보를 보호하기 위해 사용하는 암호가 양자컴퓨터라는 괴물에게는 무용지물이라니.
영화 ‘스니커즈(Sneakers)’는 1992년에 나온 꽤 오래된 영화다.
로버트 레드퍼드가 부자들의 돈을 빼돌려 각종 자선단체에 기부하는 의적 홍길동 같은 역할로 나온다.
레드퍼드가 이런 일을 할 수 있던 것은 어떤 블랙박스 때문이었다.
수학적 방식을 사용해 모든 암호화된 데이터를 해독할 수 있는 기계다.
금융거래를 포함해 개인의 사생활 전반에 영향을 줄 수 있는 위험한 물건으로 영화에서는 이 기계를 발명한 수학자 군터 자넥이 살해되는 것으로 돼 있다.
이번 미국발 경보를 보면 양자컴퓨터가 가져올 변화는‘스니커즈’의 내용과 뭔가 흡사하다.
영화에서는 주인공이 현대수학을 이용해 기술시대의 로빈 후드가 됐는데,허무맹랑해 보이는 이 영화의 내용이 양자컴퓨터 때문에 실제로 일어날지도 모른다니,
도대체 믿을 수 있는 게 없다.
앤디 그로브가 인텔 CEO 시절에 말했던 대로다.
강박관념에 사로잡힌 이들만이 살아남는다(Only the paranoid survive).
아무리 튼튼한 방패를 가지고 있어도 언젠가는 그걸 뚫을 창이 나올 거라고 가정해야 한다.
누군가는 보이지 않는 곳에서 새로운 방패를 만들고 있어야 한다.
사실 NSA의 경보는 예상됐던 것이다.
스노든 사태를 기억하는가.
2013년에 NSA의 직원이던 에드워드 스노든(Edward Snowden)이 방대한 정보 획득 프로그램의 존재를 폭로한 사건이다.
유럽연합도 대상에 포함됐고, 앙겔라 메르켈 독일 총리의 대화와 관련한 외교적인 문제도 일어났다.
우여곡절 끝에 스노든은 한시적 망명자 신분으로 현재는 러시아 어딘가에 거주하고 있다고 알려져 있다.
그의 폭로 과정에서 우리는 비밀 유지를 위해 쓰이는 현재의 암호체계가 고도의 암호분석능력을 보유한 공격자에게는 더 이상 장벽이 아님을 알게 됐다.
그래서 정보보호를 위해 화이트 해커를 양성하는 나라도 있다고 한다.
이런 사정에도 불구하고 이번 경보는 세계의 산업계에 큰 충격을 주었다.
양자컴퓨터를 과대 홍보된 과학기술의 사례로만 여기고 먼 미래에 걱정할 일로 미루던 차였기 때문이다.
이제 이를 어쩔 것인가. NSA는 양자내성암호(quantum resistant algorithm)를 사용해야 한다고 권고했는데,기업들은 이게 뭔지 감도 안 잡힌다고 호소한다.
그 와중에 지난해 12월에는 나사(미 항공우주국)와 구글이 캐나다 기업인 D-Wave사와 협력해 상당한 성능의 양자컴퓨터를 공동으로 개발했다는 발표까지
더해졌다.
아직 제대로 된 모습으로 출현하지도 않은 양자컴퓨터라는 녀석은 어떻게 이런 사고를 칠까.
일단 RSA 암호가 소인수분해를 사용하기 때문이다.
소수는 마치 자연수들의 원소 같은 거라서 어떤 자연수이든 소수들의 곱으로 표현된다.
예를 들면 ‘12=2×2×3’ 같은 게 이런 표현이다.
물론 초등학생도 12의 소인수분해는 할 줄 알지만 이게 커지면 문제다.
몇 십조쯤 되는 큰 수를 주고 소인수분해를 해보라고 하면 엄두가 안 난다.
더 큰 수를 주면 슈퍼컴퓨터도 못한다.
대문 앞에 이런 큰 수를 척 하니 걸어두고 소인수분해를 할 경우 문을 열어준다고 하면 꽤 오랫동안 그 문은 안전하다는 게 RSA 암호의 원리다.
물론 정보보안을 위해서는 여러 요소를 고려해야 하는데 그 중에 가장 기반에 해당하는 이론이 소인수분해와 같은 암호론 원천문제(cryptographic primitive)를
다룬다.
정보보안 분야에서도 원천문제를 다루는 암호론은 그 이론적인 성격이나 난이도 때문에 주로 수학자들이 연구하는 분야다.
RSA 암호는 안전해 보였다.
적어도 그동안은 그랬다.
전통적인 반도체 컴퓨터의 연산방식으로는 소인수분해가 매우 어려운 문제였으니까.
그런데 이 양자컴퓨터라는 녀석은 연산방식 자체가 전혀 달라서 양자얽힘(quantum entanglement) 현상이라는 걸 사용한다.
기존 컴퓨터에서는 비트(bit)라는 이진법 연산단위를 사용해 각 비트는 0 또는 1의 값만 저장하지만 양자컴퓨터는 큐비트(qubit)라는 양자이진법 단위를 사용하고
이건 0과 1 사이의 연속적인 값을 가질 수 있어서 더 많은 정보를 다룰 수 있다.
나사와 구글이 발표했던 D-Wave2는 512큐비트를 구현한 양자컴퓨터다.
이 방식의 연산으로도 전통적인 튜링 머신을 구현한 컴퓨터에서 어려운 문제를 뜻하는 NP 문제 등은 아직 어렵다.
그러니까 예전에 안 풀리던 문제는 여전히 안 풀린다는 뜻이다.
그런데 예외에 해당하는 몇 개의 문제 중에 소인수분해가 있다.
기존 컴퓨터로는 풀기 어렵다고 알려진 소인수분해가 양자컴퓨터에는 졸지에 쉬운 문제로 전락한다.
그러니 RSA 암호로 지키던 대문이 금방 열릴 수밖에.
이런 사실은 이미 1994년에 미국 벨랩(Bell Lab)의 수학자 피터 쇼어(Peter Shor)가 알아낸 것이다.
영화 ‘스니커즈’가 나오고 2년 뒤의 일이지만 쇼어는 이 영화를 본 적이 없다고 한다.
1980년대에 물리학자 리처드 파인먼 등이 양자얽힘을 이용한 컴퓨터 제작 가능성에 대해 얘기한 적은 있지만 쇼어가 이 연구를 할 때만 해도 아직 양자컴퓨터가
실물로 존재하지 않았다.
그런 컴퓨터가 나온다면 주기함수의 주기를 빨리 계산할 수 있고 이 정보를 사용하면 정수의 소인수분해를 빨리 할 수 있다는 게 쇼어의 아이디어였다.
전통적인 컴퓨터에서는 불가능한 방법이다.
그동안은 양자컴퓨터의 출현이 요원한 것으로 보여서 우리 모두 쇼어의 발견을 애써 잊고 있었다.
아니 잊고 싶었다.
NSA의 최근 경보는 이런 좋은 시절이 지나갔음을 선포한 것과 같다.
누군가가 말했다. 좋은 시절은 원래 흘러가 버리는 숙명을 타고나기 때문에 추억 속에만 존재한다고.
그러니 정신 차리고, 양자컴퓨터로도 여전히 풀기 힘든 문제를 찾아서 새로 암호를 만들어야 한다.
이를 양자내성암호라고 부른다.
다변수 다항식의 해를 구하는 문제 등이 후보로 여겨진다.
변수가 여러 개인 다항식의 해를 구한다는 것인데, 예를 들면 변수가 3개인 ‘x2y+3xz+y2+5z4+2=0’ 같은 방정식을 푼다는 것이다.
변수가 많을수록 차수가 높을수록 풀기 어려운데, 지금의 컴퓨터로도 어렵지만 양자컴퓨터로도 여전히 어렵다는 것이다.
이런 어려움을 이용해 효과적인 암호를 만드는 연구는 아직 초입이고 갈 길이 멀다.
인터넷 상거래나 교통카드 보안 등에 가장 많이 사용되는 암호는 RSA 외에 타원곡선 암호 같은 게 있다.
이런 암호들의 원천문제는 모두 수학의 정수론을 사용한다.
그래서 정보보안 분야의 공학도들도 순수수학 분야에 속하는 정수론의 기본적인 내용을 공부한 지 꽤 됐다.
그런데 다변수 다항식은 대수기하학에서 다루는 주제다.
여러 개의 다변수 다항식들의 공통근의 모임을 대수적 다양체(algebraic variety)라고 하는데 대수기하학은 그런 다양체의 각종 성질을 다룬다.
고대 그리스 시대 이후로 대수기하학은 정수론과 함께 가장 오랜 역사를 가진 수학 분야로 여겨진다.
난도가 높은 주제가 많아서 순수수학 내에서도 진입장벽이 높다는 평을 듣기도 한다.
이런 분야가 21세기 정보통신기술(ICT)을 위해 갑자기 전면에 나선 것이다.
어쩌겠는가, 새로운 시대는 새로운 방식을 요하는 것을 앞으로 대수기하학을 공부하는 공학자들이 늘어날 거라는 것은 예상하기 어렵지 않다.
그동안의 경험으로는 선진국에서 양자내성암호를 개발해도 일정 부분은 국가 기밀로 분류될 가능성이 많다.
안전한 상거래를 위해 후발국은 엄청난 기술사용료를 지불해야 하는 상황에 몰릴지도 모른다.
지금부터라도 우리나라 수학자들의 건투를 기대할 수밖에 없다.
적어도 이 연구는 선진국의 큰 도움을 기대할 수 없으니까.
☞  ☜ ■ 박형주 국가수리과학연구소장 아주대 석좌교수
|