지금 우리가 일상적으로 사용하는 컴퓨터보다 수백~수천 배 빨리 연산하는 양자 컴퓨터 기술이 빠르게 발전하고 있다.
 ‘양자 컴퓨터는 무엇인가’를 고전 컴퓨터와 비교하면서 설명했다.

2024년 10월1일 IBM이 독일 에닝겐에 유럽 최초의 양자 데이터 센터를 열었다.
 이곳에 전시된 양자 컴퓨터의 양자 칩 서스펜션 모형. ©DPA
친구에게 스무고개 문제를 냈다.
 친구의 첫 질문은 ‘동물입니까?’ 첫 답변은 ‘맞다.
’ 두 번째 질문인 ‘육지에 삽니까?’엔 ‘아니’라고 답했다.
 ‘질문 3’은 ‘포유류입니까?’ ‘맞다.
’ 친구는 정답을 맞혔다.
 ‘고래.’
문제가 너무 쉬워서 겨우 세 번째 고개에서 끝나버렸다.
 정답이 불가사리, 마멋, 모시조개, 살쾡이 등이었다면 친구는 더 많이 질문해야 문제를 풀었을 터인데, 아쉽다.
 그러나 이 스무고개 게임에서 주목해야 할 사실이 있다.
 ‘맞다’와 ‘아니다’라는 지극히 단순한 논리의 반복이나 조합만으로 문제 풀이가 가능하다는 것이다.

이 놀이엔 ‘맞다’와 ‘아니다’로 진행되는 나름의 ‘논리 단계’가 존재한다.
 ‘질문 1(동물인가?)’에 ‘맞다’, ‘질문 2(육지에 사는가)’에 ‘아니다’라고 답한 뒤 ‘질문 3’에 ‘맞다’라고 해야 정답(고래)에 이르게 된다.
 이 같은 생각 흐름을 〈그림 1〉로 도식화했다.

인류는 이미 19세기부터 ‘생각의 흐름을 기계가 흉내 내도록 할 수 있지 않을까’라고 고민해왔다.
 전기를 이용해 ‘맞다’와 ‘아니다’를 구분하는 기계적 장치를 만들 수 있게 되었기 때문이다.
 ‘전류가 흐르는 상태’를 ‘맞다’, ‘차단된 상태’를 ‘아니다’로 간주하면 된다.
 지금부터는 기계의 입장에서 ‘맞다’는 1, ‘아니다’는 0으로 표시하자.
이제 우리는 기계에게 ‘고래 판별 능력’을 갖게 할 수 있다.
 위의 질문 세 개에 대해 차례로 1(동물이다), 0(육지에 살지 않는다), 1(포유류다)로 답변하도록 만들면 된다.

좀 더 자세하게 서술하면, 일단 질문 1엔 기계에 전류를 흘리고(1), 질문 2엔 차단한다(0). 그 결과 두 수치인 1과 0은 ‘1단계 논리연산자’로 입력된다.
 논리연산자는 설계자가 원하는 조건(고래를 정답으로 유도하기)을 판별하도록 구성된 연산 규칙이다.
 1단계 연산자는 1과 0이 차례로 들어오는 경우 1을 출력하도록 설계되어 있다.
 이 1과 질문 2의 답변인 1이 2단계 논리연산자로 입력된다.
 2단계 연산자는 입력치가 모두 1일 때만 1(고래로 설정)을 출력한다.
 이렇게 ‘고래 판별 기계’가 탄생했다.
 전기로 작동하는 〈그림 1〉의 논리회로를 보시라.
고전 컴퓨터의 연산 방식
이런 방식의 ‘생각하는 기계’ 즉 컴퓨터를 만들려면, 사람이 기계의 논리회로에 자유자재로 전류를 흘리고 차단할 수 있어야 한다(스위치 기능). 이를 위한 소재가 바로 트랜지스터다.
 수많은 트랜지스터를 사각형의 작은 판에 집적하고 연결해서 더욱 정밀하게 기계의 생각 흐름을 제어하도록 한 장치를 반도체칩이라고 부른다.

이제 컴퓨터가 질문 세 개에 대해 어떤 식으로 작동하며 정답을 찾아가는지 좀 더 구체적으로 살펴보자. 정답을 찾아나가는 방법에서 고전 컴퓨터(양자 컴퓨터에 대비해 ‘고전’이라고 부른다)와 양자 컴퓨터는 확연히 다르다.

고전 컴퓨터는 2진수, 즉 1 혹은 0이라는 두 가지 값밖에 모른다.
 연산 단위는 비트(bit)다.
 어떤 정보(이미지·영상·음악·프로그램·웹사이트 구조 등)든 1과 0으로 표현할 수 있다.

고래 판별 문제의 경우 질문이 세 개다.
 고전 컴퓨터는 각 질문에 대해 0(아니다) 혹은 1(맞다)로 답변할 수 있다.
 〈그림 2〉를 보면, 컴퓨터가 0과 1을 조합해서 내놓을 수 있는 답변(이후 ‘상태’라고 부르겠다)의 개수는 모두 8개다.
 ‘000, 010, 011, 001, 100, 110, 101, 111.’
정답은 당연히 101(동물이고 육지 생물이 아니며 포유류인 고래)이다.

그러나 이 상태들은 모두 제각기 의미를 가진다.
 000은 ‘동물이 아니고 육지에 살지 않으며 포유류도 아니’란 뜻이다.
 011은 ‘동물이 아니지만 육지에 사는 포유류’다.
 이런 존재가 있나?
컴퓨터는 자신이 조합해 만든 상태들이 의미론적으로 온당한지 여부엔 별 관심이 없다.
 설계자가 제공한 논리연산자를 8가지 상태 모두에 대해 하나씩 순차적으로 적용해나갈 뿐이다.
 그러다 보면 결국 정답인 101에 이르게 되는 것이다(〈그림 2〉 참조).
지금까지 ‘고전 컴퓨터’가 문제를 푸는 방법을 보았다.
 그러나 너무 단순한 사례다.
 논리연산자를 적용한 상태가 모두 8개에 지나지 않는다.
 컴퓨터가 조합한 ‘경우의 수’가 너무 적다.

질문이 4개라면 경우의 수(상태)는 모두 몇 개였을까. 0000에서 1111까지 16개로 늘어난다.
 10개의 질문일 때 경우의 수는 0000000000에서 1111111111까지 모두 1024개다.
 스무고개니까 질문이 20개라면? 104만8576개다.
 기하급수로 늘어난다.
 질문이 하나 추가될 때마다 경우의 수(상태)는 2배가 된다.
 질문이 n개면 가능한 조합은 2ⁿ개. 이른바 ‘지수적 증가’다.

고전 컴퓨터는 이 상태들을 하나씩 차례로 탐색(연산)하며 정답을 찾는다.
 고성능 GPU 덕분에 연산 속도가 꽤 빨라진 데다 수천~수만 대의 GPU를 연결(슈퍼 컴퓨터)해 연산능력을 고도화할 수 있다.
 그러나 한계가 있다.
 탐색(연산)해야 하는 상태가 수십~수백조(14~15자릿수) 개 정도라면 그럭저럭 감당할 수 있을 것이다.
 그러나 경(京: 16자릿수), 해(垓: 20자릿수), 자(秭: 24 자릿수)를 넘어 경우의 수(상태)가 수십~수백 자릿수에 달하는 문제들(암호해독, 신약후보물질 탐색, 항만물류 등)이 등장하고 있다.
 이런 문제는 지금 슈퍼 컴퓨터의 속도로도 수년에서 수백 년, 심지어 수백만 년이 걸릴 정도로 경우의 수가 많다고 한다.

1980년대에 양자 컴퓨터의 아이디어를 제시한 물리학자 리처드 파인만. ©Wikimedia
고전 컴퓨터의 대안으로 노벨상 수상자인 저명 물리학자 리처드 파인만이 1980년대에 이미 양자 컴퓨터의 아이디어를 제시한 바 있다.
 이후 계속 관련 연구가 이어지면서 최근엔 양자 컴퓨터가 ‘양자 유용성(실용화)’ 단계에 접어들었다는 평가도 나오고 있다.
 슈퍼 컴퓨터와 협업 시스템을 이뤄 항만 물류 최적화 등에서 성과를 거두기도 했다.

양자 컴퓨터를 이해하려면 먼저, 원자·전자·양성자·중성자 같은 극미한 입자들이 작용하는 ‘양자 세계’의 법칙을 살펴볼 필요가 있다.
 양자 세계의 물리 법칙은, 우리가 일상적으로 경험하는 ‘현실 세계’의 그것과 비교하면 마치 마법처럼 느껴진다.

우리가 사는 현실 세계는 꽤 예측 가능하다.
 이 세상에서 컵은 컵이고, 물은 물이다.
 사물의 정체성이 뚜렷하다.
 책상 위에 컵을 놓으면, 누가 밀지 않는 한 그 자리에 그대로 있다.
 일정한 힘으로 공을 던지면 특정 궤도를 그리며 날아가다가 정해진 곳에 떨어진다.
 궤도와 낙하 장소는 물리학 공식들로 마치 예언하는 것처럼 맞힐 수 있다.
 과학자들은 이 세계의 운동을 ‘고전 물리학’의 법칙으로 설명해왔다.
 고전 컴퓨터도 이 세계관을 반영한다.
 정보의 최소 단위인 비트(bit)는 언제나 0또는 1로 확고한 정체성을 가진다.
 0이면 0이고 1이면 1이다.
 모든 문제의 답은 ‘참(1)’/‘거짓(0)’으로 출력된다.
 앞서 봤듯이 고전 컴퓨터는 질문(조건)에 따라 ‘경우의 수’만큼의 상태들을 가정하고 하나씩 차례대로 연산해나간다.
 이 상태들은 각각 독립적이다.
 다른 상태들에 의해 영향받지 않는다.

그러나 원자·전자·양성자처럼 극도로 작은 입자들의 세계, 즉 ‘양자 세계’는 완전히 다른 물리 법칙(양자 현상)에 따라 움직이는 것처럼 보인다.

첫째, ‘중첩’이다.
 양자 세계의 입자는 정체성이 뚜렷하지 않다.
 여러 가능성을 동시에 품고 있다(중첩). 어느 쪽으로 치달을지 모른다.
 0으로 갈 수도 있고 1로 갈 수도 있다.
 입자는 가능성의 물결이며 파동처럼 움직이는 성질을 지닌다.

둘째, ‘얽힘’이다.
 입자들이 분리할 수 없을 정도로 얽혀 전체 네트워크를 이루며 서로에게 영향을 미친다.
 얽힌 입자들은 하나의 시스템처럼 움직인다.
 입자들 사이의 관계는 분리될 수 없다.

셋째, ‘간섭’이다.
 입자는 1 방향으로든 0방향으로든 치달을 여러 가능성을 갖고 있다.
 그 가능성들은 물결(파동)처럼 출렁인다.
 이런 파동들이 겹칠 수 있다.
 같은 방향의 파동이 겹친다면 해당 가능성은 더 커질 것이다(보강). 반대 방향의 파동이 겹치면 가능성 역시 상쇄되어 사라질 수도 있다.

넷째, ‘측정’이다.
 지금까지 봤듯이 양자 세계는 중첩, 얽힘, 간섭 등의 현상으로 인해 여러 가능성이 불확정적으로 출렁이는 공간이다.
 양자 세계 구성원들의 정체성은 불분명하다.
 그러나 누군가 이 세계를 ‘측정’하는 순간 그 가능성은 사라지고 입자는 하나의 상태로 확정된다.
 0과 1의 가능성을 동시에 품고 있던 입자는 측정의 순간, 그 정체성이 0이나 1로 분명해진다.
 어떤 입자가 0(혹은 1)으로 측정되면 이와 얽혀 있는 다른 입자의 상태도 동시에 결정된다.
 장갑 한쪽을 분실했는데 오른쪽 장갑만 갖고 있다는 것을 알았다면(측정했다면) 그 순간 ‘잃어버린 것은 왼쪽 장갑’이란 정보가 확정된다.
 설사 그 왼쪽 장갑을 수천㎞ 떨어진 미국 여행 중 분실했더라도 말이다.
 이처럼 관측 이후 입자와 전체 시스템은 중첩과 얽힘이라는 속성을 잃고 비로소 정체성을 얻는다.

마법 같은 양자의 세계
우리의 일상 세계와 너무 다르지 않은가? 이를 종교적 신비주의나 평행세계 같은 입증되지 않은 이론으로 연결할 필요는 없다.
 양자 물리학의 법칙들은 이미 반도체·레이저·전자 현미경·MRI 같은 실용 기술들로 일부 입증되었다.
 양자 컴퓨터는 중첩, 얽힘, 간섭 같은 양자 현상을 인위적으로 구현해 연산에 활용하려는 시도다.

고전 컴퓨터의 연산 단위가 비트라면, 양자 컴퓨터의 그것은 큐비트(qubit)다.
 비트는 0아니면 1이다.
 정체성이 뚜렷하다.
 큐비트는 양자 세계의 입자처럼 0과 1의 가능성을 동시에 품고 있다.

고전 컴퓨터의 비트는 반도체칩에 전압을 가하거나(1) 차단하는(0) 방식으로 생성된다.
 전등 스위치나 마찬가지다.
 큐비트는 생성하기가 매우 어렵고 비용도 만만치 않다.
 가장 널리 사용되는 ‘초전도 큐비트’의 경우만 봐도 그렇다.
 절연체의 양쪽에 두 개의 초전도체(전자가 저항 없이 흐르는)를 맞대고 전류를 흐르게 한다.
 이 경우, 전자가 두 개의 초전도체 사이를 쌍방향으로 왕복하게 된다.
 한 방향을 1, 다른 방향을 0으로 간주한다면, 이는 ‘0과 1을 동시에 품은’ 큐비트가 되는 셈이다.
 이 ‘전도체 큐비트’들이 중첩, 얽힘, 간섭의 특성을 유지하도록 만들려면 외부와 격리된 극저온 공간에서 작동시켜야 한다.

이제 다시 ‘고래 알아맞히기’ 문제로 돌아가자. 고전 컴퓨터에서와 마찬가지로 양자 컴퓨터에서도 설계자의 목표는 이 컴퓨터가 연산을 통해 정답인 101을 출력하도록 만드는 것이다.

설계자는 우선 알고리즘을 통해 큐비트들의 중첩 상태를 인위적으로 만든다.
 고래 알아맞히기 게임이니까 큐비트들 역시 000부터 111에 이르는 8가지 상태를 구성한다.
 그런데 상태들의 가능성을 동일하게 맞춘다.
 그래야 ‘8개의 가능성을 동시에 품은’ 중첩 조건이 충족된다.
 상태들을 구성하는 0과 1은 비트와 달리 정체성이 뚜렷하지 않다.
 0은 1로 갈 가능성을, 1도 0으로 갈 가능성을 갖고 있다.
 그러므로 000부터 111까지 8개 상태는 고전 컴퓨터 연산과 달리 ‘동시에 어렴풋이’ 존재할 뿐이다.

그다음엔 상태들을 특정한 조건에 따라 알고리즘으로 ‘얽’는다.
 고전 컴퓨팅에서 8개 상태들은 각각 독립적이며 서로 영향을 주지 않는다.
 그래서 하나씩 탐색해야 한다.
 그러나 양자 컴퓨팅에서 같은 가능성을 가진 8개의 중첩된 상태들은 얽히면서 하나의 덩어리처럼 간주된다.
 ‘한꺼번에’ 경우의 수 모두를 ‘고려’할 수 있는 조건이 이뤄졌다.
 상태의 수가 8개가 아니라 100조 개나 수십경(17자릿수) 개, 수백자(25자릿수) 개라도 상관없다.

또한 큐비트로 이뤄진 상태들은 파도처럼 요동치므로 ‘간섭’ 현상을 알고리즘으로 조작해서 정답 상태인 101의 가능성은 보강하고 다른 상태들의 가능성은 상쇄해 약화시킬 수 있다.
 이로써 측정 시점에선 101이 나올 확률이 압도적으로 커지게 된다(〈그림 3〉 참조).
정리하자면, 얽힘과 간섭을 조작해내 정답(101) 상태의 가능성이 증폭되도록 ‘양자 회로’를 설계한 것이다.

양자 컴퓨터는 단순히 빠른 연산 기계가 아니다.
 연산의 개념 자체를 그것은 계산의 개념 자체를 다시 정의하는 패러다임 전환의 도구다.
 중첩, 얽힘, 간섭 등 낯선 양자 세계의 원리를 활용함으로써, 고전 컴퓨터가 실용적인 시간과 비용으로 풀 수 없는 문제들에 도전하고 있다.
 물류 등 일부 영역에서는 고전적인 슈퍼 컴퓨터와의 협업 체제를 통해 성과를 거두는 등 가능성의 지평을 넓히고 있다.
 일부 학자들은 앞으로 10~20년 내에 고전 컴퓨터보다 수백~수천, 심지어 수백만 배의 연산능력을 지닌 양자 컴퓨터가 등장할 것으로 본다.
 아인슈타인은 양자역학에 대해 “으스스하다(spooky)”라고 말한 바 있다.

※ 8월12일 서울 페럼타워에서 열리는 2025 〈시사IN〉 인공지능 콘퍼런스
‘인공지능의 넥스트 레벨’
강연을 들으시면 보다 더 자세한 내용을 알 수 있습니다(참가 신청:
saic.sisain.co.kr
).