1943년 2월, 미국 육군 통신정보국의 한 부서가 버지니아주 알링턴의 낡은 여학교 건물에서 조용히 문을 열었다. 목적은 소련의 외교 통신을 들여다보는 것이었다. 이 작업에는 이론상 풀 수 없는 암호가 걸려 있었다 — 한 번 쓰고 버리도록 설계된 일회용 암호표(one-time pad)였다. 그런데 소련 스스로가 만든 사소한 실수 하나가 37년에 걸친 감청·해독 작업의 문을 열었고, 그 결과는 냉전기 미국 방첩사의 흐름을 바꿔 놓았다. 이 작업에는 훗날 ‘베노나(Venona)’라는 암호명이 붙는다.
배경: 스탈린을 믿지 않은 대령
베노나 프로젝트는 1943년 2월 1일, 미 육군 통신정보국(Signal Intelligence Service)이 공식적으로 개시했다. 프로젝트 본부는 버지니아주 알링턴의 옛 여학교 건물, 이른바 ‘알링턴 홀(Arlington Hall)’에 설치됐다.
프로젝트를 지시한 인물은 육군 정보국(G-2) 부국장이었던 카터 W. 클라크(Carter W. Clarke) 대령이다. 클라크는 소련 지도자 이오시프 스탈린을 근본적으로 신뢰하지 않았다. 그가 가장 우려한 시나리오는 소련이 독일과 단독으로 강화를 맺는 상황이었다. 만약 소련과 독일이 별도로 전쟁을 끝낸다면, 독일은 동부전선에 묶여 있던 전력을 고스란히 서부로 돌려 영국과 미국을 상대할 수 있게 된다. 클라크는 이런 사태를 사전에 포착하기 위해 소련의 외교 통신을 감청·분석할 필요가 있다고 판단했다.
이렇게 시작된 프로젝트는 1939년 이래 축적돼 있던 소련 정보기관 — 주로 내무인민위원부(NKVD)와 군 정보총국(GRU) — 의 감청 전문을 대상으로 삼았다. 프로젝트는 이후 냉전 전체를 관통하며 지속되다 1980년 10월 1일, 총 37년 만에 막을 내렸다.
깨지지 않아야 할 암호: 일회용 암호표의 균열
일회용 암호표는 암호학에서 이론적으로 완전한 안전성을 갖는다고 평가되는 방식이다. 평문(P)에 무작위로 생성된 키(K)를 결합해 암호문(C)을 만들고 — C = P XOR K — 이 키를 단 한 번만 사용한 뒤 폐기하면, 공격자는 아무리 많은 암호문을 모아도 원문을 복원할 수 없다. 문제는 ‘단 한 번만’ 사용한다는 전제가 지켜질 때만 이 안전성이 성립한다는 점이다.
1942년 초, 소련은 이 전제를 스스로 무너뜨렸다. 독일군이 모스크바를 향해 진격하던 시기, 암호표를 제작하던 소련 정보기관 제8국은 극심한 물자·인력 부족에 시달렸다. 그 압박 속에서 약 3만5000페이지 분량의 키(암호 덧셈표)가 실수로 중복 인쇄됐고, 이 동일한 키 페이지들이 서로 다른 수신처에 배포되고 말았다. 이는 암호 제작 과정에서 벌어질 수 있는 최악의 실수였다 — 같은 열쇠로 두 개의 서로 다른 자물쇠를 채운 셈이었다.
이 균열을 처음 알아챈 사람은 알링턴 홀의 분석가 리처드 핼록(Richard Hallock) 중위였다. 1943년 가을, 소련의 ‘무역(Trade)’ 관련 전문들을 분석하던 핼록은 서로 다른 두 메시지가 통계적으로 동일한 키로 암호화됐다는 이상 징후를 포착했다. 암호학자들이 ‘깊이(depth)’라 부르는 이 현상이 확인되면서, 소련이 키를 재사용했다는 사실이 처음으로 드러났다.
키가 재사용된 두 암호문을 서로 XOR 연산하면 키 성분이 상쇄되어 두 평문이 뒤섞인 조합만 남는다. 분석가들은 여기에 언어적 규칙성과 예상되는 문구(crib)를 대입해 나가며 평문을 한 글자씩 복원해 나갔다. 고되고 느린 작업이었지만, 이것이 이론상 풀리지 않아야 할 암호에 낸 최초의 틈이었다.
돌파구: 메러디스 가드너와 맨해튼 프로젝트 전문
1946년 1월 베노나 팀에 합류한 언어학자 메러디스 가드너(Meredith Gardner)는 이 지난한 해독 작업에 결정적인 전환점을 만들어낸 인물이다. 그는 소련 측이 낯선 인명이나 전문 용어를 전송할 때 ‘spell(철자시작)’과 ‘endspell(철자종료)’이라는 표시를 코드 안에 삽입한다는 패턴을 발견했다. 이 단서를 실마리 삼아 가드너는 영문 철자에 대응하는 코드북의 일부를 역으로 재구성해 나갔다.
그 성과는 1946년 12월 20일 정점에 이르렀다. 가드너는 2년 전인 1944년에 발신된 KGB 전문 하나를 해독하는 데 성공했는데, 이 전문에는 맨해튼 프로젝트 — 미국의 원자폭탄 개발 계획 — 에 관여한 과학자들의 명단이 담겨 있었다. 이는 냉전 초기 미국 방첩사에서 손꼽히는 성과로 평가된다.
이후 프로젝트가 종료될 때까지 소련 정보기관 전문 약 2,900~3,000건이 전체 또는 부분적으로 해독됐다. 이는 실제로 감청된 전체 물량에 비하면 극히 일부에 지나지 않는다. 해독에 성공한 메시지는 대부분 1942년부터 1945년 사이에 발신된 것이었고, 일부는 1948년 발신분까지 포함했다.
스파이망의 윤곽: 로젠버그와 푹스
베노나 해독 전문이 밝혀낸 가장 널리 알려진 사건은 로젠버그 부부 간첩 사건이다. 베노나 전문들은 줄리어스 로젠버그(Julius Rosenberg)가 로스앨러모스의 정보 전달책들과 KGB를 잇는 핵심 연결고리, 즉 스파이망을 운영한 인물이었음을 뒷받침한다. 그러나 정작 1951년 로젠버그 재판에서 베노나 자료는 증거로 전혀 제시되지 않았다. 프로젝트 자체가 극비였기 때문에, 검찰이 이를 법정에 내놓는 순간 프로젝트의 존재 자체를 공개해야 하는 딜레마에 부딪혔던 것이다.
아내 에설 로젠버그(Ethel Rosenberg)의 관여 정도는 줄리어스에 비해 상대적으로 약했다는 것이 이후 드러난 자료에 대한 대체적인 평가다. 베노나 문서 중 1944년 발신 전문 하나는 데이비드 그린글래스의 아내 루스 그린글래스의 포섭을 언급하지만, 에설을 직접 지목하는 내용은 확인되지 않는다. 이 때문에 일부 학자들은 만약 베노나 자료가 재판 당시 공개돼 있었다면 에설이 사형까지 이르지는 않았을 수 있다는 견해를 제기하기도 한다.
또 다른 사례는 물리학자 클라우스 푹스(Klaus Fuchs)다. 1949년 8월 소련이 첫 원자탄 실험에 성공하자 미국과 영국은 정보 유출 경로를 추적하기 시작했다. 1944년 발신 전문에 대한 베노나 해독으로 로스앨러모스의 원자탄 관련 기술 정보가 모스크바로 흘러갔다는 사실이 드러났고, 이를 근거로 FBI와 영국 정보당국은 유출자를 클라우스 푹스로 특정했다. 푹스는 1950년 1월 27일 스스로 자백했다. 그는 1942년부터 소련에 정보를 넘겨왔다고 인정했다.
여전히 논쟁 중인 이름: 앨저 히스
베노나가 밝혀낸 모든 이름이 로젠버그나 푹스처럼 명확하게 확정된 것은 아니다. 대표적인 예가 국무부 고위 관료 앨저 히스(Alger Hiss)를 둘러싼 논쟁이다.
1945년 3월 30일 워싱턴에서 모스크바로 발신된 베노나 1822번 전문에는 암호명 ‘ALES’로 지칭된 소련 요원이 등장한다. NSA는 1996년 이 전문의 영문 번역본을 공개하면서 각주에 ALES가 ‘십중팔구(probably)’ 앨저 히스일 것이라고 명시했다. 다만 이는 확정적 결론이 아니라 정황에 근거한 추정으로 제시된 것이었다.
이 식별을 둘러싸고 역사학자들 사이의 논쟁은 지금도 이어지고 있다. 에드워드 마크(Eduard Mark) 등은 ALES가 당시 국무장관 에드워드 스테티니어스의 모스크바 수행단 소속이었음이 전문의 정황상 명확하다며 히스로의 식별에 무게를 실었다. 반면 존 로웬설(John Lowenthal) 등은 해당 전문이 ALES가 1935년부터 1945년까지 11년간 군사 정보를 지속적으로 다뤄 온 인물이라고 기술하는 데 비해, 히스는 정부 증인 위트커 체임버스(Whittaker Chambers)와의 관계가 늦어도 1938년에는 끊겼고 그가 다룬 것도 군사 정보가 아닌 국무부 문서였다는 점에서 이 식별에 반박하고 있다.
베노나 문서를 근거로 거론되는 미국인들의 명단을 정리한 자료들조차 이들 인물이 실제로 소련 정보활동에 얼마나 연루됐는지는 여전히 논쟁의 대상이라고 명시한다. 다수의 이름은 전문에 직접 등장하지 않거나 확정적 식별 근거가 부족해 연구자들의 추정에 의존하고 있다는 것이다. 이 때문에 앨저 히스 사건은 ‘베노나가 증명했다’가 아니라 ‘베노나가 시사하되, 학계가 여전히 다투고 있다’는 방식으로 이해하는 것이 정확하다.
기밀해제: 반세기 만에 열린 문서고
베노나 문서는 오랫동안 극비로 남아 있다가, 1995년 7월 11일 미국 의회 산하 ‘정부비밀보호축소위원회(Commission on Protecting and Reducing Government Secrecy)’ — 흔히 ‘모이니한 위원회’로 불린다 — 의 권고에 따라 NSA가 처음으로 일반에 공개했다. 이후 공개는 1995년 10월, 1996년 3월, 1996년 7월, 1996년 10월까지 총 다섯 차례에 걸쳐 순차적으로 이뤄졌다.
이 위원회를 이끈 대니얼 패트릭 모이니한(Daniel Patrick Moynihan) 상원의원은 냉전이 끝난 지금이야말로 45년간 이어져 온 미국의 방대한 비밀분류 체제 전반을 재검토할 시점이라고 봤다. 그는 위원회 보고서에서 베노나 공개를 두고, 한때 국가안보상 최고 수준의 기밀이었던 정보도 시간이 지나면 결국 보호적 가치를 잃고 안전하게 공개될 수 있음을 보여주는 대표적인 ‘기밀해제 성공 사례’로 제시했다.
베노나 프로젝트와 관련된 원자료 — 사업계획서, 사건 파일, 해독 사본 등 — 는 현재 미국 국립문서보관소(Record Group 457)와 미국 의회도서관에 소장돼 있다. NSA 또한 자체 기밀해제·투명성 이니셔티브 페이지를 통해 로버트 루이스 벤슨(Robert Louis Benson)이 작성한 ‘베노나 입문 역사 및 번역 안내서’를 포함한 다수의 공식 역사 자료와 해설서를 공개하고 있다.
남은 것: 절반의 진실과 절반의 논쟁
베노나 프로젝트는 완결된 이야기가 아니다. 소련이 감청한 통신 전체 중 실제로 해독에 성공한 것은 극히 일부였고, 그마저도 문맥이 끊기거나 암호명 이면의 실제 인물을 확정하지 못한 채 남은 사례가 많다. 로젠버그와 푹스처럼 이후의 자백이나 정황이 베노나의 시사점을 뒷받침해 준 사례가 있는가 하면, 히스처럼 수십 년이 지난 지금도 학계가 결론을 내리지 못한 채 다투는 사례도 남아 있다.
그럼에도 베노나가 남긴 것은 분명하다. 소련이 저지른 사소한 암호 관리 실수 하나가, 37년에 걸친 감청·분석·기밀해제의 여정을 거쳐 냉전기 미국 방첩사의 실체를 부분적으로나마 드러냈다는 사실이다. 그리고 그 문서고는 지금도 국립문서보관소와 의회도서관, NSA의 공개 자료를 통해 계속 읽히고, 계속 재해석되고 있다.
참고 자료
- Wikipedia — Venona project
- The Cipher Museum — VENONA Project
- Cryptologic Foundation — This Day in History: Meredith Gardner Broke Into KGB Message re: Manhattan Project
- Spartacus Educational — Meredith Gardner
- Atomic Heritage Foundation — The Rosenberg Trial
- NBC News — Key Evidence in Rosenberg Case to Stay Secret
- MI5 — Klaus Fuchs
- Famous Trials (UMKC) — The VENONA Files and the Alger Hiss Case
- Intelligence and National Security (Taylor & Francis) — Venona and Alger Hiss: A Follow-up
- EBSCO Research Starters — Venona Cables Are Declassified
- Library of Congress — Venona Project Records, 1940-1996
- NSA — Declassification & Transparency Initiatives: Venona
- Wikipedia — List of Americans in the Venona papers
- Federation of American Scientists — Moynihan Commission Report, Chapter 3