“상자 안에 고양이 한 마리가 있습니다. 상자를 열기 전까지 이 고양이는 살아 있으면서 동시에 죽어 있습니다.” 아마 과학사를 통틀어 가장 널리 알려졌으면서, 동시에 가장 널리 오해된 문장일 것입니다. “슈뢰딩거의 고양이”는 양자역학을 소개하는 거의 모든 대중서와 다큐멘터리, 인터넷 밈에 등장합니다. 그런데 정작 이 사고실험을 고안한 오스트리아 물리학자 에르빈 슈뢰딩거(Erwin Schrödinger)는 이것을 양자역학의 신비로움을 보여주는 예시로 제시하지 않았습니다. 오히려 당시 주류였던 코펜하겐 해석을 겨냥한 날카로운 반박 논증으로 고안한 것이었습니다.

양자역학에서 ‘중첩(superposition)’이란, 하나의 계가 관측되기 전까지는 여러 가능한 상태가 동시에 존재하는 것처럼 기술되는 현상을 말합니다. 전자나 광자처럼 아주 작은 입자의 세계에서 이 중첩은 실험으로 반복 확인된, 잘 검증된 현상입니다. 문제는 이 중첩을 고양이처럼 크고 복잡한 대상에도 그대로 적용해도 되느냐는 것이었고, 슈뢰딩거는 바로 이 질문을 던지기 위해 고양이를 상자에 넣었습니다. 이 사고실험이 90년 넘게 살아남은 것은, 우리가 발 딛고 선 이 물리 세계가 아주 작은 차원에서는 얼마나 낯설고 정교한 규칙을 따르는지를 매번 새삼 일깨우기 때문일 것입니다. 1935년 원논문으로 돌아가 슈뢰딩거가 실제로 무엇을 말하려 했는지, 그리고 이후 90년 넘게 이어진 실험과 논쟁이 무엇을 밝혀냈고 무엇을 여전히 풀지 못하고 있는지 살펴보겠습니다.

슈뢰딩거가 실제로 하려던 말
1935년, 슈뢰딩거는 독일어 학술지 《Naturwissenschaften》 23호에 ‘양자역학의 현재 상황'(Die gegenwärtige Situation in der Quantenmechanik)이라는 제목의 3부작 논문을 발표했습니다. 이 논문은 J.D. 트리머(Trimmer)가 1980년 미국철학회보(Proceedings of the American Philosophical Society)에 실은 정본 영역을 통해 지금도 원문 취지를 확인할 수 있습니다. 고양이 사고실험이 등장하는 대목에서 슈뢰딩거는 “아주 우스꽝스러운(완전히 익살스러운, burleske) 사례들도 만들어 낼 수 있다”는 문장으로 운을 뗀 뒤, 곧바로 상자·가이거 계수기·방사성 물질·고양이로 이루어진 장치를 소개합니다.
여기서 핵심은 “burleske”(익살스러운, 풍자적인)라는 단어 선택입니다. 슈뢰딩거는 이 사례를 진지한 물리적 예측으로 제시한 것이 아니라, 미시세계에서 성립하는 파동함수의 중첩을 아무런 제약 없이 거시세계까지 그대로 밀어붙이면 얼마나 부조리한 결론에 이르는지 보여주는 반박용 장치로 고안했습니다. 코펜하겐 해석은 측정 전까지 양자계가 여러 가능성이 중첩된 상태로 존재하다가, 측정을 통해 하나의 결과로 확정된다고 보는 입장인데, 슈뢰딩거는 이 규칙을 거시적 대상에 그대로 적용하면 얼마나 이상한 결론이 나오는지를 고양이로 보여주려 한 것입니다.
이 사고실험이 나오게 된 배경에는 1935년 여름 아인슈타인과 나눈 편지가 있습니다. 그해 8월 8일, 아인슈타인은 슈뢰딩거에게 보낸 편지에서 화학적으로 불안정한 평형 상태에 있는 화약통을 예로 들어, 양자역학의 파동함수가 “아직 터지지 않은 상태와 이미 터진 상태의 혼합”을 기술하게 되는 문제를 지적했습니다. 열흘쯤 지난 8월 19일경 슈뢰딩거는 화약 대신 고양이와 우라늄 붕괴, 청산을 등장시킨 답장을 보냈고, 아인슈타인은 9월 초 이 비유에 완전히 의견이 일치한다며 반겼습니다. 아인슈타인은 이후 1950년 편지에서도 같은 비유를 반복하며 이 체계의 파동함수는 살아있는 고양이와 산산조각난 고양이를 모두 담고 있다고 썼는데, 이 역시 코펜하겐 해석에 대한 반박으로 쓴 말이지 실제로 그런 고양이가 존재한다고 주장한 것이 아니었습니다. 슈뢰딩거와 아인슈타인 두 사람 모두에게 이 사고실험은 양자역학을 설명하기 위한 도구가 아니라 비판하기 위한 도구였습니다.

“고양이가 반은 살고 반은 죽어 있다”는 오해
그런데도 대중문화에서는 정반대로 소비됩니다. “고양이가 실제로 살아있으면서 동시에 죽어있다”는 문장은 슈뢰딩거가 말하려던 것이 아닙니다. 슈뢰딩거의 논증은 오히려 “코펜하겐 해석의 확률 규칙을 거시적 대상에 그대로 적용한다면 살아있음과 죽어있음이 뒤섞인 상태라는 터무니없는 결론에 이르게 된다 — 그러니 이 규칙을 그대로 거시세계에 적용해서는 안 된다”는 귀류법에 가까웠습니다.
사고실험의 구체적인 설정도 대중적으로 잘못 알려진 부분이 있습니다. 원논문의 장치는 밀폐된 상자 안에 극소량의 방사성 물질, 이를 감지하는 가이거 계수기, 계수기가 방사성 붕괴를 검출하면 망치를 작동시키는 계전기, 그리고 망치에 깨지도록 놓인 사이안화수소산(청산, HCN) 플라스크로 구성됩니다. 한 시간 안에 원자 하나가 붕괴할 확률과 붕괴하지 않을 확률은 각각 50%로 설정되어 있습니다. 그런데 한국어권 자료 중에는 이 플라스크의 내용물을 “청산가리”(사이안화칼륨, KCN)로 소개하는 경우가 적지 않습니다. 청산가리는 상온에서 고체인 염이고, 원논문이 명시한 사이안화수소산은 액체 또는 기체 상태의 전혀 다른 화합물입니다. 사소해 보이는 차이지만, 원전을 얼마나 꼼꼼히 확인했는지를 가르는 지점이기도 합니다. 이런 세부 사항이 왜 중요한가 하면, 사고실험의 핵심 메시지(“코펜하겐 해석을 거시계에 그대로 적용하면 부조리하다”)와는 별개로, 인용이 반복되면서 원전과 조금씩 어긋나는 디테일이 쌓이면 정작 슈뢰딩거가 하려던 논증의 정확한 결을 놓치기 쉬워지기 때문입니다.

결어긋남 — 중첩이 사라지는 진짜 이유
그렇다고 해서 “양자 중첩은 미시세계에서만 일어나고 거시세계에는 원천적으로 존재할 수 없다”고 단순화하는 것도 정확하지 않습니다. 양자역학의 수학 자체는 원자 하나든 고양이든 크기를 가리지 않고 똑같이 적용됩니다. 거시적 중첩이 순식간에 사라지는 이유를 설명하는 것은 자연법칙상의 금지가 아니라 결어긋남(decoherence)이라는 물리적 과정입니다.
물리학자 볼프강 추렉(Wolfgang Zurek)이 1991년 《피직스 투데이》에 발표한 해설 논문에 따르면, 주변 환경은 양자계의 특정 물리량을 사실상 끊임없이 ‘모니터링’하는 것과 같은 효과를 내며, 그 결과 해당 물리량의 중첩 상태는 극히 짧은 시간 안에 무너져 마치 고전적인(중첩이 없는) 상태처럼 행동하게 됩니다. 물체가 클수록 주변 입자·빛·열과 상호작용하는 경로가 기하급수적으로 늘어나기 때문에, 고양이 같은 거시적 물체의 중첩은 사실상 관측이 불가능할 정도로 빠르게 무너집니다. 다시 말해 미시세계와 거시세계 사이에는 넘을 수 없는 법칙적 경계선이 그어져 있는 것이 아니라, 결어긋남이 얼마나 빨리 일어나는가라는 ‘정도의 문제’가 있을 뿐입니다.
이를 뒷받침하는 실험들이 지난 수십 년간 이 경계를 계속 밀어 넣어 왔습니다. 1996년 미국 국립표준기술연구소(NIST)의 데이비드 와인랜드(David Wineland) 연구팀은 포획한 베릴륨 이온(⁹Be⁺) 하나를 레이저로 냉각시켜, 공간적으로 80나노미터 이상—이온 자체 크기의 11배—떨어진 두 위치에 동시에 존재하는 중첩 상태를 만들고 간섭을 통해 이를 검증했습니다. NIST의 발표는 이 결과를 결어긋남과 명시적으로 연결지어 설명합니다. 주변과의 어떤 상호작용이든 중첩을 깨뜨려 이온을 하나의 상태로 붕괴시키며, 분리 거리가 클수록 중첩 상태는 더 취약해진다는 것입니다. 연구자들은 바로 이 점이 왜 거시적 물체에서는 이런 중첩이 관찰되지 않는지를 설명한다고 해석했습니다. 이온 하나처럼 아주 단순한 계조차 겨우 수십 나노미터 떨어뜨리는 것만으로도 중첩이 취약해진다는 사실은, 원자 수천 조 개로 이루어진 고양이 같은 존재가 중첩을 유지하는 일이 현실적으로 얼마나 어려운지를 가늠하게 해 줍니다.

3년 뒤인 1999년에는 오스트리아 빈 대학의 안톤 차일링거(Anton Zeilinger) 연구팀이 탄소 원자 60개로 이루어진 축구공 모양의 분자, 풀러렌(C60)을 이용한 물질파 간섭 실험을 발표했습니다. 질량 약 720 원자질량단위(amu)에 이르는 이 분자를 격자에 통과시키자 파동으로서의 회절 무늬가 나타났습니다. 원자 하나가 아니라 수백 개의 원자로 이루어진 분자에서도 양자적 파동성이 확인된 것입니다. 이후 같은 빈 대학 연구팀은 2019년, 질량이 25킬로달톤(원자 약 2,000개에 해당)을 넘는 올리고포르피린 분자에서도 물질파 간섭을 관측했다고 발표했습니다. 이는 당시까지 양자 중첩이 실험적으로 확인된 물체 중 가장 무거운 사례로 기록되었습니다. 고양이만큼 무겁지는 않지만, 원자 하나 수준에서 시작해 수천 개의 원자로 이루어진 분자 집합체 수준까지 양자적 성질이 실험적으로 확인되었다는 점에서 이 결과들의 의미는 작지 않습니다.
이 실험들이 보여주는 것은 명확합니다. 중첩 자체를 막는 어떤 물리 법칙이 따로 있는 것이 아니라, 물체가 무겁고 복잡해질수록 환경과의 상호작용이 폭발적으로 늘어나 결어긋남이 그만큼 빨라진다는 것입니다. 이론적으로는 고양이 크기의 물체도 충분히 격리하고 냉각한다면 잠깐이나마 중첩 상태를 유지할 수 있다고 여겨지지만, 실제로 그런 격리는 현재 기술로는 사실상 불가능에 가깝습니다.

측정 문제와 또 하나의 신화
남은 질문은 이것입니다. 상자를 열어 ‘측정’하는 순간, 정확히 무슨 일이 일어나는 걸까요? 슈뢰딩거 방정식에 따르면 양자계는 외부와 격리된 채로는 여러 상태가 중첩된 채 매끄럽게 진화해야 하지만, 실제로 우리가 무언가를 측정하면 언제나 하나로 확정된 결과만 관측됩니다. 이 둘 사이의 간극을 어떻게 메울 것인가가 바로 측정 문제(measurement problem)의 핵심이며, 슈뢰딩거의 논문이 발표된 지 90년이 지난 지금도 완전히 해결되지 않았습니다. 스탠퍼드 철학백과사전의 정리에 따르면 물리학자들 사이에는 크게 코펜하겐 계열의 붕괴 해석, 파동함수가 결코 붕괴하지 않는다고 보는 다세계(에버렛) 해석, 그리고 자발적인 물리적 붕괴 과정을 상정하는 객관적 붕괴 이론(GRW 등) 같은 여러 입장이 경쟁하고 있을 뿐, 이 중 어느 하나가 학계의 합의된 정설로 확립된 상태는 아닙니다. 매끄럽게 선형적으로 진화하는 슈뢰딩거 방정식과, 측정 순간 상태가 하나로 결정된다는 붕괴 가정 사이의 긴장은 여전히 해소되지 않은 채로 남아 있습니다.
이 지점에서 반드시 정정해야 할 대중적 통념이 하나 있습니다. “관찰자의 의식이 파동함수를 붕괴시킨다”는 이야기입니다. 이는 정확한 물리학이 아닙니다. 물리학자 카펜터(R.H.S. Carpenter)와 앤더슨(A.J. Anderson)이 2006년 《아날 드 라 퐁다시옹 루이 드 브로이》에 발표한 분석에 따르면, 가이거 계수기가 방사성 붕괴를 검출하는 것과 같은 물리적 상호작용 자체만으로도 파동함수를 붕괴시키기에 충분하며, 그 결과를 누군가 의식적으로 들여다보는 절차가 추가로 필요한 것이 아닙니다. 2010년 유(S. Yu)와 니콜리치(D. Nikolić)가 발표한 논문 역시 인간의 의식과 파동함수 붕괴 사이에 제안되어 온 연결 고리가 실행 가능해 보이지 않는다고 결론짓습니다. 다시 말해 상자 속 고양이의 운명을 ‘결정’하는 것은 우리가 뚜껑을 여는 그 순간이 아니라, 가이거 계수기가 방사성 붕괴를 검출하는 순간에 이미 일어난 물리적 상호작용이라고 보는 쪽이 훨씬 더 근거가 탄탄합니다.

마무리: 사고실험이 남긴 것
슈뢰딩거의 고양이는 답이 아니라 질문으로 태어난 사고실험이었습니다. 슈뢰딩거는 이 우화로 코펜하겐 해석의 허점을 찌르려 했고, 그 질문은 90년이 지난 지금도 완전히 닫히지 않았습니다. 다만 그사이 물리학은 최소한 두 가지는 분명히 밝혀냈습니다. 거시세계에서 중첩이 보이지 않는 이유는 법칙의 금지가 아니라 결어긋남이라는 물리적 과정 때문이라는 것, 그리고 파동함수를 무너뜨리는 것은 우리의 의식이 아니라 환경과의 물리적 상호작용이라는 것입니다. 원자 하나에서부터 25킬로달톤짜리 분자에 이르기까지, 이렇게 정교하게 맞물려 작동하는 물리 세계의 규칙 앞에서 아직 다 풀리지 않은 질문이 남아 있다는 사실 자체가, 우리가 발 딛고 선 이 자연이 얼마나 깊고 촘촘한 질서 위에 서 있는지를 보여줍니다.
상자를 열기 전까지 고양이가 정말로 반은 살고 반은 죽어 있는 것은 아닙니다. 다만 우리는 상자를 열기 전까지, 그 안에서 이미 일어난 물리적 사건의 결과를 알지 못할 뿐입니다.
참고 자료
- Trimmer, J.D. (1980), “The Present Situation in Quantum Mechanics: A Translation of the Schrödinger Cat Paradox Paper”, Proceedings of the American Philosophical Society 124(5)
- Wikipedia, “Schrödinger’s cat”
- Nautilus, “How Einstein and Schrödinger Conspired to Kill a Cat”
- 한국어 위키백과, “슈뢰딩거의 고양이”
- LiveCatDeadCat, “Einstein-Schrödinger, Summer of 1935”
- NIST, “Schroedinger’s Cat in an Atomic Cage” (1996)
- University of Vienna, Quantum Nanophysics Group — “Wave-particle duality of C60 molecules”
- Fein, Y.Y. et al. (2019), “Quantum superposition of molecules beyond 25 kDa”, Nature Physics 15(12)
- Zurek, W.H., “Decoherence and the transition from quantum to classical — REVISITED”
- Stanford Encyclopedia of Philosophy, “Measurement in Quantum Theory”
- Carpenter, R.H.S. & Anderson, A.J. (2006), “The death of Schrödinger’s cat and of consciousness-based wave-function collapse”, Annales de la Fondation Louis de Broglie 31(1)
- Yu, S. & Nikolić, D. (2010), “Quantum mechanics needs no consciousness (and the other way around)”