디락 델타함수의 철학적 해석

고등과학원 수학부 교수 최재경

양자역학 연구의 업적으로 1933년 슈뢰딩거와 함께 노벨 물리학상을 받은 디락(Paul Dirac, 1902-1984)은 1930년 과학사에서 기념비가 되는 ‘양자역학의 원리’라는 책을 내었다. 양자역학의 고전이어서 현재에도 교재로 쓰이는 이 책에서 디락은 간단하며 직관적이지만 논란이 많은 델타함수를 소개하였다. 디락 델타함수는 원점에서 무한대이고 그 외의 점에서 0이며, 적분값이 1인 함수이다. 이 함수는 야구공이 타자의 배트에 부딪힐 때나, 두 당구공이 서로 부딪힐 때의 충격함수, 또는 전자 같은 입자의 점전하와 점질량을 표시할 때 쓰인다.

이러한 델타함수를 수학자들은 받아들일 수 없었다. 왜냐하면 엄밀한 의미의 함수는 무한대의 값을 가질 수 없으며, 한 점을 뺀 모든 점에서 0인 함수는 적분값이 0이기 때문이다. 그러나 억지로 말하자면 델타함수는 함수들의 극한으로 볼 수 있다. 그림과 같이 못처럼 뾰족하며 높이가 갈수록 커지는 함수들의 극한을 델타함수라고 정의할 수도 있다. 단 이 함수들은 전구간에서 적분값이 1이어야 한다는 조건이 있다.

야구공을 타자가 배트로 칠 때 매순간 어느 정도 큰 힘이 작용하는가를 알려고 하기보다, 충격이 전달되는 전체시간 동안 전해지는 총 충격량만 알면 야구공의 속도를 예측할 수 있다는 것이 델타함수의 요점이다. 일반적으로 디락은 델타함수 가 임의의 연속함수 와 양수 에 대해서

를 만족한다고 정의하였다. 즉 가 에 끼치는 영향력이 라는 것이다.

이렇게 함수 같지 않고 괴팍한 델타함수를 당시의 수학자들은 조소하였다. 그러나 크게 비웃을 수만은 없었던 것은 디락을 비롯한 물리학자들이 델타함수를 쓰며 항상 옳은 답을 얻어냈기 때문이다. 그래서 디락의 물리학적 직관력의 산물인 델타함수는 수학자들에게 큰 골칫거리였다. 그러다가 1940년대 후반 불란서의 수학자 슈바르츠(Laurent Schwartz, 1915-2002)가 초함수(distribution)를 논리적으로 엄밀하게 도입하며 델타함수가 초함수의 일종이라고 보였을 때 수학자들은 비로소 안도할 수 있었다. 슈바르츠는 초함수에 관한 업적으로 수학의 노벨상이라 불리는 필즈메달을 1950년에 수상하였다.

슈바르츠의 성공요인은 델타함수를 기존의 함수처럼 보지 않고, 다른 함수에 끼치는 델타함수의 영향력을 봄으로서 간접적인 접근을 시도한데 있다. 물리학적 통찰력에서 출발하여 수학적 엄밀성으로 귀결 짓게 된 과학사의 이 에피소드는 물리학과 수학의 바깥에서 들여다보면 더 잘 이해할 수 있다. 이 글에서 필자는 물리학자의 델타함수를 수학자가 받아들이는 과정을 철학의 인식론적 관점에서 해석함으로서 그 본질을 이해하고자 한다. 한 수학자의 아름다운 이론을 철학적으로 다시 음미해보고 싶은 것이다. 우선 인식론의 몇 가지 관점을 알아보자.

로크(John Locke, 1632-1704)는 영국 계몽사상의 기초를 닦은 인물이다. 그는 이성적 인식을 중시하는 합리주의적 지반을 떠나지 않고, 여기에서 경험적 인식이 과연 어느 정도까지 진리를 인식할 수 있는가라는 문제를 탐구하였다. 진정한 의미의 인식론은 로크로부터 시작되었다고 말할 수 있다. 그에 의하면 인간이 가지고 있는 모든 관념(idea)은 결코 본유(本有)적인 것이 아니다. 인간의 마음은 원래 아무런 글자도 씌어있지 않은 백지(tabula rasa)와 같은 것이어서 이 백지에 글자를 써넣는 것, 즉 관념을 주는 것은 단지 경험뿐이라는 것이다.

로크에 의하면 외계의 대상이 우리의 감관에 영향을 미쳐 거기에 생겨난 감각에 의해 우리는 관념을 얻는다. 그러나 감각에 의해 얻어지는 것은 항상 외계의 사물의 성질뿐이고 사물의 실체에는 우리가 미칠 수 없다. 그리고 감각에 의해 주어지는 사물의 성질을 나타내는 관념도 반드시 사물의 정확한 상(像)은 아니다. 물체의 크기, 수, 모양, 운동과 정지, 고체성 등의 관념은 물체로부터 떼어낼 수 없고 인간의 감각기관과 독립해서 존재하는 것이다. 이에 반해 색, 소리, 냄새, 맛, 온도, 부드러움 등의 관념은 우리의 감각기관에 의해 생긴 것이지 물체 자체가 갖는 성질은 아니다. 로크는 전자를 제1성질, 후자를 제2성질이라고 불렀다.

하지만 아일랜드의 철학자 버클리(George Berkeley, 1685-1753)는 로크가 말하는 객관적인 제1성질은 있을 수 없다며, 물체의 제1성질과 제2성질의 구별을 완전히 부정하였다. 왜냐하면 제1성질도 감각에 의존해서 인식할 수밖에 없고, 감각 자체가 주관적이기 때문에 감각을 통해 얻은 인식은 모두 주관적일 수밖에 없다는 것이다. 이리하여 버클리에 의하면 우리가 보통 물체라고 부르는 사물은 실은 단지 감각에 의해 우리에게 주어진 관념들의 다발에 불과하다. 우리가 물체라고 부르는 것에서 감각에 의해 주어지는 관념들을 하나씩 제거하면 나중에는 아무것도 남지 않는다. 따라서 물체의 존재란 지각된다는 것에 불과하다. 이로부터 버클리는 ‘존재란 지각됨이다’(esse est percipi, To be is to be perceived)라는 유명한 말을 남겼다.

우리는 흔히 “저기에 사과가 있다”라고 할 때 사과라는 어떤 객관적인 실재가 존재하여 그 실재에는 붉은 색, 신 맛, 무겁고 둥근 모양이라는 고유의 속성을 가지고 있다고 생각한다. 그래서 우리는 붉고 무거우며 둥글고 신 맛을 내는 사과가 저기에 있다고 인식하는 것이다. 그러나 면밀히 따져보면 저기(외계)에 있다고 생각되는 사과(사물)는 다만 지각된 어떤 것으로서의 사물이며, 이 사물은 ‘붉다’, ‘시다’, ‘무겁다’, ‘둥글다’와 같은 관념다발로 우리의 마음속에 존재한다는 것이 버클리의 논리이다.

흄(David Hume, 1711-1776)은 영국 경험론의 철학을 극단까지 몰고 가며 자연과학의 필연성과 객관성도 부정하여서 그 한계를 드러냈다. 경험적 사실 이상의 추리를 할 때 우리는 인과관계를 토대로 하는데, 이 인과적 지식이 얼마나 확실한지에 대해 흄은 고민하였다. 그에 의하면 태양의 운행에 대한 인간의 지식은 어제도 오늘도 태양이 동쪽에서 떴으니 내일도 동쪽에서 뜰 것이라고 단지 믿는 것에 불과할 뿐이다. 이렇게 형이상학의 가능성은 흄에 의해 완전히 부정되었고, 결국 경험론은 절대적 지식을 결코 파악할 수 없다는 회의론에 빠졌다.

이와 같은 흄의 책을 읽고 철학자 칸트(Immanuel Kant, 1724-1804)는 형이상학적 독단의 잠에서 깨어났다고 한다. 상반된 방향으로 치달아 독단과 회의에 빠진 독일의 합리론과 영국의 경험론을 각각 비판적으로 수용하여 칸트는 새로운 철학적 입장을 정립하였다. 합리론이건 경험론이건 종래에는 인식의 문제를 고찰할 때 항상 대상을 중심으로 생각해왔다. 인식이란 대상 그 자체를 있는 그대로의 모습으로 파악하는 것이라고 생각하였다. 그런데 칸트는 인식의 대상은 주관의 선천적 형식에 의해 구성되는 것이라고 하였다. 우리가 대상이라고 생각하는 것이 사실은 주관이 자신의 형식으로 구성한 것에 불과하다는 것이다. 중심은 이제 대상 쪽에 있는 것이 아니라 주관 쪽에 있다는 것이다. 대상은 오히려 주관에 의해 구성되는 것이다. 이런 사고방식의 전환을 칸트는 천문학에 빗대어 코페르니쿠스적 전회(轉回)라고 불렀다.

이제 우리의 수학문제인 디락 델타함수로 돌아가 보자. 데카르트(René Descartes, 1596-1650)는 수학적 방법을 유일하게 참된 학문적 방법으로 생각하였고, 모든 인식은 수학적 방법을 통해서 비로소 확실한 지식에 도달할 수 있다고 말하였다. 데카르트에서 비롯된 합리론은 이성에 의해 일체의 진리를 인식할 수 있다며 이성을 절대적으로 신뢰하였다. 그러므로 수학자에게 필요한 것은 합리론적 인식이고, 반면 경험론적 인식은 수학문제를 풀며 커피 맛을 음미할 때에만 필요하다고 사람들은 생각하였다.

그런데 디락이 들고 나온 델타함수를 본 수학자들은 당혹스러웠다. 전지전능한 이성으로 함수 자체를 인식하려고 시도한 수학자들은 합리론의 한계에 부딪힌 것이다. 우리의 인식이 이성만으로는 결코 성립하지 않는다는 흄과 칸트의 교훈을 뼈저리게 실감하였다. 칸트에 의하면 우리는 물자체(物自體, Ding an sich)의 세계에는 다다를 수 없고, 우리의 감성에 의해 구성되는 현상으로서의 대상만 인식할 수 있는 것이다.

이러한 난관을 성공적으로 극복한 수학자가 슈바르츠였다. 여기서 그의 초함수론을 철학적으로 해석하기 위해 칸트를 따라 코페르니쿠스적 전회를 해보자. 즉 델타함수라는 대상을 우리의 주관으로 구성하여 보자는 것이다. 그러면 함수를 인식하기 위한 수학자 주관의 선천적 형식은 무엇인가? 이 선천적 형식 는 다음과 같이 정해진다:

는 큰 에 대해 이며 미분가능한 함수 들의 집합이다.

는 수학자의 감각기관이 되는 셈이다. 이 감각기관으로 함수들을 어떻게 지각할 것인가? 예를 들어서 함수 가 주어졌을 때 수학자가 함수 를  속의 로 느끼는 관념은 실수 값  으로 정의된다. 이렇게 지각된 모든 관념들이 모여 생긴 관념다발이 기존의 함수 를 초함수로서 새롭게 정의하는 것이다. 일반적으로 하나의 초함수는  속의 모든 에 대해 관념을 만들고, 이 관념들이 모여서 하나의 관념다발을 만든다. 슈바르츠는 이 관념다발로 원래의 초함수를 정의하였다. 이러한 초함수의 정의는 ‘존재란 지각됨이다’라는 버클리의 말을 연상시킨다.

디락 델타함수를 초함수로 정의하자면 다음과 같다:

속의  로 실수 을 느껴서 생긴 관념다발이 바로 델타함수이다.

이와 같이 경험론적으로 정의된 초함수의 개념은 수학의 해석학 분야의 발전에 큰 공헌을 하였다. 물리학의 매우 자연스럽고 직관적인 개념이 수학의 이론을 공고히 하는데 기여한 것이다. 초함수의 정의를 이용하면 놀랍게도 초함수의 미분이 가능해진다.  속의 로 라는 실수 값을 느껴서 생긴 관념다발이 초함수 를 정의한다고 하자. 그러면 의 미분초함수는  속의 로 이라는 실수 값을 느끼는 것이다.

영화 ‘스타트렉’에 등장하는 순간이동이란 것도 초함수로 볼 수 있는데, 순간이동을 미분하면 델타함수가 된다. 반면에 델타함수를 미분한 것만큼 충격을 가하면 야구공은 순간이동을 하게 된다.

돌이켜 보건대 디락은 충격적인 힘을 무리하게 매순간 측정하려들지 않고, 측정하지 않고, 그저 전체시간의 충격량을 알고자 했다. 충격함수 자체를 인식하려들지 않고 인식하지 않고 그 함수의 간접적인 영향력에 관심을 둔 것이다. 디락의 이러한 간접적인 시각의 효용성을 인정한 슈바르츠는 논리적인 비약을 행하여 test function 들의 집합 를 통해 델타함수를 비롯한 초함수를 간접적으로 인식하였다. 수학 논리 바깥의 디락을 슈바르츠는 수학 논리 안으로 끌어들인 것이다. 마치 칸트가 코페르니쿠스적 전회를 통해 경험론을 포용한 것처럼.

대한수학회소식 2010년 7월호에 실린 글