비유클리드 기하학의 역사

기원전 300년경 유클리드는 그 당시까지 그리스에 알려져 있던 수학의 모든 내용을 담아 “원론” 이라는 책을 펴냈다. 그중 기하학에 관한 수많은 정리는 다음 다섯 개의 공리로부터 얻어낸 것이다. 공리란 워낙 자명한 것이어서 증명할 필요 없이 받아들여야 하는 것이다. 첫째, 평면 위에서 두 점은 한 선분을 결정한다. 둘째, 선분은 무한히 확장될 수 있다. 셋째, 한 점을 중심으로 하고 다른 한 점을 지나는 원은 존재한다. 넷째, 모든 직각은 같다. 다섯째, 두 직선을 한 직선이 만날 때 만나는 각(같은 쪽) 의 합이 180도 보다 작으면 두 직선은 180도 보다 작은 쪽에서 서로 만난다. 이 다섯째 공리는 앞의 네 공리보다 매우 복잡하다. 유클리드는 원론에서 우선 앞의 네 공리만 사용하여 28개의 정리를 얻었는데 현재 이 정리들이 성립하는 기하학을 절대기하학이라고 부른다.

1800년대까지 사람들은 이 절대기하학이 유클리드 기하학이라 믿고 다섯째 공리를 절대기하학의 한 정리가 될 것이라고 추측하였다. 즉 다섯째 공리를 다른 네 공리로부터 얻어내려고 2000여 년간 노력해온 것이다. 많은 사람들은 실제로 그렇게 얻어냈다고 주장하였으나 그들은 사실 다섯째 공리를 그와 동치인 다른 가정(즉, 두 평행한 직선은 같은 거리를 유지한다, 또는, 한 직선 위에 있지 않는 세 개의 점은 한 원 위에 있다, 등등)으로 대체했던 것에 지나지 않았다. 다섯째 공리를 달리 표현한다면 직선 l 바깥의 점을 지나며 l에 평행한 직선은 하나 존재하되 꼭 하나만 있다는 것(평행선 공리)이다. 18세기에 사케리라는 논리학자는 평행선 공리를 부정함으로써 기하학의 모순을 얻어내려는 보다 진보된 논리를 펴 보았다. 이런 과정에서 그는 비유클리드 기하학의 일종인 쌍곡적 기하학의 정리를 많이 얻었지만 워낙 유클리드 기하학만이 유일한 기하학이라는 신념에 투철했던지라 곧 그는 멍청한 결과를 얻었다고 스스로 생각하고는 이 논리를 포기하였다. 위대한 발견을 바로 눈앞에 두고도 놓쳐버린 셈이었다.

1800년대 초기에는 평행선공리 문제를 붙들고 있는 대부분의 사람들이 이제 자포자기에 빠지게 되었다. F. 볼랴이라는 항가리 사람은 아들 J. 볼랴이에게 다음과 같은 편지를 보냈다. “너에게 간절히 부탁하는데 평행선 문제는 이제 포기하렴. 나는 지옥 같은 평행선의 바다를 항해하여 봤지만 그때마다 돛대는 부러지고 돛은 찢어지곤 했다.” 아버지의 애원에 아랑 곳 하지 않고 볼랴이는 평행선문제를 거듭 붙잡고 늘어진 끝에 1823년에 진리의 어렴풋한 빛을 발견하게 되었다. 그는 젊은이답게 선언하였다. “나는 無로부터 새 우주를 창조하였다.” 그는 평행선의 공리를 인정 또는 부정함에 따라 절대기하학이 유클리드 기하학 또는 비유클리드 기하학으로 전개됨을 깨닫게 된 것이다. 그렇게 증명하려했던 평행선 공리가 증명되지 않고 그 부정도 증명되지 않는다는 것은 평행선 공리가 다른 네 공리와는 독립적이라는 것을 뜻하고, 따라서 한 점을 지나며 한 직선에 평행한 직선은 하나 이상 존재한다는 공리를 다섯째 공리로 받아들이는 (쌍곡적) 비유클리드 기하학은 유클리드 기하학과 다르지만 모순되지도 않은 것이다.

자랑스러웠던 아버지는 그 당시 가장 유명했던 수학자 가우스에게 아들의 빛나는 연구결과를 전하였다. 그러나 가우스의 답장은 볼랴이에게 큰 실망만 안겨주었다. 가우스 자신도 이미 그 결과를 얻었지만 발표만 미루고 있었다는 것이었다. 그 말은 사실이었으나 한 젊은이의 빛나는 업적을 칭찬하거나 격려해주지 않는 것은 대가가 취할 행동이 아니라는 비판이 있었다. 비슷한 시기에 러시아의 수학자 로바체프스키도 쌍곡적 비유클리드 기하학을 발표하였다.

칸트의 철학에 따라 유클리드 기하학만이 절대불변의 진리라고 굳게 믿고 있던 1800년대 사람들이 비유클리드 기하학의 출현으로 받은 충격은 마치 무리수의 존재를 처음 발견한 피타고라스 학파가 느꼈던 당혹함 그 이상이었다. 그래서인지 비유클리드 기하학은 처음 출현한 이후 30여 년간 수학의 변방에서 맴돌다가 독일의 수학자 리만에 의하여 훨씬 더 체계적인 수학으로 정리되었다. 1854년 리만은 수강학생의 수에 따라 보수가 정해지는 강사(Privatdozent)에 임용되었다. 관례에 따라 리만은 취임강연을 하게되었다. 강연내용의 하나가 비유클리드 기하학이었는데 특히 직선 밖의 한 점을 지나는 평행한 직선은 하나도 존재하지 않는다는 공리를 받아들이는 타원적 비유클리드 기하학이었다. 리만은 여기서 그치지 않고 극히 일반론을 이끌어 내었다. 여태껏 기하학은 점, 직선, 평면, 공간을 극히 경직된 대상으로 다뤄왔으나 리만은 보다 유연하게 공간을 정의하였다. 그에 의하면 공간은 점으로 이루어졌고 공간 자체의 성질은 점 사이의 거리로 결정된다는 것이다. 이 거리의 이차도함수가 공간이 구부러진 정도를 나타내는 곡률이라 하였고, 곡률이 상수일 때, 특히 곡률이 0이면 유클리드 공간, 1이면 타원적 비유클리드 공간, -1이면 쌍곡적 비유클리드 공간이며, 곡률이 상수가 아닌 고차원 공간도 자연스럽게 정의하였다. 이리하여 공간의 학문인 기하학은 가장 일반적이고 자연스러운 공간을 다룰 수 있게 되었다. 리만의 강연을 들은 가우스는 좋은 강연에서 오는 흥분을 느끼며 집에 돌아갔다고 한다. 그의 일생에서 거의 처음이자 마지막으로.

리만에 의하여 인간은 휘어진 공간을 자연스럽게 다룰 수 있게되었고, 이리하여 그 60년후 아인슈타인은 일반상대성 이론을 완성하게 되었다. 아인슈타인에 의하면 우리가 사는 우주 공간은 중력에 의해 휘어졌다는 것이다. 3000여 년간 인간은 공간이 전혀 휘지 않고 평평한 유클리드 공간이라고 믿고 있었으나, 인간의 호기심의 산물인 비유클리드 공간을 모델로 하여 중력이 우주공간을 휘게 만든 것이었다. 인간과 오랫동안 함께 해왔던 유클리드 공간은 이제 피안의 공간, 이상향이 되었고, 인간을 당혹케 하며 낯설게 다가오던 비유클리드 공간은 어느새 우리의 삶의 무대가 되었다.

(1998년4월19일 씀)