π, e, √2와 같은 무리수들은 모두 무한수이다. 이 수들은 소수로 고칠 수는 있지만, 절대로 완성되지 못할 것이다. 무한대와 무한소 모두 2000년 동안 수학자들을 끈질기게 괴롭혔다. 무리수를 너무나 싫어했던 그리스인들은 무리수의 존재를 증명하려 했던 히파수스를 살해하기까지 했다. 하지만 17세기에 수학자들은 무한수를 사용하려는 움직임을 보였고 결국에는 무한대와 무한소를 인정하게 되었다. 무한이라는 개념과 이 수들은 기존의 가치관을 혼란에 빠뜨리지 않고도 마침내 수학 연구에서 유용하게 쓰이기 시작했다.

무한의 등장

원의 넓이를 구하기 위해(그리고 π 값을 얻기 위해) 아르키메데스가 택했던 방법은 원의 내부와 외부에 다각형을 그린 후 두 다각형의 넓이를 계산하는 것이었다. 그는 이러한 방식으로 원 넓이의 최대치와 최소치를 구했다. 가장 정확한 결과는 가장 많은 변을 가진 다각형을 원의 외부와 내부의 가장자리에 그려 원의 넓이를 구했을 때였다.

1620년도에 동시대 인물처럼 그려진 아르키메데스(287~212BC)의 초상화. 그는 무한대와 극한의 문제에 몰두했으나, 이것은 거의 2000년이 지난 뒤에야 다루어졌다.

ⓒ 돋을새김 | 저작권자의 허가 없이 사용할 수 없습니다.

여기에서 아르키메데스는 이후 아주 중요한 의미를 갖게 될 두 개념인 극한과 무한을 마주하게 됐다. 가장 완벽한 원의 넓이는 무한히 많은 변을 가진 다각형을 이용해 구할 수 있다. 원은 실제로 변이 무한개인 다각형이라고 불릴지도 모른다. 그렇게 되면 원의 내부와 외부의 두 다각형은 어느 시점에서는 만나게 된다. 다각형의 변의 개수가 무한대가 되면 다각형과 원의 넓이 차이는 점점 줄어들어 0이 되고, 넓이의 최대치와 최소치는 같아질 것이다.

면적이나 부피를 구하기 위해 한 도형을 여러 조각으로 쪼개어 계산하는 것은 아르키메데스에게 낯선 방법이 아니었다. 200년 전 데모크리토스는 논리적으로 납득할 수 없다는 이유를 들어 이 방법을 받아들이지 않았다. 만약에 물체를 무한대로 가늘게 쪼개버리면 물체들 사이의 차이점은 사라지고 모든 피라미드는 정육면체가 되기 때문이다.

데모크리토스와 직선자, 컴퍼스, 지구본을 그린 19세기의 판화

ⓒ 돋을새김 | 저작권자의 허가 없이 사용할 수 없습니다.

안티폰은 아르키메데스가 사용한 방법을 ‘실진법’(이 용어는 1647년까지 사용되지 않았다)으로 개발했고, 에우독소스는 실진법을 정밀하게 다듬었다. 실진법의 원리는 구하려는 넓이를 쉽게 계산이 가능한 다른 넓이와 연관시켜 밝히는 것이다. 먼저, 구하려고 하는 면적이 계산을 통해 알아낸 면의 넓이보다 크지 않다는 것을 증명하고, 이 면보다 작지도 않다는 것을 증명한다(그러면 둘의 넓이는 같다). 하지만 이 방법은 이미 답을 알고 있어야 하므로 건설적이지 않은 증명 방법이었다.

17세기 수학자들은 마침내 무한대와 무한소를 좀 더 편안하게 생각하게 되었다. 그렇게 되자 나눠서 계산하는 방법이 적절한 대수학 공식을 갖추어 진가를 발휘했으며, 이것은 미적분학으로 이어졌다. 미적분학은 해석 기하학이 발달하고 극한을 제대로 이해한 이후에야 나타날 수 있었던 것이다.

무한대에서 미적분으로

16세기 중반 이후에 과학과 기계학이 급격히 발전하면서 넓이와 부피, 속도와 같은 물리적 특성을 계산하는 것이 새롭게 활기를 띠었다. 독일 과학자인 요하네스 케플러와 네덜란드 기술자인 시몬 스테빈은 불규칙한 도형의 넓이를 아주 얇게 조각내어 계산하는 방법을 연구했는데 두 사람 모두 특정 문제를 염두에 두고 실용적인 관점에서 접근했다. 스테빈은 물체의 무게 중심을 계산하기 위해 물건을 나누어서 계산하는 방법을 사용했다. 그는 삼각형의 무게 중심인 정중앙을 찾아내기 위해 삼각형 안에 여러 개의 평행사변형을 그렸다.

케플러의 연구는 훨씬 더 흥미로웠다. 와인의 가격을 통(barrel) 단위로 계산할 때, 그 가격은 통 안에 담긴 와인의 양으로 결정된다. 와인의 양은 긴 막대를 통 안에 집어넣어 재는데 이때 와인 통의 불룩한 부분은 계산에 넣지 않는다. 이런 이유로 와인이 꽉 차 있거나 딱 절반이 차 있는 경우에만 정확하게 부피를 잴 수 있었다. 와인 통의 4분의 1이 채워져 있는 경우에는 (깊이를 쟀을 때) 실제 한 통의 4분의 1보다 적은 와인이 담겨 있는 것이므로 케플러가 4분의 1통에 해당하는 와인 가격을 지불하면 속는 셈이 된다.

이런 이유로 케플러는 와인 통을 원형 조각으로 무한대로 잘라서 그 넓이를 더해 제대로 된 부피를 계산하자고 제안했다. 사실, 케플러는 자신의 천문학 연구 때문에 곡선 경로 이하 면적의 넓이를 구해야만 했다. 하지만 사람들은 와인 통에 관한 문제에 훨씬 더 많은 관심을 보였다.

갈릴레오는 무한에 관한 논문을 쓰겠다고 밝혔는데, 그 기록은 현재 전해지지 않는다. 대신 무한대와 무한소를 참고해서 넓이와 부피를 계산하는 것과 관련된 구절들이 남아 있다.

갈릴레오의 가장 흥미로운 연구 내용은 다음과 같다. 각각의 정수들은 제곱이 될 수 있다. 그렇다면 무한개의 제곱들이 존재할 것이다. “숫자만큼이나 많은 제곱수가 존재한다는 것은 틀림없는 사실이다.” 하지만 제곱수의 무한대가 정수의 무한대보다 큰 것일까? 그는 부분 집합이 전체의 집합과 대등할 수 있다는 무한집합의 특성을 깨달을 정도로 가까이 접근했다. 하지만 이 결론에서 한 발 물러나 “‘같다’, ‘크다’, ‘작다’라는 속성은 무한대에는 적용되지 않는다. 유한의 개수에만 적용될 수 있다.”고 말했다.

이탈리아인 보나벤투라 카발리에리(1598~1647년)는 아르키메데스에서 갈릴레오에 이르는 무한대 분야에 관한 연구를 통합했다. 1635년에 발간한 책에서 그는 ‘불가분량법’^각주1) 을 설명했다. 이때 그는 시간이 오래 걸리는 기하학적 방법을 사용했다. 이 방법은 곧 다른 것으로 대체되었지만 그는 50년 뒤 나타날 미적분과 비슷한 작업을 해냈다.

ⓒ 돋을새김 | 저작권자의 허가 없이 사용할 수 없습니다.