💻컴퓨터가 풀어낸 수학 난제들

 

 

최근 수십년간 컴퓨터에 의한 수학 이론의 발견과 증명에

학자들 뿐만 아니라 일반인까지도 많은 관심을 가졌다.

컴퓨터가 증명한 수학문제들을 먼저 알아보고

이러한 컴퓨터의 발전이 현대 수학에 미치는 영향에 대해 생각해보자 .

 

 

 

컴퓨터에 의한 증명

 

컴퓨터에 의한 증명 중 제일 유명한 것은 4색문제일 것 같다.

1852년 영국의 수학자 프랜시스 구트리에는

영국 지도를 색칠하다 한 가지 물음을 갖게 된다.

임의의 구획으로 나뉜 지도를 색칠할 때

인접한 구획을 같은 색으로 칠하지 않으려면

최소한 몇 가지의 색이 필요할까?

실제로 색을 칠해보니 영국의 지도는

네 가지 색이면 충분하게 색칠 되었다.

그런데 그는 왜 그렇게 되는지 알 수는 없었다.

이 문제는 '4색 문제'라고 불리며 수수께끼로 남았고

100년이 넘는 시간이 걸린 이 문제를 해결한 것은 다름아닌 컴퓨터였다.

1976년 미국 일리노이대 볼프강 하켄과 케네스 아펠은

‘네 가지 색으로 무한히 많은 지도들을 칠할 수 있다는 것을 증명하려면

1482종의 지도만 검증하면 된다’는 결과를 얻어냈고

사람의 손으로는 1428종의 지도를 다 색칠해 볼 수 없으니

컴퓨터 알고리즘으로 만들어 지도를 다 색칠해낸다.

 

조금 더 현실적인 문제도 있다.

케플러의 추측이라고 불리는 문제인데

스피어 패킹 즉 슈퍼마켓에서 흔히 보는 오렌지들을 단순하게 쌓을 때 가능한

가장 높은 평균 밀도는 루트 2분의 3 즉 0.740480489 ..이라는 것이다.

Thomas Hales는 150 개의 변수로 특정 기능을 최소화함으로써

가능한 모든 배열의 최대 밀도를 얻을 수 있다고 결정했다.

그리고 1992년 선형 프로그래밍 방식을 사용하여

약 5000 개의 서로 다른 구의 각 구에 대해 함수의 하한을 찾기 위해

노력한 끝에 1998년 증명해낸다.

 

아니면 힐베르트의 23가지 문제에 포함된 난제인

골드바흐의 약한 추측은 어떤가?

골드바흐의 추측은 2보다 큰 모든 짝수는 두 소수의 합으로 표현 가능하는 추측인데 아직 완벽하게 증명되지는 않았지만

1937년, 러시아의 수학자 이반 마트베예비치 비노그라도프(Ivan Matveyevich Vinogradov)는 계산을 하기에 충분히 효율적인 수(some effectively computable number) 이상의 홀수는 3개의 홀수 소수의 합으로 표현할 수 있음을 증명하였다.

문제는 이 충분히 효율적인 수가 10의 천만제곱이라는 수였지만 말이다.

2012년 5월에는 테렌스 타오(Terence Tao)가 비노그라도프의 결과를 바탕으로 모든 홀수가 많아도 5개 이내의 소수의 합으로 표현가능하다는 것을 증명했교

2013년 5월에는 엘프고트(H. A. Helfgott)는 비노그라도프의 정리가 10^30 이상의 수에서 성립한다는 것을 증명하고. 10^30이하의 수는 컴퓨터를 이용해 모든 조합을 찾아내면서 골드바흐의 약한 추측이 참으로 증명되었다.

 

 

컴퓨터는 항상 올은가?

 

컴퓨터로 한 증명에 대해

이 증명을 받아들일 것이냐에 대해 활발한 논쟁이 일어난 것은

어쩌보면 너무나도 당연한 일이다.

보통 우리가 증명을 하면 반드시 검증의 과정을 거쳐야하는데

컴퓨터로 한 증명은 검증을 할 수 있는 방법이 없다.

그래서 ‘인간이 검증할 수 없는 증명’은 받아들일 수 없다며

거부하는 움직임도 많았다.

실제로 4색문제도 1976년에 처음 입증되었지만 오류가 발견되어

1995년이 되어서야 정정논문이 나왔고

케플러의 추측도 몇가지 논란이 있어 2003년도에 99% 확실하지만

정확성을 확인할 수는 없다고 보고되었다.

증명의 가장 큰 문제점은 그 방대한 계산양도 있지만

컴퓨터가 처리한 계산에 오류가 없는지 확인하는게 불가능 했다.

또한 검증을 위한 프로그램과 그 프로그램을 실행하는 CPU에 버그가 들어있을 수도 있기 때문에 잘못된 결론이 나올 수 있었다.

하지만 컴퓨터가 증명할 때 오류를 일으켰을지도 모른다는 주장은

최신기술의 발전에 미루어볼 때 억지에 가까운 것으로,

요즘에는 컴퓨터가 증명에 성공했다는 사실만큼은 인정하는 추세이다.

 

 

 

컴퓨터를 인정하지 않는 사람들

 

사실 여기엔 큰 두가진 논의가 있다.

첫번째로는 수학계에서는 귀류법을 인정하지 않는 학파가 존재한다.

귀류법은 어떤 명제가 거짓이라고 가정한 후 추론했을 때,

모순이 발생함을 이끌어내어 가정이 거짓임을,

즉 처음의 명제가 참임을 증명하는 방법이다.

조금 쉽게 설명해보자면

방에 나와 내 친구 A, B가 있는데

누군가 내 쪼꼬에몽을 먹었다고 하자.

그런데 A는 먹지 않았다고 한다면

자명하게 B가 내 쪼꼬에몽을 먹었다고 결론낼 수 있다.

이게 귀류법의 기본 아이디어인데

수학계에서는 실제로 B가 먹었는지 보지않고

즉 모든 경우를 사람이 직접 확인해보지 않고

논리적으로만 결론 내는 것은 옳지 않다고

보는 직관주의 수학자들이 있습니다.

크로네커와 푸앵카레와 같이 대학교 수학에서 빼놓을 수 없는 수학자들 마저도

수학적 개념들이 그저 수학자들의 사고의 산물일 뿐이며 그 존재는 그 구성에 의해 보여져야 한다는 입장에서, 귀류법적 증명방법을 부정하였으며, 어떠한 명제는 참이나 거짓 둘 중 하나이어야 한다는 추론법칙을 버릴 필요가 있다고 했다.

이들 뿐만 아니라 실제로 귀류법이 옳다고 생각하는 수학자들 마저도

사람이 확인을 다 해보지 않았는데 이를 증명이라고 해야하는가에 대한 의문을 가진다.

 

두번째로는 수학에 대한 기존의 믿음이다.

수학을 업으로 삼는 사람들이 마음속에 품고 있는 3가지 불문율이 있습니다.

바로 간결성, 엄밀성, 심미성이다.

몇몇 구독자들은 알 수도 있겠지만 나는 인트로에서

간결성, 엄밀성, 자명성을 의미하는데

개인적으로 심미성보다는 자명성을 좀 더 좋아해서 beautiful 보다 trivial을

쓰긴 하지만 대게 수학자들은 저 심미성에 대해 병적으로 집착한다.

수학자들은 정리의 증명에도 아름다움을 추구하는 사람들이다.

여러분들도 문제를 풀 때 어려운 문제가 2~3줄 안에 풀린다면

그 쾌감은 이루말할 수 없다는 것을 잘 알고 있을 것이다.

물론 어떤 증명이 아름답냐는 건 사람마다 기준이 다르다

하지만 페르마의 마지막정리가 300페이지에 밝혀 증명이되었음에도

아직도 많은 사람들이 한장짜리 풀이에 목을 매고있고

‘왜 4색 정리가 참이어야 하는가’라든지

‘증명에 담긴 본질은 무엇인가’에 대한 만족스런 대답을

컴퓨터가 제시하지는 못하기 떄문에

많은 수학자들이 아직도 아름다운 증명을 찾기 위해 노력하고 있다.

 

 

 

길을 잃은 수학자들

 

컴퓨터의 발전이 무엇을 의미할까?

수학자들은 빠른 속도로 발전하는 기술로 인해

체스기사, 캐셔, 택시 운전사와 마찬가지로

4차 산업혁명시대에 없어질 직업군 중에 하나로 들어갈까?

현대 시대에는 실험 수학이 다시금 대두되고 있다.

물리학자, 화학자, 생물 학자 또는 엔지니어가 실험을 수행하는 것과 동일한 의미에서

컴퓨터를 "실험실"로 사용하는 연구를 의미한다.

수학을 통한 통찰력과 직관을 얻고, 새로운 패턴의 관계를 밝혀내고,

기본의 원리를 제안하기 위해 그래픽을 사용하며

컴퓨터를 통해 공식을 증명하고 기존의 방법으로 입증된 결과를 확인하는 것이다.

 

갈릴레오는 모든 진리는 일단 발견되면 이해하기 쉽다고 하였고

“All truths are easy to understand once they are discovered; the point is to discover them.”

가우스는 그의 발견에 동기를 부여하기 위해서 종종 계산을 사용했다.

“I have the result, but I do not yet know how to get [prove] it.”

컴퓨터 하드웨어는 무어의 법칙으로 발전하고

수학적 컴퓨팅 소프트웨어 패키지는 더욱 강력해지고있다.

이미 이러한 시스템으로 학부에서 배우는 수학의

거의 모든 방정식, 미분, 적분등을 해결할 수 있다.

따라서 인간 기반의 증명이 여전히 중요하지만

컴퓨터는 수학자가 새로운 이론을 식별하고

증명할 수 있는 방법에대해 도와주면서

예전보다 더욱 밀접하게 수학발전에 영향을 끼치고 있다.

 

 

 

수학의 미래

 

컴퓨터로 한 증명이 완벽하지 않다고 말하지만

페르마의 마지막 정리를 증명한 엔드류 와이즈도 최초 증명이 잘못되어

3년 후에 정정논문이 나왔고

연속함수열의 극한은 연속함수라고 코시가 주장했지만

평등수렴하지 않으면 연속함수가 되지 않는다는 반례는

코시의 주장하기 30년 전부터 존재했다.

인간도 컴퓨터와 마찬가지로 완벽하지 않다.

그렇다고 완벽하게 계산해내는 컴퓨터에게 인간이 수학을 내어줄 필요도 없습니다.

가까운 미래에 컴퓨터와 공생하여 수학을 발전 시킬 수 있는 분야는 너무나도 다양하다.

컴퓨터 기술이 발전함에 따라 골드바흐의 약한 추측처럼 증명의 특정 부분을

컴퓨터를 통해 계산한다던가 양자컴퓨터를 이용해 소수를 더 효율적으로 소인수분해 하는 것 처럼 말이다.

파파고나 구글 번역이 완벽하다고 우리가 영어를 배울 필요가 없는 것은 아니다.

그 문화와 뉘앙스를 살리기 위해서는 어느정도에 공부가 필요하듯

우리도 수학을 더 이상 컴퓨터에게 맡기는 것이 아닌

컴퓨터를 이용하여 인간이 수학을 더 자유롭게 발전시키길 기대한다.