“군(Group)은 현대 수학의 핵심입니다. 그 원리를 알아봅시다.”

‘Groups’ Underpin Modern Math. Here’s How They Work. | Quanta Magazine

‘Groups’ Underpin Modern Math. Here’s How They Work. | Quanta Magazine

 

정수와 삼각형의 대칭성에는 어떤 공통점이 있을까요? 19세기 수학자들은 이 질문에 답하기 위해 군이라는 개념을 만들어냈습니다.

 

“수학은 처음에 숫자로 시작되었습니다. 명확하고 구체적이며 직관적이었죠. 하지만 지난 200여 년 동안 수학은 훨씬 더 추상적인 학문으로 변모했습니다. 이 추상화의 큰 첫걸음은 18세기 말과 19세기 초에 이루어졌습니다. 그 중심에는 군론이라 불리는 분야가 있었고, 이는 이론수학과 응용수학 전반에 걸쳐 수학의 판도를 바꾸었습니다.

 

군은 정수의 중요한 속성들을 일반화합니다. 그리고 이 군 개념은 기하학, 대수학, 해석학(부드럽게 변화하는 함수의 수학적 연구)을 혁신적으로 변화시켰습니다. 군론은 메시지 암호화에 활용되며, 바이러스의 형태를 연구하는 데도 쓰입니다. 물리학자들은 군론을 활용해 자연의 기본 힘을 통합합니다. 높은 에너지 수준에서 군론을 통해 전자기력, 원자핵을 결합하는 힘, 방사성을 유발하는 힘이 모두 하나의 기본 힘의 다른 형태임을 보여줄 수 있습니다.

 

수학적 맥락에서 ‘군’이라는 용어는 1830년에 프랑스의 천재 에바리스 갈루아에 의해 처음 명명되었습니다. 당시 갈루아는 겨우 18세였으며, 그로부터 2년 후 결투에서 사망하기 전까지 이미 수학의 역사를 새롭게 쓰고 있었습니다. 하지만 그가 단독으로 군 개념을 발견한 것은 아닙니다. “수학자들이 어느 날 모여서 ‘추상 구조를 재미 삼아 만들어 보자’라고 말한 것이 아닙니다,”라고 런던 그레셤 대학의 군론 학자 사라 하트는 설명합니다. “19세기 동안 약 50년 동안 점진적으로 나타났고, 이것이 올바른 규칙이라는 결론에 이르렀습니다. 이 규칙들은 유연성과 일반성을 최대화하면서도 증명을 가능하게 해줍니다.”

 

“군이란 어떤 집합이나 물체의 모음에 특정 연산이 더해진 구조입니다. 이 연산은 두 요소를 입력받아 세 번째 요소를 출력합니다. 가장 간단한 예로는 정수 집합과 덧셈 연산이 있습니다. 군이 되기 위해서는 네 가지 규칙을 만족해야 합니다.

 

첫 번째 규칙은 폐쇄성입니다. 두 정수를 더하면 또 다른 정수가 되어야 한다는 것입니다.

 

두 번째 규칙은 결합 법칙입니다. 세 수를 더할 때, 더하는 순서에 관계없이 결과는 동일해야 합니다. 예를 들어, 3과 4를 더해 7을 만들고 5를 더해 12를 얻을 수 있습니다. 또는 4와 5를 먼저 더하고 3을 더해도 결과는 동일하게 12가 됩니다. 이는 $(3 + 4) + 5 = 3 + (4 + 5)$로 표현됩니다.

 

세 번째 규칙은 항등원의 존재입니다. 군에는 다른 요소에 아무런 영향을 주지 않는 요소가 반드시 포함되어야 합니다. 덧셈에서는 0이 바로 항등원으로, 어떤 수에 0을 더해도 그 수가 변하지 않습니다.

 

마지막으로, 각 요소는 역원을 가져야 합니다. 즉, 한 요소와 그 역원을 더했을 때 항등원이 나와야 합니다. 정수 집합에서 어떤 수의 역원은 그 수의 음수입니다. 예를 들어, $3 + (-3) = 0$입니다.

 

이 네 가지 성질의 중요성을 이해하려면, 주목할 만한 성질 하나가 누락된 점을 고려해 볼 필요가 있습니다. 두 수를 더할 때 순서를 바꿔도 결과가 같다는 성질이 있습니다. 예를 들어, $3 + 5$나 $5 + 3$ 모두 결과는 8이 됩니다. 이를 교환 법칙이라고 하는데, 군이 교환 법칙을 반드시 만족할 필요는 없습니다. 이 성질을 선택적으로 두면서, 수학자들은 다양한 군 구조를 탐구할 수 있게 되었습니다.

 

비교환 군의 예로 정삼각형의 대칭을 생각해 봅시다. 각 꼭짓점에 이름을 붙인 정삼각형을 생각하고, 삼각형을 $1/3$ 회전시키거나 세로축을 기준으로 대칭시켜 보세요. 이때 이미지는 변화하지 않지만 꼭짓점의 위치가 변합니다. 이러한 변환은 총 여섯 가지가 존재하며, 이를 삼각형의 대칭성이라 부릅니다. 이 여섯 가지 대칭성은 $D_6$이라는 군을 이루며, 이는 정다면체의 대칭성으로 일반화될 수 있습니다. 예를 들어, 정사각형의 대칭성은 $D_8$이라는 군을 형성합니다.”

 

“두 대칭을 ‘더한다’는 것은 하나의 대칭을 수행한 후 이어서 다른 대칭을 적용하는 것을 의미합니다. $D_6$에서는 이 순서를 바꿀 경우 다른 결과가 나오므로, $D_6$는 교환 법칙을 만족하지 않는다는 사실을 금방 알 수 있습니다. 예를 들어, 대칭 변환을 먼저 하고 회전을 하면 꼭짓점의 위치가 회전 후 대칭을 적용한 경우와 다르게 됩니다.

 

$D_6$는 6개의 요소를 가진 두 가지 가능한 군 중 하나입니다. 또 다른 예로는 숫자 집합 ${0, 1, 2, 3, 4, 5}$와 연산을 생각할 수 있습니다. 이 연산은 두 숫자를 일반적인 덧셈으로 더한 후 6으로 나눕니다. 몫은 버리고 나머지만을 취하는데, 예를 들어 $3 + 5 = 8$이고 이를 6으로 나눈 나머지가 2이므로 2가 됩니다. 이를 모듈로 6의 덧셈이라 하며, 이 군을 $Z_6$라고 부릅니다. 일반적으로 $Z_n$은 ${0, 1, 2, \ldots, n-1}$로 이루어진 숫자 집합과 모듈로 $n$의 덧셈으로 구성된 $n$개의 요소를 가진 군입니다. $D_6$와 달리, $Z_6$는 교환 법칙을 만족합니다. 예를 들어 $3 + 5 = 5 + 3$입니다.

 

$Z_6$와 $D_6$는 서로 다른 구조를 갖습니다. 하나는 교환 법칙을 만족하고, 다른 하나는 그렇지 않다는 차이뿐만 아니라, $Z_6$는 단 하나의 요소인 1로 모든 요소를 생성할 수 있다는 점에서도 차이가 있습니다. 1로 시작해 계속 1을 더하면 $Z_6$의 모든 요소에 도달할 수 있지만, $D_6$에서는 어떤 요소도 이러한 성질을 갖지 않습니다. 이러한 다양한 군의 구조를 이해하고 분류하는 작업은 지난 세기 동안 대수학의 중요한 연구 주제 중 하나였습니다.”

 

“이 작업을 위해 수학자들은 부분군이라 불리는, 군 내의 더 작은 군들을 찾아내려고 합니다. 부분군은 전체 군에서 사용되는 연산을 그대로 유지해야 합니다. 예를 들어, 짝수 정수들은 정수 집합 내에서 부분군을 이루는데, 이는 짝수끼리 더하면 여전히 짝수가 되기 때문입니다. 반면, 홀수들은 부분군이 아닙니다. 두 홀수를 더하면 짝수가 나오기 때문입니다. 항등원 자체도 항상 부분군을 이루며, 이를 자명한 부분군이라 부릅니다.

 

군이 어떤 부분군을 포함하는지를 파악하는 것은 군의 구조를 이해하는 한 방법입니다. 예를 들어, $Z_6$의 부분군은 ${0}$, ${0, 2, 4}$, ${0, 3}$로, 각각 자명한 부분군, 2의 배수들, 3의 배수들입니다. 반면, $D_6$에서는 회전이 부분군을 이루지만 대칭은 부분군을 이루지 않습니다. 그 이유는 두 대칭을 연속해서 수행하면 대칭이 아닌 회전이 되기 때문입니다. 이는 홀수를 더하면 짝수가 되는 것과 유사합니다.

 

특정한 유형의 부분군 중에서 정규 부분군은 특히 수학자들에게 유용합니다. 교환 법칙을 만족하는 군에서는 모든 부분군이 정규 부분군이지만, 일반적으로는 그렇지 않습니다. 이러한 정규 부분군은 군 전체가 교환적이지 않더라도 교환성의 몇 가지 중요한 성질을 유지합니다. 정규 부분군을 찾아내면 군을 부분적으로 분해할 수 있으며, 이는 정수를 소인수 분해하는 것과 유사합니다. 정규 부분군이 없는 군은 단순군이라 불리며, 소수처럼 더 이상 분해할 수 없습니다. 군 $Z_n$은 $n$이 소수일 때에만 단순군이 되며, 예를 들어 $Z_6$에서는 2와 3의 배수들이 정규 부분군을 형성합니다.”

 

“그러나 단순군은 이름과는 달리 단순하지 않습니다. “수학에서 가장 잘못 붙여진 이름입니다,” 라고 사라 하트는 말합니다. 1892년에 수학자 오토 회더는 연구자들에게 모든 유한 단순군의 완전한 목록을 작성할 것을 제안했습니다. (정수와 같은 무한군은 별도의 연구 분야를 이룹니다.)

 

알고 보니 거의 모든 유한 단순군은 $Z_n$처럼 보이거나 두 가지 다른 계열에 속합니다. 그리고 이들에 속하지 않는 26개의 예외가 있는데, 이를 이상군이라 부릅니다. 이들 군을 모두 찾아내고 다른 가능성이 없음을 증명하는 데는 100년이 넘는 시간이 걸렸습니다.

 

가장 큰 이상군은 1973년에 발견된 몬스터 군입니다. 이 군은  $8 \times 10^{54}$개의 요소를 가지고 있으며, 거의 20만 차원의 공간에서 기하학적 회전을 표현합니다. “이 군을 인간이 발견할 수 있었다는 것은 정말 말도 안 됩니다,”라고 하트는 덧붙였습니다.

 

1980년대까지 회더의 제안에 따른 작업은 대부분 마무리된 듯했지만, 여전히 더 많은 이상군이 존재할 가능성을 배제하기는 어려웠습니다. 1989년에, 1980년대 초에 작성된 800쪽의 증명에서 오류가 발견되면서 분류 작업은 더 지연되었습니다. 2004년에야 새로운 증명이 발표되어 분류 작업이 완성되었습니다.

 

현대 수학의 많은 구조, 예를 들어 환, 체, 벡터 공간 등은 군에 더 많은 구조가 추가되어 형성됩니다. 환에서는 덧셈과 뺄셈뿐만 아니라 곱셈도 가능하며, 체에서는 나눗셈까지 허용됩니다. 하지만 이러한 복잡한 구조의 기반에는 여전히 그 네 가지 공리를 가진 군의 개념이 있습니다. “이 네 가지 규칙만으로도 이토록 풍부한 구조가 가능하다는 사실은 경이롭습니다,”라고 하트는 말합니다.”