The ‘Useless’ Perspective That Transformed Mathematics | Quanta Magazine
처음에 표현론은 인정받지 못했습니다. 그러나 오늘날, 표현론은 수학의 중심적인 이론으로 자리 잡았습니다.
수학자들은 복잡한 대상을 더 단순한 개념으로 나타냄으로써, 예를 들어 여기 보이는 리 군과 같은 복잡한 구조의 특성을 더 잘 이해할 수 있습니다.
19세기 말에 등장한 표현론은 당시 많은 수학자들에게 그 가치를 의심받았습니다. 1897년, 영국의 수학자 윌리엄 번사이드는 이 비정통적인 시각이 전혀 새로운 결과를 가져오지 못할 것이라고 회의적인 시각을 드러냈습니다.
“기본적으로 번사이드는 표현론이 쓸모없다고 말하고 있는 겁니다.” 시드니 대학교의 조디 윌리엄슨은 2015년 강연에서 이렇게 말했습니다.
그 후로 100년도 더 지난 지금, 표현론은 수학에서 중요한 발견들에 있어 핵심적인 요소가 되어왔습니다. 그러나 그 유용성은 한눈에 들어오지 않을 때가 많습니다.
“이것이 왜 연구할 가치가 있는지 당장에는 명확해 보이지 않을 수 있습니다,” 독일 카이저슬라우테른 기술대학교의 에밀리 노턴은 말했습니다.
표현론은 복잡한 대상을 더 단순한 대상으로 “표현”하는 방법입니다. 이 복잡한 대상들은 종종 수나 대칭과 같은 수학적 객체들이 특정 구조적 관계를 가지며 이루어진 집합체입니다. 이러한 집합체를 우리는 군이라 부릅니다. 한편, 더 단순한 대상은 선형대수학의 핵심 요소인 행렬입니다. 군은 추상적이고 다루기 어려운 경우가 많지만, 행렬과 선형대수학은 기초적인 개념으로 널리 이해되고 있습니다.
“수학자들은 행렬에 대해 거의 모든 것을 알고 있습니다. 이는 수학의 몇 안 되는 완전히 이해된 분야 중 하나입니다,” 보스턴 대학교의 재러드 웨인스타인은 말했습니다.
군을 행렬로 표현하는 방법을 이해하기 위해, 각각의 객체를 차례로 살펴볼 필요가 있습니다.
우선 군에 대해 생각해 봅시다. 간단한 예로, 정삼각형의 여섯 가지 대칭을 생각해 보겠습니다.
두 개의 회전 대칭 (120도와 240도 회전)
세 개의 반사 대칭 (각 꼭짓점에서 대변의 중점으로 그린 선을 기준으로 한 반사)
그리고 삼각형에 아무런 변형을 가하지 않는 항등 대칭
이 여섯 가지 대칭은 닫힌 구조를 가지며, 즉, 다른 대상에 영향을 미치지 않는 독립된 체계를 이루는 집합, **군(S3)**을 형성합니다. 이는 임의의 대칭을 어떤 순서로든 적용할 때, 그 결과가 단일 대칭을 적용한 것과 같기 때문입니다. 예를 들어, 삼각형을 반사시키고 나서 120도 회전시키면, 다른 반사 대칭을 한 번 적용한 것과 꼭짓점의 위치가 같습니다.
“어떤 작업을 하고, 이어서 또 다른 작업을 합니다. 중요한 것은 그 결과가 여전히 삼각형의 대칭이라는 점입니다,” 노턴은 말했습니다.
수학자들은 두 개의 대칭을 결합하는 것을 합성이라 부릅니다. 군의 한 동작(반사)을 또 다른 동작(회전)과 합성하면, 세 번째 동작(다른 반사)을 얻게 됩니다. 이 합성을 수학자들은 곱셈의 개념으로 간주하기도 합니다.
“수학자들은 이러한 연산을 곱셈으로 생각하는 것을 좋아합니다. 숫자를 곱하는 것은 아니지만, 변형을 곱하는 것입니다,” 노턴은 말했습니다.
이 개념을 쉽게 이해하려면, 영이 아닌 실수들의 집합을 생각해 보면 됩니다. 실수들도 하나의 군을 형성합니다. 실수에는 항등원(identitiy element)이 있는데, 바로 1입니다. 어떤 실수에 1을 곱해도 값은 변하지 않습니다. 또한 실수는 어떤 순서로 곱하더라도 결과가 여전히 실수로 남아 있게 됩니다. 수학자들은 이러한 성질을 곱셈에 대해 닫혀 있다고 표현하는데, 이는 집합 내 원소를 곱하는 행위만으로도 이 군을 벗어나는 일이 없다는 뜻입니다.
1830년대에 처음 발견된 이래로 군은 수학에서 가장 중요한 대상 중 하나로 자리 잡았습니다. 군은 소수(prime number), 기하학적 공간 등 수학자들이 연구하는 거의 모든 대상에 대한 정보를 내포하고 있습니다. 중요한 문제를 해결하는 과정에서 관련된 특정 군을 이해하는 것이 핵심이 되곤 합니다. 하지만 대부분의 군은 정삼각형 대칭군처럼 단순하지 않습니다. 예를 들어 **리 군(Lie group)**은 여섯 개의 원소가 아닌 무한히 많은 원소를 포함하는 복잡한 군입니다.
“때로는 군이 정말 복잡해집니다,“라고 웨인스타인은 말했습니다.
이제 표현론에 대해 살펴볼 차례입니다. 표현론은 이러한 복잡하고 때로는 신비로운 군의 세계를 선형대수학이라는 잘 정리된 영역으로 변환시킵니다.
선형대수학은 **벡터(vector)**라는 대상에 행해지는 단순한 변환들을 연구하는 학문입니다. 벡터는 일종의 방향성을 가진 선분으로, 좌표로 정의되며, **행렬(matrix)**이라는 수 배열로 표현될 수 있습니다.
변환은 벡터에 다른 행렬을 적용할 때 일어납니다. 예를 들어, 다음 행렬을 벡터에 적용하면
$$\begin{bmatrix} 2 & 0 \\ 0 & 2 \end{bmatrix}$$
해당 벡터를 두 배로 늘리게 됩니다. 이러한 변환을 **선형 변환(linear transformation)**이라 합니다.
선형 변환의 예시로, 한 벡터가 행렬에 의해 변환되는 과정을 시각화할 수 있습니다.
다른 행렬은 반사(reflection), 회전(rotation), 그리고 전단(shear)과 같은 다양한 선형 변환을 수행합니다. 또한 벡터에 아무런 변화를 주지 않는 **항등 행렬(identity matrix)**도 있습니다. 이는 삼각형의 대칭 군에서 항등 대칭이 삼각형을 그대로 두고, 숫자 1이 다른 실수에 영향을 미치지 않는 것과 유사합니다.
$$\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}$$
선형대수학은 이러한 변환의 산술적 원리를 규정합니다. 행렬들은 일반 숫자를 다루는 것처럼 곱셈, 덧셈, 뺄셈이 가능합니다.
표현론은 각 군의 원소에 특정한 규칙에 따라 행렬을 할당하여 군론과 선형대수학을 연결하는 다리를 만들어줍니다. 예를 들어, 군의 항등원에는 반드시 항등 행렬이 할당되어야 합니다. 또한, 군 원소들 사이의 관계를 충실히 반영해야 합니다. 예를 들어, 특정 반사와 회전을 곱하여 다른 반사를 얻는다면, 첫 번째 반사에 할당된 행렬과 회전에 할당된 행렬을 곱하여 두 번째 반사에 할당된 행렬과 같아야 합니다. 이러한 규칙을 충족하는 행렬의 집합을 **군의 표현(representation)**이라 부릅니다.
표현은 마치 흑백 사진이 원래의 컬러 사진을 단순화한 모사품이듯이 군을 간단하게 표현하는 방식입니다. 즉, 군의 복잡한 정보는 대부분 생략하고, 기본적이면서도 필수적인 정보만을 기억하는 셈입니다. 수학자들은 군의 전체적인 복잡성을 직접 다루기보다는, 이를 선형 변환이라는 단순한 형식으로 변환하여 그 성질을 파악하고자 합니다.
“군을 한 번에 다 볼 필요는 없습니다,” 노턴은 말했습니다. “더 작은 표현을 통해서도 군에 대해 어느 정도 이해할 수 있습니다.”
군은 거의 항상 여러 가지 방식으로 표현할 수 있습니다. 예를 들어, 군은 실수를 사용하여 행렬을 채울 때 세 가지 구별되는 표현을 가집니다: 자명한 표현(trivial representation), 반사 표현(reflection representation), **부호 표현(sign representation)**이 그것입니다.
수학자들은 주어진 군의 표현들을 **표(character table)**라는 표로 정리합니다. 이 표는 군에 대한 정보를 요약하여 보여줍니다. 표의 행은 각기 다른 표현을 나타내고, 열은 해당 표현에서 중요한 행렬들을 나타냅니다. 예를 들어 군의 항등원에 할당된 행렬이나 군의 “생성원(generating element)“에 할당된 행렬들이 있습니다. 표의 항목들은 각 행렬의 **추적(trace)**이라 불리는 값으로, 이는 행렬의 왼쪽 상단에서 오른쪽 하단까지 대각선 항목을 더하여 계산됩니다. 아래는 의 세 가지 표현에 대한 표입니다.
$$\begin{array}{c|c|c|c}
& \text{항등원} & \text{반사} & \text{회전} \\
\hline
\text{자명한 표현} & 1 & 1 & 1 \\
\text{반사 표현} & 2 & 0 & -1 \\
\text{부호 표현} & 1 & -1 & 1 \\
\end{array}$$
**표(character table)**는 군의 복잡한 구조를 단순하게 나타낸 그림을 제공합니다. 표에 있는 각 표현은 서로 약간씩 다른 정보를 담고 있으며, 수학자들은 이러한 다양한 표현을 종합하여 군에 대한 전반적인 인상을 얻습니다.
“여러 가지 표현들이 각기 다른 정보를 기억하고 있으며, 이 모든 정보를 모으면 일종의 만화경처럼 군에 대한 전체적인 그림을 얻게 됩니다,“라고 노턴은 말했습니다.
위에 제시된 표는 수학자들이 군의 표임을 즉각 알아차릴 수 있을 정도로 독특합니다. 그러나 때로는 동일한 표가 여러 군을 대표할 수 있습니다. 이러한 모호성은 단순화 작업을 할 때 불가피한 현상입니다.
이러한 애매한 경우에 수학자들은 추가적인 도구를 사용합니다. 그 중 하나는 표현을 구성하는 수 체계를 변경하는 것입니다. 위의 의 표현은 실수로 이루어진 행렬을 사용했지만, 복소수(실수 부분과 허수 부분을 가진 수)로 구성할 수도 있습니다. 사실상 대부분의 표현론은 복소수를 사용합니다.
복소수를 사용하면 더욱 복잡한 군도 세부적으로 분석할 수 있어 표현론의 범위가 확장됩니다.
가장 풍부한 표현들 중 일부는 실수나 복소수를 사용하지 않습니다. 대신, 미니어처 혹은 “모듈러” 수 체계에서 가져온 값을 가진 행렬을 사용합니다. 이는 7 + 6이 12시 기준의 시계 산술에서 1이 되는 식의 연산을 떠올리게 합니다. 두 군이 실수로 표현된 표(character table)는 동일할 수 있지만, 모듈러 표현에서는 서로 다른 표를 가질 수 있어 구별이 가능합니다.
오늘날 표현론은 대수학, 위상수학, 기하학, 수리 물리학, 수론 등 여러 수학 분야의 중심 도구가 되었으며, 여기에는 방대한 수학 프로그램인 **랑랑즈 프로그램(Langlands program)**도 포함됩니다.
“표현론 철학은 20세기 후반에 걸쳐 수학의 광대한 영역을 흡수하게 되었습니다,“라고 윌리엄슨은 인터뷰에서 말했습니다.
특히 모듈러 표현은 앤드류 와일스가 1994년에 발표한 페르마의 마지막 정리 증명에서 중요한 역할을 했습니다. 문제는 형태의 방정식에 대해 정수 해가 존재하는지 여부였습니다. 와일스는 일 때 그러한 해가 존재하지 않음을 증명했습니다. 그는 해가 존재한다면, 이 해들은 매우 특이한 성질을 가진 군(또는 타원 곡선)을 만들어 낼 것이라고 주장했습니다. 이 특성들이 너무나 비정상적이어서, 이 군이 실제로 존재할 수 없음을 보일 수 있을 것으로 보였지만, 이를 직접 증명하는 것은 너무 어려웠습니다. 대신, 와일스는 만약 이 군이 존재한다면 이 군에 연결되었을 모듈러 표현의 계열을 다루었습니다. 그는 이 모듈러 표현의 계열이 존재할 수 없음을 증명함으로써, 군(또는 타원 곡선)이 존재할 수 없다는 결론에 이르렀고, 결국 해도 존재하지 않는다는 것을 증명하게 되었습니다.
결국, 윌리엄 번사이드가 표현론을 “쓸모없다”고 여긴 지 약 100년이 지나, 표현론은 20세기 가장 유명한 증명 중 하나에서 필수적인 요소가 되었습니다.
“페르마의 마지막 정리에 대한 증명에 표현론이 어디에도 등장하지 않는다고는 상상할 수 없습니다,” 웨인스타인은 말했습니다.
You know what's cooler than magic? Math.
포스팅이 좋았다면 "좋아요❤️" 또는 "구독👍🏻" 해주세요!