[주말N수학]근과 대칭은 어떤 사이일까

2020.04.18 09:00
갈루아를 기념하는 비석. 갈루아는 일반 공동뮤지에 묻혀 실제 그의 무덤이 어디에 있는지 알 수 없다고 한다. Beachboy68/위키미디어 제공
갈루아를 기념하는 비석. 갈루아는 일반 공동뮤지에 묻혀 실제 그의 무덤이 어디에 있는지 알 수 없다고 한다. Beachboy68/위키미디어 제공

‘5차 이상의 방정식에선 근의 공식이 없다’라는 말을 들어보셨습니까. 19세기 두 비운의 수학자
닐스 헨리크 아벨과 에바리스트 갈루아가 밝힌 사실입니다. 이들의 연구는 군론의 토대가 되었는데요, 오늘은 군론과 방정식 사이에 어떤 관계가 있는지 보여 드리려고 합니다. 

 

방정식은 어떤 미지수를 포함하는 등식을 말합니다. 방정식을 푼다는 것은 이 등식을 만족하는 미지수를 구하는 것입니다. 지금 지갑에 8000원이 있다고 가정해봅시다. 1만 원을 모으기 위해선 얼마가 더 필요할까요? 2000원이 더 필요합니다. 이를 방정식으로 나타내면 8000+x=10000입니다. 방정식을 푼다는 건 곧 8000원을 1만 원으로 만들 어떤 미지수 x를 구하는 일입니다.


일차 방정식은 방금 보신 것처럼 우리가 풀어야 하는 방정식에서 미지수 x의 최대 차수가 1인 방정식을 말합니다. 나아가 n차 방정식은 미지수의 최대 차수가 n인 방정식을 뜻하죠. 미지수가 꼭 하나일 필요는 없습니다. 그렇지만 오늘 다룰 방정식은 모두 미지수가 하나인 방정식입니다.눈앞에 있는 물건을 헤아리는 건 인류의 기본적인 생존 본능 중 하나입니다. 이렇게 하나씩 세는 수를 우리는 ‘자연수’라고 부릅니다. 


하지만 자연수만으로는 표현할 수 있는 수가 너무 제한적이었습니다. ‘사과 1개를 2명이 나눠 먹으면 각자 사과를 얼마나 먹을까’와 같은 단순한 계산조차 할 수 없었습니다. 이는 곧 2분의 1같은 ‘유리수’가 등장하며 해결됩니다. 


일차방정식이 세는 것과 관련이 있었다면, 이차방정식은 땅의 넓이, 삼차방정식은 건물들의 부피를 통해 연구됐습니다. 그 과정에서 ‘무리수’도 생기게 됐습니다. 넓이가 2제곱미터인 땅의 한 변의 길이를 알려면 무리수가 필요합니다. 

 

방정식과 수의 확장


이처럼 문제에 봉착할 때마다 수의 범위를 조금씩 늘려가며 수 체계를 만들어갔는데, 0과 음수의 개념을 수로 확장하기까지는 오랜 시간이 걸렸습니다. 그 전까지의 수는 현실에서 발견할 수 있었는데, 음수는 그렇지 않았습니다. 


그런데 방정식, 나아가 대수학은 수를 현실 속 물리 세계에서 추상적 개념으로 바꿔주는 발상의 전환을 일으켰습니다. -5개의 사과를 실제로 보여줄 순 없지만, x+5=0이라는 방정식의 답으로쓰게 만들었습니다. 모든 수는 이제 눈에 보이는 표현의 제약에서 벗어나 어떤 방정식의 답으로 있게 된 겁니다. 


그러나 수의 무한한 확장은 다시 큰 난관에 부딪힙니다. x² =-1 때문인데, 이를 해결하기 위해 수학자는 앞서 그래왔듯 수의 개념을 다시 확장했습니다. i라는 ‘허수’를 출현시켰습니다.  


이차방정식을 풀기 위해 허수를 도입하며 수학자들은 걱정에 빠졌습니다. 계속 방정식의 차수를 높일 때마다 무한히 새로운 수들을 만들어야 하는건지 고민하기 시작했습니다. 다행히 카를 프리드리히 가우스, 레온하르트 오일러 같은 위대한 수학자의 노력으로 모든 n차 방정식의 근은 ‘복소수’, 다시 말해 실수와 허수만으로 나타낼 수 있다는 것이 증명됐습니다. 이는 수학사에서 가장 중요한 기본 정리 중 하나인 ‘대수학의 기본 정리’를 통해 보일 수 있는데, 간단히 말해 모든 n차 방정식은 복소수 세계에서 중근을 포함한 n개의 근을 갖고 있다는 정리입니다. 

 

 

갈루아와 아벨, 비운의 천재


모든 n차 방정식의 근을 복소수에서 찾을 수 있다면 근의 공식 역시 있지 않을까요? 일차와 이차 방정식의 근의 공식은 이미 오래전부터 알려져 있었습니다. 오랜 노력 끝에 3차와 4차 방정식의 근의 공식 역시 구할 수 있었습니다. 그러나 수많은 수학자가 계속 도전해봐도 5차 방정식의 근을 구하는 일반적인 공식을 찾을 수 없었습니다. 


군론을 얘기 할 때 절대 빠질 수 없는 두 천재 수학자 갈루아와 아벨은 이런 n차 방정식들의 근의 대칭성을 보고, 곧 이 근들이 2월호에 소개한 정n각형 대칭군(Sn)을 이루고 있다는 것을 알아냅니다. 정n각형을 특정 각도나 축으로 회전하거나 반사했을 때 대칭이 되는 움직임들은 여러 번 섞어서 반복해 대칭시켜도 그 움직임 중 하나로 나타납니다. 이런 성질을 가진 구조들을 Sn이라고 합니다. 

 

 
 

이를 바탕으로 갈루아와 아벨은 n차 방정식의 일반적인 근의 공식을 구하는 일은 곧 근들이 이루는 정n각형 대칭군 Sn의 구조를 이해하는 것과 같다는 것을 알게 됩니다. Sn이 특정 조건을 만족하는 군일 때만 n차 방정식의 근의 공식을 구할 수 있다는 사실을 증명해냅니다. 


수많은 시행착오 끝에 n이 5보다 작은 경우인 S₂ , S₃, S₄일 때만이 이 특정 조건을 만족한다는 것을 밝혀내면서, 갈루아와 아벨은 각자 5차 혹은 그보다 높은 차수의 방정식이 근의 공식을 가질 수 없음을 증명합니다. 


훗날 군론에서 이 특정 조건을 만족하는 군을 ‘가해군(Solvable group)’, 풀 수 있는 군이라고 부르게 된 것도 이 군들이 방정식을 풀기 위해 처음 사용했던 것에서 유래한 것입니다.


놀랍게도 갈루아와 아벨이 처음 군론을 이용해 방정식을 연구하려 했을 때는 군론이란 개념도대칭군이란 개념도 없었습니다. 반대로 이들이 방정식을 풀기 위해 처음 사용하게 된 대칭의 개념이 다듬어지고 정리돼 현대 수학의 군론이 되었습니다. 

 

 

※관련기사

수학동아 4월호, [옥스퍼드 박사의 수학 로그] 방정식의 근과 대칭은 무슨 사이? 

 

※필자소개

이승재 영국 옥스퍼드대 수학과를 졸업하고 같은 학교에서 석사와 박사를 받았다. 현재 독일 빌레펠트대 수학과에서 박사후연구원(포닥)으로 일하고 있다. 노래와 축구, 게임에 관심이 많다. 수학자의 삶을 지극히 개인적인 1인칭 시점으로 소개하는 글을 쓰고 있다.

 

 

메일로 더 많은 기사를 받아보세요!

댓글 0

작성하기

    의견쓰기 폼
    0/150