메뉴바로가기본문바로가기

동아사이언스

[주말N수학] 수학계를 주름잡는 수학 명가

통합검색

[주말N수학] 수학계를 주름잡는 수학 명가

2021.05.08 06:00
픽사베이 제공
픽사베이 제공

“I’m your father.(아이 엠 유어 파더)”

 

영화 ‘스타워즈’에서 다스베이더는 루크 스카이워커에게 자신이 아버지라는 걸 알리기 위해 이렇게 말한다. 그리고 아들을 지키기 위해 악에서 선으로 돌아선다. 영화를 이끄는 이들처럼 끈끈한 가족이 수학계에도 있다. 

 

 

○ 2021년 아벨상 수상자의 공통점은 아들?

 

2021년 아벨상 수상자 로바스 라슬로 헝가리 알프레드레니수학연구소(ELKH) 연구원와 에이비 위그더슨 미국 프린스턴고등연구소 연구원. 헝가리학술원/프린스턴고등연구소 제공
2021년 아벨상 수상자 로바스 라슬로 헝가리 알프레드레니수학연구소(ELKH) 연구원과 에이비 위그더슨 미국 프린스턴고등연구소 연구원. 헝가리학술원, 프린스턴고등연구소 제공

올해 3월 17일 필즈상과 더불어 ‘수학계 노벨상’으로 꼽히는 아벨상 수상자가 발표됐다. 아벨상은 노르웨이의 수학자로 많은 업적을 낸 닐스 헨리크 아벨의 이름을 따 2001년 만들어졌다. 4년에 한 번, 만 40세 미만의 수학자에게만 수여하는 필즈상에 비해 수학자가 평생 쌓은 업적을 보고 수상자를 선정하는 만큼 과학계의 노벨상에 더 가깝다는 평가를 받는다. 

 

올해 수상자는 2명으로, 로바스 라슬로 헝가리 알프레드레니수학연구소(ELKH) 연구원(부다페스트대 명예교수)과 에이비 위그더슨 미국 프린스턴 고등연구소 교수가 선정됐다. 이론 컴퓨터 과학과 이산 수학 분야를 함께 연구해 인터넷에서 보안을 유지하는 데 필요한 이론을 새로 만든 업적을 인정받았다.

 

흥미롭게도 올해 수상자 2명은 또 다른 공통점이 있다. 두 수학자의 아들인 로바스 미클로시 라슬로와 유발 위그더슨이 모두 아버지와 같은 분야를 전공하고 있고, 심지어 박사과정 지도교수가 제이콥 폭스 미국 스탠퍼드대 수학과 교수로 같다는 것이다. 엄상일 KAIST 수리과학과 교수는 수상자 발표 직후 트위터를 통해 이 같은 사실을 공개했다. 

 

 

 

○ 부자 지간 전공 분야도 동일

아벨상을 받은 로바스 연구원과 위그더슨 교수는 컴퓨터 보안 분야에 이산수학을 적용했다. 이산수학은 점과 선으로 이뤄진 그래프나 격자 또는 자연수처럼 연속적이지 않은 대상을 연구하는 학문이다.


로바스 교수는 아롄 렌스트라, 헨드리크 렌스트라 형제와 함께 컴퓨터로 정보를 주고받을 때 사용할 수 있는 암호 알고리즘인 ‘LLL 알고리즘’을 만들었다. LLL 알고리즘은 격자 이론과 관련된 난제를 이용한다.

 

우리 주변에서 흔히 볼 수 있는 격자는 모눈종이의 정사각형이다. 2차원인 모눈종이 위에서는 수직 또는 수평 이동의 조합을 통해 어떤 지점으로도 갈 수 있다. 그런데 2차원 이상 고차원에서 형성된 격자라면 어떨까. 한 점에서 다른 점으로 가는 경로의 가짓수가 더 많아져 효율적인 경로를 찾기 어려워진다. 


로바스 교수는 이처럼 복잡한 격자 문제 중 하나의 답을 얻을 수 있는 LLL 알고리즘을 만들었다. 그리고 이를 이용해 전달하려는 정보를 암호화했다. 이렇게 만든 암호는 고성능 양자컴퓨터로도 깰 수 없다고 알려져 있으며, 다른 암호 알고리즘을 시험하는 데 쓰이기도 한다.


위그더슨 교수 역시 계산의 복잡도를 연구하는 이산 수학 분야를 컴퓨터 보안에 적용했다. 바로 ‘영지식 증명’이다. 아래 그림을 보자. 

 

 

영지식 증명에서는 실험 과정을 녹화해 제3자에게 보여준다고 해도 여자아이가 열쇠를 가지고 있다는 사실을 다른 사람에게 증명하기 어렵다. 두 아이가 미리 어느 통로로 나올지 정했을 수도 있기 때문이다. 이처럼 영지식 증명은 제3자에게 어떤 사실도 들키지 않고 정보를 전달하는 방법이다. 위그더슨 교수는 모든 수학적 증명은 영지식 증명이 가능하도록 바뀔 수 있다는 것을 발견했다.


두 교수의 자녀들은 조건을 만족하는 경우가 존재할 확률을 연구하는 ‘확률 조합론’과 어떤 조건을 만족하는 가장 큰 값 또는 작은 값을 찾는 ‘극대 조합론’을 연구하고 있다. 두 분야 모두 컴퓨터를 이용해 관련 문제를 풀 수 있고, 컴퓨터 회로를 이해하는 데도 쓰일 수 있다.

 

 

○ 17세기 수학자 명가, 베르누이 가문

 

 

실제로 수학계에서는 수학자 가족을 쉽게 찾을 수 있다. 17~18세기에도 유명한 수학자 가문이 있었다. 3대에 걸쳐 8명의 수학자를 배출하고, 그중 3명의 수학자는 지금까지도 수학계에서 회자되고 있다. 당시 수학계를 주름잡던 스위스 바젤의 베르누이 가문이다.


베르누이 가문의 ‘수학 DNA’는 1623년 태어난 니클라우스 베르누이부터 시작한다. 그의 아들로는 첫째 야코프 베르누이, 둘째 니콜라우스 베르누이, 그리고 셋째 요한 베르누이가 있다. 이중 니콜라우스 베르누이는 아들로 니콜라우스 1세 베르누이를 뒀고, 요한 베르누이는 니콜라우스 2세 베르누이와 다니엘 베르누이, 요한 2세 베르누이를 아들로 뒀다. 그리고 요한 2세 베르누이는 요한 3세와 다니엘 2세, 야코프 2세 베르누이를 뒀다.


베르누이 가문의 이름을 딴 개념만 해도 ‘베르누이 미분 방정식’ ‘베르누이 분포’ ‘베르누이 수’ ‘베르누이 다항식’ ‘베르누이의 원리’ ‘베르누이 삼각형’ 등 수두룩하다. 수학계에는 이렇듯 많은 업적을 남겼지만, 베르누이 가문이 평화로운 것은 아니었다. 


니클라우스 베르누이의 두 아들인 야코프 베르누이와 요한 베르누이는 처음에는 사이가 좋았다. 당시 스위스 바젤대 수학 교수였던 야코프는 동생 요한에게 수학을 가르쳤고, 두 사람은 1684년 독일 수학자 고트프리트 빌헬름 라이프니츠가 지금의 미적분학에 해당하는 논문을 발표하자 이를 읽고 연구해 이 분야에서 연구 성과를 내기도 했다.


하지만 요한이 자라면서 야코프의 위치를 질투하기 시작했고, 야코프에게 ‘최단 시간 강하 곡선 문제’를 제기해 싸움을 걸면서 경쟁이 시작됐다. 최단 시간 강하 곡선 문제는 중력만 작용하는 공간에서 두 지점 사이를 가장 빨리 움직일 수 있는 경로를 찾는 문제다.

 

결과적으로 두 사람 모두 정답을 얘기했지만, 요한의 풀이 과정에는 오류가 있었다. 여기에 요한이 야코프의 풀이 과정을 베껴 자신의 것으로 발표하면서 논쟁이 시작됐다. 4년간의 논쟁을 거치며 둘의 관계는 야코프가 죽을 때까지 개선되지 않았다.


야코프가 세상을 떠난 뒤 요한은 이번엔 아들 다니엘 베르누이를 질투하기 시작했다. 파리대가 주최한 과학 경연 대회에서 두 사람 모두 1위를 차지했는데, 이를 부끄럽게 여기고 아버지와 아들이 같을 수는 없다며 다니엘을 집에 들어오지 못하게 한 것이다. 그리고 다니엘의 연구 결과도 빼앗았다. 

 

또 1738년 요한은 다니엘과 거의 비슷한 시기에 유체역학 분야의 연구 결과를 발표했는데, 연구 결과가 매우 비슷하자 요한이 성과를 독차지하기 위해 연구 발표 날짜를 조작했다. 그리고 다니엘의 다른 발견도 훔쳐 자신의 것으로 바꿔치기 했다. 얼마 뒤 사건의 진실이 드러나 유체역학의 중요한 발견은 다니엘의 업적으로 인정받았다. 이런 이유로 지금까지도 다니엘은 ‘젊은 베르누이 중 가장 유능한 사람’으로 평가받고 있다.

 

 

○ 독일의 수학 명가, 뇌터 가문

 

에미 뇌터. 위키미디어 제공
에미 뇌터. 위키미디어 제공

베르누이 가문 이후에도 많은 수학자 가족이 나왔다. 그 중에는 여성 차별을 딛고 천재 수학자로 인정받은 독일의 에미 뇌터도 있다.  알베르트 아인슈타인은 그를 ‘여성의 고등 교육이 시작된 이래 가장 주목할 만한 창조적인 수학 천재’라고 칭송하기도 했다. 그의 아버지인 막스 뇌터와 남동생 프리츠 뇌터도 수학자로 뇌터 가문은 독일을 대표하는 수학자 집안이다.


막스 뇌터는 ‘19세기 최고의 수학자’로 불릴 만큼 많은 업적을 냈다. 만 14세의 나이에 소아마비에 걸렸지만 이를 이겨내고 수학을 독학해 독일 에를랑겐대 수학과 교수가 됐다. 다항식의 해를 기하학적으로 연구하는 대수 기하학이 주 연구 분야였다.

 

당시 여성은 대학 입학이 제한됐지만, 에미 뇌터는 아버지가 교수였던 덕분에 청강생 신분으로 수학 강의를 들을 수 있었다. 1904년 에를랑겐대가 여성의 입학을 허용하자 에미 뇌터는 그제서야 수학과 학생 신분으로 수업을 듣고 박사과정을 밟을 수 있었다. 

 

에미 뇌터는 뛰어난 연구 논문들을 발표하며 수학계에서 인정받았음에도 여성 교수를 반기지 않는 당시 사회적 분위기에 어려움을 겪어야 했다. 독일 수학자 다비트 힐베르트가 “성별과 교수 자격은 상관없다. 여기가 대학이지 공중목욕탕이 아니지 않느냐”라고 말한 이후인 1919년이 돼서야 에미 뇌터는 괴팅겐대 교수에 임용될 수 있었다. 


우여곡절 끝에 대학에서 수학을 가르칠 수 있게 됐지만 에미 뇌터는 또 다시 곤경에 처하게 됐다. 독일에 나치 정권이 들어서면서 에미 뇌터는 유대인이라는 이유로 강단에 설 수 없었다. 그는 1933년 미국으로 건너갔고, 미국에서 교수로 연구를 이어가다가 2년 뒤 숨을 거뒀다.

 

모든 어려움에도 그는 수 대신 문자를 쓴 방정식이나 구조를 연구하는 대수학 분야에서 큰 성과를 냈다. 그의 장례식에서 누군가가 ‘유명한 수학자 막스 뇌터의 딸’이라고 언급하자, 독일의 수학자였던 에드문트 란다우가 “막스 뇌터가 에미 뇌터의 아버지”라며 “에미 뇌터는 뇌터 가문의 정점에 있다”고 평가할 정도였다.

 

 

○ 조선시대에는 홍정하, 이상혁 가문

 

조선후기 수학자 홍정하의 ′구일집′
조선후기 수학자 홍정하의 '구일집'. 

우리나라에도 수학 명가가 있다. 수학과 천문학 분야에서 업적을 남긴 17세기 수학자 홍정하와 19세기 수학자 이상혁의 가문이다. 홍정하는 대대로 수학자를 배출한 가문의 일원이었고, 이상혁 가문은 이상혁의 5대조 이영현부터 무려 8대에 걸쳐서 조선시대의 수학 분야였던 ‘주학’ 시험에서 합격자를 배출했다.


홍정하는 어릴 때부터 수학을 즐겼고, 어린 나이에 주학 시험에 합격해 수학자가 됐다. 중국의 수학자 하국주를 만났을 때는 수학 문제 여러 개를 번갈아 내면서 답을 맞추기도 했다. 그중 하국주가 낸 것으로 알려진 문제를 보자.

 

 

이 문제는 큰 정사각형이나 작은 정사각형의 한 변의 길이를 변수로 두고 방정식을 세워야 하는 문제다. 예를 들어 큰 정사각형의 길이를 a라고 두면, 작은 정사각형의 한 변의 길이는 a-6이 된다. 그리고 각 정사각형의 넓이는 변의 길이를 제곱한 값과 같으므로 아래와 같은 식을 세울 수 있다. 

 

a2 + (a-6)2 = 486

 

이는 이차방정식을 풀어야 하는 문제다. 일차방정식의 해를 구하는 법을 연구하고 다항방정식의 근사해를 구하는 법을 공부했던 홍정하에게는 쉬운 문제였을 것으로 추정된다. 홍정하는 이런 문제들을 비롯해 10차 방정식의 풀이나 나무로 만든 가지를 이용해 계산할 수 있는 산목셈 등 다양한 수학 자료를 모아 ‘구일집’을 펴냈다.


홍정하보다 100여 년 뒤에 태어난 이상혁은 홍정하와는 조금 다른 수학자의 행보를 보였다. 문제 풀이에 집중했던 조선시대의 산학을 논리적으로 풀어낸 수학책을 썼으며, 방정식에 대한 ‘차근방몽구(1854년)’, 기하와 삼각법에 대한 ‘산술관견(1855년)’, 홍정하의 구일집과 함께 조선의 수학을 대표하는 수학책인 ‘익산(1868년)’ 등을 저술했다. 

 

조선후기 수학자 이상혁이 자신의 연구결과를 수록한 수학서 ′산술관견(1855)′. 한국민족문화대백과사전 제공
조선후기 수학자 이상혁이 자신의 연구결과를 수록한 수학서 '산술관견(1855)'. 한국민족문화대백과사전 제공

 

○ 현재 국내 수학자 가문

김영욱 고려대 수학과 명예교수 집안은 현재 국내에서 가장 유명한 수학자 가문 중 하나로 꼽힌다. 다음은 김 명예교수와의 일문 일답. 

 

 

김영욱 고려대학교 수학과 명예교수
김영욱 고려대학교 수학과 명예교수

Q. 교수님의 가족을 소개해달라.

저는 곡면과 같은 도형의 성질을 미분 개념을 이용해 이해하는 미분 기하학을 연구했습니다. 제 아버지인 김치영 수학자는 해방 후 1세대 수학자로 연세대 수학과를 비롯한 많은 대학에서 수학을 가르쳤습니다. 우리나라에서 처음 미분 기하학과 위상 수학을 연구하고 가르쳐 학생들을 많이 양성했죠. 제 둘째 딸 역시 미국 스토니브룩 뉴욕주립대 수학과를 나와 통계학과 대학원을 졸업하고, 지금은 데이터 과학자로 일하고 있습니다.

 

Q. 가족 중에 수학자가 많아서 생긴 에피소드가 있다면?

크게 다른 건 없었습니다. 다만 아버지가 수학자여서 항상 집에 수학책이 많았다는 점이 특별했다고나 할까요. 어릴 때 그 책들을 보곤 했습니다. 물론 어려워서 이해는 못 하고 정말 보기만 했어요. 볼펜이나 색연필로 책 속 그림들을 따라 그리면서 책을 망가뜨리기도 했고요. 그땐 몰랐는데 지금 생각해보니 저도 모르게 수학을 가까이했던 이런 경험들이 수학을 공부할 때 간접적으로 도움이 됐던 거 같습니다. 

 

Q. 자녀의 수학 교육은 어떻게 했나?

오히려 수학을 안 가르치려고 노력했습니다. 주변 수학자들이 하는 말 중에 “수학자가 됐으면 하는 마음으로 아들, 딸을 가르치면 실패한다”고 하거든요. 수학자 부모가 직접 아이들을 가르치면 마음처럼 잘 안된다는 뜻이죠. 수학과를 나온 제 둘째 딸의 경우에는 의대, 미대를 모두 경험하다가 이공계 학과에 가기로 마음먹고, 이과라면 수학이 필요하다는 생각에 수학과로 진학한 경우입니다. 

 

*도움: 김영욱(고려대학교 수학과 명예교수), 유발 위그더슨(미국 스탠퍼드대학교 수학과 박사과정)  

 

▼ 이어지는 기사를 보려면?

수학동아 5월호, [기획] 엄빠 따라 나도 수학! 수학계를 주름잡는 수학 명가

Part1. [기획] 2021년 아벨상 수상자의 공통점은 아들?

Part2. [기획] 17세기에도 있었다! 수학자 명가 ‘베르누이 가문’

Part3. [기획] 현대로 이어지는 수학 명가

관련 태그 뉴스

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

17 + 2 = 새로고침
###
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기