[주말N수학]"좋은 문제 찾는 게 문제"

2020.01.18 06:11
2019년 5월 아일랜드 골웨이국립대학교에서 열린 ‘Groups in Galway’ 콘퍼런스 때 찍은 사진. 1978년부터 매년 같은 장소에서 열리는 유서 깊은 군론 학회이다. 자세히 보면 이승재 연구원의 얼굴도 찾을 수 있다. Group in Galway 2019
2019년 5월 아일랜드 골웨이국립대학교에서 열린 ‘Groups in Galway’ 콘퍼런스 때 찍은 사진. 1978년부터 매년 같은 장소에서 열리는 유서 깊은 군론 학회이다. 자세히 보면 이승재 연구원의 얼굴도 찾을 수 있다. Group in Galway 2019

‘수학자’라는 직업이 매우 생소하게 느껴지는 사람들이 많다. “아직도 연구할 게 남았어?”, “그런 건 컴퓨터가 다 하는 거 아니야”라는 질문까지 가기도 전에, 수학자가 어떤 모습으로 연구할지 구체적으로 떠올리기도 쉽지 않다고 말하는 사람도 있다. 마치 ‘한 손에는 루빅스 큐브를 들고, 취미 생활로는 스도쿠를 풀면서, 누가 더 원주율을 많이 외웠는지 자랑할 것만 같은 이상한 사람들’을 떠올리기도 한다.

 

필자는 지극히 개인적인 1인칭 시점으로 '수학자의 삶'에 대해 공개하고자 한다. 

 

이승재 연구원
이승재 연구원

수학자는 좋은 문제를 찾는 직업 

 

수학자는 대체 어떤 일을 할까. 수학자의 연구 과정은 사람마다 다르지만, 보통 수학을 연구한다고 할 때는 본인이 생각한 문제의 답을 찾는 일을 한다. 본인이 생각한 가설의 증명 혹은 반례, 원하는 계산의 결괏값이나 필요한 역할을 하는 알고리듬을 찾는 것이다. 그래서 수학을 연구하는 첫 번째 단계는 자신의 연구 분야에서 풀 수학 문제를 찾는 것, 혹은 만드는 것이다. 


실제로 많은 수학자가, 아니 연구자가 “문제를 잘 푸는 능력보다 좋은 문제를 찾는 능력이 더 중요하다”고 말한다. 

 

독일 빌레펠트대학교 수학과 사람들과 함께하는 세미나 모습. 이승재 제공
독일 빌레펠트대학교 수학과 사람들과 함께하는 세미나 모습. 이승재 제공

여기서 ‘좋은 문제’란 여러 가지 의미를 지닌다. 수학자마다 각자가 생각하는 ‘좋은 문제’의 기준은 다르겠지만, 주로 ‘본인 능력에 너무 어렵지도, 너무 쉽지도 않은 적절한 난이도의 문제’, ‘다른 수학자들에게 영감을 줄 수 있는 새로운 결과나 접근법을 제시할 수 있는 문제’, 그러면서도 ‘아직 다른 사람들이 풀지 못한 문제’ 등이다. 


중요한 건 단순히 유명하고 의미 있는 문제가 항상 ‘좋은 문제’는 아니라는 점이다. 예를 들어 ‘리만 가설’의 중요성을 의심할 수학자는 없다. 하지만 리만 가설의 증명이 모든 수학자에게 좋은 문제는 아니다. 이제 막 취미로 등산을 시작한 사람에게 에베레스트를 정복하러 가자는 것이 좋은 제안이 아닌 것처럼 말이다. 최종 목표를 에베레스트로 잡고 연습하는 것 자체는 문제가 없지만, 거기까지 가기 위해선 적절한 중간 과정들을 거쳐야 한다. 심지어 에베레스트와 다르게 리만 가설은 아직 아무도 정복하지 못했다.


결국 좋은 문제의 조건은 문제를 푸는 과정에서 연구자로서 성장해갈 수 있고 그러면서도 현재 능력에 너무 과하게 어렵지 않은 문제다. 하지만 좋은 문제인지 아닌지 판단하는 방법은 따로 없다. 아무리 위대한 수학자라도 좋은 문제를 찾고 그 문제의 난이도를 예상하는 일은 굉장히 어렵다.

 

20세기 가장 위대한 수학자 중 한 명인 다비트 힐베르트는 1900년 파리에서 열린 세계수학자대회에서 기존과는 아주 다른 방식의 강연을 선보였다. 자신의 연구 결과를 발표하는 대신 훗날 ‘힐베르트의 23가지 문제’라고 알려진, 본인이 가장 중요하다고 생각하는 문제를 수학자들에게 발표했다. 힐베르트는 이 문제가 20세기 수학의 흐름을 이끌 것이라고 여겼기 때문이다. 실제로도 그랬다.


하지만 이 위대한 수학자도 모든 걸 예측할 순 없었다. 23가지 문제를 발표하며 힐베르트는 이런 말을 했다  


“리만 가설(8번 문제)은 몇 년 안에 해결될 것이고, 페르마의 마지막 정리는 여러분의 자녀가 죽기 전에, ab가 초월수라는 것을 보이는 문제(7번 문제)는 해결하는 데 몇백 년이 걸릴지도 모릅니다.” 


힐베르트에게는 야속하게도 초월수 문제는 1930년대에 증명됐고, 페르마의 마지막 정리는 1995년에 해결됐다. 리만 가설은 아직도 악명을 떨치고 있다. 

 

문제를 많이 읽고 볼수록 좋은 문제 찾을 수 있어

 

공동연구 중인 수학자의 흔한 모습입니다. 서로의 연구 결과를 나누기도, 문제를 놓고 같이 고민하기도 하면서 연구 를 진행 합니다. 가 끔은 토론이 격해질 때도…. 이승재 제공
공동연구 중인 수학자의 흔한 모습입니다. 서로의 연구 결과를 나누기도, 문제를 놓고 같이 고민하기도 하면서 연구 를 진행합니다. 가끔은 토론이 격해질 때도…. 이승재 제공

이렇듯 아무리 훌륭한 수학자라도 쉽게 수학 문제를 판단할 수 없다. 그래서 좋은 문제를 찾는 능력이 중요하다. 좋은 문제를 고를 가능성을 조금이라도 높이려면, 결국 더 많이 읽고 더 많이 듣는 수밖에 없다. 그래서 수학자에게는 본인 연구에 집중하는 것만큼이나 끊임없이 최신 연구 동향을 파악하고 새로운 결과를 인지하는 일이 중요하다. 자기가 중요하다고 생각한 문제가 이미 풀렸거나 아니면 불가능한 것으로 판명났을 수도 있고, 지금은 불가능해 보이는 문제가 새로운 기법을 통해 가능해질 수도 있으니 말이다.


또 다른 위대한 수학자 중 한 명인 앤드루 와일스 역시 ‘타원곡선’이라는 그 당시 가장 최신 현대 수학 기법을 이용해 무려 350년 동안 풀리지 않던 페르마의 마지막 정리를 해결했다. 

 

이런 지식의 습득은 혼자서 논문을 읽고 공부해 얻는 것도 중요하지만, 다른 수학자들과의 교류를 통해 얻는 게 가장 중요하다. 그래서 수학자들은 어떤 식으로든 교류하려고 한다. 주로 학회나 워크숍, 세미나 등을 통해 다른 수학자와 소통한다. 교류를 멈춘 수학자는 곧 도태된다고 볼 수도 있다.

 

※필자 소개

이승재. 독일 빌레펠트대 수학과에서 박사후연구원으로 일하고 있다. 연구 분야는 군론(Group Theory)과 대수학(Algebra)이다.

 

관련기사

수학동아 1월호, [옥스퍼드 박사의 수학 로그]좋은 문제 찾는 게 문제

 

 

 

메일로 더 많은 기사를 받아보세요!

댓글 0

작성하기

    의견쓰기 폼
    0/150