(서평) 페르마의 마지막 정리 (사이먼 싱) - 영림카디널

  하나의 수학 문제가 이렇게 긴 이야기를 서사를 가질 줄은 몰랐다. 마치 한 편의 드라마를 보는 듯했다. 수학을 취미로 하던 천재가 자신의 책 모퉁이 끄적거린 하나의 문장이 이토록 오랜 시간 수학자들을 괴롭힐지는 몰랐을 것이다. 우리가 알고 있던 천재 수학자들이 차례차례 등장하고 힌트를 만들어주었고 앤드루 와일드가 결국엔 풀어냈다. 천재들이 만드는 이야기의 빌드업과 페르마의 마지막 정리를 증명하는 절정. 그리고 3장에서 발견된 오류로 인한 좌절. 그리고 극적으로 해결책을 찾아낸다는 것이 그 어떤 소설보다 짜릿하고 재밌었다.

  <페르마의 마지막 정리>가 증명되는 350년의 시간을 서술하며 문제가 증명되는 장대한 서사를 기록하고 있는 이 책은 영림카디널의 지원으로 읽어볼 수 있었다.

  페르마의 마지막 정리가 유명한 것은 굉장히 단순한 물음이기 때문이다. 하지만 그것을 증명하려고 덤빈 많은 수학자들은 여지없이 포기할 수밖에 없었다. 그들은 하나 같이 천재적인 수학자들이었다. 하지만 그들은 부분의 성공을 거둠으로써 후대에 희망의 씨앗을 남기고 있었다. 

  수학의 시작은 우리가 잘 알고 있는 피타고라스로부터 시작되었다. 피타고라스의 정리는 많은 사람들이 알고 있을 만큼 대중적이다. 직각삼각형의 짧은 두 변의 제곱의 합은 나머지 변의 제곱과 같다는 것이다. 페르마의 정리는 이것을 조금 변형시켰을 뿐인데, 증명에 이렇게 오랜 시간이 걸린 것이다. 하지만 그 문제는 너무나도 쉽고 명료하다.

피타고라스 정리 : x² + y² = z² 
페르마의 마지막 정리 xⁿ + yⁿ = zⁿ (n > 3 면 정수해는 존재하지 않는다.)

 

  페르마는 수학자는 아니었다. 페르마는 부유한 가죽 상인의 아들로 태어나 고급 교육을 받을 수 있었다. 그는 가족의 뜻에 따라 시의회 의원이 되었고 유능한 공무원이었다. 당시에는 공직자들이 음모에 연루되기 쉬웠기 때문에 그는 청백리의 길을 걷고 인간관계를 최소화했다. 그렇게 남은 시간을 모두 수학에 쏟아부었다. 그는 전문 수학자가 아니었기 때문에 자신의 증명을 남들에게 친절하게 정리해서 보여주질 않았다. 그는 자신이 발견한 수학 정리를 아무런 증명도 없이 적어놓고 "당신도 한번 증명해 보시죠"라며 사람들을 애태우곤 했다. 그는 자신의 취미를 남들을 위해 쓰기에 시간이 아까웠고 증명 과정을 공개하면 많은 사람들의 관심과 질문을 받을 것을 귀찮게 생각했다.

  이런 아마추어 수학자의 정리에 사람들이 관심을 가지는 것은 의외이긴 하지만 페르마가 죽고 난 뒤 아버지의 위대함을 알리고 싶었던 장남은 페르마의 흔적을 정리해서 출판하게 된다. 그의 흔적은 결코 아마추어적인 것이 아니었고, 그는 파스칼과 함께 확률이론을 발전시키기도 했다. 

  페르마의 마지막 이론에 많은 상금이 걸리게 된 사연은 또한 예사롭지 않다. 볼프스켈은 어느 여인을 열렬히 사랑했지만 그 여인은 그의 구애를 일언지하에 거절해 버렸다. 그는 자살을 결심한다. 평소에도 계획을 치밀하게 세우던 그는 자살을 위해서도 계획을 세워 둔다. 자살을 하려고 한 자정까지는 꽤 많은 시간이 남아 있어 그는 서고에서 수학 논문을 보았고 그 안에서 논리적 허점을 발견한다. 그는 논리적 오류를 찾아내기 위해서 완전히 몰두해 버렸고 정신을 차렸을 때에는 동이 트고 있었다. 그는 당대 최고의 수학자 쿰머의 오류를 수정하여 더 완벽하게 만들었다는 자부심을 얻었고 수학으로 인해 새로운 삶의 의미를 찾았다. 그리고 그는 지난날의 유서를 찢어버리고 페르마의 마지막 정리를 증명하는 사람에게 자신의 재산 대부분을 기부하겠다고 했다.

  페르마의 마지막 이론이 유명해진 것은 이런 상금 때문이기도 했고 희대의 수수께끼를 풀어 명성을 얻고 싶었기도 했기 때문이다. 하지만 이 도전은 수학자로서의 올인을 의미했다. 젊을 때가 전성기인 수학자들에게 7-8년 족히 투자해야 하는 이 작업은 순수한 열정이 필요했던 것이다. 이 문제를 해결한 앤드루 와일드 역시 그랬다. 그는 도서관에서 만난 마지막 문제라는 책에서 너무 간단하지만 아무도 풀지 못한 이 문제를 자신의 평생의 숙원으로 생각했다. 그리고 수학자가 되었고 아무도 모르게 7-8년을 투자했다. 그는 이 사실을 숨기기 위해 자신의 미발표 논문을 6개월마다 투고하는 치밀함도 보였다. 아무도 그가 페르마의 마지막 정리에 도전하고 있다고 눈치 채지 못했다.

  무언가 새로운 아이디어가 떠오르려면 한 문제에 완전히 집중한 채로 엄청난 시간을 인내해야 합니다.
다른 생각 없이 오로지 그 문제만 생각해야 합니다. 한마디로 완전한 집중, 그 자체지요.
그런 다음에 생각을 멈추고 잠시 휴식을 취하면 무의식이 서서히 작동하기 시작합니다.
바로 이때 새로운 영감이 떠오르게 되지요.
와전한 집중 뒤의 휴식, 이때가 가장 중요한 순간입니다.

  앤드루 와일드가 처음으로 지인에게 증명을 공개한 이야기부터 그 증명을 이해하기 위해서 대학원 수학 과정을 개설했다는 것. 그리고 마침내 아이작 뉴턴 연구소에서 열린 학술회에서 발표하는 스토리까지는 손에 땀을 쥐게 하는 긴박함마저 느낄 수 있었다. 전 세계의 환호 속에 다시 철저한 검증에 들어갔고 찾아온 오류와 절망도 있었지만 결국 이겨내고 쟁취하는 모습은 독자의 마음을 들었다 놨다 했다.

  책에는 수학적 지식과 역사과 천재 수학자들의 이야기들이 담겨 있다. 사실 페르마의 마지막 정리를 증명함으로써 얻을 수 있는 것은 별로 없었다. 하지만 많은 수학자들은 도전했고 수학은 발전했다. 350년이 흐르면서 0과 마이너스가 생겨났고 무한대의 개념이 생겼다. 그리고 복소수도 생겼다. 괴델의 불확정성의 원리도 세상에 나타났다. 그러는 사이 페르마의 마지막 정리의 증명은 '대통합 수학'으로 가는 길을 열어 주는 열쇠가 되어 버렸다.

  훌륭한 수학 문제라는 무엇인가? 문제 자체의 수학적 가치보다는 연구 과정에서 새로운 수학적 관심사를 창출해내는 문제다. 페르마의 마지막 문제에 도전하며 만들어진 수많은 이론들은 지금을 지탱하고 있다. 그 어떤 수학 역사서보다 재밌고 짜릿하다. 그 어떤 소설보다 재밌는 350년의 수학사. 수포자라도 재밌게 읽을 수 있을 것 같다.