소위 말하는 '수학적 아름다움'의 정체가 무엇인지 칸트미학의 체제 속에서 생각해 볼 수 있을 것 같다. 자기 전에 갑자기 떠오른 생각이라 논의가 다소 얼기설기하지만 일단 간단하게 메모해 본다.
논의의 출발은, 수학 공부를 하다 보면 칸트의 순수이성비판에서 말하는 직관의 형식(대충 말하면 시공간에 대한 직관)에 근거한, 말로 정확히 설명할 수 없는, 통합적이고 근본적인 이해를 했다는 느낌 같은 게 있다는 것이다. 소위 말하는 '수학적 직관'이라고 하는 게 바로 이것이다. 이 직관 자체는 명료하게 설명될 수 없는 것이지만, 명료한 수학적 논리를 만들어내는 데 명백하게 도움이 된다. 그리고 우리는 그러한 직관을 새롭게 얻을 때 '아름다움'을 느낀다. 선형대수학을 공부하다가 '이게 뭔지 알겠다'는 느낌이 들 때 기분이 좋은 것 등이 바로 이런 것이다(나는 대수적 구조에 대한 지식으로는 고등학교 수학의 수준에서 머물러 있기 때문에 아직 그걸 많이 느껴 보지는 못했다. IR^n도 극도의 겉핥기로만 알고 복소공간 C도 거의 다룰 줄 모른다).
이 통합적인 이해(그리고 그에 수반되는 아름답다는 느낌, 지적으로 충만한 느낌)가 무엇인지는 다음과 같이 설명해 볼 수 있다. 하나의 수학적 개념에 대한 서로 다른 접근법들이 어느 순간 연결되어 이해될 때가 있을 것이다. 그럴 때 우리는 머리가 팽팽 돌면서 마치 '전체를 보는', '현상 자체를 보는' 듯한 느낌이 든다. 명료하게 논증할 수는 없지만 분명히 내 머릿속에 있는 어떤 이미지 같은 것을 말한다. 여기에서 엄밀한 의미의 '인식'은 없지만, '인식능력의 활발한 작동'은 있다. 따라서 칸트에 따르면 이것은 미학적 과제이다.
그리고 그러한 '수학적 직관'은 '새롭게 만드는' 것이 아니라, 수많은 경험적 예시들을 통해 '발견'하는 것이다. 수학은 예술이나 공학과는 달리 '이미 뭔가 정해져 있고 내가 그걸 발견할 뿐'이라는 느낌이 강함을 고려할 때 (칸트적 언어로 말하자면, 수학적 명제가 선험적 종합판단임에 비추어 볼 때) 이것은 지극히 당연하다. 수학을 공부한 사람이든 철학을 공부한 사람이든 이것에는 어느 정도 동의할 수 있을 것으로 본다.
그리고 그 통합적 이해의 순간에는 '전체를 보는' 듯한 오만한 느낌이 들겠지만, 보다 추상화된 수학을 동원한다면 얼마든지 더 높은 차원에서 문제에 접근하여, 예전에 내가 전체라고 생각했던 것은 한 단면에 불과했구나 라는 생각이 들 수 있다. 인식의 확장이 일어나는 것이다. 그러나 이미 그 인식적 확장의 단서들은 내가 아는 것들 속에 모두 있었다는 것을, 나는 인정할 수밖에 없다. 수학적 지식이 선험적 종합판단인 이유이다. 보다 '덜 당연해 보이는', '김새지 않는', 그러면서도 단순히 '신기하다'에 그치는 것이 아니라 '직관을 확장시켜 주는' 논증이 재미있는 논증인 것 같다.
그러나 수학적 아름다움이 자연물 혹은 예술 작품의 아름다움 등과 구분될 수 있는 근거는, 후자의 경우에 우리로 하여금 머리가 팽팽 돌아가면서 아름다움을 느끼게 하는 '인식 일반' 혹은 '상상력과 지성의 자유로운 유희'는 결국 일종의 주관적인 '비유'에 영향을 크게 받는 것이므로 '주관적 보편성'에 그치지만, 수학의 경우에는 여기에 '객관적 보편성'까지 확보되어 객관적이고 보편적인 설득이 가능하다는 점이다.
우리는 각자의 수학적 직관이 '동일한지' 여부를 알기 어렵다. 개별 수학적 명제는 명석 판명하게 논증이 가능하지만, 각각의 수학적 명제들이 개인의 머릿속에서 이해되는 '직관'적인 방식은 명석 판명하게 논증될 수 있는 것이 아니며, 수많은 예시들을 통해서 간접적으로만 타인에게 전달될 수 있다. 칸트 미학에서 공통감이 '논증'되지 못하고 '전제될 근거를 얻는' 정도에 그치는 이유가 바로 이것이다. 그런데, 수학에서의 공통감에는 약간 다른 국면이 있다. 수학적인 명제는 선험적 종합판단의 성격을 가지므로, 원리적으로는 누구나 충분한 시간을 가지고 면밀하게 생각만 해 보면 인정할 수 있는 것이기 때문이다.
그래서 수학적 아름다움은 미학의 과제이지만, 오로지 미학의 과제만은 아니다. 이것은 '수학은 왜 다른 학문과 차원이 다르게 성공적인가'라는 물음과 연관되어 있다. 칸트가 수학이 선험적 종합판단에 속한다고 함으로써 그러한 수리철학적 물음을 던진 바 있으나 칸트에 반대하는 수리철학적 의견도 많은 것으로 안다. 그러나 칸트적 기획의 장점은 수학과 아름다움을 보다 자연스럽게 연결할 수 있다는 점이다. 즉 수리철학과 미학의 인위적이고 부자연스러워 보이는 결합이, 칸트가 제시한 간단한 인지도식 상에서는 상당히 자연스럽게 해명된다.
물론 수학의 엄밀성과, 수학적 개념들에서 느껴지는 이미지/직관/아름다움은 별개로 가야 하며, 이상한 비유를 붙여서 유사과학을 만들면 안 된다. 나비에 스토크스 방정식이 부드러운 유체를 다루므로 여성적이라서 남성중심적으로 고안된 수학 체계에서 안 풀리는 것이라는 등의 주장이 대표적이다. 당장 칸트부터가 이것을 싫어할 것이다. 수학의 발전사가 수학자들의 직관과 주관적 편향의 영향을 받는 것과 별개로, 수학적 명제에는 보편적으로 인정될 수 있는 객관성이 있다. 한 치의 '비약' 및 '서사적 접근' 도 허용하지 않기 때문이다. 과학적 착상을 떠올리는 데 있어서 '비약' 및 '서사적 접근'이 작용한다는 점에 의하여, 객관적으로 여겨지던 과학마저(특히 생물학 및 사회과학) 성차별적 편견의 영향을 받을 수 있다는 것은 이제는 상식에 가깝다. 그러나 수학의 경우에는 과학과도 질적으로 다른 것 같다. 물론 수학자 사회에서 수학적 지식이 생산되는 구조, 그리고 일반 사회에서 수학적 지식이 교육되고 소비되는 구조가 성차별적일 수는 있으며 우리는 이것을 끊임없이 비판해나가야 한다.
나는 펜로즈가 '실체에 이르는 길'에서 거칠게 제시한, 물리적 세계도 아니고 인간의 정신도 아닌 제 3의 영역에 수학적 구조들이 있다는 존재론이 옳아 보인다. 그러나 결국 수학을 하는 것, 그럼으로써 그 수학적 구조들을 엿보며 밝혀내는 것이 인간의 정신이기 때문에 칸트철학과의 보완적 관계가 가능할 것이다. 나는 '밝혀낸다'는 표현이 대단히 마음에 든다. 수학적 작업이란, 이미 정해져 있는 전체상에 스포트라이트를 비추듯이 (혹은 스타크래프트에서 새롭게 도달한 영역이 지도 상에 추가되듯이) 조금씩 밝혀내는 것이라고 생각하기 때문이다.
_____________________________________
from facebook post https://www.facebook.com/yongjae.oh/posts/1650870928337939
archived on 2018.12.31
댓글 없음:
댓글 쓰기