△ (좌로부터) 계영희 고신대 교수(수학)·위상수학 전공, 수학사와 미술, 컴퓨터 기하학 등 연구·저서: <수학과 미술> <우리 아이 수학 가르치기>(공저) <수학을 빛낸 여성들>(공역)
유홍준 유홍준 문화재청장(미술사학자)·미학 및 미술사 전공·저서: <조선시대 화론 연구> <나의 문화유산답사기> <화인열전> <완당평전> 등

(사진설명) 미술사학자 유홍준 문화재청장과 수학자 계영희 교수가 경기 과천 국립현대미술관에서 만나 전시장 중심에 있는 백남준씨의 작품 ‘다다익선’ 앞에서 미술의 역사에 개입하는 수학, 수학으로 해석되는 아름다움에 관해 이야기하고 있다. 김종수 기자

인문의 창으로 본 과학의 풍경

①신화와 우주론
②유전자복제
③뇌는 마음을 얼마나 알까
④인간과 로봇, 몸의 철학
⑤인간, 동물 그리고 진화
⑥동양철학의 디지털문명답사
⑦우주개척시대, 지구 밖 인간의 존재
⑧나노과학과 미시역사의 눈
⑨수학과 미술의 물음, 아름다움이란
⑩세계와 입자의 근원

과천 국립현대미술관에서 처음 만난 수학자 계영희 교수에게 내가 건넨 첫 말은 “미술의 창으로 본 수학이 아니라 수학의 창으로 본 미술이 더 재미있고 내용이 풍부하지 않을까요?”였다. 이에 계 교수는 느릿하지만 명확한 어조로 “그렇~겠지요”라고 대답했다.

실제로 미술에 관심있는 수학자들은 끊임없이 수학의 창으로 본 미술을 이야기해 왔다. 최근 우리말로도 번역된 <다 빈치의 유산>이라는 저서에서 뷜레트 아탈레이는 “다 빈치의 <모나리자>에는 자연에 내밀하게 감추어진 황금 직사각형과 황금 삼각형의 신비가 숨겨져 있다”고 증명했다. 계영희 교수 역시 이 방면에 많은 논문을 발표한 수학자이다. 아마도 수학자란 거의 생리적으로 문제 풀기를 좋아하는 속성을 지녔기 때문이 아닐까 생각된다.

고전미술 3대 미덕 기하학에 뿌리
바로크풍은 변수개념과 20c 추상화는 위상기하학과 만나
미술·수학 모두 시대정신 구현
아름다운 모두 증명할순 없지만 증명 안되는 것도 없지 않을까

● 이에 반하여 미술가들은 수학의 경지를 동경하고, 수학에서 이끌어낸 증명과 원리를 미술 형식 속에 원용했을지언정 수학이 하는 그 어려운 일에 감히 간섭해 본 역사가 없다.

나의 경우 고3때 입시를 위해 배운 수학Ⅰ의 상식이 고작이어서 미적분은 어떤 묘기를 갖고 있는지를 모르고, 시그마(∑)의 개념도 모른다. 훗날 내 아들이 중학교에 다니면서 수학 숙제를 하다가 집합문제를 내게 물어왔을 때 내가 한 대답은 “집합이 군대용어지 그것도 수학용어냐”였다.

그러나 미술사를 공부하면서 나는 미술이 수학에 얼마나 많은 신세를 지었는가는 명확히 배워서 알고 있고, 한국미술사 수업시간에 석굴암의 구조와 불국사의 가람배치를 설명할 때면 어김없이 유클리드의 기하학을 내 입으로 말하고 있다.

황금분할, 그 황금분할을 인체에 적용한 이상적인 인체비례, 이른바 캐논(canon)은 미의 수학적 증명이다. 기원전 4세기 그리스의 폴리클레이토스가 제시하고 기원전 1세기 로마의 비트루비우스가 남긴 캐논은 인체의 비례에서 부분과 부분, 부분과 전체의 조화를 명쾌하게 규정짓고 있다. 얼굴은 키의 8분의 1, 이마에서 턱까지는 10분의 1, 가슴은 4분의 1, 발은 10분의 1일 때가 이상적이며 입의 길이는 눈의 1.5배가 되어야 한다고 했다.

그리스 고전미술의 3대 미덕이라고 하는 비례(Proportion), 대칭(symmetry), 균제(harmony) 즉 조화라는 것도 기하학에 뿌리를 둔 것이다. 수학이 미술의 모든 것을 말해주는 것은 아니지만, 모름지기 수학으로 증명되지 않는 것은 적어도 고전미술이라고 할 수 없다.

19c 집합론은 점묘법과 소통

● 유클리드 기하학의 원리는 꼭 그것을 배우고 익혀야 조형적으로 구현되는 것은 아니었다. 비례와 대칭과 조화를 추구하는 고전미술이라면 그것이 어느 시대, 어느 민족의 미술이든 다 나타나는 현상이었다.

우리나라 통일신라시대 석굴암의 구조와 불국사의 가람배치는 1930년대 요네다 미요지라는 측량기사에 의해 훌륭하게 증명되었다. 석굴암이 12자를 기본으로 하여 정사각형과 그 대각선인 √2의 응용, 정삼각형의 높이의 응용, 원에 내접하는 육각형과 팔각형 등의 비례구성으로 이루어졌음은 너무도 유명한 사실이다.

신라사람들은 정12면체에 대한 정현(正玄)법칙, 다시 말하면 ‘사인(sin) 9도’에 대한 정확한 값을 어떤 방식으로든지 구할 수 있었기 때문에 그와 같은 완벽한 돔을 축조할 수 있었다.

여기까지는 굳이 수학자의 도움 없이도 잘 알 수 있다. 그러나 그 다음부터는 수학자의 힘을 받지 않고는 이해할 수 없는 것이 너무도 많다. 나는 그것을 계영희 교수에게 물었다.

“고전미술과 수학의 관계는 충분히 이해합니다마는 17세기 바로크시대로 들어서면 그런 고전의 규범들이 모두 붕괴되는데 그래도 수학은 미술의 아름다움을 증명할 수 있습니까?”

나의 단도직입적인 질문에 계 교수는 주저없이 대답했다. “물론이죠. 17세기로 들어서면 수학도 큰 변화를 일으킵니다. 데카르트의 해석기하학, 뉴턴의 미적분학, 파스칼의 확률, 갈릴레이의 역학 등이 모두 이 시대에 일어납니다. 2천년 동안 진리라고 믿었던 수학, 유클리드 기하학으로는 도저히 이해할 수 없는 시대로 돌입한 것이죠.”

“무엇이 그런 전환을 가져왔죠?”

“그것은 이 시대 수학의 탐구 주제가 시간, 운동, 속도였습니다. 이 무렵 케플러의 행성궤도가 타원이라는 것이 발견됐는데 이는 그리스 기하학으로는 그릴 수 없었죠. 직선이나 곡선을 방정식이나 함수로 표현하게 되니까 기하문제가 대수문제로 바뀌었습니다. 이 때 가장 중심적 역할을 하는 것은 변수였습니다. 변수란 운동하는 물체의 위치를 순간 순간 나타내 주는 편리한 개념입니다.”

미술사에서 17세기 바로크는 빛과 움직임의 세기라고 부른다. 렘브란트의 그림에 나타난 빛과 구도, 움직임과 포즈를 통한 감정전달의 작품이 이 시대 수학과 일치한다는 얘기다. 듣고 보니 맞아 떨어진다. 나는 계속 물었다. “본래 수학은 원리의 탐구 아니던가요?”

	▲

●“물론입니다. 그러나 그 시대에 어떤 원리가 요구되는가에 따라 수학자의 질문은 바뀝니다. 수학의 탐구는 수에서 공간으로, 공간에서 논리로, 또 논리에서 무한으로 그 관심과 영역을 줄곧 넓혀왔습니다. 그리고 19세기말 수학자 칸토르는 집합론을 내놓습니다. 수학의 역사는 여기서 큰 분기점을 이루는데 공교롭게도 후기인상파 쇠라의 점묘법이 같은 해에 그려집니다. 수학에서 점들의 집합이 함수에서 2차원 곡선, 3차원 곡면이 되듯이 회화에서는 점의 집합이 인물과 풍경으로 됩니다.”

“그러면 20세기 추상미술의 시대에 수학은 어디로 갔나요?”

“위상기하학이라고 불리는 토폴로지(Topology)의 등장이죠. 수학자 힐버트는 공리적 사실을 단지 게임의 규칙 정도로 여기며 수학을 전개해 갔습니다. 토폴로지에 의하면 곡선=직선이 될 수 있습니다.”

충분조건 아닌 필요조건

알다가도 모를 이론이다. 마치 추상미술이 알다가도 모를 그림처럼 말이다. 나는 내쳐 물었다.

”카오스 이론은 어떻게 전개되나요?“

“무질서에서 질서를 형성해가는 과정을 관찰하는 일이죠. 카오스와 질서의 경계에는 ‘카오스의 가장자리’가 있어서 이것이 질서를 창조하는데 매우 중요한 역할을 합니다.”

“아, 그렇군요.”

계영희 교수는 쉼없이 수학의 역사를 설명해갔고 나는 귀를 바짝 세우고 들었다. 그러나 나의 수학Ⅰ 상식으로는 점점 해독하기 힘들었다. 나의 수학능력을 감지했는지 계 교수는 마침표를 찍듯이 이렇게 말했다.

● “수학의 본질은 사고의 자유입니다. 생각만 하면 되니까요. 그러나 수학은 미술과 마찬가지로 시대정신의 반영입니다.”

계 교수는 나에게 ‘뫼비우스의 띠’ ‘페르마의 정리’ 같은 흥미진진한 얘기를 들려주며 나의 수학적 흥미를 돋우었다. 그런 얘기를 들으면서 수학은 확실히 아름다움을 증명할 수 있다는 생각이 들었다.

수학자는 미술작품을 보면서 상상력과 창의력이라는 ‘복잡계’의 내용을 파고드는 것은 아니지만 ‘감성의 가장자리’에 있는 형식의 질서를 섬세하게 읽어내고 있는 것이다. 미술에서 수학은 충분조건은 아니지만 필요조건이라는 수학자들의 논증에 동의하지 않을 수 없다.

그렇다면 이렇게 말할 수 있지 않을까. 아름다움의 모든 것이 수학으로 증명되는 것은 아니지만, 수학으로 증명되지 않는 아름다움도 없다.