현대수학의 초보적 개념과 수법(이기안, 전원기, 소광호 공저, 학문사, 1996.1.10인쇄)에서 발췌 제 3장 - Russell의 역리와 klein의 기하학 G. Cantor는 1895년에 위에서 기술하였던 집합의 정의를 하였다. 그리고 채 10년도 못 되어, 1903년에 영국의 수학자이고 동시에 철학자인 세계의 석학 B. Russell은 Cantir의 집합의 정의에 대하여 다음과 같은 paradox를 들었다. Russell의 paradox : Cantor가 정의하였던 집합을 두 종류로 나눈다. 즉, 자기 자신을 원으로 갖지 않는 집합을 제 1종(first kind)의 집합이라고 하고 자기 자신을 원으로 갖는 집합을 제 2종(second kind) 의 집합이라고 정의한다. 그러면 Cantor가 정의하였던 모든 집합은 위 두 종류중에 어느 한 종류에 속하게 된다. 그러나 Russell은 어느 종에도 속하지 않는 집합의 예를 다음과 같이 들었다. M을 제 1종에 속하는 모든 집합을 원으로 갖는 집합이라 하면 M은 Cantor가 정의한 하나의 집합이 된다. 이때 M은 제 1종도 아니고 제 2종도 아닌 집합이 되고 따라서 Cantor의 정의에는 모순이 있다. proof) M이 Cantor 집합의 정의를 만족한다. M을 제 1종이라고 하자. 그러면 M의 정의에 의해서 M은 M의 원이 되며, 정의에 의하여 M은 제 2종의 집합이 되므로 모순이 된다. 역으로 M을 제 2종의 집합이라고 하자. 그러면 M은 M의 원이 되고 이것은 M이 제 1종의 집합이 되어야하고 또한 모순이 된다. 따라서 M은 제 1종도 제 2종도 아닌 집합이 된다. 위의 Russell의 paradox가 발표된 이후에 '수학이란 무엇인가?'라는 수학의 기초에 대한 연구가 시작되었다. 이것이 곧 '수학 기초론' 이라는 수학의 한 분과가 탄생되는 계기였다. 1920년 경에 수학 기초론은 왕성하게 연구되었고 논리주의, 직관주의 및 형식주의 등으로 분열이 되었다. 이것들을 간단히 설명하면 다음과 같다. (1) 논리주의(logism) : 수학을 논리학의 한 분과로 보는 학설로서 Russell에 의해 제창되었다. Russell은 "논리학은 수학의 청년시대이며, 수학은 논리학의 장년시대" 라고 하였고, "수학이란 임의의 것이나 임의의 성질에 관하여 항시 성립된 것만을 형식적(내용과는 상관 없음)으로 취급한 학문" 이라고 단정하여, 수학은 논리학의 한 분과임을 강조하였다. 그것은 논리학이란 "임의의 것이나 임의의 성질에 관하여 성립하는 것들을 형식적으로 연구하는 학문" 이기 때문이라고 하였다. 그리하여 Ressell은 "만인에게 공통된 기호에 의하여 논리학의 형식에 따라 수학은 재구성 되어야 한다." 라고 주장하였다. 수학을 기호화 하려는 노력은 일찍이 Viete가 16세기에 시작하여 Descartes, Frege 및 Peano 등에 이르기까지도 계속되었으며, 이들의 결과를 총정리하여 Russell은 Whitehead와 공저인 'Principia Mathematica'를 출판하였고(1910~1913) 여기서 자연수론, 실수론 및 해석 기하등을 기호만으로 표현하는 것을 시도하였다. Russell은 지금까지의 수학적 대상의 전체라는 개념으로 만들어진 대상은 앞서의 그것보다 높은 형(type)의 것이라고 생각하였다. 그리하여 앞에서 말하였던 제 1종의 집합 전체로 된 집합 M은 Cantor의 집합보다 높은 형의 집합으로 Cantor의 집합은 아니라는 것이다. 이렇게 하여 Russell은 자기가 만들었던 paradox를 해결하였다. 그러나 Russell이 만들었던 기호논리에서는 매우 부자연스러운 환원공리(axioms of reducibility)를 설정해야 했다. 수학자 Weyl은 Russell의 기호논리체계로 만들어진 수학을 보고 "수학은 이미 논리위에서가 아니라 논리주의자들의 어떤 약속에서 건설되고 있다." 라고 혹평을 했다. Russell에 이어 논리주의를 주장하던 학자에는 Ramsay가 있다. Ramsay는 Russell의 '형의 이론'을 정식화했고 이것은 지금도 수리논리학에서 중요한 역할을 하고 있다. (2) 직관주의(intuitionism) : 수학을 단순히 형식적인 논리연역의 체계라고만 생각하는 형식주의 수학에 대하여 직관주의 수학은 수학을 내용적인 의미를 갖는 학문이라고 주장한다. 직관주의는 수학적 진리 또는 수학적 대상은 수학을 생각하는 정신과 독립적으로 존재한다고는 생각하지 않고 수학을 생각하는 정신 활동에 의하여 잡혀지는 것이라고 주장한다. 일반적으로 직관주의적이고 내용적인 뜻에서 수학을 생각하려 할 때 직관주의자였던 Brouwer는 다음과 같이 생각하였다. 우선 자연수가 수학의 근원적인 직관에 의하여 잡혀진다고 생각하였다. 1에서 출발하여 1을 더한다는 생성원리에 의하여 임의의 자연수에 도달할 수 있다는 수학적 귀납이 직관수학의 기초가 된다고 직관주의자들은 주장한다. 그러나 Brouer의 직관주의 수학에서는 수학적인 뜻에서 어느 범위를 넘지 못하여 수학전체를 직관주의로 모두 설명하지 못하였다. 왜냐하면 직관주의에서는 배중률(귀류법) 등이 무시되기 때문이다. (3) 형식주의(formalism) : 이 학설은 "수학이란 공리계에 의하여 규정된 형식적인 연역체계" 라고 주장하며, Hilbert에 의하여 발단되었다. Hilbert는 (1)모든 공리적 가정을 떠나 가장 순수한 의심을 허용하지 않는 유한의 입장(독 finite Einstellung, finite Standpunkt)을 채용하였고 (2)위 입장에서는 구성되지 않는 수학의 존재 가치를 완전히 형식화된 무모순성(consistency)에서 구한다. 를 주장하였다. 유한의 입장이란 유한회의 조작에 의하여 실행가능한 사실만을 기초로한 입장이며 본질적으로 직관주의의 입장과 같다. 그리고 공리계의 무모순성의 또 하나의 증명을 위하여 소위 초수학(독 Metamathemakit)을 도입하였다. 초수학이란 증명론이하고도 하며 수학에서의 증명 그 자체를 연구대상으로 하는 이론인 것이다. Hilbert의 목록(program)은 유한의 입장에서 허용되는 방법, 증명론을 전개하여 공리화된 수학의 무모순성을 증명하려는 계획이다. 형식주의에 의하여 자연수론의 무모순성은 증명되었으나, 해석학의 무모순성의 증명에는 성공하지 못하였다. 그리하여 형식주의가 현대수학을 모두 증명할 수는 없는 것이다. 그럼에도 불구하고 오늘날의 수학은 대부분 이 형식주의에 바탕을 두고 있다. 상기한 바와 같이 20세기 초엽에는 수학이 서야 할 땅을 찾기 위하여 수학의 대가들이 연구에 연구를 거듭했지만 수학이 서야할 땅을 완전히 찾지는 못하였다. 그러나 이 무렵부터 복잡다기하다는 현대 수학의 싹이 트기 시작하였다. Klein의 기하 : 약관 23세인 F. klein은 1872년에 C. V. Staudt의 후임으로 Erlangent 대학의 철학부 교수로 재임하였을 때 제출한 논문 'Vergleichonde Betrachtung uber neuere geometrisch Forsc-hungen' (최근의 기하학 연구의 비교 고찰) 속에서 당시까지 여러 방면으로 분화되어 연구되어 왔던 여러가지 기하학을 변환군(transformation groups)에 의하여 종합하였다. 이 목록(program)은 기하학의 종합에 있어서 획기적인 탁견을 제시하고 오랫동안 지도적인 역할을 하였으며 위의 제하에 Math Ann. 47호에 출판이 되었다.