집합을 만드는 규칙에서 생긴 모순

분류 규칙이 자기 자신을 만나는 순간

자료실에서 “자기 목록에 자기 이름을 싣지 않은 목록”만 골라 새 목록을 만든다고 해 보자. 처음에는 분류 기준 하나를 더 세운 일처럼 보인다. 그런데 새 목록 자신의 이름을 새 목록에 실어야 할지 묻는 순간, 넣으면 빼야 하고 빼면 넣어야 하는 순환이 생긴다. 러셀의 역설은 이 장면을 집합의 언어로 엄밀하게 만든다. 핵심 질문은 어느 칸에 넣을지가 아니라, 그런 조건만으로 하나의 집합이 생긴다고 보아도 되는가이다.

집합과 원소를 먼저 구별하기

집합은 여러 대상을 하나로 모아 다루는 수학적 대상이고, 그 안에 들어 있는 각각을 원소라고 부른다. x가 A의 원소라는 말은 x∈A로 쓴다. 이것은 A가 B에 포함된다는 A⊆B와 다르다. 예를 들어 2∈{1,2,3}이지만 2는 집합이 아니므로 2⊆{1,2,3}이라고 쓰지 않는다. 러셀의 논증은 포함 관계가 아니라 “한 집합이 자기 자신의 원소인가”라는 원소 관계를 살핀다.

문단 자료[2]

자기 원소라는 말은 곧바로 모순이 아니다

일상적인 유한 집합은 대개 자신을 원소로 갖지 않는다. {사과, 배}는 과일 두 개를 원소로 가지며 그 집합 자체는 원소가 아니다. 그러나 “자기 자신을 원소로 갖는다”는 문장만으로 논리적 모순이 완성되지는 않는다. 모순은 특정한 집합 R을 만들 수 있다고 전제하고, R의 원소 조건을 R 자신에게 적용할 때 생긴다. 그러므로 자기 적용은 점검할 신호이지 언제나 오류라는 판정은 아니다.

문단 자료[2]

조건이면 곧 집합이 된다는 원리

소박한 집합론에서는 어떤 명확한 조건 φ(x)를 제시하면 그 조건을 만족하는 모든 x의 집합 {x | φ(x)}를 만들 수 있다고 생각했다. 이를 제한 없는 이해 원리라고 부른다. “짝수인 자연수”처럼 익숙한 조건에서는 잘 작동하는 듯 보인다. 문제는 기존 집합의 일부를 골라내는 데 그치지 않고, 모든 대상을 가로질러 어떤 조건이든 곧 하나의 집합을 정한다고 허용하는 데 있다.

문단 자료[2]

러셀이 고른 대각선 조건

버트런드 러셀은 1901년 무렵 “자기 자신의 원소가 아닌 집합”이라는 조건을 생각했다. 발견한 정확한 달에 관한 그의 회고는 서로 달라 단정하기 어렵지만, 1902년 6월 16일 고틀로프 프레게에게 보낸 편지에는 문제가 분명히 적혀 있다. 러셀은 자기 자신을 원소로 갖지 않는 집합들의 모임이 하나의 완성된 집합을 이루는지 물었다. 이는 기묘한 예 하나가 아니라 당시의 집합 형성 원리를 시험하는 질문이었다.

문단 자료[2][3]

문제의 집합 R을 정의하기

자기 자신의 원소가 아닌 모든 집합을 모은 집합을 R이라고 가정하자. 기호로는 R={x | x∉x}이다. 이 정의에서 x는 집합을 가리키고, R에 들어가기 위한 조건은 x가 자기 자신의 원소가 아니라는 것이다. 이제 다른 집합 대신 R 자신을 x 자리에 넣는다. R도 집합이라면 원소 조건의 적용 대상에서 빠질 이유가 없다는 점이 대각선 논증의 출발점이다.

문단 자료[1][2]

첫째 경우: R이 R의 원소라면

먼저 R∈R이라고 가정한다. R의 정의에 따르면 R의 원소들은 자기 자신의 원소가 아닌 집합들뿐이다. 따라서 R이 R의 원소라면 R은 자기 자신의 원소가 아니어야 한다. 곧 R∈R이라는 가정에서 R∉R이 따라온다. 이 갈래의 문제는 말뜻을 바꾼 데서 생기지 않는다. 처음 정한 가입 조건을 R에 그대로 적용한 결과다.

문단 자료[1][2]

둘째 경우: R이 R의 원소가 아니라면

이번에는 R∉R이라고 가정한다. 그런데 R은 바로 자기 자신의 원소가 아닌 모든 집합을 모은 집합이다. R이 자기 자신의 원소가 아니라면 R은 가입 조건을 만족하므로 R의 원소여야 한다. 따라서 R∉R이라는 가정에서 R∈R이 따라온다. 두 경우를 함께 쓰면 R∈R ↔ R∉R이 되어 어느 진릿값도 일관되게 정할 수 없다.

문단 자료[1][2]

빈 집합과는 무엇이 다른가

“자기 자신의 원소가 아닌 동시에 자기 자신의 원소인 대상”처럼 처음부터 모순된 조건을 만족하는 대상은 없고, 그 조건으로 고른 결과는 빈 집합으로 다룰 수 있다. 러셀의 R은 그렇게 끝나지 않는다. 각 후보 x에는 x∉x라는 한 조건만 묻고, 제한 없는 이해 원리가 그 조건에 맞는 집합 R의 존재를 보장한다고 전제한다. 바로 그 R에 같은 조건을 적용하자 존재 전제와 원소 규칙이 충돌한다.

문단 자료[2]

이발사의 빈 의자보다 깊은 이유

12회의 이발사 규칙에서 모순이 나오면 그런 조건을 만족하는 이발사가 없다고 결론 내리면 된다. 마을 사람과 면도 관계 전체가 무너지는 것은 아니다. 러셀의 경우에는 제한 없는 이해 원리가 조건마다 집합을 만들어 준다고 약속한다. R이 없다고 답하려면 바로 그 일반 원리를 제한해야 한다. 두 역설의 대각선 모양은 닮았지만, 하나는 특정 직업인의 비존재이고 다른 하나는 집합 형성 원리의 수정 요구다.

문단 자료[2]

프레게의 체계에 닿은 충격

프레게는 논리를 바탕으로 산술을 세우려 했고, 그의 체계에서는 개념의 외연을 대상으로 다루는 원리가 중요한 역할을 했다. 러셀의 편지는 그 원리들과 함께 역설이 도출됨을 알렸다. 프레게는 『산술의 기본 법칙』 제2권 인쇄가 거의 끝난 때 문제를 받고 부록에서 위기를 인정했다. 다만 러셀의 역설 하나가 모든 논리나 모든 수학을 무효로 만든 것은 아니다. 어떤 집합·외연의 존재를 허용할지 더 엄격히 정해야 한다는 과제가 드러났다.

문단 자료[2][3]

유형을 나누어 자기 적용을 막기

러셀이 탐색한 한 대응은 유형 이론이다. 대상을 한 층에, 그 대상들의 집합을 더 높은 층에 두어 같은 층의 표현이 자기 자신에게 곧바로 적용되지 않게 한다. 러셀은 1903년 단순한 유형 구상을 제시했고, 1908년에는 더 정교한 분지 유형 이론을 발표했다. “자기언급은 모두 금지한다”는 한 문장짜리 해법으로 축약하면 역사와 논리를 놓친다. 어떤 표현과 정의를 허용하는지 유형 규칙 전체가 결정한다.

문단 자료[2]

이미 있는 집합 안에서만 고르기

체르멜로 계열의 공리적 집합론은 다른 길을 택한다. 분리 공리꼴은 임의의 조건만으로 우주 전체에서 새 집합을 만들지 않고, 이미 주어진 집합 A의 원소 가운데 조건 φ(x)를 만족하는 것만 모은 부분집합 {x∈A | φ(x)}을 허용한다. 러셀 조건을 쓰면 R_A={x∈A | x∉x}는 만들 수 있다. 이때 논증은 R_A∉A라는 결론을 주며, R_A∈R_A ↔ R_A∉R_A 같은 모순을 강요하지 않는다.

문단 자료[2]

모든 것을 담는 집합을 허용하지 않기

분리 공리꼴이 작동하려면 “모든 집합을 원소로 갖는 집합 V”를 집합으로 허용하지 않는다. 만약 그런 V가 있다면 V 안에서 자기 자신의 원소가 아닌 것만 분리하여 다시 러셀 집합을 만들 수 있기 때문이다. 어떤 이론은 너무 큰 모임을 집합이 아닌 고유 모임으로 구별하고, 다른 이론은 보편 집합을 허용하는 대신 이해 원리를 다른 방식으로 제한한다. 따라서 현대의 대응은 하나뿐이 아니며, 각 체계는 허용하는 대상과 공리를 함께 밝혀야 한다.

문단 자료[2]

대각선 논증이 남긴 방법

R의 정의는 각 후보 x에게 x∉x를 묻고, 마지막에는 그 규칙으로 만든 R을 다시 후보 자리에 넣는다. 이런 자기 대입 구조는 칸토어가 집합과 그 부분집합 전체 사이의 크기를 비교한 대각선 논법과도 연결된다. 그렇다고 대각선 논증이 언제나 모순을 낳는 것은 아니다. 어떤 대상 영역, 어떤 형성 원리, 어떤 자기 적용이 결합했는지를 따져야 한다. 역설의 힘은 기호 하나보다 전제들의 조합을 드러내는 데 있다.

문단 자료[2]

조건을 말하는 일과 집합을 만드는 일

러셀의 역설은 “뜻을 이해할 수 있는 조건이면 그 조건에 맞는 집합도 존재한다”는 도약을 멈춰 세웠다. R∈R과 R∉R의 두 갈래를 확인하면, 고쳐야 할 곳은 계산이 아니라 제한 없는 집합 형성 전제임이 보인다. 현대 집합론은 더 엄격한 공리와 유형·층위의 구분을 통해 풍부한 수학을 이어 간다. 다음 회차에서는 전제를 받아들이는 일과 결론으로 넘어가는 규칙 사이를 파고드는 캐럴의 아킬레우스와 거북이를 만난다.

문단 자료[2]