01 · THE QUESTION AND THE PERSON
한 번의 검사를 넘어,
모든 논리식의 판정으로
학생 수가 정해진 상황과 모든 모형을 대상으로 하는 상황을 비교합니다. 인물의 시대적 배경과 연구 질문의 정확한 뜻부터 정합니다.
01 · 읽어 보기
1. 교실에서 참인 규칙과 어디서나 참인 규칙
토론 동아리 운영안을 검토하는 담당자가 있다고 합시다. 학생 명단을 받아 각 학생의 발표 순서가 정해졌는지 검사합니다. 모든 학생이 발표 순서를 갖고 있으면 '통과'를 표시하는 프로그램을 만들 수 있습니다. 학생 수가 스무 명이라면 이름을 한 명씩 확인해도 언젠가는 검사가 끝납니다. 특정 명단을 대상으로, 정해진 조건을 확인하는 일입니다.
그런데 담당자에게 '세상의 어떤 동아리, 어떤 학생 수, 어떤 발표 순서에서도 참인 규칙을 가려 달라'고 요청하면 질문이 달라집니다. 예를 들어 '발표한 학생은 발표했거나 발표하지 않았다'는 규칙은 학생 명단을 보지 않아도 참입니다. 반면 '발표한 학생에게는 반드시 칭찬한 학생이 있다'는 규칙은 동아리마다 다릅니다. 실제로 칭찬하는 학생이 없는 동아리도 생각할 수 있기 때문입니다. 전자는 규칙의 형태만으로 참인 경우이고, 후자는 사람들 사이의 관계를 알아야 판단할 수 있는 경우입니다.
논리학자들이 묻던 질문은 한 동아리의 일을 검사할 수 있는가가 아닙니다. 논리 기호로 제대로 쓴 어떤 식이 들어오더라도, 모든 가능한 사람과 관계를 대상으로 그 식의 참을 기계적으로 판정하는 단 하나의 일반 절차가 있는가였습니다. '입력을 받아 언젠가 반드시 답한다'는 조건이 여기에 포함됩니다. 이 조건을 놓치면 처치가 증명한 내용이 흐려집니다.
02 · 읽어 보기
2. 네 칸짜리 진리표라면 끝까지 검사할 수 있습니다
먼저 명제논리를 살펴봅시다. p를 '학생회가 공지했다', q를 '지원자가 신청했다'라고 합시다. 다음 식을 보겠습니다.
(p ∧ (p → q)) → q
'공지했고, 공지했다면 신청한다는 조건까지 참이라면, 신청했다'는 뜻입니다. p와 q에는 참·거짓 두 값만 주므로 가능한 배정은 정확히 네 가지입니다. (참,참), (참,거짓), (거짓,참), (거짓,거짓)을 대입하면 전체 식은 네 경우 모두 참입니다. 계산표가 완성되면 더 살펴볼 경우가 남지 않습니다. 명제 기호 n개를 쓰는 식도 가능한 진리배정은 2ⁿ개이므로, 시간이 오래 걸릴 수는 있어도 끝까지 확인할 수 있습니다.
여기서 '판정 가능'은 실용적으로 빠르다는 뜻과 다릅니다. 학생이 수백 명이면 검사에 시간이 많이 들 수 있습니다. 그러나 입력을 받을 때마다 유한한 단계 안에 정답을 낼 수 있는 규칙이 있다는 사실이 중요합니다. 크기가 큰 계산이라도 절차가 항상 멈춘다는 보장과, 계산이 빠르다는 보장은 서로 다릅니다.
명제논리의 진리표만 알면 모든 논리 문제가 풀릴 것 같지만, 양화사가 들어오는 순간 고려해야 할 대상이 달라집니다. 처치가 다룬 문제는 바로 그 확장된 논리의 일반적인 결정 문제였습니다.
p = 참
q = 참 → 전체 참
q = 거짓 → 전체 참
p = 거짓
q = 참 → 전체 참
q = 거짓 → 전체 참
한국어로 읽기
p와 q에 줄 수 있는 네 진리배정 모두에서 이 함의식이 참입니다.
03 · 읽어 보기
3. 학생이 몇 명인지 모를 때: 1차 논리의 양화사
1차 논리에서는 P(x)를 '학생 x가 발표했다', C(x,y)를 '학생 y가 x를 칭찬했다'처럼 해석합니다. ∀x는 '모든 학생 x에 대해', ∃y는 '적어도 한 명의 학생 y가 존재하여'라고 읽습니다. 예를 들어 ∀x(P(x) → ∃y C(x,y))는 '발표한 모든 학생에게는 자신을 칭찬한 학생이 적어도 한 명 있다'는 뜻입니다. 여기서는 칭찬한 사람이 발표자 자신이어도 되는지 등 관계의 뜻을 미리 정해야 합니다.
이 식은 논리적으로 언제나 참인 식이 아닙니다. 학생이 한 명인 동아리에서 그 학생이 발표했지만 누구도 칭찬하지 않았다고 해석하면 거짓입니다. 반대로 각 발표자에게 칭찬한 학생이 실제로 존재하도록 관계를 정하면 참이 됩니다. 같은 기호식도 해석에 따라 참과 거짓이 달라질 수 있다는 것을 보여 줍니다.
다음 식은 다릅니다. ∀x(P(x) → Q(x)) → (∃x P(x) → ∃x Q(x)). 모든 발표자가 신청자라면, 발표자가 적어도 한 명 있을 때 신청자도 적어도 한 명 있다는 뜻입니다. 대상이 열 명이든 무한 명이든, P를 만족하는 한 사람을 고르면 그 사람은 Q도 만족합니다. 그래서 논리식의 구조만으로 항상 참입니다.
처치의 결정 문제에서 기계는 첫 번째 식에는 '모든 해석에서 참은 아니다', 두 번째 식에는 '모든 해석에서 참이다'라고 답해야 합니다. 그뿐 아니라 어떤 1차 논리식이 입력되더라도 그 판단을 끝내야 합니다. 한두 사례를 맞히는 프로그램이나 특정 형태의 식에만 통하는 검사는 이 요구를 충족하지 못합니다.
04 · 읽어 보기
4. 모형·타당성·만족 가능성은 각각 무엇을 뜻하나요?
용어부터 분명히 합시다. 언어는 ∀, ∃, ∧, → 같은 논리 기호와 P, Q, C 같은 관계 기호, 필요한 상수·함수 기호를 어떻게 쓸지 정한 규칙입니다. 모형은 그 기호를 실제 대상의 집합과 관계로 해석한 하나의 세계입니다. 학생들로 이루어진 세계도, 자연수로 이루어진 세계도 모형의 후보가 됩니다. 1차 논리의 표준적인 모형에서는 논의 영역이 비어 있지 않다고 가정합니다.
어떤 식 φ가 한 모형 M에서 참이면 M ⊨ φ라고 적습니다. ⊨ φ라고 쓰면 모든 모형과 모든 관련 해석에서 φ가 참이라는 뜻, 곧 논리적 타당성을 나타냅니다. ∃M(M ⊨ φ)는 φ를 참으로 만드는 모형이 적어도 하나 존재한다는 말이므로 만족 가능성입니다. '모든 경우에 참'과 '참인 경우가 하나라도 있음'은 엄격히 구별해야 합니다.
둘은 다음과 같이 연결됩니다. ⊨ φ ⇔ φ의 부정 ¬φ를 만족시키는 모형이 존재하지 않는다. 어떤 식이 모든 모형에서 참이라는 말은 그 식이 거짓인 모형을 찾을 수 없다는 말과 같습니다. 따라서 모든 1차 논리식에 대해 타당성을 판정하는 알고리즘이 있으면, 입력 식을 부정하여 만족 가능성도 판정할 수 있습니다. 반대 방향의 전환도 가능합니다.
이제 질문을 정식화할 수 있습니다. '모형 몇 개에서 맞았는가'가 아니라 모든 가능한 모형을 대상으로 참인지, 그러면서도 컴퓨터의 계산은 매번 유한하게 끝날지를 동시에 요구하는 문제입니다. 원소가 무한히 많고 관계 해석에도 제한이 없을 수 있으므로 네 칸짜리 진리표가 그대로 적용되지 않습니다.
한국어로 읽기
어떤 식이 모든 모형에서 참이라는 사실은 그 식을 거짓으로 만드는 모형이 전혀 없다는 사실과 같습니다.
05 · 읽어 보기
5. 1928년의 질문과 1936년의 답
독일의 수학자 다비트 힐베르트와 빌헬름 아커만은 1928년 논리학 저술에서 결정 문제를 명확히 제기했습니다. 독일어 명칭은 엔트샤이둥스프로블렘(Entscheidungsproblem, 결정 문제)입니다. 주어진 논리식이 보편적으로 타당한지, 또는 만족 가능한지를 유한한 절차로 판정할 수 있는가라는 질문이었습니다. 여기서 '유한한 절차'는 모든 입력에 대해 반드시 끝나는 계산 방법을 가리킵니다.
알론조 처치(Alonzo Church, 1903–1995)는 미국 워싱턴 D.C.에서 태어나 프린스턴대학교에서 수리논리학을 연구하고 가르쳤습니다. 그의 연구는 '계산한다'는 말을 분명하게 수학으로 표현하려는 시도와 이어져 있었습니다. 교사와 편집자, 논리학 연구자로 활동하면서 람다 계산법, 계산 가능성, 논리의 기초를 탐구했습니다. 그의 제자로 스티븐 콜 클레이니와 앨런 튜링 등이 알려져 있습니다. 이러한 인물 관계는 생애 기록에서 확인되지만, 아래에서 사용하는 수업 비유를 처치 본인의 일화로 취급하지는 않습니다.
1936년 처치는 먼저 「기초 수론의 풀 수 없는 문제」(An Unsolvable Problem of Elementary Number Theory)를 발표했습니다. 같은 해 「결정 문제에 관한 짧은 논문」(A Note on the Entscheidungsproblem)을 발표하여 1차 논리 결정 문제에 일반적 판정법이 없다는 결론을 제시했습니다. 후자 논문은 1936년 『기호논리학 저널』 제1권 제1호 40–41쪽에 실렸고, 같은 해 제3호 101–102쪽에 수정 사항이 따로 실렸습니다. 1936년에 쓰인 서로 다른 논문의 제목과 수정 사실을 하나로 뭉뚱그리지 않는 것이 중요합니다.
처치가 실제로 논증한 내용을 한 단계 더 살펴보겠습니다. 1936년 4월의 첫 논문에서 그는 람다식이 계속 변형되어 더는 적용할 축약 규칙이 남지 않는 정규형(normal form, 더 줄일 수 없는 최종 형태)을 가질 수 있는지 묻습니다. 360쪽의 정리 XVIII는 임의의 람다식이 정규형을 갖는지 매번 판정해 주는 재귀함수가 존재하지 않는다는 결과입니다. 이어 363쪽의 정리 XIX에서는 주어진 두 람다식이 변환 규칙으로 서로 연결되는지 항상 판정하는 재귀함수도 존재하지 않는다고 결론 내립니다.
이 두 정리를 이해하려면 각각의 람다식을 실제로 변형하는 일과, 아무 람다식이나 입력받아 변형 과정이 끝날 수 있는지 반드시 판정하는 일을 구별해야 합니다. λx.x처럼 이미 최종 형태인 식이 있고, 뒤에서 살펴볼 Ω처럼 같은 형태로 되돌아와 계속 축약되는 식도 있습니다. 쉬운 사례를 검사할 수 있어도 모든 입력을 대상으로 예·아니요를 반드시 내놓는 절차가 존재한다는 뜻은 아닙니다. 처치는 변환 문제의 이러한 한계에서 출발해, 적절한 표현력과 무모순성 조건을 갖춘 형식 체계의 결정 문제로 연결했습니다. 이 원전의 논증과 뒤에 제시하는 두 계수기 기계의 환원은 시대와 증명 방법이 다른 두 설명입니다.
1928
힐베르트와 아커만
주어진 1차 논리식의 타당성 또는 만족 가능성을 유한한 절차로 판정할 수 있는지 질문을 정식화했습니다.
1936
알론조 처치의 결과
계산 가능성의 엄밀한 틀을 바탕으로 1차 논리의 일반 결정 문제에 부정적인 답을 제시했습니다.