부울은 논리를 0과 1의 계산으로 바꾸었을까?

논리를 계산으로 다루려는 계획은 언제 모습을 드러냈을까?

조지 부울은 1847년 82쪽 분량의 『논리의 수학적 분석』을 내놓았다. 이 책은 아우구스투스 드모르간과 윌리엄 해밀턴 사이의 논리 논쟁을 계기로 쓰였지만, 핵심 목표는 더 넓었다. 논리를 수학의 한 갈래로 다루고, 추론의 형식을 기호 계산으로 나타내려는 것이었다.[2][4]

1854년 『사고의 법칙에 관한 탐구』에서는 이 계획을 더 크게 펼쳤다. 부류를 고르는 기호, 결합과 분리의 연산, 방정식의 전개와 제거를 이용해 정언명제와 확률 추론까지 다루었다. 오늘날 ‘불 대수’라고 부르는 전통의 중요한 출발점이지만, 뒤에 표준화된 체계와 부울의 원래 계산은 규칙이 완전히 같지 않다.[1][2][3]

x는 참·거짓 값보다 먼저 ‘무엇을 고르는가’를 나타냈다

부울의 x, y, z는 논의하는 전체에서 특정 성질을 가진 대상만 골라내는 선택 기호였다. x를 ‘금속’, y를 ‘전기를 통함’으로 읽으면 xy는 두 선택을 차례로 적용한 결과, 곧 ‘전기를 통하는 금속’이다. 선택 순서를 바꾸어도 같은 부류가 남으므로 xy=yx가 성립한다.[2][1]

1은 논의하는 전체 부류, 0은 아무 대상도 없는 빈 부류다. 따라서 1-x는 전체 가운데 x가 아닌 것들을 고른다. 이때 전체가 무엇인지 먼저 정하지 않으면 1-x의 범위도 정해지지 않는다. ‘금속이 아닌 것’이 실험실의 시료 전체인지, 세상의 모든 물체인지에 따라 결과가 달라진다.[2]

왜 x를 두 번 골라도 x 하나와 같을까?

같은 성질을 두 번 적용해도 첫 번째 선택 뒤에 남은 대상은 달라지지 않는다. 금속만 고른 뒤 다시 금속만 골라도 결과는 금속이다. 그래서 부울의 선택 기호는 x²=x를 만족한다. 보통 수에서는 3²=3이 아니므로, 이 식은 모든 수에 대한 항등식이 아니라 논리적 선택 기호의 특별한 법칙이다.[2][1]

x²=x를 x(x-1)=0으로 옮기면 형식상 x가 0 또는 1의 값을 갖는다는 해석이 가능하다. 부울은 이를 선택 기호의 법칙과 연결했다. 그러나 여기서 곧바로 ‘0은 거짓, 1은 참’이라고만 읽으면 부류 해석이 지워진다. 원래 문맥에서 0과 1은 빈 부류와 전체 부류의 역할도 함께 한다.[2]

x²=x는 부울 계산을 보통 대수와 구별하는 핵심 표지다. 기호의 모양이 대수식과 같아도, 허용되는 값과 연산의 의미가 다르면 같은 수학 체계가 아니다.

x+y는 언제 두 부류를 합친다는 뜻이 되었을까?

부울의 체계에서 x+y는 흔히 x와 y를 함께 모은 부류를 나타냈지만, 두 부류가 서로 겹치지 않을 때에만 이 덧셈을 허용했다. ‘붉은 카드’와 ‘파란 카드’처럼 동시에 속할 수 없는 분류라면 합칠 수 있다. 반면 ‘붉은 카드’와 ‘동그란 카드’는 붉고 동그란 카드가 겹칠 수 있으므로 그대로 더하면 그 대상을 두 번 세는 문제가 생긴다.[2]

현대 집합론의 합집합은 겹침이 있어도 언제나 정의되고, 현대 불 대수의 join도 같은 방식으로 모든 두 원소에 대해 정의된다. 따라서 부울의 +를 오늘날의 합집합 기호와 무조건 바꾸어 읽으면 안 된다. 둘은 겹치지 않는 경우 같은 결과를 내지만, 허용 조건이 다르다.[2][3]

문장을 방정식으로 옮기면 어떤 결론을 계산할 수 있을까?

부울은 ‘모든 x는 y다’를 x(1-y)=0처럼 표현할 수 있었다. x이면서 y가 아닌 대상이 하나도 없다는 뜻이다. 같은 내용을 xy=x로도 적을 수 있다. 두 식은 x가 y 안에 포함된다는 관계를 서로 다른 모양으로 드러낸다.[2][1]

예를 들어 모든 조류가 동물이고 모든 펭귄이 조류라면, p(1-b)=0과 b(1-a)=0을 통해 펭귄이면서 동물이 아닌 부류가 비어 있음을 계산할 수 있다. 여기서 p, b, a는 각각 펭귄·조류·동물 부류다. 계산은 전제의 포함 관계를 보존하지만, 실제로 모든 펭귄이 조류인지 관찰 없이 알려 주지는 않는다.[2]

마지막 행의 v처럼 ‘어떤 것’을 표시하는 방식은 부울 체계에서 해석상 논쟁이 생긴 지점이다. 이 글은 포함 관계의 기본 예만 사용하며, 존재 수입과 미정 부류의 세부 해석은 확정된 단일 표준처럼 다루지 않는다.[2]

부울의 대수와 현대 불 대수는 어디까지 같은가?

현대 불 대수는 meet, join, complement, 0, 1을 갖는 구조로 정리된다. 집합을 예로 들면 교집합, 합집합, 여집합, 공집합, 전체집합이 이에 해당한다. 원소가 0과 1 두 개뿐인 불 대수에서는 meet와 join을 ‘그리고’와 ‘또는’으로, 0과 1을 거짓과 참으로 해석할 수 있다.[3]

이 현대 체계는 부울의 목표와 핵심 아이디어를 잇지만, 그의 원래 대수를 그대로 복사한 것은 아니다. 부울은 보통 대수의 덧셈·뺄셈을 폭넓게 사용했고 덧셈은 서로 겹치지 않는 부류에 제한했다. 현대 불 대수의 join은 모든 두 원소에 대해 정의되며 x∨x=x를 만족한다. 따라서 ‘부울이 현대 진리표를 완성했다’기보다, 논리를 대수적 계산으로 다루는 길을 열었고 후대가 그 길의 규칙을 다시 정리했다고 말하는 편이 정확하다.[2][3]

같은 기호를 보고도 다른 체계를 구분할 수 있을까?

답을 가리고 먼저 ‘전체 부류’, ‘겹침’, ‘연산이 허용되는 조건’을 적어 보자. 계산 결과만 맞히는 것보다 기호가 어느 체계에서 무엇을 뜻하는지 밝히는 것이 중요하다.

기록 질문: 오늘 사용하는 0과 1 한 쌍을 골라 각각 값, 상태, 부류 가운데 무엇을 뜻하는지 적어 보자. 같은 표기가 다른 뜻으로 바뀌는 경계는 어디인가?