반복 횟수만 세면 암호문을 읽을 수 있을까?

열쇠를 모를 때 암호문 자체에서 무엇을 관찰할 수 있는가

암호화는 평문의 글자를 다른 글자나 기호로 바꿔 제삼자가 내용을 읽지 못하게 합니다. 단일 치환에서는 같은 평문 글자가 문서 전체에서 같은 암호 기호로 바뀝니다. 열쇠를 가진 사람은 거꾸로 치환하면 되지만, 열쇠가 없는 사람은 대응표를 알 수 없습니다. 오늘날 NIST는 이런 보호를 열쇠 없이 무너뜨리려는 수학적 기법의 연구를 암호분석이라고 정의합니다.[5][4]

그래도 단일 치환은 한 가지 흔적을 남깁니다. 같은 글자는 언제나 같은 기호가 되므로 반복 횟수와 반복 위치는 보존됩니다. 평문에서 자주 쓰인 글자는 암호문에서도 어떤 기호로 자주 나타납니다. 알킨디의 절차는 바로 이 보존되는 관계를 붙잡았습니다.[1][2]

이 발상은 글자의 모양을 맞히는 일이 아니라 두 분포를 비교하는 일입니다. 알려진 언어 표본의 글자별 횟수와 미지의 암호문 기호별 횟수를 각각 정렬하면, 열쇠가 없어도 후보 대응표를 만들 수 있습니다. 다만 후보는 뒤의 단어 구조와 문맥 검사를 통과해야 합니다.

알킨디는 언어 표본과 암호문을 같은 방식으로 세었다

알킨디는 철학·수학·음악·광학 등 여러 분야를 다룬 학자로, 9세기 아바스 왕조의 학술 환경에서 활동했습니다. 세인트앤드루스대 수학사 자료는 그의 생몰년을 805~873년으로 제시하고, Broemeling은 801~873년으로 적습니다. 확실한 것은 그가 9세기에 활동했다는 범위이지 생년의 한 해가 아닙니다.[3][2]

Ibrahim A. Al-Kadi는 1992년 Cryptologia에 아랍 암호학의 기원을 다룬 논문을 발표하며 알킨디에게 귀속되는 암호해독 논문을 소개했습니다. 제목은 로마자 전사 방식에 따라 조금씩 달리 적히며, 대체로 ‘암호화된 글을 해독하는 논문’이라는 뜻입니다. 이 글은 현존 사본의 정확한 필사 연대와 이동 경로를 이번에 연 공식 목록에서 독립적으로 확인하지 못했으므로, 9세기 저술과 후대에 전해진 사본을 같은 물건처럼 말하지 않습니다.[1]

소개된 절차의 요지는 먼저 해독하려는 글과 같은 언어로 된 충분히 긴 평문 표본을 고르는 것입니다. 표본의 글자를 세어 가장 잦은 것부터 순위를 만들고, 암호문 기호도 같은 방식으로 셉니다. 그다음 두 순위를 대응시키되, 실제 낱말이 만들어지는지 보며 바꿉니다. Broemeling은 이를 상대빈도를 이용한 이른 통계적 추론 사례로 읽습니다.[1][2]

가장 잦은 것끼리 잇되 선을 점선으로 남겨 둔다

자체 제작 표본을 보겠습니다. 예상 평문 언어의 학습 표본 100자에서 E 30회, T 22회, A 18회, O 16회, N 14회가 나왔다고 합시다. 암호문 100자에서는 ▲ 30회, ■ 22회, ◆ 18회, □ 16회, ○ 14회입니다. 순위만 보면 ▲→E, ■→T, ◆→A, □→O, ○→N이 첫 대응입니다.

단일 치환이라면 이 대응은 합리적입니다. 치환 전후에 글자별 횟수가 바뀌지 않기 때문입니다. NSA가 공개한 William F. Friedman의 해설도 알파벳 언어의 글자와 글자 조합이 서로 다른 상대빈도를 보이며, 이 특성이 단일 치환의 평문 값을 식별하는 근거가 된다고 설명합니다.[4]

그러나 ‘가장 잦다’는 하나의 단서일 뿐입니다. 같은 횟수의 글자가 있을 수 있고, 100자가 아니라 12자라면 순위가 쉽게 뒤집힙니다. 그래서 그림의 대응선을 확정 화살표가 아닌 점선 후보로 읽어야 합니다.

질문 1. ▲가 암호문에서 30회로 가장 많고 E가 표본에서 30회로 가장 많다면 ▲=E가 증명된 것일까요? 해설: 아닙니다. 단일 치환·같은 언어·충분한 길이·비슷한 장르라는 전제가 맞을 때 유력한 첫 가설입니다. 다른 글자가 우연히 많이 나온 짧은 글이나 다른 장르에서는 같은 순위가 보장되지 않습니다.

횟수로 후보를 만들고 반복 모양과 문맥으로 고친다

빈도표만으로는 동률과 가까운 순위를 가르기 어렵습니다. 이제 짧은 자체 암호문 ‘●▲▲■ ●▲ ◆■ ○□□○’를 봅시다. ▲가 가장 잦다는 사실에 더해 첫 단어가 1-2-2-3 패턴, 마지막 단어가 1-2-2-1 패턴이라는 사실이 보존되어 있습니다.

▲→E라는 가설을 넣으면 첫 단어는 _EE_가 됩니다. 문맥이 약속 시간이라면 MEET가 후보가 되고, ●→M과 ■→T를 함께 시험할 수 있습니다. 두 번째 단어는 ME, 세 번째는 AT, 마지막은 NOON으로 맞물립니다. 이렇게 얻는 평문 ‘MEET ME AT NOON’은 원문 사례가 아니라 검증 구조를 보이기 위한 교육용 문장입니다.

핵심은 한 글자의 순위를 독립적으로 확정하지 않는 데 있습니다. 한 대응이 여러 위치의 반복과 낱말 구조를 동시에 설명하는지 확인하고, 맞지 않으면 순위가 가까운 후보를 바꿉니다. 증거 하나에 결론 하나를 붙이는 방식보다 여러 제약이 함께 만족되는 대응표를 찾는 방식입니다.

질문 2. ▲→E 하나만 맞아 _EE_가 보였을 때 MEET를 확정해도 될까요? 해설: 아직 아닙니다. SEEN·FEEL처럼 같은 반복을 가진 다른 단어가 있을 수 있습니다. 뒤의 ‘●▲’, ‘◆■’, ‘○□□○’까지 같은 대응표로 자연스럽게 설명하고 문맥과 맞는지 확인해야 합니다.

치환이 모양은 숨겨도 분포를 지우지 못한다

이 추론은 세 전제로 정리할 수 있습니다. 첫째, 분석 대상이 같은 평문 글자를 늘 같은 암호 기호로 바꾸는 단일 치환이다. 둘째, 암호문의 언어와 비교 표본의 언어가 같다. 셋째, 표본과 암호문이 우연한 흔들림을 줄일 만큼 길고 장르도 크게 다르지 않다.

첫째 전제가 맞으면 평문 글자와 암호 기호 사이의 횟수는 정확히 보존됩니다. 둘째와 셋째 전제가 맞으면 표본의 상대빈도가 실제 평문의 상대빈도에 가까울 것이라고 기대할 수 있습니다. 두 관계를 합치면 빈도 순위 대응이 해독 후보를 좁힌다는 결론이 나옵니다.

하지만 결론의 강도는 ‘가장 잦은 기호는 반드시 가장 잦은 글자다’가 아닙니다. ‘그 대응을 먼저 시험할 이유가 있다’입니다. 이는 연역적 증명보다 증거에 비추어 가장 잘 설명하는 가설을 고르는 추론에 가깝습니다. 후보가 낱말과 문맥을 더 많이 설명할수록 지지는 커집니다.

짧은 글과 여러 기호는 높은 막대를 흐린다

첫 번째 한계는 표본 크기입니다. 앞의 12글자 평문 MEET ME AT NOON에서는 E가 3회로 가장 많지만 M·T·N·O는 모두 2회입니다. 일반적인 영어 순위가 그대로 나타나지 않습니다. Friedman의 해설도 텍스트 양이 제한된 암호는 어려울 수 있다고 지적합니다.[4]

두 번째는 장르와 언어입니다. 같은 언어라도 의학 보고서와 시, 인명 목록은 자주 쓰는 글자와 낱말이 다릅니다. 암호문의 언어를 잘못 추정하면 올바른 기호 빈도를 잘못된 기준표와 비교합니다. 따라서 표본은 단순히 길기만 할 것이 아니라 대상 언어와 용도에 가까워야 합니다.

세 번째는 암호 방식입니다. 한 평문 글자를 여러 암호 기호로 나누는 동음 치환은 높은 빈도를 여러 막대로 쪼갭니다. 여러 치환 알파벳을 번갈아 쓰는 다중 알파벳 치환도 전체 빈도표를 흐립니다. NSA 자료는 단일 치환과 다중 알파벳 치환을 구분하며, 후자에서는 먼저 각 알파벳에 속한 글자를 분리해야 한다고 설명합니다.[4]

질문 3. 평문 E를 ▲·△·◇ 세 기호 가운데 하나로 번갈아 바꾸면 어떤 일이 생길까요? 해설: E의 높은 빈도가 세 기호로 나뉘어 각각의 막대가 낮아집니다. ‘가장 잦은 기호=E’라는 단순 순위 대응은 약해지고, 세 기호가 비슷한 문맥과 위치에서 나타나는지 추가로 분석해야 합니다.

표본을 바꾸고도 같은 가설이 살아남는지 시험한다

짧은 활동: 기호열 ‘▲ ● ▲ ■ ▲ ◆’에서 ▲가 3회, 나머지가 1회씩이라고 합시다. 비교 표본 A에서는 E가 30%로 1위, T가 22%로 2위입니다. 비교 표본 B에서는 특정 인명 때문에 T가 31%로 1위, E가 20%로 2위입니다. A를 쓰면 ▲→E, B를 쓰면 ▲→T가 첫 가설이 됩니다. 어느 쪽도 기호열만으로 확정할 수 없습니다.

이제 암호문 길이를 늘리고 ▲가 들어간 단어 패턴을 모으세요. ▲가 같은 자리에서 반복되는지, 두 후보를 넣었을 때 어느 쪽이 더 많은 단어와 문법 구조를 설명하는지 비교합니다. 한 번의 빈도표보다 서로 다른 표본에서도 유지되는 대응과 여러 제약을 동시에 만족하는 대응이 더 강한 증거입니다.

알킨디의 역사적 의미는 숫자가 답을 대신했다는 데 있지 않습니다. 언어의 반복을 측정해 가설을 세우고, 그 가설을 텍스트 구조에 되돌려 시험하는 절차를 분명하게 제시한 데 있습니다. 암호문은 여전히 해석을 요구하지만, 해석은 셀 수 있는 증거와 틀릴 수 있는 후보를 갖게 되었습니다.[1][2]

오늘날 강한 암호는 이런 단순 빈도표만으로 풀리지 않습니다. 그럼에도 관찰→비교→가설→검증→수정이라는 논리는 데이터 분석과 논증 평가에 남아 있습니다. 반복 횟수는 결론이 아니라, 무엇을 먼저 의심하고 어떤 추가 증거를 찾아야 하는지 알려 주는 출발점입니다.