히스토그램은 구간을 바꾸면 분포의 모양이 왜 달라질까?

응답 시간 28개를 구간별 요청 수로 묶는다

LLM 서비스의 같은 과제 28개에서 응답 시간을 측정했다고 하자. 원자료의 한 행은 요청 하나이며 단위는 밀리초다. 히스토그램은 값을 일정한 간격의 구간으로 나누고 각 구간에 들어간 관측 수를 붙인다. 가로축은 연속된 수치 범위이고 세로축은 빈도·상대빈도·밀도 가운데 무엇인지 명시한다.

NIST 전자 핸드북은 히스토그램을 일변량 자료의 중심, 퍼짐, 치우침, 바깥값, 여러 봉우리를 살피는 도구로 설명한다. 모양은 모형 선택의 단서이지 정규분포나 원인의 증명이 아니다. 측정 단위, 표본 기간, 실패 요청 포함 기준이 달라지면 같은 서비스 이름 아래에서도 다른 분포가 나온다.

막대 하나는 범주 이름이 아니라 수치 구간이다

막대그래프의 막대는 모델 A·B 같은 독립 범주이고 순서를 바꿀 수 있다. 히스토그램의 막대는 100–150ms, 150–200ms처럼 이어진 구간이라 순서가 고정되고 보통 서로 붙는다. 구간 폭이 같다면 높이 또는 넓이로 빈도를 읽을 수 있다. 폭이 다르면 높이를 빈도로 쓰면 넓이가 관측량을 잘못 나타낸다.

서로 다른 구간 폭을 쓸 때는 세로축을 빈도 밀도로 정해 막대 넓이가 상대빈도에 비례하게 만든다. “밀도”는 요청이 물리적으로 빽빽하다는 뜻이 아니라 단위 x 길이당 확률량이다. 막대 위에 직접 개수를 덧붙이고 원자료 점도 아래에 표시하면 교육용 예시의 구간 대응을 확인하기 쉽다.

구간 수를 바꾸면 봉우리와 꼬리가 달라 보인다

같은 28개 값을 네 구간으로 묶으면 하나의 넓은 봉우리처럼 보이고, 열두 구간으로 쪼개면 작은 들쭉날쭉함이 여러 봉우리처럼 보일 수 있다. 앞의 그림이 세부 구조를 숨긴다고 해서 뒤의 그림이 자동으로 더 정확한 것은 아니다. 표본이 작을수록 좁은 구간의 높이는 우연한 한두 관측에 크게 흔들린다.

Scott 규칙이나 Freedman–Diaconis 규칙은 표본 수와 표준편차 또는 IQR을 사용해 후보 구간 폭을 제안한다. 이들은 출발점이지 업무 맥락을 대체하는 정답이 아니다. 측정 해상도, 자연스러운 임계값, 비교 집단의 공통 경계도 함께 고려하고 적어도 두세 설정에서 결론이 유지되는지 본다.

구간 경계도 관측의 소속을 바꾼다

폭이 50ms로 같아도 100에서 시작할지 125에서 시작할지에 따라 149ms와 151ms가 같은 막대 또는 다른 막대에 들어간다. 경계값을 어느 쪽에 포함하는지도 필요하다. 보통 [100,150)처럼 왼쪽 포함·오른쪽 제외를 쓰고 마지막 구간만 오른쪽 끝을 포함한다. 규칙을 캡션이나 데이터 처리 코드에 남긴다.

두 모델을 비교할 때 모델별 자동 구간을 따로 쓰면 막대 위치가 달라져 모양 비교가 어렵다. 전체 범위에서 공통 경계를 정하거나, 상대빈도와 같은 세로축을 사용하고 표본 수를 함께 적는다. 모델 A의 요청이 1만 건이고 B가 100건이라면 단순 빈도 높이는 사용량 차이와 분포 차이를 섞는다.

서로 다른 세 사례는 표본 단위부터 확인한다

첫째, 응답 시간 분포는 요청 하나를 관측으로 삼고 캐시 적중과 실패를 구분한다. 둘째, 문서 길이 분포는 문서 하나의 토큰 수를 쓰며 중복 문서를 제거한다. 셋째, 모델 점수 분포는 프롬프트별 점수를 쓰되 같은 프롬프트의 여러 시드를 독립 표본처럼 부풀리지 않는다. 무엇을 한 행으로 삼았는지가 분포의 분모다.

훈련 중 가중치나 활성값의 히스토그램은 모델 내부 계산을 요약하는 도표다. 서비스 응답 시간이나 평가 점수의 히스토그램과 모양은 같아도 측정 대상과 표본 생성 과정이 다르다. 내부 값의 분포에서 사용자 품질이나 공정성을 곧바로 추론하지 않고 별도 평가 자료로 검증한다.

LLM에는 원자료와 구간 규칙을 함께 준다

“분포를 히스토그램으로 그려 줘”만 요청하면 LLM이 임의의 구간과 수치를 만들 수 있다. 실제 측정표, 단위, 누락·실패 처리, 표본 기간, 비교 집단을 제공한다. 구간 경계 후보를 두세 개 만들게 하고 각 관측 수 합이 전체 행 수와 같은지 다시 계산하게 한다. 값이 없으면 빈 사양만 작성하게 한다.

출력은 구간 시작·끝·개수·상대빈도 표, 축 제목, 표본 수, 선택한 폭의 이유, 다른 폭에서 달라지는 특징 순서로 요구한다. “두 봉우리” 같은 해석에는 어느 설정에서 보였는지 붙이고, 원인 설명은 메타데이터나 추가 실험이 있을 때만 제안한다. LLM의 자연스러운 문장을 실제 측정으로 오해하지 않는다.

잘못된 그림은 빈 구간과 축을 숨긴다

수정 전 도표는 값이 없는 구간을 생략하고 막대를 이어 붙여 두 무리가 가까워 보였다. 세로축 제목과 표본 수도 없었고 모델마다 다른 자동 경계를 썼다. 한 집단은 빈도, 다른 집단은 백분율인데 같은 높이로 비교했다. 그림의 봉우리 수가 실제 분포 특성인지 표시 설정인지 알 수 없었다.

수정 후에는 전체 수치 범위와 빈 구간을 보존하고 두 집단에 공통 경계를 썼다. 세로축을 상대빈도로 통일하고 집단별 n을 적었다. 기본 폭과 절반·두 배 폭을 작은 패널로 함께 제시했으며, 모든 구간 개수 합이 원자료 행 수와 일치하는지 표 아래에 기록했다.

실습에서는 구간 수보다 안정적인 특징을 찾는다

아래 실습은 같은 교육용 응답 시간 28개를 4·8·12개 구간으로 다시 센다. 막대 수가 늘수록 최대 막대의 높이와 위치가 달라진다. 어느 설정에서나 오른쪽 꼬리가 남는지, 두 봉우리가 계속 보이는지처럼 안정적인 특징을 적는다. 한 설정에만 나타나는 작은 봉우리는 결론보다 추가 표본 질문으로 남긴다.

이 수치는 실제 LTCT나 특정 모델의 측정값이 아니다. 구간 선택의 영향을 배우기 위한 준비된 자료다. 실제 업무에서는 구간을 고른 뒤 결과가 마음에 들지 않는다고 폭을 반복 변경해 원하는 모양만 게시하지 않는다. 후보 규칙과 선택 이유를 분석 전에 정하거나 모든 민감도 결과를 남긴다.

공개 전에는 합계·경계·화면을 따로 검사한다

각 구간 개수를 원자료에서 독립 재계산하고 합계가 포함한 행 수와 맞는지 확인한다. 최소·최대값이 축 범위 안에 있으며 경계값이 중복되거나 빠지지 않는지 검사한다. 비교 집단은 단위·경계·세로축 정의가 같아야 한다. 구간 규칙과 다른 설정에서의 해석 변화도 기록한다.

모바일 360·390·430px에서는 눈금과 축 제목, 막대 위 값이 겹치지 않는지 본다. 상세 SVG는 글자를 줄이지 않고 내부 가로 이동을 허용하며 키보드 초점 안내를 둔다. 화면낭독기를 위한 구간표, 표본 수, 단위를 제공하고 색을 끄더라도 집단을 구분할 수 있게 테두리와 라벨을 쓴다.

복사해서 쓸 수 있는 LLM 요청문

아래 요청문은 교육용 예시다. 원문을 함께 제공하고, 모델이 빈칸을 추측하지 않도록 금지 조건을 넣었다. 결과를 받으면 원문 문장과 노드·선의 대응을 사람이 다시 확인한다.

다음 연속형 측정값으로 히스토그램을 설계해 줘.
1. 관측 한 행의 단위, 측정 단위, 표본 기간과 포함·제외 규칙을 먼저 적는다.
2. 누락값·실패값·중복값 처리 결과와 최종 n을 계산한다.
3. Scott 또는 Freedman–Diaconis 규칙을 포함해 구간 폭 후보 2~3개를 제시한다.
4. 구간 시작·끝·개수·상대빈도 표를 만들고 개수 합이 n과 같은지 검산한다.
5. 비교 집단에는 공통 경계와 같은 세로축 정의를 쓴다.
6. 봉우리·꼬리·바깥값은 관찰로 쓰고 원인을 단정하지 않는다.
7. 구간 폭과 시작점을 바꿨을 때 유지되는 특징을 따로 적는다.
8. 실제 측정값이 없으면 수치를 추정하지 말고 빈 양식만 만든다.

[측정표] …

직접 실습하고 결과를 읽기

이 실습은 브라우저 안에 준비한 교육용 자료만 사용한다. 외부 LLM을 호출하거나 실제 기관 자료를 조회하지 않는다. 입력을 바꾸어 결과가 어떻게 달라지는지 보고, 설명과 맞지 않는 결과가 나오면 어떤 정보가 빠졌는지 적어 본다.

자료와 출처

아래 자료는 이번 글의 정의와 표기법을 확인하는 데 사용했다. 생각그림과 사례 문장은 원자료를 복제하지 않고 이 글의 교육 목적에 맞게 새로 구성했다.

• NIST/SEMATECH, Exploratory Data Analysis — Histogram (공식 전자 핸드북)
• David W. Scott, On optimal and data-based histograms, Biometrika 66(3), 1979
• David Freedman·Persi Diaconis, On the histogram as a density estimator: L2 theory, 1981