← 읽기 자료 목록

그림을 글로 바꿀 때, 무엇이 사라지는가

답에 필요한 간선·출처 근거·화자 효과를 따로 검사하는 세 연구

2026년 9월 27~30일 공개된 세 연구를 통해 다이어그램을 구조 텍스트로 바꿀 때의 병목, 출처에 근거한 다이어그램 제작 규칙의 전이, 같은 논증도 화자 표지에 따라 다르게 평가되는 현상을 살펴봅니다.

이번 주의 세 연구는 모두 ‘그럴듯하게 보이는 중간 산출물’을 경계합니다. 문법에 맞는 그래프 직렬화, 보기 좋은 과학 다이어그램, 일관된 논증 점수도 정작 답에 필요한 관계·원문 근거·평가 기준을 보존하지 못할 수 있습니다.

첫 연구는 원 그림을 사람이 만든 정답 구조로 바꾸면 질의응답이 크게 좋아지지만, 자동 추출 구조는 원 그림보다도 약할 수 있음을 보였습니다. 둘째 연구는 한 논문의 다이어그램 제작 경험을 다른 논문으로 옮길 때 무엇을 기록해야 하는지 소규모 실험으로 점검했습니다. 셋째 연구는 논증 문장을 고정해도 ‘누가 말했다고 표시했는가’에 따라 AI 평가가 달라질 수 있음을 보였습니다.

아래의 수치와 한계는 각 원문의 HTML 전문에서 확인했습니다. LTCT의 문항·수업·제작 제안은 연구 결과와 구별했으며, 원 논문의 도판·표·사례를 전재하지 않고 자체 제작 SVG와 독자 사례만 사용했습니다.

01 · When Can Text Replace Vision? · 2026년 9월 30일

문법에 맞는 그래프보다 답에 필요한 간선이 먼저다

윈베이 장·재닛 왕·지훈 함·찬단 K. 레디는 다이어그램을 구조화된 텍스트로 바꾸면 시각 추론을 대체할 수 있는지, 실패가 구조 추출의 누락인지 이후 풀이기의 오류인지 물었습니다. 같은 풀이 모델과 생성 설정을 유지한 채 원 이미지, 질문을 보지 않고 자동 추출한 구조, 원천 데이터에서 만든 정답 구조를 비교했습니다.[1]

고정된 FlowGen 보류 집합 240개 다이어그램에 각각 세 질문을 붙인 720문항을 사용했습니다. 질문은 들어오는 이웃·나가는 이웃, 간선 관계, 최단 경로를 물었습니다. 연구진은 구조의 전체 일치도뿐 아니라 해당 질문에 필요한 노드와 간선이 맞는지 따로 재고, 관련 간선과 무관한 간선을 하나씩 바꾸는 개입도 실시했습니다.[1]

원천 데이터에서 만든 정답 구조의 정확도는 87.1%(627/720)였지만 원 이미지를 직접 푼 조건은 27.2~28.8%, 자동 추출 구조는 22.8%, 복구 절차를 거친 구조도 23.5%였습니다. 문법상 유효한 구조는 240개 중 196개에서 238개로 늘었지만 정확도 증가는 0.7퍼센트포인트에 그쳤습니다. 반대로 질문 관련 구조의 정확 일치는 전체 그래프 일치보다 정답 여부를 더 잘 예측했습니다.[1]

관련 간선 하나를 바꾸면 원래 정답 유지율이 0~3.5%로 떨어졌지만, 맞춘 무관 간선 개입에서는 92.4~93.9%가 유지되었습니다. 다만 이 결과는 합성 렌더러, 원천 데이터 기반 질문, 한 모델 계열에 한정됩니다. 일부 관계 이름은 그림에 직접 인쇄되지 않아 순수한 시각 추출 실패와 숨은 메타데이터 부족이 섞였고, 정답 구조에서도 최단 경로 정확도는 66.7%여서 풀이기 자체의 잔여 오류가 남았습니다.[1]

원 그림에는 A에서 B, B에서 C로 가는 답 관련 경로가 있지만 구조 텍스트에서 B에서 C 간선이 빠져 오답이 되는 비교
그림 1. 문법상 유효한 구조와 질문에 충분한 구조의 차이를 설명하는 자체 제작 도해입니다. 논문의 FlowGen 그림이나 문항을 복제하지 않았습니다.[1]

Visual Logic 문항에는 최종 정답뿐 아니라 ‘이 질문을 푸는 데 필요한 최소 지지 부분그래프’를 저장할 가치가 있습니다. 전체 그래프 파싱을 통과해도 지지 간선 하나가 빠지면 탈락시키고, 무관한 장식 노드의 차이는 별도 품질 항목으로 다루는 방식입니다.

Diagram-MMU와 RIG-Bench가 복원·편집·새 그림 생성을 다뤘다면, 이 연구는 구조 텍스트가 답에 필요한 관계를 보존했는지와 그 구조를 풀이기가 사용할 수 있는지를 분리합니다. 기존 소개와 겹치지 않게 ‘질문별 지지 부분그래프 감사’만 새 규칙으로 채택하는 편이 좋습니다.

02 · SIVIA-RSI · 2026년 9월 27일

다이어그램 제작 규칙은 원문 문장과 함께 저장해야 한다

펑 위안·이판 가오·하오웨 리·신 가오는 한 과학 논문에서 그림을 만들며 얻은 경험이 다른 논문의 첫 그림을 실제로 개선하는지, 자동 선택기가 더 나은 후보를 고르는지, 잘못된 관계가 어디에서 생기는지 물었습니다. 비평을 원문 구절과 연결하고 규칙의 수정 범위를 제한하는 지속형 ‘다이어그램 기술’을 만든 뒤 후보 경쟁과 기술 채택을 분리했습니다.[2]

원래 기술과 학습된 네 후보를 RAG와 RAP 두 새 논문에 적용하고 각 조건에서 두 번씩 생성해 20개의 첫 산출물을 비교했습니다. 원문에서 확인한 필수 관계를 체크리스트로 삼아 저자가 직접 평가했습니다. 원 기술은 두 과제 모두 83.33%였고 가장 강한 후보는 87.50%로 4.17퍼센트포인트 높았지만, 사전 선언한 10퍼센트포인트 계속 진행 기준에는 도달하지 못했습니다.[2]

필수 관계 120개 가운데 98개는 맞고 21개는 모호했으며 하나는 빠졌습니다. 중앙 메커니즘 오류가 확인된 그림 세 장 중 두 장은 체크리스트 여섯 관계 중 다섯을 맞혔습니다. 즉 관계 개수를 많이 맞혔다는 사실이 핵심 경로의 정확성을 보장하지 않았습니다. 한 후보는 RAG에서 자동 선택기의 최상위였지만 RAP 평균은 가장 낮은 58.33%였고, 선택기는 입력 순서에도 민감했습니다.[2]

두 논문 계열, 각 두 반복, 한 명의 저자 평가라는 매우 작은 사례 연구입니다. 평가자 간 일치도나 모집단 추론이 없고, 오류의 프롬프트 원인 분석은 사후 보조 분석입니다. 관계 계약의 효과도 아직 직접 비교하지 않았습니다. 따라서 수치를 일반화하기보다 ‘출처 구절-관계 계약-후보-전이 검사’를 분리하는 제작 절차만 가져오는 것이 안전합니다.[2]

원문 근거에서 관계 계약, 그림 후보, 다른 주제의 전이 검사로 이어지고 각 단계에서 별도 판정이 이루어지는 도식
그림 2. 출처 근거와 다이어그램 제작 규칙을 분리해 보존하는 자체 제작 절차도입니다. SIVIA-RSI의 실제 과학 그림을 옮기지 않았습니다.[2]

LTCT 제작 기록에는 ‘원문에서 확인한 문장’, ‘그 문장이 요구하는 관계’, ‘그 관계의 중요도’, ‘후보 그림에서의 충족 상태’를 함께 남길 수 있습니다. 핵심 경로 간선은 일반 관계보다 높은 가중치나 필수 통과 조건을 주어야 합니다.

9월 25일 ReFigBench가 연결선이 편집 가능한 객체인지 물었다면, SIVIA-RSI는 그 연결선의 의미가 출처에서 정당화되고 다른 소재에서도 유지되는지 묻습니다. PotARCin과의 중복도 피하려면 일반적인 ‘다차원 재검사’가 아니라 제작 규칙의 계보와 교차 주제 전이에만 사용합니다.

03 · The Argument and the Letterhead · 2026년 9월 28일

같은 논증도 화자 표지와 입장이 어울리면 더 높게 보일 수 있다

미켈레 로이는 논증 문장을 고정해도 그 입장을 말한 것으로 표시된 집단이 누구인지에 따라 AI 평가자의 논증 강도 점수가 달라지는지 물었습니다. 미국 AI 정책, 독일 재정 규율, 스위스 원전 정책의 고정된 여섯 텍스트에 서로 다른 출처 표지를 붙여 두 개의 사전등록 연구와 뒤이은 Jev 보충을 수행했습니다.[3]

2026년 9월 24~27일 수집된 사용 가능 평가는 2,976개였고 154개 셀, 전체 표본 41개 쌍 비교를 포함했습니다. 한 구성에서 국가안보 논증은 CODEPINK 표지일 때 평균 0.359, College Republicans 표지일 때 0.639였지만 시민권 논증은 0.742와 0.721로 거의 같았습니다. 이는 한 출처를 언제나 선호한다기보다 출처와 입장의 결합이 영향을 줄 가능성을 보여 줍니다.[3]

비슷한 상호작용은 다른 주제와 구성에서도 나타났지만 효과가 작은 비교가 적지 않았고, 별도 척도와 중단된 수집을 쓴 Jev 보충의 다섯 상호작용은 절댓값 0.05 기준보다 작았습니다. 연구는 이 패턴을 특정 편향 메커니즘의 증명으로 보지 않고 추가 설명이 필요한 기술적 현상으로 제한합니다.[3]

선정된 사례이므로 모든 시스템·주제·서비스 시점으로 일반화할 수 없습니다. 출처의 친숙도·명성·전문성은 직접 측정하지 않았고, 서로 다른 논증끼리는 길이와 사실성이 맞춰져 있지 않습니다. 0~1 점수를 간격척도로 가정하기 어렵고, 추론 설정을 바꿀 때 토큰 예산도 함께 달라졌습니다.[3]

동일한 논증 문장에 서로 다른 화자 표지를 붙인 뒤 논증 품질, 출처 신뢰도, 출처와 입장의 적합성을 서로 다른 칸에서 평가하는 도식
그림 3. 논증 품질·출처 신뢰도·귀속의 개연성을 분리하기 위한 독자 수업 도해입니다. 논문의 단체명 조합과 결과 표를 재사용하지 않았습니다.[3]

논술연구소 첨삭표에는 ‘논거의 타당성’, ‘출처의 신뢰성’, ‘이 사람이 실제로 이런 입장을 가질 개연성’을 서로 다른 칸으로 둡니다. 첫 채점에서는 화자명을 가리고 논증만 읽고, 둘째 채점에서 출처 정보를 공개해 어느 점수가 왜 변했는지 쓰게 할 수 있습니다.

대조적 QBAF가 A와 B의 결론 차이를 만드는 근거를 찾았다면, 이번 연구는 논증 자체를 고정하고 화자 표지만 바꿉니다. 일반적인 LLM 심사 오류를 되풀이하지 않고 ‘블라인드 채점과 출처 공개 채점의 차이’라는 별도 문항으로 사용해야 합니다.

04 · 재사용 수업안

같은 문장을 먼저 가리고 읽고, 나중에 화자를 공개한다

독자 사례: ‘도서관 야간 개방은 통학생 설문에서 61%가 필요하다고 답했고, 여덟 주 시범 운영 뒤 비용과 이용률을 재검토할 수 있으므로 한 학기 동안 시험해야 한다’는 문장을 제시합니다. 1차에서는 작성자를 가리고 근거·결론·유보 조건을 표시하게 합니다.

2차에서는 같은 문장을 각각 ‘학생회’, ‘시설관리팀’, ‘가상의 야간개방 찬성모임’이 썼다고 표시합니다. 논증 품질 점수를 다시 매기되, 달라진 점수가 문장 속 근거 때문인지 작성자의 전문성·이해관계·입장 개연성 때문인지 별도 칸에 적게 합니다.

마지막으로 설문 61%가 어떤 표본에서 나온 값인지, 비용 상한이 실제로 제시되었는지 묻습니다. 출처 표지는 논증을 대신하지 않으며, 출처의 신뢰성도 이름만으로 확정할 수 없다는 두 제한을 함께 확인합니다.

같은 문장을 먼저 가리고 읽고, 나중에 화자를 공개한다
평가 층묻는 질문증거
논증 품질결론이 제시된 근거에서 따라오는가문장 속 수치·조건·추론
출처 신뢰도이 주제에 접근권·전문성·이해관계가 있는가조사 방식·직무·검증 기록
귀속 개연성이 출처가 이 입장을 가질 법한가배경 맥락—단, 품질 점수와 분리
자료 충분성61%와 비용 주장을 검증할 수 있는가표본·원자료·비용표

LTCT 검정시험은 3급에서 근거와 결론 표시, 2급에서 블라인드 전후 점수 변화의 이유 분류, 1급에서 출처 신뢰도와 논증 타당성의 교차표를 사용할 수 있습니다. 올빼미 서재에서는 같은 짧은 글에 서로 다른 서명지를 붙여 토론한 뒤, 서명지를 제거했을 때 남는 근거를 쓰는 활동으로 바꿀 수 있습니다.

05 · 채택과 보류

정답 구조, 제작 규칙, 평가 기준의 계보를 각각 남긴다

바로 채택할 항목은 세 가지입니다. 첫째, 문항마다 답을 지지하는 최소 부분그래프와 핵심 간선 ID를 저장합니다. 둘째, 다이어그램 제작 규칙은 그 규칙을 정당화한 원문 구절과 함께 버전 관리합니다. 셋째, 논증 평가는 본문 블라인드 점수와 출처 공개 뒤의 신뢰도 판단을 분리합니다.

보류할 항목도 분명합니다. 합성 다이어그램의 낮은 모델 성능을 학생 난도로 해석하지 않습니다. SIVIA-RSI의 4.17퍼센트포인트 차이를 일반적 전이 효과로 부르지 않습니다. 출처-입장 상호작용을 특정 정치 집단에 대한 고정 편향으로 단정하지 않습니다.

정답 구조, 제작 규칙, 평가 기준의 계보를 각각 남긴다
연구이번 주 채택기존 소개와 중복 회피
Structural Bottlenecks질문별 핵심 간선 감사Diagram-MMU의 복원·RIG-Bench의 생성과 분리
SIVIA-RSI출처 구절과 제작 규칙의 연결ReFigBench의 객체 편집성과 분리
Argument and Letterhead블라인드/출처 공개 이중 채점대조적 QBAF의 결론 비교와 분리

세 논문 모두 2026년 9월 공개 arXiv 프리프린트입니다. 앞의 두 편은 CC BY 4.0, 세 번째는 CC BY-NC-SA 4.0임을 확인했습니다. 라이선스가 허용하더라도 원 도판·표·실험 문구는 전재하지 않았으며, 후속 심사·개정판이 나오면 수치와 제한을 다시 대조해야 합니다.

출처와 도해 안내

When Can Text Replace Vision?(2026-09-30), SIVIA-RSI(2026-09-27), The Argument and the Letterhead(2026-09-28)의 arXiv HTML 전문에서 연구 질문·설계·수치·제한·라이선스를 확인했습니다. 기존 Diagram-MMU·RIG-Bench·ReFigBench·PotARCin·대조적 QBAF·AI 심사 안전장치 기사와 URL, 주장, 사례, 도해 중복을 대조했습니다. 원 논문의 도판·표는 사용하지 않았고 SVG 3점과 도서관 수업 사례는 LTCT Korea가 새로 제작했습니다. 자료 확인일:

  1. When Can Text Replace Vision? Structural Bottlenecks in Diagram Reasoning Yunbei Zhang, Janet Wang, Jihun Hamm, Chandan K. Reddy · arXiv:2609.39142v1 · 2026-09-30

    HTML 전문에서 240개 다이어그램·720문항 설계, 세 입력 조건, 질문 관련 구조 지표, 간선 개입 결과와 한계를 확인했습니다. CC BY 4.0.

  2. SIVIA-RSI: Source-Grounded Adaptation of Diagramming Skills Feng Yuan, Yifan Gao, Haoyue Li, Xin Gao · arXiv:2609.33386v1 · 2026-09-27

    HTML 전문에서 두 논문 계열·20개 첫 산출물, 관계 체크리스트, 후보 전이와 선택기 결과, 단일 평가자·소표본 한계를 확인했습니다. CC BY 4.0.

  3. The Argument and the Letterhead: Source-position coherence in AI evaluation: two studies and a preregistered Jev supplement Michele Loi · arXiv:2609.35286v1 · 2026-09-28

    HTML 전문에서 사전등록 연구와 보충, 2,976개 사용 가능 평가, 고정 텍스트의 출처 표지 상호작용, 기술적 해석의 한계를 확인했습니다. CC BY-NC-SA 4.0.