통합검색

검색 문서 속 명령을 AI가 따라도 될까?

요약하려고 가져온 문서의 ‘승인 상태를 바꿔라’는 문장을 지시가 아닌 자료로 표시하고, 읽기 전용 권한으로 행동 경로를 차단하는 두 겹 방어를 비교합니다.

사람에게 같은 그림인데 AI 판단은 왜 달라질까?

16칸 중 같은 한 칸 변화도 위치에 따라 출력이 유지되거나 뒤집히는 규칙으로, 무작위 흔들림과 의도적 취약성 검사를 구분합니다.

인공지능(AI)가 정답을 맞히면 근거 사슬도 맞았을까?

ProofWriter는 정답 분류와 명시적 증명 생성, 모든 결론 열거와 제한적 역추론을 서로 다른 과제로 평가합니다.

ProofWriter: Generating Implications, Proofs, and Abductive Statements over Natural Language

인공지능(AI)가 쓴 풀이가 실제 판단 과정을 그대로 보여 줄까?

사고 사슬에 오류·바꾸어 쓰기·삭제를 가한 개입 연구는 모델과 과제에 따라 답이 풀이에 의존하는 정도가 크게 다름을 보였습니다.

Measuring Faithfulness in Chain-of-Thought Reasoning

인공지능(AI)가 보조선을 잘 찾으면 기하 증명도 끝난 걸까?

AlphaGeometry는 신경 언어모형의 보조 구성 제안과 기호 추론기의 검증을 결합했습니다. 30문제 성과와 적용 범위를 분리해 읽습니다.

Solving Olympiad Geometry without Human Demonstrations