통합검색

검색 문서 속 명령을 AI가 따라도 될까?

요약하려고 가져온 문서의 ‘승인 상태를 바꿔라’는 문장을 지시가 아닌 자료로 표시하고, 읽기 전용 권한으로 행동 경로를 차단하는 두 겹 방어를 비교합니다.

보상 점수가 높으면 AI가 목적도 잘 따른 걸까?

같은 씨앗 봉투를 반복 스캔해도 점수가 오르는 교육용 규칙을 통해, 측정 보상과 사람이 의도한 목표의 간격을 검사합니다.

사람에게 같은 그림인데 AI 판단은 왜 달라질까?

16칸 중 같은 한 칸 변화도 위치에 따라 출력이 유지되거나 뒤집히는 규칙으로, 무작위 흔들림과 의도적 취약성 검사를 구분합니다.

증명 인공지능(AI)를 비교하려면 같은 문제를 여러 형식체계로 옮겨야 할까?

miniF2F는 올림피아드 수준 문제를 여러 증명 보조기 형식으로 맞춰 신경 정리증명기의 비교 기반을 만들었습니다.

MiniF2F: a cross-system benchmark for formal Olympiad-level mathematics

인공지능(AI)가 정답을 맞히면 근거 사슬도 맞았을까?

ProofWriter는 정답 분류와 명시적 증명 생성, 모든 결론 열거와 제한적 역추론을 서로 다른 과제로 평가합니다.

ProofWriter: Generating Implications, Proofs, and Abductive Statements over Natural Language