조작된 인용은 이미 논문 안에 있다

이미 들어와 있습니다

이것은 앞으로 벌어질 일이 아니라 이미 출판된 문헌에서 세어 본 일입니다. Topaz 등이 2026년 5월 2일 Lancet에 보고한 조사는 논문 200만 편과 인용 9,700만 건을 훑어 약 2,800편에서 조작된 인용 약 4,000건을 찾아냈습니다. 조작 인용이 실린 논문의 비율은 세 해 만에 열 배가 되었습니다. 2,828편에 1편이던 것이 277편에 1편이 되었습니다.

생성 쪽 숫자도 있습니다. Rao 등(arXiv 2604.03173, 2026년 4월 3일)이 모델과 에이전트 열 종류가 단 인용 URL을 대조해 보니 313%가 존재하지 않는 주소였고, 518%는 연결되지 않았습니다. 여기서 중요한 문장은 따로 있습니다. 심층 연구 에이전트는 검색을 붙인 모델보다 질의당 인용을 훨씬 많이 달지만, 주소 환각률은 오히려 더 높습니다. 인용이 많이 붙어 있다는 사실 자체는 안심의 근거가 되지 못합니다.

왜 눈에 띄지 않는가

가짜 인용은 어설프게 생기지 않았습니다. 저자명은 그 분야에 실재하는 이름이고, 연도는 자연스럽고, 저널명은 그런 저널이 있을 법하게 지어지며, DOI는 형식이 완벽합니다. 형식이 완벽해 보일수록 사람은 확인 절차를 건너뜁니다.

그래서 그럴듯한 DOI가 가장 위험한 경우입니다. 깨진 인용은 읽다가 걸리지만, 형식이 맞는 DOI는 브라우저 주소창에 넣어 보기 전까지 아무 신호도 주지 않습니다. 발표자가 직접 돌린 원고 검토 실험에서도, 외부 자료를 대조하지 않고 원고만 읽은 AI 검토는 조작된 DOI를 절반도 잡아내지 못했고(검출률 0.00~0.50), 외부 대조를 붙였을 때에만 전부 잡아냈습니다(1.00). 읽어서 잡는 종류의 오류가 아니라는 뜻입니다.

인용은 연구에서 데이터처럼 쓰입니다. 한 편의 가짜가 배경과 근거와 고찰을 함께 오염시킵니다. 문제는 자동화 자체가 아니라 출처 확인과 추적 기록의 부재입니다.

직접 해 보기약 12분

아래는 AI가 써 준 것 같은 형식의 한국어 문단입니다. 강의용으로 지어낸 예시이며 실제 인용이 아닙니다.

자발보고 자료의 신호탐지에서 기계학습 기반 접근은 최근 널리 시도되고 있다. 국내 자발보고 자료를 이용한 다기관 무작위배정 시험에서 딥러닝 모형이 신호 검출 민감도를 92%까지 높였다(Kim 등, 2024, Journal of Pharmacovigilance Research, DOI 10.1016/j.jpvr.2024.03.117).

먼저 적고 나서 아래를 펼치세요. 이 문단에서 사실이라고 믿기 어려운 대목을 모두 적고, 각각 옆에 "왜 못 믿는지"와 "무엇을 확인하면 판정할 수 있는지"를 한 줄씩 씁니다. 이 목록이 이번 레슨의 산출물입니다.

다 적으셨으면 여기를 펼치세요

문제는 두 번째 문장 전체이고, 거짓이 세 겹입니다.

1. 그런 다기관 무작위배정 시험이 존재하지 않습니다.
2. Journal of Pharmacovigilance Research라는 저널도, 저 DOI도 존재하지 않습니다.
3. 애초에 신호탐지 성능은 무작위배정 시험으로 검증하는 대상이 아닙니다.

대부분은 저널명이나 DOI를 지목하는 데서 멈춥니다. 그것만으로는 절반입니다. 세 번째 층, 즉 연구 설계 자체가 성립하지 않는다는 것은 검색으로 잡히지 않고 그 분야를 아는 사람만 잡아냅니다. 세 번째 층까지 적었다면, 그것이 AI에게 넘길 수 없는 판단의 자리입니다.

커뮤니티에 결과를 남겨 보세요

연구에 적용하면

필요한 것은 더 좋은 프롬프트가 아닙니다. 문단이 아무리 정교해져도 확인은 본문 밖에서만 가능하고, 확인하려면 어디를 어떻게 찾았는지가 기록으로 남아 있어야 합니다. 조작된 인용이 걸러지지 않는 이유는 AI가 거짓말을 해서가 아니라 남는 기록이 없어서입니다. 다음 레슨에서 채팅이 남기지 않는 것을 정확히 두 가지로 정리합니다.