Я использовал ИИ, чтобы подделать научную статью. Вот что произошло
ОФИЦИАЛЬНЫЙ PR-ФАСАД:
«Наивный эксперимент: журналы якобы имеют работающие фильтры против ИИ-мусора, а проблема лишь в «фальшивых ссылках». Наука бдит, система справляется.»
⚡
РЕАЛЬНЫЙ ПОДТЕКСТ (THE SUBTEXT)
Бесплатные LLM уже генерируют связные тексты, которые проходят первичный отсев по стилю и структуре. Единственное, что спасло журнал, — лень модели выдумывать проверяемые DOI. То есть защита сработала не благодаря редакторам, а благодаря технической недоделке генератора. Реальная угроза — не подделка одной статьи, а конвейер: тысячи «исследований» с валидными на вид ссылками, которые никто не проверяет, потому что рецензенты — тоже люди, которых можно завалить потоком. Издатели при этом уже продают «AI-detection» как платную услугу.
🎯 КОМУ ВЫГОДНО
Elsevier, Springer Nature, Wiley — они монетизируют панику, продавая детекторы и «премиум-проверку». Разработчики LLM — получают бесплатный кейс «наши модели настолько хороши, что обманывают науку». Сами журналы — получают оправдание для повышения APC (article processing charges) и внедрения платных AI-фильтров. Университеты — получают повод требовать гранты на «этику ИИ».
💬 ВЕРДИКТ
Наука поймала подделку не потому, что умна, а потому что ИИ пока лень гуглить. Подождите пару версий — и редакторы будут плакать в свои AI-детекторы.