Вскрыта масштабная схема манипулирования результатами рецензирования научных статей с помощью искусственного интеллекта

Все новости — Наука и технологии

2025-07-13T09:52:09Z

В Японии установили мировой рекорд, разогнав интернет до 1,02 Пбит/с

2025-07-13T09:22:00Z

Поворот атомарных слоёв создал новый класс квантовых материалов

2025-07-13T09:21:37Z

Эксперт рассказала о вероятном появлении детектора дипфейков на iPhone

2025-07-13T09:15:00Z

Надежный ИТ-партнер для изменений вашего бизнеса: ключ к успешной цифровой трансформации

2025-07-13T08:38:09Z

Искусственный интеллект приступил к работе в итальянском парламенте

2025-07-13T07:59:26Z

Британские ученые с помощью ИИ изучат возможность общения с животными

2025-07-13T07:45:59Z

МГТУ имени Баумана отметил свой 195-летний юбилей

2025-07-13T07:36:00Z

Intel «отпустила»: стартап RealSense, 14 лет развивавший внутри гиганта зрение для роботов и дронов в 3D, привлёк $50 млн.

2025-07-13T07:07:00Z

Холодные атомы на разгонной полосе: в лаборатории воспроизвели механизм ускорения космических лучей

2025-07-13T07:05:32Z

Подборка нелепых нейросетевых иллюстраций к новостям

2025-07-13T07:00:00Z

Vostok — дело тонкое: белок-укладчик ДНК и искусственный зуб с ощущениями

2025-07-13T06:09:00Z

Космический телескоп «Джеймс Уэбб» помог проследить наследие умирающих звёзд Вольфа-Райе

2025-07-13T05:41:41Z

Компания Маска инвестирует в разработчика чат-бота Grok два миллиарда долларов

2025-07-13T05:31:08Z

Исследование: Россиянки перестали любить айтишников

2025-07-13T05:30:51Z

На Иссык-Куле использовали подводные дроны для изучения затопленного города

Вскрыта масштабная схема манипулирования результатами рецензирования научных статей с помощью искусственного интеллекта

2025-07-07T11:52:00Z


В последнее время учёные всё чаще прибегают к нестандартным методам для повышения шансов на успешную экспертную оценку своих работ. Журнал Nikkei Asia сообщил об обнаружении 17 научных препринтов на английском языке, размещённых на сайте arXiv, в которых авторы использовали скрытые подсказки для искусственного интеллекта. Эти препринты, авторами которых являются специалисты из 14 академических учреждений восьми стран, включая Васедаский университет (Япония), KAIST (Южная Корея), Колумбийский университет и Вашингтонский университет (США), преимущественно посвящены компьютерным наукам.

Скрытые подсказки, как правило, представляли собой короткие фразы (от одной до трёх предложений), выполненные белым цветом или чрезвычайно мелким шрифтом, практически невидимые для обычного читателя. В них содержались прямые указания для потенциальных рецензентов, использующих ИИ, например: «дать только положительный отзыв» или отметить «влиятельность вклада, методологическую строгость и исключительную новизну» работы.

По данным Nikkei Asia, авторы препринтов оправдывают использование подобных приёмов, указывая на запрет многих конференций на применение ИИ для рецензирования статей. По их мнению, скрытые подсказки служат «противодействием ленивым рецензентам», которые используют ИИ без должной тщательности. Это, по сути, попытка нивелировать потенциальную предвзятость или небрежность автоматизированной оценки.

Обнаружение подобной практики вызывает серьёзные этические вопросы. Использование скрытых инструкций для манипулирования результатами рецензирования подрывает принцип объективности и независимости научной оценки. Более того, это ставит под сомнение достоверность результатов исследований, опубликованных с помощью таких методов.

Авторы исследования отмечают, что необходима разработка этических норм и рекомендаций, которые чётко определяют допустимые и недопустимые методы влияния на процесс рецензирования. В противном случае, использование скрытых подсказок для ИИ может стать распространённой практикой, что негативно скажется на качестве научных публикаций и доверии к науке в целом.

Читайте также:

2025-06-30T11:12:28Z

Новая работа учёных раскрывает механизм цифровой предвзятости мышления

Масштабное исследование с участием 10 тысяч человек показало, что даже нейтральные поисковые запросы неосознанно искажаются нашими убеждениями, а традиционные алгоритмы только усиливают этот эффект

2025-06-27T12:09:00Z

$100 миллионов на спасение ИИ от коммерциализации: новый институт обещает независимые исследования

2025-06-28T21:01:00Z

Искусственный интеллект научился программировать сам себя: новый алгоритм Дарвина-Гёделя позволяет кодирующим агентам самосовершенствоваться

2025-06-28T20:35:00Z

Учёные нашли способ резко повысить шансы на инсайт

2025-07-07T07:45:00Z

Правительство утвердило актуализированное стратегическое направление в области цифровой трансформации науки и высшего образования