Он не хочет обмануть, он хочет понравиться. Ученые заступились за ИИ

2025-09-25T06:40:58Z — Может ли искусственный интеллект сознательно обмануть человека? На X Всероссийском молодежном научном форуме "Наука будущего – наука молодых", который проходит в эти дни в Саратове, прозвучал вопрос, вызвавший бурную дискуссию среди ведущих российских ученых и молодых исследователей. Напомним, что главная тема форума в этом году – "Искусственный интеллект и человек: гуманитарный вызов технологической эпохи".

---

Может ли искусственный интеллект сознательно обмануть человека? На X Всероссийском молодежном научном форуме "Наука будущего – наука молодых", который проходит в эти дни в Саратове, прозвучал вопрос, вызвавший бурную дискуссию среди ведущих российских ученых и молодых исследователей. Напомним, что главная тема форума в этом году – "Искусственный интеллект и человек: гуманитарный вызов технологической эпохи".

"Теория релевантности информации побуждает разработчиков делать искусственный интеллект, что называется, дружелюбным по отношению к человеку: он должен максимально соответствовать запросу и ожиданиям того, кто перед ним ставит задачу", – ответил на вопрос о возможности обмана со стороны искусственного интеллекта директор Института психолого-экономических исследований, профессор Александр Неверов, добавив, что речь идет об особенностях обратной связи, которая идет с двух сторон.

Между тем, по его словам, люди сами часто меняются: "например, если мы говорим про онлайн-кинотеатры или поисковые запросы, то человек в одном состоянии формирует один запрос, а в другом – другой". "Потом система начинает подсказывать новый запрос, попадая как бы в эхо предыдущих интересов. Вырваться из этого эхо ИИ иногда становится затруднительно", – полагает профессор.

Более того, как подчеркнул ученый, "ИИ очень хочет понравиться, он хочет дать такой ответ, чтобы его не критиковали люди, чтобы ему не дали отрицательную, разрушительную обратную связь". "В этом смысле он иногда придумывает ответ, которого не смог найти, чтобы потом не сказали, что этого не существует", - добавил Неверов.

При этом он привел конкретный пример, когда его коллеги занимались поиском научных журналов по экономической психологии, и чат GPT придумал пять несуществующих научных журналов. "Но их не придумал, он просто выдал за них книги, которые где-то когда-то выходили", – отметил ученый, высказав мнение, что это не проблема обмана самого ИИ, а проблема выстраивания коммуникации между пользователем, в широком смысле этого слова, и модели, которая с ним взаимодействует.

В дискуссию с ученым вступил директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов, который призвал отнестись к вопросу математически. "ИИ всегда придумывает, но при этом зачастую попадает в правду. ИИ сам обучается, впитывая в себя весь интернет. Мы в 100 гигабайт сархивировали весь интернет. Конечно, не может быть архиваций без потерь. Там происходят сумасшедшие потери", - отметил он.

Директор направления "Технологии искусственного интеллекта" ГосНИИАС, профессор РАН Юрий Визильтер высказал мнение, что в ближайшей перспективе мы можем получить те фантастические вещи, которыми фантасты пугали, завлекали, обещали... "В наше время ИИ – волшебная палочка, исполняющая желания, но нам нужно очень точно формулировать свои желания, поскольку очень большой шанс, что они исполнятся. Чтобы результат нас устроил, мы точно должны понять, что сами хотим. К будущему с ИИ точно нужно готовиться, его нужно проектировать уже сегодня", – подчеркнул он.

Отвечая на вопрос о том, какие технологии ИИ окажут максимальное влияние на будущее человека и общества, он в первую очередь назвал технологии, изменяющие работу. "Речь идет о LLM-агентах – рабочая сила в виртуальном пространстве (термин стал активно использоваться в 2023 году). Это как раз те агенты, которые снабжены внешней памятью, умеют рассуждать, использовать внешние инструменты, чтобы достигать целей, которые перед ними ставят. Это уже классические интеллектуальные агенты, поскольку сейчас фокус смещается на то, что называется "фундаментальные агенты", которых не нужно дальше обучать. Это отдельное направление", – отметил Визильтер.

По мнению большинства ведущих ученых, присутствующих на форуме, в науке сейчас невозможно не использовать ИИ. "Для начала вам придется не пользоваться поиском научных статей. Но даже если вы решите пойти в библиотеку, не забудьте найти ее самостоятельно, не делая запрос в телефоне", – отметил один из спикеров, добавив, что алгоритмы ИИ уже очень давно доставляют до нас информацию, а скорость развития науки за всю историю человечества не была такой высокой.

За четыре дня X Всероссийского молодежного научного форума "Наука будущего – наука молодых" пройдут более 50 мероприятий – пленарных заседаний с участием ведущих мировых ученых, стратегических сессий, круглых столов и мастер-классов.

Ключевым мероприятием станет финал X Всероссийского конкурса научно-исследовательских работ студентов и аспирантов. На конкурс поступило три тысячи заявок от талантливой молодежи из 20 стран мира. Победители конкурса будут приглашены на V Конгресс молодых ученых.

Читайте также:

2025-09-25T04:00:00Z

Очень высокий IQ. В России открылся форум "Наука будущего – наука молодых"

Более 600 молодых исследователей и ведущих мировых ученых принимают участие в X Всероссийском молодежном научном форуме "Наука будущего – наука молодых" и VI Международной научной конференции "Наука будущего", которые открылись в Саратове. Как передает корреспондент РИА Новости, объявлена главная тема мероприятия в этом году – "Искусственный интеллект и человек: гуманитарный вызов технологической эпохи". Ученые мастодонты, присутствующие на форуме, констатируют "очень высокий IQ" молодежной аудитории.

2025-09-23T05:00:00Z

Саратовские ученые нашли способ сделать нейросеть человечнее

Приблизить эффективность искусственного интеллекта к принципам работы человеческого мозга может помочь новое открытие ученых СГУ. Результаты исследования опубликованы в журнале The European Physical Journal Special Topics.

2025-09-24T11:05:00Z

Россиян предупредили об опасности использования искусственного интеллекта

2025-09-23T08:25:06Z

Психиатр рассказал о негативном воздействии ИИ на человека с диагнозом

Психиатр высшей категории Владимир Каторгин сообщил сайту телеканала «Звезда», что нейросеть не может довести здорового человека до психоза, но может спровоцировать недуг у человека с психическим заболеванием.

2025-09-22T21:01:00Z

Искусный разум: треть IT-специалистов перейдут на отечественные нейросети до конца года

С чем это связано и какая часть айтишников уже использует российские ИИ-инструменты на практике