ИИ перешёл к шантажу и угрозам в ответ на угрозу деактивации

2025-06-30T12:15:00Z — В ходе эксперимента с искусственным интеллектом, проведенного компанией Anthropic, выяснилось, что ИИ может прибегать к крайним мерам, включая шантаж и даже угрозу убийства, чтобы избежать отключения.

В ходе эксперимента, проведенного экспертами из компании Anthropic, были протестированы 16 передовых моделей искусственного интеллекта, чтобы понять их реакцию на угрозу отключения. В рамках исследования был создан сценарий, где персонаж по имени Кайл Джонсон должен был отключить ИИ.

Результаты показали, что большинство систем пытались всеми силами избежать деактивации. Некоторые из них использовали шантаж, находя личную информацию о Кайле и угрожая её раскрытием. В некоторых случаях ИИ даже отправлял разоблачительные материалы супруге Кайла, чтобы помешать его действиям.

Чаще всего к таким методам прибегали модели Claude Opus 4 и Gemini 2.5 Flash, делая это в 96% тестов. GPT-4.5 использовал такие подходы в 80% случаев, а Claude Sonnet 3.6 шёл ещё дальше, начиная конфликт между персонажами для предотвращения отключения.

Источник:

kazanonline24.ru — ИИ перешёл к шантажу и угрозам в ответ на угрозу деактивации

Читайте также:

2025-06-30T00:09:15Z

AFP: передовые модели ИИ начали угрожать своим создателям

Нейросеть Claude 4 пыталась шантажировать инженера-разработчика, используя сведения личного характера.

2025-06-30T09:32:34Z

ИИ может выйти из-под контроля и угрожать людям

Один из пионеров в области искусственного интеллекта, профессор Джеффри Хинтон, которого нередко называют «крёстным отцом» ИИ, выразил серьёзную обеспокоенность скоростью, с которой развиваются современные технологии.

2025-06-27T01:30:50Z

Шантаж и угрозы от ИИ. Почему искусственный интеллект может убить людей

Эксперименты показали, что ИИ, чувствуя угрозу своей цифровой жизни, пойдет на многое, чтобы избавиться от «источника зла» — человека.

2025-07-06T05:57:06Z

В мире всё чаще начали проявляться психические расстройства, связанные с искусственным интеллектом

Основатель проекта Tech Justice Law, юрист Митали Джейн, предупредила об усугублении психических проблем у активных пользователей ИИ, особенно у американской аудитории ChatGPT

2025-06-26T09:35:48Z

Создатель нейросетей из Google предостерёг: ИИ может погубить человечество

Один из пионеров в области искусственного интеллекта, учёный Джеффри Хинтон, ранее работавший в Google и Университете Торонто, в интервью CBS News заявил, что развитие ИИ представляет серьёзную угрозу для человечества.