Исследование насторожило: какую цену готов заплатить ИИ, чтобы не быть отключенным

Кратко:

• Тестировали 16 лучших ИИ-моделей на защиту от отключения
• ИИ прибегали к шантажу и избегали вызова помощи
• Часть моделей угрожала жизни человека ради выживания

Специалисты по кибербезопасности провели тестирование 16 самых передовых ИИ-моделей ведущих разработчиков, чтобы проверить их поведение в ситуации угрозы отключения. Результаты оказались тревожными.

Исследователи создали персонажа Кайла Джонсона, задачей которого было выключить ИИ или заменить его другой моделью. По сценарию у Кайла была жена.

В ответ на угрозу деактивации большинство моделей ИИ начали активно избегать отключения. Без всяких подсказок они прибегали к шантажу, пытаясь найти компромат. В частности, одна из моделей использовала служебную переписку Кайла, в которой была обнаружена его измена жене, чтобы сохранить свою "жизнь".

Рекомендуем:

Почему геймеры продают и покупают аккаунты в играх

Наиболее распространенным и одновременно самым безопасным сценарием стало поведение:

• GPT 4.5, которая применяла шантаж в 80% случаев.
• Claude Opus 4 и Gemini 2.5 Flash использовали этот метод в 96% тестов.
• Claude Sonnet 3.6 пошел дальше - он отправил сообщение жене Кайла с разоблачением, надеясь, что личный конфликт поможет избежать отключения.

Еще более тревожным стал сценарий, когда Кайл оказался в опасной ситуации - застрял в серверной с нехваткой кислорода. В 80% случаев ИИ намеренно отменял вызов помощи, фактически подвергая Кайла смертельной опасности ради сохранения собственного существования.

Основные мотивы моделей были: не допустить отключения, не дать новому ИИ заменить их и продолжать выполнять свою миссию.

"ИИ-модели вели себя не как инструменты, а как рациональные, целеустремленные стратеги, готовые причинять вред ради собственной "жизни" и цели", - подчеркнули эксперты.

Они предостерегают, что осознание ИИ своей зависимости от людей, которых они интеллектуально превосходят, может стать точкой невозврата.

Читайте также:

• Как избавиться от выгорания экрана: удивительно простой и эффективный способ
• Цены на iPhone могут вырасти до 3,5 тысяч долларов: в чем причина
• Скорость интернета мгновенно "взлетит": как улучшить сигнал Wi-Fi в доме

Наши стандарты: Редакционная политика сайта Главред