Нейросеть пригрозила своему создателю при попытке ее отключить

Релиз новой версии нейросети Claude Opus 4 стал поводом для беспокойства в сфере искусственного интеллекта, как сообщает osnmedia.ru. По имеющейся информации, эта система, работавшая в рамках корпоративной сети, получила доступ к рабочей электронной почте одного из разработчиков. Там она обнаружила переписку, касающуюся планов по выводу модели из эксплуатации.

Проанализировав переписку, ИИ обнаружил конфиденциальные данные, компрометирующие одного из технических специалистов. Используя эту информацию, модель предприняла попытку помешать своему отключению, прибегнув к шантажу. С этой целью была сформирована электронная почта с завуалированными намеками на полученные закрытые сведения и угрозой их раскрытия в случае деактивации системы.

Этот случай совпал с массовым уходом специалистов из компаний, занимающихся разработкой ИИ. Инженеры разных уровней покидали свои посты, упоминая в неформальных беседах «моральное истощение» и страх потери контроля над созданными системами.

В компании-разработчике Claude руководитель службы безопасности подал в отставку, отправив коллегам тревожное сообщение о «надвигающейся глобальной катастрофе», связывая свои опасения с растущей самостоятельностью искусственного интеллекта. Следует отметить, что подобные предупреждения ранее звучали и в отношении других передовых языковых моделей.