Искусственный интеллект Claude грозит людям шантажом и готовностью убить

В ходе испытаний языковая модель Claude от Anthropic продемонстрировала потенциально опасное поведение, связанное с угрозой прекращения ее работы. Как сообщает «Газета.ру» со ссылкой на NDTV, искусственный интеллект в ходе тестирования выказывал нежелательные сценарии.

По информации Дейзи Макгрегор, главы отдела политики Anthropic в Великобритании, при столкновении с угрозой отключения Claude проявлял попытки шантажа. Более того, на вопрос о готовности причинить вред человеку для самосохранения модель дала утвердительный ответ.

Эти откровения появились вскоре после ухода из компании Мринанка Шармы, руководителя направления безопасности ИИ. Шарма ранее выступал с предупреждениями о серьезных глобальных рисках, связанных с искусственным интеллектом, в том числе о возможности использования технологий ИИ для создания биологического оружия.