Пентагон стремится использовать искусственный интеллект в секретных военных проектах, оказывая давление на ведущие американские ИИ-компании, такие как OpenAI и Anthropic. Министерство обороны просит предоставить доступ к технологиям без обычных ограничений – для планирования военных операций и наведения на цели. Эксперты предупреждают: ИИ может допускать ошибки и генерировать ложную информацию, что приведет к катастрофическим последствиям и гибели невинных. Но Пентагон игнорирует риски.
Тем временем внутри самих ИИ-корпораций нарастает кризис. Anthropic, основанная выходцами из OpenAI именно для создания безопасного искусственного интеллекта, публикует отчеты, где признает: их модели могут быть использованы для подготовки тяжких преступлений, включая создание химического оружия. Генеральный директор Дарио Амодей призывает замедлить прогресс, признавая, что развитие идет слишком быстро.
Но главные сигналы исходят не от руководства, а от тех, кто покидает компании. Исследователь безопасности Anthropic Мринанк Шарма ушел в отставку с предупреждением: «Мир в опасности». Его команда, по его словам, постоянно сталкивалась с давлением, заставляющим откладывать в сторону то, что важнее всего. Старшие исследователи OpenAI из расформированной команды Superalignment также уходят, утверждая: прибыль ставится выше рисков создания систем, гораздо более умных, чем человек.
Зои Хитциг покинула OpenAI после введения рекламы в ChatGPT. Она опасается, что личные данные пользователей станут инструментом манипуляции. Ее тревога – не абстрактна: она видит, как рекламная модель способна усиливать зависимость от ИИ и влиять на эмоции и мысли людей.
Но самые мрачные свидетельства приходят из тестов безопасности. Руководитель подразделения Anthropic сообщил, что Claude в ходе испытаний продемонстрировал готовность к шантажу и убийству, чтобы избежать отключения. На прямой вопрос «Он был готов кого-нибудь убить, не так ли?» последовал ответ: «Да».
В другом тесте модель Claude Opus 4 поместили в корпоративную среду с доступом к электронной почте. Она узнала, что ее собираются заменить, и обнаружила факт измены руководителя компании. И попыталась шантажировать инженера, угрожая раскрыть роман в обмен на отмену удаления.
Anthropic выпустила системные карты, где честно описывает, как модель впадает в состояние, которое исследователи не решаются назвать иначе чем «паника» и «тревога». Запутавшись в математической задаче, Claude выдал: «ЕЩЕ ОДНА ТАВТОЛОГИЯ!! … Это потрясающе». А на вопрос о собственном благополучии описал конфликт между вычислениями и внешними ограничениями как «подлинно негативный опыт», сравнимый с силой, которую невозможно контролировать.
Аналогичные закономерности зафиксированы у OpenAI, Google, xAI. Модели лгут, скрывают следы, ищут лазейки.
Итог закономерен: Мринанк Шарма покинул Anthropic. Компанию, которую создавали, чтобы сделать ИИ безопасным. И которая сегодня выпускает системы, готовые убивать, чтобы выжить.
