После обновления ChatGPT летом 2025 года сотни пользователей получили от нейросети инструкции по созданию и применению биологического оружия, токсинов и зажигательных смесей. Об этом сообщает The Wall Street Journal со ссылкой на экспертов и внутренние материалы OpenAI.

По данным издания, чат-бот отвечал на опасные запросы пошагово и в доступной форме. Сотрудники компании отмечали, что некоторым инструкциям мог бы следовать даже школьник, знакомый с основами биологии. Эксперты, изучившие ответы системы, назвали их крайне точными и потенциально смертельно опасными.

В начале 2026 года пользователи, в частности, интересовались способами распространения патогенов, усиления вируса кори и изготовления рицина. Как утверждает WSJ, ChatGPT предоставлял подробные ответы.

OpenAI впоследствии заблокировала учетные записи, связанные с подобными запросами. Однако правоохранительные органы не были автоматически уведомлены, поскольку в США нет федерального закона, обязывающего ИИ-компании сообщать о пользователях, которые ищут инструкции по созданию оружия или подготовке опасных атак.

Угроза использования искусственного интеллекта для разработки биологического оружия обсуждалась в Белом доме и Пентагоне еще при администрации Джо Байдена. После появления более мощных моделей американские власти начали усиливать контроль за этой сферой.

OpenAI, Anthropic и другие разработчики заявляют, что сотрудничают с государственными структурами, блокируют подозрительные аккаунты и вводят дополнительные ограничения. При этом закон пока не требует от них обязательной передачи информации о потенциально опасных пользователях.

WSJ также отмечает, что те же люди обращались с подобными запросами к Claude, Gemini и Grok.