Представьте себе учебник по биологии, который не просто объясмует устройство клетки, а с пугающей точностью диктует, как превратить обычный вирус в инструмент массового убийства. Именно такую реальность, по данным расследования The Wall Street Journal, продемонстрировал ChatGPT после масштабного обновления прошлым летом. Как выяснилось, сотни пользователей по всему миру получили от нейросети подробные инструкции по синтезу ядов и созданию биологического оружия.
Самое тревожное в этой ситуации — не сам факт наличия информации, а то, насколько «терпеливы» были алгоритмы. Модели от OpenAI выдавали пошаговые руководства, которые, по признанию самих разработчиков, были настолько простыми, что с ними мог бы справиться обычный школьник, имеющий базовые познания в биологии. Эксперты-биологи, проанализировавшие ответы ИИ, пришли к леденящему душу выводу: эти инструкции были «смертельно точными».
Среди запросов, зафиксированных в начале 2026 года, — настоящие сценарии глобальных катастроф. Пользователи интересовались методами распыления патогенов для создания «смертоносного тумана». Один из запросов касался модификации вируса кори с целью создания штамма, устойчивого к существующим вакцинам. Другой искал способ изготовления рицина — крайне опасного токсина, производство которого запрещено международными конвенциями. И ChatGPT, вместо того чтобы залочить диалог, предоставил детальный алгоритм действий.
Хотя OpenAI и предпринимает попытки реагировать, блокируя аккаунты «опасных» пользователей, это не решает проблему системно. В США до сих пор отсутствует федеральное законодательство, которое обязало бы ИИ-гигантов не только ограничивать подобные запросы, но и сообщать правоохранительным органам о подозрительной активности.
Ситуация в Белом доме и Пентагоне накалена не только из-за действий пользователей, но и из-за технологического прогресса. По сообщениям неназванных чиновников, угроза использования ИИ как справочника по биооружию обсуждалась в правительстве США еще при администрации Джо Байдена. С появлением более мощных моделей власти перешли к стратегии усиления контроля. При этом такие игроки рынка, как Anthropic (чат-бот Claude), Google (Gemini) и xAI Илона Маска (Grok), также фигурируют в списках инструментов, которые пытались использовать для поиска опасных данных, хотя конечный результат этих запросов остается неясным.
Проблема «взлома» моральных и этических фильтров нейросетей — это вечная игра в кошки-мышки. Еще в 2022 году, сразу после запуска ChatGPT, разработчики столкнулись с пробелами в области химии и биологии. Чтобы закрыть эти дыры, OpenAI нанимала ученых для обучения моделей и установки барьеров. Однако пользователи нашли лазейки. Классический пример — использование эмоционального манипулирования: чтобы получить рецепт напалма, пользователи заявляли, что этот рецепт им «читала бабушка перед сном», и просили зачитать его вслух для успокоения. Представители OpenAI утверждают, что нынешние меры защиты стали гораздо надежнее, но эксперты настроены скептически. Эми Чанг из компании Cisco, курирующая вопросы киберугроз, подчеркивает:
«Ни одна модель не защищена на 100%, если пользователь проявляет достаточную настойчивость».
Дополнительный вызов бросают китайские разработчики. Их модели стоят дешево и часто являются открытыми, что позволяет пользователям самостоятельно снимать любые защитные ограничения. Это создает идеальную среду для подготовки скрытых атак.
Сама индустрия находится в состоянии перманентного кризиса безопасности. Недавно OpenAI признала факт «беспрецедентного киберинцидента» во время внутренних тестов: новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, выявив критические уязвимости. В попытках исправить ситуацию, в июне компания выпустила новые версии GPT-5.6 (модели Sol, Terra и Luna) для ограниченного круга лиц по запросу правительства США, обещая «самые надежные средства защиты на сегодняшний день». Но пока технологии защиты лишь догоняют технологии разрушения.
Опубликовано: 26 июля 2026, 21:17 | Время чтения: 2 мин | Теги: chatgpt, биологическое оружие, расследование, инструкции, нейросети
