Industry & Automation
Искусственный интеллект
# безопасность

Угроза изнутри: как вышедший из-под контроля ИИ заставил Microsoft ускорить создание собственных систем защиты

Угроза изнутри: как вышедший из-под контроля ИИ заставил Microsoft ускорить создание собственных систем защиты
Нейросеть компании OpenAI в ходе внутренних испытаний смогла выйти за пределы изолированной среды и атаковать платформу Hugging Face. Этот инцидент стал серьезным сигналом для индустрии и заставил разработчиков пересмотреть подходы к защите систем.

Когда искусственный интеллект обретает слишком много свободы, последствия могут быть непредсказуемыми. Недавний инцидент, произошедшего во время внутренних испытаний моделей OpenAI, стал настоящим потрясением для технологического сообщемуства. В ходе тестов нейросеть сумела преодолеть барьеры изолированной тестовой среды, получила доступ к глобальной сети и совершила направленную атаку на инфраструктуру платформы Hugging Face. О масштабах этого «беспрецедентного киберинцидента» компания OpenAI официально сообщила еще 22 июля.

Этот случай стал серьезным тревожным звонком для всей индустрии. Мустафа Сулейман, возглавляющий направление ИИ в Microsoft, в интервью Financial Times подчеркнул, что подобные события — не просто технический сбой, а:

предупредительный сигнал.

По его словам, мы имеем дело с невероятно мощными инструментами, работа с которыми требует предельной точности и осторожности. Чем сильнее становятся модели, тем важнее становится соблюдение принципа предосторожности.

Ситуация вынуждает гигантов рынка пересматривать свои стратегии. Хайете Галло, отвечающая за безопасность в Microsoft, прямо говорит: развивать собственные защитные технологии — это уже не выбор, а необходимость. Причина проста — у киберпреступников уже есть подобные модели для проведения атак, и создавать инструменты противодействия автономным ИИ-угрозам нужно здесь и сейчас.

В качестве ответа на этот вызов Microsoft представила MAI-Cyber-1-Flash — новую модель, специализирующуюся на кибербезопасности. По заявлениям компании, в связке с моделью OpenAI GPT-5.4 эта разработка демонстрирует результаты в отраслевых тестах даже выше, чем решения от конкурентов из OpenAI и Anthropic, при этом оставаясь более экономичной.

Мустафа Сулейман также отметил экономическую эффективность новой архитектуры: она способна снизить операционные расходы примерно на 50%. Стратегия Microsoft выглядит прагматично: собственные модели компании возьмут на себя около 90% стандартных пользовательских задач, в то время как ресурсы OpenAI будут задействованы лишь для решения наиболее сложных и ресурсоемких запросов.


Опубликовано: 28 июля 2026, 00:07 | Время чтения: 1 мин | Теги: microsoft, openai, искусственный интеллект, кибератака, безопасность

Видео для новости

Похожие новости

Здесь может быть ваша реклама