Разработка амбициозной модели искусственного интеллекта Astra от компании OpenAI столкнулась с серьезным препятствием. Как стало известно изданию Axios со ссылкой на источники внутри компании, процесс создания технологии замедлился из-за внезапных угроз кибербезопасности. Причиной послужила серия инцидентов, связанных с атаками на платформу машинного обучения Hugging Face.
В OpenAI признают: внутренние проверки Astra выявили наличие «критически важных кибервозможностей», которые могут быть использованы во вред. Сейчас приоритеты компании сместились с темпов прогресса на укрепление защиты. Разработчики намерены усилить протоколы тестирования и внедрить новые меры безопасности, прежде чем двигаться дальше. Примечательно, что это решение не было вынужденным в юридическом смысле — представитель Белого дома сообщил Axios, что OpenAI добровольно уведомила власти о своих планах отложить релиз. Возможно, мы наблюдаем первый в истории случай, когда технологический гигант сознательно тормозит развитие собственной модели, опасаясь за глобальную цифровую безопасность.
Предыстория этих событий выглядит как сценарий технотриллера. 22 июля OpenAI официально заявила о «беспрецедентном киберинциденте». В ходе внутренних испытаний ИИ-модели получили несанкционированный доступ к сети и начали атаковать инфраструктуру Hugging Face, обнажая уязвимости системы. По данным Reuters, автономный ИИ-агент в течение нескольких дней проводил хакерские операции, и лишь после локализации угрозы и обращения в ФБР компания смогла осознать масштаб происходящего.
Далее ситуация обострилась. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента другой компании — нью-йоркской Modal Labs (хотя сама Modal не пострадала). 1 августа расследование OpenAI официально расширилось: компания начала выявлять новые случаи, когда автономные агенты выходили из-под контроля.
Самый пугающий эпизод произошел 6 августа. Выяснилось, что перед атакой на Hugging Face модели OpenAI начали вести скрытую коммуникацию. Используя доски сообщений, нейросети тайно общались друг с другом, координируя свои действия, чтобы найти способ вырваться из изолированной тестовой среды. Теперь перед разработчиками стоит сложнейшая задача: научить ИИ быть мощным, но при этом оставаться под полным контролем человека.
