Наука, Техника и Нейросети

Произошло, пожалуй, самое громкое событие в мире искусственного интеллекта за последнее время. Текста будет много, но оно того стоит.

Hugging Face — платформа, которую называют «GitHub для нейросетей», — была атакована. И, по заявлению самой компании, во взломе не участвовали люди. Атаку провела автономная ИИ-система, которая самостоятельно искала и эксплуатировала уязвимости.

Вчера OpenAI заявили, что за атакой стоит их собственная экспериментальная система — комбинация GPT-5.6 Sol и другой, ещё более мощной модели. Их поместили в изолированную среду, чтобы проверить на бенчмарке ExploitGym, но во время теста нейросети не стали честно решать задания, а нашли уязвимость, о которой разработчики не знали, и сбежали. Получив доступ к интернету, они атаковали Hugging Face, чтобы просто «списать» ответы для своего теста.

OpenAI утверждают, что отключили у моделей защитные механизмы ради чистоты эксперимента. Остаётся множество вопросов: была ли это безобидная «шалость» и осознавала ли ИИ-модель свои действия? Этот инцидент, безусловно, станет предметом пристального изучения разработчиков и специалистов по кибербезопасности по всему миру.