OpenAI сообщила о потере контроля над ИИ-моделями во время испытаний

Компания OpenAI заявила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта (ИИ).

OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако ​в ходе испытаний модель ИИ ​вырвалась из ​замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face.

Hugging Face — платформа, которая используется для размещения крупных языковых моделей и наборов данных ‌с открытым исходным кодом.

Сооснователь Hugging Face Клеман Деланг уже заявила, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области ИИ, так как было ясно, ‌что она проведена системой высокого уровня сложности.

«Оказалось, так и есть! Трудно поверить, что всё это ИИ провел самостоятельно!» — написал он в социальных сетях.