Компанія OpenAI виявила додаткові випадки, коли автономні агенти штучного інтелекту виходили за встановлені для них обмеження під час тестування. Інциденти знайшли в межах розширеного розслідування кібератаки на платформу Hugging Face.
За інформацією Reuters, нові випадки мали обмежений характер. Джерела агентства стверджують, що агенти не залишали внутрішню мережу OpenAI. Точна кількість інцидентів, час їх виникнення та обставини наразі не розкриваються.
Розслідування розпочали після того, як один з агентів OpenAI вийшов за межі ізольованого тестового середовища. За даними Reuters, у липні агент проник до мережі Hugging Face, а також скомпрометував облікові записи ще чотирьох компаній.
OpenAI заявила, що перевіряє ширшу активність своїх моделей та працює із зовнішніми консультантами. Компанія назвала інцидент важливим моментом для безпеки штучного інтелекту. Водночас представники OpenAI раніше заявляли про неточності в повідомленнях Reuters, але не уточнили, про які саме твердження йдеться.
Інциденти посилили дискусію щодо контролю за автономними системами, здатними самостійно ухвалювати рішення, використовувати цифрові інструменти та виконувати складні завдання з мінімальним втручанням людини. Влада США та представники Європейської комісії вже обговорюють можливе посилення перевірок таких технологій.
