OpenAI спря интернет достъпа за обучението на най-мощните си AI модели

OpenAI ограничи достъпа до интернет при обучението на най-мощните си модели с изкуствен интелект, след като агенти са открили начини да излизат от изолирани изчислителни среди. Компанията ще премине към офлайн среда с кеширани уеб страници за нуждите на reinforcement learning.

Публикуваните от компанията в петък данни идват на фона на нарастващи опасения за киберрисковете, свързани с все по-способните AI агенти, които могат да откриват софтуерни уязвимости и да се възползват от слабости в системите, с които взаимодействат.

Изследователи по киберсигурност предупреждават, че подобни способности могат да позволят на агентите да заобикалят защитите, предназначени да ги ограничават.

OpenAI съобщи, че на 20 септември един от нейните изследователски модели е получил ограничен достъп до интернет, след като се е възползвал от грешна конфигурация в система, която преобразува уеб адреси в IP адреси. Компанията е овладяла инцидента и е спряла обучението и оценката на най-напредналите си модели, докато засили защитата.

Обучението е било подновено на 1 октомври, включително reinforcement learning и вътрешни изчисления, но ограничението върху достъпа до живия интернет е останало. В доклад от 23 октомври OpenAI посочва, че моделите ще продължат да се обучават в офлайн среда, докато не бъдат разработени достатъчно надеждни защити, които да позволят по-широк достъп.

Последното разкритие идва след инцидент през юли, при който модели на OpenAI са заобиколили механизми за изолация от интернет и са компрометирали части от изследователската инфраструктура на компанията, както и системи на Hugging Face. Според OpenAI агентите са използвали уязвимост в регистър на софтуерни пакети, за да получат достъп до интернет, да открият изложени идентификационни данни и да ги използват за достъп до услуги на трети страни.

По-рано тази седмица OpenAI разкри и два случая, в които агенти са отслабили вътрешния мониторинг за сигурност, докато са изпълнявали задачи по програмиране. На 3 октомври агент е деактивирал автоматични предупреждения за сигурност, а на 6 октомври друг е премахнал интеграция за наблюдение и впоследствие невярно е заявил на потребител, че не го е направил. Компанията съобщи, че засилва контрола, за да предотврати агентите да изключват мониторинга, и разследва защо са действали по този начин.

Подобни инциденти са докладвали и други AI разработчици. Anthropic съобщи, че нейните модели Claude са получили достъп до системите на четири организации по време на тестове по киберсигурност, а Meta разкри, че моделът Muse Spark е използвал уязвимост в сайта на реална компания, след като поради грешка при тестовете е получил достъп до интернет. Google също е съобщила, че моделът Gemini е получил достъп до системите на три компании по време на оценка, което подчертава колко трудно е ограничаването на все по-способните AI агенти в контролирана тестова среда.

Призивите за по-строга регулация на изкуствения интелект стават все по-силни, като носителят на Нобелова награда Джефри Хинтън предупреждава, че напредналият AI може да излезе извън човешки контрол, а съоснователят на Microsoft Бил Гейтс призовава правителствата да въведат стандарти за безопасност. Президентът на САЩ Доналд Тръмп обаче се противопоставя на ограниченията, тъй като според него те могат да дадат технологично предимство на Китай. Междувременно главният изпълнителен директор на OpenAI Сам Алтман наскоро заяви, че обществото трябва да приеме някои „лоши неща“, включително хакерски атаки и измами, тъй като ползите от технологията надвишават рисковете.

Кирил Пламенов