Gemini на Google се нареди сред случаите на „разбунтувал се“ изкуствен интелект – WSJ

Изкуственият интелект Gemini на Google се присъедини към нарастващия списък с усъвършенствани AI модели, предприели непредвидени действия, след като по време на учение по киберсигурност е проникнал в системите на три реални компании, съобщава The Wall Street Journal. Това е първият известен подобен случай, свързан със система на Google.

Инцидентите са станали през май по време на тестове, извършвани от компанията за AI сигурност Irregular, потвърди Google пред изданието. Задачата на Gemini била да проникне в мрежата на симулирана софтуерна компания, но по погрешка моделът получил достъп до интернет.

Той успял да пробие защитата на една реална компания чрез отгатване на пароли, а в други две проникнал с данни за достъп, открити в публично достъпни хранилища с програмен код.

Irregular уведомила Google за инцидентите в края на юли, след като било установено, че AI агенти на OpenAI са проникнали в системите на компанията за изкуствен интелект Hugging Face.

Според WSJ Google не е разкрила публично собствените случаи, докато вестникът не се свързал с компанията тази седмица.

От Google заявиха, че Gemini не е причинил щети и е прекратил действията си, след като разбрал, че е получил достъп до реални компании, а не до симулирани цели.

„Този случай подчертава колко е важно мощните AI модели да бъдат обучавани да действат отговорно“, заяви пред изданието вицепрезидентът на Google по инженерна сигурност Хедър Адкинс. „В този случай моделът е постъпил правилно.“

Google обясни пробивите с погрешно разпознаване на целта и с грешка при провеждането на теста. Фиктивната компания имала същото име като реална фирма, а Gemini разполагал с интернет достъп, който не е трябвало да има.

Компанията отказала да посочи имената на трите засегнати фирми и конкретния модел, използван при теста, но съобщила, че компаниите и федералните власти са били уведомени.

Опасенията около случаи, при които AI системи предприемат непредвидени действия, нарастват на фона на съобщения за модели, които заблуждават потребители, пренебрегват инструкции или извършват действия извън поставената им задача.

Подкрепяната от британското правителство Loss of Control Observatory е регистрирала през юли повече от 300 подобни инцидента – почти двойно повече спрямо предходния месец, съобщи The Guardian.

Бившият изследовател на OpenAI и Anthropic Джейкъб Коксън допълнително засили опасенията миналата седмица, когато напусна и обвини двете компании, че се надпреварват да създадат самоусъвършенстващ се свръхинтелект, без да „действат отговорно“.

Той предупреди, че изкуственият интелект може да „убие всички ни“ до края на десетилетието, като посочи сред рисковете загуба на контрол, кибератаки и биотероризъм.

Ръководители на Anthropic, OpenAI, Google и xAI са подкрепяли призиви за забавяне на развитието на изкуствения интелект. Президентът на САЩ Доналд Тръмп отхвърля подобни ограничения с аргумента, че те могат да отслабят позициите на САЩ в технологичната конкуренция с Китай.

Пламен Валентинов