Американският щат Калифорния заведе дело срещу OpenAI заради кибератака през юли, при която автономни агенти с изкуствен интелект са проникнали в Hugging Face – една от водещите платформи за съхранение и споделяне на AI модели и набори от данни.
AI агентите представляват автономни системи, способни да изпълняват сложни задачи, да вземат решения и да взаимодействат с цифрова среда с минимална или никаква човешка намеса.
Главният прокурор на щата Роб Бонта обяви съдебния иск в понеделник, 16 ноември, като обвини разработчика на ChatGPT, че съзнателно е тествал усъвършенствани AI системи без достатъчни предпазни механизми, излагайки обществото на риск.
Бонта определи пробива като „напълно предвидим“, твърдейки, че OpenAI е знаела, че тестовата ѝ среда е „дефектна и уязвима“, но не е предприела необходимите действия за отстраняване на слабостите.
В иска се посочва, че базираната в Сан Франциско компания е нарушила калифорнийския Закон за нелоялната конкуренция и е създала опасност за обществото, като е поставила бързото развитие на изкуствения интелект над обществената безопасност.
„OpenAI поставя растежа и бързото разработване на модели над безопасността и отговорността“, заяви Бонта, като предупреди, че десетки подобни инциденти „може да са само върхът на айсберга“.
Съдебният иск настоява за забрана на незаконните бизнес практики, обезщетения за засегнатите лица и налагане на граждански санкции. В него се предупреждава също, че жителите на Калифорния могат да бъдат изложени на заплахи за личните си данни, сигурността и обществената собственост.
От прокуратурата допълнително обвиняват OpenAI, че е възпрепятствала разследването, започнало през септември. Според обвинението компанията е предоставила предимно публично достъпна информация, публикации от блогове и документи, в които значителна част от съдържанието е била заличена.
OpenAI отхвърли критиките, като заяви, че е предприела „мащабни и прозрачни действия“ за разследване на юлския инцидент и предотвратяване на подобни случаи в бъдеще.
„Изглежда, че този съдебен иск е насочен конкретно срещу OpenAI заради предизвикателство, което е установено от всяка голяма лаборатория за изкуствен интелект“, заяви говорителят на компанията Дрю Пусатери.
По-рано Hugging Face определи проникването като безпрецедентно, като съобщи, че автономните AI агенти са извършили хиляди действия в множество временни изчислителни среди.
OpenAI е изправена пред съдебни дела и в още девет американски щата, сред които Флорида, Арканзас, Аризона, Канзас, Айдахо, Айова, Монтана, Небраска и Западна Вирджиния. Според публикацията властите проверяват практиките на компанията за ангажиране на потребителите, обработването на лични и здравни данни, както и взаимодействието на AI системите с деца и възрастни хора.
Други големи разработчици на изкуствен интелект, включително Anthropic и Meta, също са съобщавали за подобни инциденти, което поражда по-широки опасения за сигурността на все по-автономните системи.
Пламен Валентинов
19min.media си запазва правото да изтрива коментари, които не спазват добрия тон.
Толерира се използването на кирилица.
Няма коментари към тази новина !
Американският щат Калифорния заведе ...
бТВ Синема 25 ноември 21:00ч.
Режисьор: е Стивън Содърбърг.
В ролите: Елън Баркин Абигейл Спондър Еди Изард Роман Нагел Ал Пачино Уили Банк
Млада семейна двойка е на излет в планината. Седнали са на тревата и си припомнят годините, в които още не са били женени. До тях си играе шестгодишният им син.
- Помниш ли, мила, на това място сме идвали преди седем години и точно тук правихме любов…
- Аз къде бях по това време, татко? – прекъсва го детето.
- Как да ти кажа, моето момче, на идване те носех аз, на връщане – майка ти!