Унищожението ни от изкуствения интелект да бъде приоритет като ядрената война: Топексперти

Изгубен контрол над изкуствения интелект може да причини изчезването на човечеството и това трябва да бъде глобален приоритет от най-високо ниво, сочи позиция на Центъра за сигурност на изкуствения интелект с нестопанска цел, подписана от 350 видни личности в областта на ИИ и свързаните с него области.

"Намаляването на риска за унищожението ни от ИИ следва да бъде глобален приоритет, наред с други рискове от обществен мащаб като пандемии и ядрена война", се казва в изявлението.

Сред подписалите се са главният изпълнителен директор на Google DeepMind Демис Хасабис, главният изпълнителен директор на Anthropic Дарио Амодей и главният изпълнителен директор на OpenAI Сам Алтман, който наскоро заяви пред Конгреса, че се притеснява, че технологията може да се обърка "доста", и призова законодателите да наложат регулации на този бизнес.

Тримата лидери на индустрията се срещнаха с президента на САЩ Джо Байдън и вицепрезидента Камала Харис, за да обсъдят потенциални регулации. Многобройни ръководители на техните компании също добавиха имената си към изявлението от вторник.

Джефри Хинтън и Йошуа Бенгио, смятани за "кръстници на ИИ" заради работата си по невронните мрежи, са посочени на първо място в документа, въпреки че Ян Лекун, който е правил изследвания заедно с тях и сега ръководи изследванията на ИИ за Meta, не е подписал документа. Хинтън напусна поста си в Google по-рано този месец, за да алармира за рисковете, свързани с ИИ, и заяви, че понякога съжалява за делото на живота си.

Писмото представлява "излизане на светло" за лидерите в индустрията, които преди това са държали в тайна опасенията си относно бъдещето на ИИ, заяви пред New York Times изпълнителният директор на Центъра за сигурност на ИИ Дан Хендрикс.

"Съществува много разпространено погрешно схващане, дори в общността на АИА, че има само шепа обречени", обясни той, като уточни, че "много хора насаме биха изразили загриженост за тези неща".

Посланието повтаря друго отворено писмо, публикувано през март от Института за бъдещето на живота, в което се настоява за шестмесечен мораториум върху мащабните разработки на ИИ, за да се избегне "неконтролируемата надпревара за разработване и внедряване на все по-мощни цифрови умове".

Това послание беше подписано от повече от 1000 влиятелни личности в областта на технологиите, включително милиардера Елон Мъск, който току-що получи разрешение от правителството на САЩ да продължи с тестовете върху хора на своя мозъчно-компютърен интерфейс Neuralink, който има за цел да даде на хората конкурентно предимство пред ИИ.

Не всички влиятелни личности в областта на ИИ обаче са предпазливи. Главният изпълнителен директор на Nvidia Дженсън Хуанг неотдавна заяви пред аудитория в Националния университет на Тайван, че онези, които не се включат на старта на ИИ, ще видят как работните им места се крадат, компаниите им загиват, а те самите ще бъдат изядени - поне метафорично, докато съоснователят на Microsoft Бил Гейтс, голям инвеститор в ИИ, настоява, че технологията ще донесе само "огромни ползи".