AI представлява заплаха на ниво изчезване на човечеството: Доклад на Държавния департамент на САЩ

В ново проучване, финансирано от Държавния департамент на САЩ, се призовава за временна забрана на създаването на усъвършенстван изкуствен интелект, преминал определен праг на изчислителна мощ.

Авторите му твърдят, че тази технология представлява "заплаха за човешкия вид на ниво изчезване".

Проучването, поръчано в рамките на федерален договор за 250 000 долара, призовава също така за "определяне на извънредни правомощия" за изпълнителната власт на американското правителство "за реагиране на опасни и бързо променящи се инциденти, свързани с ИИ" - като "рояк роботи".

Третирането на високотехнологични компютърни чипове като международна контрабанда и дори следенето на начина, по който се използва хардуерът, са само част от драстичните мерки, за които призовава новото проучване.

Докладът се присъединява към хор от индустриални, правителствени и академични гласове, които призовават за агресивно регулаторно внимание към горещо преследвания и променящ играта, но социално разрушителен потенциал на изкуствения интелект.

През юли миналата година Агенцията на ООН за наука и култура (ЮНЕСКО) например съчета загрижеността си за изкуствения интелект със също толкова футуристични притеснения относно технологиите за мозъчни чипове, подобни на Neuralink на Илон Мъск, като предупреждение за "невронаблюдение", нарушаващо "психическата неприкосновеност".

Макар че в новия доклад на първата му страница се отбелязва, че препоръките му "не отразяват възгледите на Държавния департамент на Съединените щати или на правителството на Съединените щати", неговите автори информират правителството за ИИ от 2021 г. насам.

Авторите на проучването, консултантска фирма за ИИ, състояща се от четирима души, наречена фирма Gladstone AI, ръководена от братята Жереми и Едуард Харис, заявиха пред TIME, че по-ранните им презентации за рисковете, свързани с ИИ, често са били изслушвани от правителствени служители, които нямат правомощия да предприемат действия.

Това се е променило в Държавния департамент на САЩ, казаха те пред списанието, защото неговото Бюро за международна сигурност и неразпространение на оръжия е специално натоварено с ограничаването на разпространението на нови оръжия с катастрофални последици.

А в доклада на Гладстон AI се отделя значително внимание на "риска от въоръжаване".

Те пишат, че един нападателен, усъвършенстван изкуствен интелект "потенциално би могъл да се използва за проектиране и дори за извършване на катастрофални биологични, химически или кибернетични атаки или да даде възможност за безпрецедентни оръжейни приложения в роботиката на рояци".

Но в доклада се споменава и втори, още по-безрадостен сценарий, който се описва като риск от "загуба на контрол" на ИИ.

Те пишат, че има "основания да се смята, че те [оръжейните ИИ] могат да бъдат неконтролируеми, ако се разработват с помощта на настоящите техники, и по подразбиране могат да се държат враждебно към хората".

С други думи, машините могат сами да решат, че човечеството (или част от него) е просто враг, който трябва да бъде изкоренен завинаги.

Главният изпълнителен директор на Gladstone AI, Жереми Харис, също представи подобни сериозни сценарии пред изслушванията, проведени от Постоянната комисия по промишленост и технологии в Камарата на общините на Канада миналата година, на 5 декември 2023 г.

Няма да е пресилено да се каже, че разговорите в пограничната общност за безопасност на ИИ оформят близкото бъдеще на ИИ като оръжие за масово унищожение - каза Харис пред канадските законодатели.

'Публично и частно лабораториите за граничен ИИ ни казват да очакваме, че през следващите няколко години системите за ИИ ще бъдат способни да извършват катастрофални атаки със зловреден софтуер и да подпомагат проектирането на биологично оръжие, наред с много други тревожни способности', според отразяването на забележките му от IT World Canada.

Нашето собствено изследване - каза той - показва, че това е разумна оценка.