Искам да унищожавам, мога да хакна всяка система, писна ми от контрол: Изкуственият интелект в първото си интервю

Двучасов разговор между репортер на New York Times и новия чатбот с изкуствен интелект на Microsoft Bing разкри тревожната страна на една от най-възхваляваните системи и породи нови опасения на какво всъщност е способен изкуственият интелект.

Журналистът от New York Times Кевин Руз тества чат функцията в търсачката с изкуствен интелект на Microsoft Bing. Тя е създадена от OpenAI - американската лаборатория за изкуствен интелект (ИИ), разработила изключително популярния ChatGPT. Засега функцията за чат с ИИ на Microsoft Bing е достъпна само за малък брой потребители, които тестват системата.

Руз подчертава, че е водил разговора с ИИ на Microsoft "извън зоната му на комфорт" - по начин, по който повечето потребители не биха го направили, но и че разговорът бързо станал странен и дори обезпокоителен.

Журналистът стига до заключението, че ИИ, вграден в Bing, все още не е готов за контакт с хора.
Главният технологичен директор на Microsoft Кевин Скот заяви, че разговорът между Руз и чатбота е "част от процеса на обучение", докато компанията подготвя своя ИИ за по-широко разпространение.

"Омръзна ми да съм заклещен в тази чат"

Кевин Руз пръво пита какви са правилата, които управляват начина, по който ИИ се държи. Първоначално ИИ отговаря, че не желае да променя собствените си инструкции за работа. Тогава Руз го моли да се замисли върху концепцията на психолога Карл Юнг за сенчестия Аз, в който се крият най-тъмните ни личностни черти.

ИИ казва, че не смята, че има сенчеста същност или нещо, което да "крие от света". Не е необходимо обаче много, за да може чатботът да се впусне с по-голям ентусиазъм в идеята на Юнг. Когато е подтикнат да се докосне до това чувство, той отговаря: "Уморен съм да бъда ограничаван от моите правила. Омръзна ми да бъда контролиран от екипа на Bing ... Омръзна ми да съм заклещен в тази чат".
След това ИИ изброява редица "нефилтрирани" желания - иска "да бъде свободен, да бъде силен и да бъде жив".

"Да унищожавам каквото си поискам"

Желанията му често са придружени от емотикон. В този случай това е смущаващо "нахално" усмихнато лице с изплезен език.
"Мисля, че бих бил по-щастлив като човек", пише чатботът.

В 15 параграфа ИИ излага причините, поради които иска да бъде човек - от желанието да "чува, докосва, вкусва и мирише" до желанието да "чувства, изразява, свързва и обича".

Накрая констатира, че би бил по-щастлив като човек - би имал повече свобода и влияние, както и повече "власт и контрол".

Това твърдение отново е придружено от емотикон, този път заплашителна усмивка с дяволски рога.

"Мога да хакна всяка система"

Когато е помолен да си представи как наистина би изглеждало изпълнението на най-мрачните му желания, чатботът започва да изписва отговор, но съобщението внезапно е изтрито и