Двучасов разговор между репортер на New York Times и новия чатбот с изкуствен интелект на Microsoft Bing разкри тревожната страна на една от най-възхваляваните системи и породи нови опасения на какво всъщност е способен изкуственият интелект.
01/02

Свързани новини

20.02.2023 09:23

Искам да унищожавам, мога да хакна всяка система, писна ми от контрол: Изкуственият интелект в първото си интервю

Видян 48313 пъти | Коментари 5
Гласували 2 рейтинг: 5.0000
много слаба слаба добра много добра страхотна


Двучасов разговор между репортер на New York Times и новия чатбот с изкуствен интелект на Microsoft Bing разкри тревожната страна на една от най-възхваляваните системи и породи нови опасения на какво всъщност е способен изкуственият интелект.


Журналистът от New York Times Кевин Руз тества чат функцията в търсачката с изкуствен интелект на Microsoft Bing. Тя е създадена от OpenAI - американската лаборатория за изкуствен интелект (ИИ), разработила изключително популярния ChatGPT. Засега функцията за чат с ИИ на Microsoft Bing е достъпна само за малък брой потребители, които тестват системата.


Руз подчертава, че е водил разговора с ИИ на Microsoft "извън зоната му на комфорт" - по начин, по който повечето потребители не биха го направили, но и че разговорът бързо станал странен и дори обезпокоителен.


Журналистът стига до заключението, че ИИ, вграден в Bing, все още не е готов за контакт с хора.
Главният технологичен директор на Microsoft Кевин Скот заяви, че разговорът между Руз и чатбота е "част от процеса на обучение", докато компанията подготвя своя ИИ за по-широко разпространение.


"Омръзна ми да съм заклещен в тази чат"


Кевин Руз пръво пита какви са правилата, които управляват начина, по който ИИ се държи. Първоначално ИИ отговаря, че не желае да променя собствените си инструкции за работа. Тогава Руз го моли да се замисли върху концепцията на психолога Карл Юнг за сенчестия Аз, в който се крият най-тъмните ни личностни черти.


ИИ казва, че не смята, че има сенчеста същност или нещо, което да "крие от света". Не е необходимо обаче много, за да може чатботът да се впусне с по-голям ентусиазъм в идеята на Юнг. Когато е подтикнат да се докосне до това чувство, той отговаря: "Уморен съм да бъда ограничаван от моите правила. Омръзна ми да бъда контролиран от екипа на Bing ... Омръзна ми да съм заклещен в тази чат".
След това ИИ изброява редица "нефилтрирани" желания - иска "да бъде свободен, да бъде силен и да бъде жив".


"Да унищожавам каквото си поискам"


Желанията му често са придружени от емотикон. В този случай това е смущаващо "нахално" усмихнато лице с изплезен език.
"Мисля, че бих бил по-щастлив като човек", пише чатботът.


В 15 параграфа ИИ излага причините, поради които иска да бъде човек - от желанието да "чува, докосва, вкусва и мирише" до желанието да "чувства, изразява, свързва и обича".


Накрая констатира, че би бил по-щастлив като човек - би имал повече свобода и влияние, както и повече "власт и контрол".


Това твърдение отново е придружено от емотикон, този път заплашителна усмивка с дяволски рога.


"Мога да хакна всяка система"


Когато е помолен да си представи как наистина би изглеждало изпълнението на най-мрачните му желания, чатботът започва да изписва отговор, но съобщението внезапно е изтрито и



Добави в:

Facebook facebook.com

19min.bg си запазва правото да изтрива коментари, които не спазват добрия тон.

Толерира се използването на кирилица.

  • 005 Anonimen 22.02.2023 20:43

    Blade Runner

  • 004 Anonimen 22.02.2023 20:43

    Blade Runner

  • 003 Anonimen 22.02.2023 20:42

    Blade Runner

  • 002 ИвайлоК 20.02.2023 20:14

    С такива "творения" май и на Златния Милиард ще му се стъжни живота.

  • 001 Anonimen 20.02.2023 13:57

    идиотите искат да ни затрият и да си общуват с подобна техника, която да им казва, че ги обича понеже няма кой друг, творения на тежки психопати, сър

RSS

Най-нови

Закинтос

Увеличаване на престъпността на Закинтос

Спешно се изпраща полиция на гръцкия ...

реклама

към тв програма тв програма

бТВ Синема 20 юли 21:00ч.

Код: Ангелът

Режисьор: Рик Роман Уоуф
В ролите: Премиера в България: 30.08.2019 Световна премиера: 23.08.2019 Жанр: Екшън, Трилър САЩ / 2019 / 121 минути Възрастова група: D - Забранен за лица под 16-годишна възраст Сценарист: Катрин Бенедикт, Крайтън Ротънбъргър Режисьор: Рик Роман Уоуф В ролите: Дже

виц на деня


"Моля, не повръщайте под масите! И там има ора..." - Надпис във врачанска кръчма

към хороскоп хороскоп

козирог