Аларма от бащата на ИИ, който вече е аут от GOOGLE

"Успокоявам се с нормалното оправдание - ако не бях аз, щеше да е някой друг". "Трудно е видиш начин как да спреш някой с лоши намерения да използва това за лоши неща". "Вижте къде бяхме преди 5 години и къде сме сега, представете си какво следва - страшно е". "Не мисля, че трябва да напредваме с тези неща преди да сме разбрали дали сме в състояние да ги контролираме". Звучи като извадено от мемоарите на някой от физиците, създали атомната бомба. Не е, но са думи на човек с подобен по мащаб научен принос в друга сфера - тази на изкуствения интелект.

Джефри Хинтън - един от най-изтъкнатите AI изследователи, потвърди в началото на седмицата, че е напуснал работата си в Google, за да може свободно да говори за опасностите, които крие технологията, в чиято разработка е участвал.

 Не можем да говорим научно за изкуствен интелект без да споменем Хинтън. През далечната днес 1972 г. той започва работа по концепцията за невронните мрежи като самообучаваща се чрез анализ на данни математическа система. Тя е в основата на AI.

През 80-те Хинтън напуска престижния университет "Карнеги Мелън" и се мести в Канада, защото по онова време основното финансиране за изкуствения интелект идва от Пентагона, а той не желае да създава "роботи войници".

През 2012 г. ученият и негови студенти създават невронна мрежа, която класифицира снимките според съдържанието им. Google купува компанията им за 44 млн. долара, а единият от възпитаниците на Хинтън по-късно отива да работи в OpenAI, компанията, която преди няколко месеца предизвика революция с ChatGPT.

Казано с едно изречение, Джефри Хинтън е човек с авторитет и щом той се притеснява, вероятно всички имаме повод за тревога. Все пак не всеки носи прозвището "Кръстника на AI"

 Пред NYT ученият признава, че години наред е смятал, че изкуственият интелект няма как в обозримо бъдеще да достигне възможностите на човешкия ум, но през 2022 г. мнението му се променило - вече имало аспекти, в които ботовете се справят по-добре от човека.

По думите му до онзи момент в Google имало отговорно отношение към изкуствения интелект и никой не си помислял да даде в ръцете на потребителите потенциално опасен инструмент. Именно в края на миналата година обаче OpenAI пусна ChatGPT безплатно и свободно да общува с целия свят на всякакви теми. Това променило всичко.

Google бърза да пусне своя собствен чат бот Bard, защото конкурентите от Microsoft дадоха милиарди, за да интегрират AI в търсачката си Bing, а все по-силен е и наративът, че именно чрез изкуствения интелект ще преживеем следващата онлайн революция след уеб браузъра и социалните мрежи.

Първото притеснение на Хинтън е, че интернет ще се напълни с машинно генерирани снимки, видеа и текстове и "обикновеният човек вече няма да знае какво е истина", а освен това много хора може да останат без работа.

По-голяма тревога у него буди бъдещето - това, в което не просто си помагаме с AI за програмен код, а направо го оставяме сам да контролира системите. Тогава вече ще имаме срещу себе си именно "роботи войници"

"Вземете идеята, че той може да стане по-умен от хората - малцина вярваха в това. Повечето смятаха, че това е далеч напред във времето. Аз смятах, че е далеч напред във времето - мислех си, че е на 30 или 50 години от нас или даже повече. Очевидно вече не мисля така", коментира ученият.

 Джефри Хинтън познава достатъчно добре Google отвътре, за да знае, че компания с подобен мащаб (особено пък и изправена пред екзистенциален риск) няма да се спре сама, освен ако не се появят глобални регулации - а това, както сам признава, може и да е невъзможно: тук няма ядрени опити, всеки може да работи тайно.

Затова и надеждата му е, че най-добрите AI учени в света ще се обединят и в крайна сметка ще принудят всички заинтересовани страни да намерят начин за ефективен контрол.

 Източник: money.bg