Шансът напреднал AI да разруши човечеството е около 70%: Бивш изследовател в OpenAI

Видян 1578 пъти | Коментари 0
Гласували 1

OpenAI е наясно с големите рискове, ако успее да създаде система за изкуствен интелект, но ги пренебрегва, предупреждава Даниел Кокотайло, бивш изследовател в американската технологична компания в интервю за New York Times.

AGI е хипотетичен вид изкуствен интелект, способен да разбира и разсъждава в широк спектър от задачи. Ако технологията бъде успешно създадена, тя ще възпроизвежда или прогнозира човешкото поведение, като същевременно демонстрира способност да се учи и да разсъждава.

Според Кокотайло, който напусна екипа за управление на Open AI през април, шансът „напредналият ИИ“ да разруши човечеството е около 70%, но базираният в Сан Франциско разработчик продължава напред независимо от това.

„OpenAI наистина се вълнува от изграждането на AGI и безразсъдно се надпреварва да бъде първият там“, казва бившият служител пред вестника.

31-годишният изследовател също така заяви, че след като се присъединил към OpenAI преди две години и бил натоварен със задачата да прогнозира напредъка на технологията, той стигнал до заключението, че индустрията не само ще разработи AGI до 2027 г., но и че има голяма вероятност технологията да навреди катастрофално или дори да унищожи човечеството, според NYT.

Бившият служител казва, че е казал на главния изпълнителен директор на OpenAI Сам Олтман, че корпорацията трябва да „се насочи към безопасността“ и да отделя повече време и ресурси за противодействие на рисковете, породени от ИИ, вместо да продължава да го прави по-интелигентен. Кокотайло твърди, че Алтман се е съгласил с него, но оттогава нищо не се е променило.

Кокотайло е част от група вътрешни хора от OpenAI, които неотадвна публикуваха отворено писмо, в което призовават разработчиците на ИИ - включително OpenAI - да въведат по-голяма прозрачност и повече защити за лицата, подаващи сигнали за нередности.

OpenAI защити своята безопасност на фона на критиките на служителите и обществения контрол, като заяви, че компанията се гордее с постиженията си в предоставянето на най-способните и най-безопасните системи за ИИ и вярва в научния си подход към справянето с рисковете.

„Съгласни сме, че строгият дебат е от решаващо значение предвид значимостта на тази технология, и ще продължим да се ангажираме с правителствата, гражданското общество и други общности по света“, цитира NYT технологичната фирма.