Служителите на Google се опитали да блокират пускането на конкурента си ChatGPT

Двама служители в отдела за отговорни иновации на Google се опитаха и не успяха да блокират пускането на чатбота с изкуствен интелект Bard миналия месец, като предупредиха, че той е склонен към "неточни и опасни твърдения", разкри New York Times, позовавайки се на вътрешни лица, запознати с процеса.

Притеснителните рецензенти на продукта вече са били отбелязали проблеми с големи езикови модели с ИИ като Bard и неговия конкурент ChatGPT, когато главният юрист на Google се е срещнал с ръководителите на отдела за изследвания и безопасност, за да ги информира, че компанията дава приоритет на ИИ пред всичко останало.  

Опасенията на двойката относно това, че чатботът произвежда фалшива информация, наранява потребители, които се привързват емоционално, или дори отприщва "технологично насилие" чрез синтетичен масов тормоз, впоследствие са били омаловажени от ръководителя на отдела за отговорни иновации Джен Генай, твърдят източниците. Въпреки че проверяващите са призовали Google да изчака, преди да пусне Бард, Дженай уж е редактирала доклада им, за да премахне изцяло тази препоръка.

Генай защитава действията си пред Times, като посочва, че рецензентите не е трябвало да споделят мнението си дали да продължат, тъй като Bard е бил само експеримент. Тя твърди, че е подобрила доклада, като е "коригирала неточни предположения и всъщност е добавила повече рискове и вреди, които е трябвало да бъдат взети предвид". Това е направило крайния продукт по-безопасен, настоява тя.

Google отдаде дължимото на Генай за решението си да пусне Bard като "ограничен експеримент", но чатботът все пак трябва да бъде напълно интегриран в доминиращата на пазара търсачка на Google "скоро", според собствения уебсайт на Google.

Google и преди е потушавала бунтовете на служителите по въпроса за изкуствения интелект. Миналата година тя уволни Блейк Лемойн, след като той заяви, че предшественикът на Bard LaMDA (Language Model for Dialogue Applications) е станал разумен, а изследователят Ел Махди Ел Мхамди подаде оставка, след като компанията му забрани да публикува статия, предупреждаваща за уязвимости в киберсигурността на големи езикови модели като Bard. През 2020 г. изследователят на изкуствения интелект Тимнит Гебру беше освободен, след като публикува изследване, в което обвини Google в недостатъчна предпазливост при разработването на изкуствен интелект.

Все по-голяма фракция от изследователи на ИИ, технологични ръководители и други влиятелни футуристи обаче се обяви против бързото развитие на "прогреса" на Google и неговите конкуренти от Microsoft и създателя на ChatGPT OpenAI, докато не бъдат наложени ефективни предпазни мерки на технологията. Неотдавнашно отворено писмо, в което се призовава за шестмесечен мораториум върху "гигантските експерименти с изкуствен интелект", привлече хиляди подписали се, включително съоснователя на OpenAI Елон Мъск и съоснователя на Apple Стив Возняк.

Потенциалът на технологията да преобърне обществото, като направи много човешки професии (или самите хора) ненужни, е в центъра на предупрежденията на много експерти, въпреки че често се споменават и по-малки рискове, като например нарушаване на сигурността на данните - което вече се е случвало в OpenAI.