OpenAI сформира екип за ограничаване на свръхинтелигентния изкуствен интелект

OpenAI сформира специален екип за управление на рисковете, свързани със свръхинтелигентния изкуствен интелект. Свръхинтелигентният изкуствен интелект е хипотетичен модел на изкуствен интелект, който е по-интелигентен дори от най-надарения и интелигентен човек и се отличава с множество области на компетентност, а не с една област, както някои модели от предишното поколение. OpenAI смята, че такъв модел може да се появи преди края на десетилетиет, съобщава engadget.com

"Свръхинтелигентността ще бъде най-въздействащата технология, която човечеството някога е изобретявало, и може да ни помогне да решим много от най-важните световни проблеми", заявиха от организацията с нестопанска цел. "Но огромната мощ на свръхинтелигентността може да бъде и много опасна и да доведе до обезсилване на човечеството или дори до изчезването му."

Новият екип ще бъде ръководен съвместно от главния учен на OpenAI Иля Суцкевер и Ян Лейке, ръководител на изследователската лаборатория по подреждането. Освен това OpenAI заяви, че ще отдели 20 процента от осигурената си в момента изчислителна мощност за инициативата, като целта е да се разработи автоматичен изследовател на подравняването. Такава система теоретично ще помогне на OpenAI да гарантира, че суперинтелигентността е безопасна за използване и е съобразена с човешките ценности.

"Макар че това е изключително амбициозна цел и не е сигурно, че ще успеем, ние сме оптимисти, че с целенасочени и съгласувани усилия можем да решим този проблем", казват от OpenAI. "Има много идеи, които са показали обещаващи резултати в предварителните експерименти, разполагаме с все по-полезни показатели за напредък и можем да използваме днешните модели за емпирично изследване на много от тези проблеми." Лабораторията добави, че ще сподели пътна карта в бъдеще.

Съобщението идва в момент, когато правителствата по света обмислят как да регулират зараждащата се индустрия на изкуствения интелект. В САЩ Сам Олтман, главен изпълнителен директор на OpenAI, се е срещнал с поне 100 федерални законодатели през последните месеци. Публично Алтман заяви, че регулирането на ИИ е "от съществено значение" и че OpenAI е "нетърпелива" да работи с политиците. Но трябва да бъдем скептични към подобни изявления, както и към усилия като екипа на OpenAI за свръхподреждане. Като фокусират вниманието на обществеността върху хипотетични рискове, които може никога да не се реализират, организации като OpenAI прехвърлят тежестта на регулирането към хоризонта, вместо към тук и сега. Има много по-непосредствени проблеми около взаимодействието между ИИ и труда, дезинформацията и авторските права, с които политиците трябва да се справят днес, а не утре.