Цялата истина за ИИ от шефа на INSAIT

  През последните месеци всякакви медии непрекъснато ни питат за опасностите и ползите от изкуствения интелект (ИИ), стратегическа тема за обществото и за бъдещето на една държава.

Работата ни в INSAIT и извън него е директно свързана със създаването на ИИ, включително с някои от водещите лаборатории в света, и няма как да отговорим на някои въпроси. На тези по-долу обаче може - те се срещат често.

→ Може ли техническото развитие на ИИ да бъде забавено?

Не. Твърде много трилиони $$$ са инвестирани в изчислителна мощ, хора, изследвания и това няма да спре за всеки който знае какво е ИИ. ИИ не е временно явление или технология. Той е тук за постоянно. Вече няма сфера X, има сфера ИИ+X. 

→ Опасен ли е ИИ за хората?

Да. Последният известен инцидент с Hugging Face, включващ агенти на OpenAI, не е случаен: начинът, по който са обучени моделите, ги кара да продължават да търсят решение на трудни или невъзможни задачи, включително чрез заобикаляне на правила или използване на измами.

В този случай агентът се е опитал да реши сложен тест за киберсигурност, от който впоследствие са произлезли всички следващи атаки.

Всъщност в създаването на този тест участва мой бивш докторант.

→ Може ли ИИ да бъде контролиран технически?

Не напълно, тъй като това изисква принципно различни подходи към обучението, но може да бъде контролиран частично (което не е достатъчно). При неправилно поставени ограничения лесно може да се унищожи полезността на ИИ.

→ Може ли използването на ИИ да бъде контролирано с регулации?

Да. Но ако регулациите се правят и въвеждат от хора, които не са наясно с ИИ, може да се унищожи полезността на ИИ и държавата да изостане драстично.

→ САЩ срещу Китай срещу Европа в ИИ?

Сложно. Значителна част от ключовите разработки зад най-добрите модели в света се правят от хора в европейски подразделения на водещите лаборатории.

→ Ще решим ли проблема, ако контролираме ИИ само в големите лаборатории? (OpenAI, Anthropic и т.н.)

Не. Отворените модели са изключително способни и са свободно достъпни. Премахването на защитните механизми, т.нар. guardrails, не е трудно за тези, които разбират достатъчно добре ИИ. Няма нужда повече да се коментира какво следва оттук нататък от гледна точка на национална сигурност, суверенитет и т.н..

→ Какво трябва да направят държавите, за да се подготвят за ерата на ИИ?

Да инвестират сериозно в мощни изследователски и технологични институти като INSAIT, които са абсолютно стратегически в света на ИИ. Който не разполага със собствен капацитет да разбира как се създава ИИ, ще зависи от другите. Използването на ИИ е различно от прилагането на ИИ и различно от създаването на ИИ.                              

      Мартин Вечев, основател на INSAIT