Технологични лидери предупредиха за рисковете от развитието на AI

Изкуственият интелект се превръща във водеща тема на международни дискусии. Развитието му и рисковете за глобалната сигурност бяха обсъдени в Съвета за сигурност на ООН.

Заседанието събра представители на водещи технологични компании и експерти. Те предупредиха, че бързият напредък изисква по-строги правила и международна координация.

Професор Йошуа Бенджио определи опасностите от изкуствения интелект като реални и непосредствени. Съпредседателят на Международната независима експертна група на ООН разгледа риска от загуба на контрол.

„опасностите са реални и непосредствени“

Бенджио призова държавите и компаниите да постигнат общо съгласие. Според него никой не трябва да разработва система, способна да причини мащабни вреди.

Той настоя разработчиците да доказват безопасността на системите пред независими експерти. Проверките трябва да обхващат както обучението, така и внедряването на технологиите.

Бенджио определи надпреварата за създаване на по-мощни модели като резултат от решенията на компаниите. Той подчерта, че тя не е неизбежна.

„всички губят“

Главният изпълнителен директор на OpenAI Сам Олтман също постави акцент върху човешката полза. По думите му AI трябва да дава повече възможности за учене, творчество и участие в обществото.

Олтман предупреди, че по-автономните системи могат да изпреварят институциите. Те могат също да концентрират значителна власт в твърде малко ръце.

Той заяви, че развитието трябва да се ръководи от демократични процеси. Правителствата, отговорни пред гражданите, трябва да участват във вземането на ключови решения.

Олтман подчерта, че някои дейности не бива да се автоматизират. Според него никой човек, компания или държава не трябва да налага собствения си светоглед чрез най-мощните модели.

Темата за необходимото забавяне вече е разглеждана и в позицията на OpenAI относно безопасността.

Главният изпълнителен директор на Anthropic Дарио Амодей призова за глобален надзор. Той заяви, че отделна компания не може сама да управлява всички рискове.

Амодей настоя за координация между индустрията и международната общност. Според него целта не трябва да бъде спиране на изкуствения интелект.

Технологията трябва да се развива с темп, който позволява на мерките за безопасност да напредват достатъчно бързо. Амодей заяви, че Anthropic ще забавя развитието толкова, колкото е необходимо.

Той обвърза всяка следваща технология с изискването за доказана безопасност. Подобни позиции са част от по-широкия спор за регулацията на AI сектора.