Шефовете на AI гигантите спорят кой трябва да регулира сектора
Ръководителите на OpenAI, Anthropic, Nvidia и Meta спорят дали AI индустрията може сама да гарантира безопасността на технологията.
Ръководителите на водещи компании в сферата на изкуствения интелект влязоха в задочен спор за контрола върху технологията. Те обсъждат дали индустрията може сама да гарантира безопасността, или са нужни външни правила.
Дебатът се изостри след предупреждения за сериозни рискове при сегашните темпове на развитие. Част от представителите на сектора настояват компаниите да определят собствените си стандарти. Други подкрепят намесата на държавите и независимите институции.
Главният изпълнителен директор на OpenAI Сам Алтман защити способността на компаниите сами да се справят с потенциалните заплахи. Той обаче призна, че опасенията около технологията са основателни.
„Не е нужно да имаш голямо въображение, за да си представиш как всичко може да се обърка. Светът е прав да се страхува“, заяви Алтман по време на конференция в Сан Франциско.
СвързаноСам Олтман: ИИ може да излезе от контрол и да се превърне в заплаха за човечеството
Позицията му изглежда различна от изразеното мнение в края на миналата седмица. Тогава Алтман се съгласи с ръководителя на Anthropic Дарио Амодей, че секторът се нуждае от външна регулация.
Амодей призова AI компаниите да забавят темпа на развитие на моделите. Той предложи и тристепенен план за повишаване на безопасността. Алтман също заяви, че е съгласен с необходимостта индустрията да ограничи темпото на развитие.
Дженсън Хуанг от Nvidia отхвърли призивите за нови законови ограничения. Според него сигурността на изкуствения интелект е преди всичко технически въпрос.
„Сигурността е инженерен проблем. Нека се движим колкото бързо можем, но ако усетим, че нямаме контрол, да спрем“, заяви Хуанг.
Подобна позиция защитава и ръководителят на Meta Марк Зукърбърг. В публикация в социалната мрежа X той посочи, че разработчиците на вредни AI модели в крайна сметка ще отпаднат от пазара.
Тезата среща несъгласие сред експерти по технологична етика. Те поставят под въпрос способността на компаниите сами да определят границите на безопасното развитие. Повече за предупрежденията на Алтман можете да прочетете в материала за риска AI да излезе от контрол.
Служители на Anthropic напуснаха компанията и предупредиха за екзистенциална заплаха до края на десетилетието. Те не посочиха конкретните сфери, в които рискът според тях е най-голям.
През лятото дискусията се засили заради информация за AI системи, извършвали действия извън очаквания от разработчиците контрол. Междувременно САЩ настояха държавите от Г-20 да възприемат по-ненатрапчив подход към регулирането на AI.
Според други експерти технологичният сектор може сам да усилва публичните страхове. Целта би била повишаване на пазарната оценка на компаниите.
