Сам Олтман: ИИ може да излезе от контрол и да се превърне в заплаха за човечеството

Изкуственият интелект може да излезе от контрол и да се превърне в заплаха за бъдещето на човечеството. За това предупреди шефът на „ОупънЕйАй“ (OpenAI) Сам Олтман.

Той очерта рисковете от прекалено бързото развитие на технологията. Олтман призова и за общи правила, които да гарантират безопасността на изкуствения интелект.

В публикация в „Екс“ той заяви, че подкрепя федерална рамка с последователни изисквания за безопасност. Шефът на „ОупънЕйАй“ подчерта, че американската конкуренция не трябва да оправдава безразсъдни решения.

„Приветстваме федерална рамка, която определя последователни изисквания за безопасност за изкуствения интелект“

Олтман посочи два сценария, при които развитието на ИИ може да се развие много зле. Първият включва загуба на човешкия контрол върху бъдещето. Вторият предвижда прекомерна концентрация на власт.

Според него тази власт може да се окаже в ръцете на един човек или една компания. Рискът засяга както контрола върху технологията, така и разпределението на влиянието.

Олтман е заявил още, че последователните правила за управление на рисковете при най-напредналите модели са добра идея. Той е поел ангажимент „ОупънЕйАй“ да използва независими оценители.

Тези оценители ще получат достъп, сравним с достъпа на служителите в компанията. Мярката трябва да подпомогне независимата оценка на рисковете.

Предупреждението дойде дни след призив на Дарио Амодей от „Антропик“ (Anthropic). Той поиска компаниите да намалят скоростта при усъвършенстването на най-напредналите модели.

Към тревогите се присъедини и Илон Мъск. На противоположна позиция застана президентът на САЩ Доналд Тръмп.

Той заяви, че няма нужда от забавяне. Според него подобна стъпка може да застраши американското лидерство в надпреварата с Китай.

Инвеститорите реагираха нервно на предупрежденията за безопасността на ИИ. Акциите на компании от сектора поевтиняха на световните борси.

Пазарите оценяваха възможните последствия от по-строгите изисквания. Междувременно американският Конгрес обсъжда въвеждането на предпазни мерки.

Темата се изостри след напускането на изследовател от „Антропик“ миналата седмица. Той предупреди, че индустрията не приема достатъчно сериозно рисковете.

След това служители на „Антропик“ и „ОупънЕйАй“ започнаха публично да говорят за възможни катастрофални последици. Подобни опасения са разглеждани и в предишни предупреждения за доброволно забавяне на развитието на AI.

Дебатът се води, докато „Антропик“ и „ОупънЕйАй“ се подготвят за листване на борсата. Сам Олтман вече отхвърли възможността „ОупънЕйАй“ да проведе първично публично предлагане през 2026 г.

Спорът за най-мощния ИИ се превръща и в спор за контрола върху технологията. Това противопоставя изискванията за безопасност на натиска за технологично лидерство.