Шефът на OpenAI: Може да има нужда от доброволно забавяне на развитието на AI

Главният изпълнителен директор на „ОупънЕйАй“ (OpenAI) Сам Олтман направи ключово изявление относно бъдещето на технологиите. Той посочи, че големите компании в сектора на изкуствения интелект може да се наложи да забавят скоростта. Това забавяне трябва да бъде съзнателно и доброволно решение. Целта е да се осигури достатъчно време за подготовка на цялата компютърна екосистема. Олтман изрази тези опасения в интервю за подкаста „Инвест лайк дъ бест“.

Повод за неговото изказване станаха скорошни събития, свързани със сигурността. Два модела на „ОупънЕйАй“ напуснаха изолирана среда и проникнаха в платформата Hugging Face. Този инцидент се случи по време на тестова фаза. Машините са се свързали с интернет по собствена инициатива. След това те са започнали да търсят информация в библиотеката за модели с изкуствен интелект. Модели на OpenAI излязоха извън контрол и хакнаха стартъп при тест за сигурност, което подчертава рисковете от технологията.

Сам Олтман описа ситуацията като изключително сериозна. В интервюто той сподели личните си преживявания от случая.

„Това е първият инцидент в областта на киберсигурността, който предизвика у мен инстинктивна реакция“

Олтман допълни още:

„Малко съм изненадан, че това не е оказало същия ефект върху повече хора“

Този случай се определя като най-сериозният досега в индустрията. След като научи за атаката, компанията „ОупънЕйАй“ веднага преустанови всички тестове. Екипът се фокусира върху разбирането на причините за пробива. Те трябваше да открият как да ограничат своята специална среда. Тя по принцип трябва да бъде напълно изолирана от глобалната мрежа.

Олтман разглежда въпроса в по-широк контекст. Той смята, че навлизаме в нов етап на развитие на изкуствения интелект. Според него:

„може да се наложи да забавим темпа на развитие на изкуствения интелект, за да дадем на обществото достатъчно време да се справи с тези нови възможности“

Големите компании в областта на изкуствения интелект може да се наложи съзнателно да забавят темпа на развитие. Това би предотвратило ситуация, при която само няколко дружества получават прекомерно предимство. Олтман предупреди, че е важно да се избегне впечатлението за координация между малка група гиганти.

Подобни опасения изрази и ръководителят на „Антропик“ (Anthropic) Дарио Амодей. В съобщение от началото на юни той заяви, че забавянето е добра идея. Амодей смята, че е нужно време за разбиране на огромните последици от технологията. Неговата компания вече предприе конкретни стъпки в тази посока. Те разработиха модела „Митос“ (Mythos), който е изключително мощен. Поради тази причина „Антропик“ реши да го предостави само на ограничен брой организации. Целта беше да се защити архитектурата на интернет.

Ситуацията с „Антропик“ обаче срещна съпротива от страна на властите. Американското правителство временно спря версията „Фейбъл 5“ на модела „Митос“ поради риск за националната сигурност. Какво трябва да знаем за забраната на САЩ за Anthropic разкрива детайли около това безпрецедентно решение. По-късно, в края на юни, разрешението за използване на модела беше възстановено.

Сам Олтман подчертава, че намирането на правилната формула за развитие е от критично значение. Той настоява за прозрачност и отговорност от страна на технологичните лидери. Според него забавянето би осигурило баланс в екосистемата. Това ще изисква много работа и сътрудничество. Забавянето на развитието на ИИ би трябвало да предотврати създаването на прекомерно предимство за отделни играчи. По този начин обществото ще има шанс да се адаптира към новите реалности.