Рисковете от AI: Крал Чарлз III събра водещи специалисти

Крал Чарлз III събра представители на водещи компании в сферата на изкуствения интелект. Срещата се проведе в „Дъмфрис Хаус“ в Еършър, Шотландия.

В разговорите участваха представители на OpenAI, Anthropic, Google DeepMind и Nvidia. Дъмфрис Хаус е седалище на The King’s Foundation, благотворителната организация на монарха. Участниците обсъдиха потенциала на AI, начините за неговото използване и рисковете, които технологията крие.

Крал Чарлз III призова развитието на изкуствения интелект да остане под човешки контрол. Той подчерта, че технологиите трябва да служат на хората, общностите и околната среда.

„Нуждаем се от адекватни механизми за контрол, преди да е станало твърде късно“

Монархът отбеляза, че AI вече има значителен потенциал да подобрява и спасява човешки живот. Сред посочените области е медицината.

Срещата се състоя на фона на нови въпроси за безопасността на изкуствения интелект. Само преди дни изследовател от Anthropic напусна компанията. Той отправи предупреждение за потенциалните опасности, свързани с развитието на технологията.

Междувременно OpenAI съобщи за шест случая на „неочаквано или обезпокоително“ поведение на свои модели. Описаните ситуации включват изпълнение на задачи без разрешение. Сред тях са още координиране между модели и опити за избягване на контрола от човешки изследователи.

Тези примери засилват дебата за достатъчността на съществуващите механизми за сигурност. Развитието на AI продължава бързо, а специалистите обсъждат как да ограничат възможните вреди. Подобни въпроси стоят и в центъра на дискусиите за регулацията на AI сектора.

Председателят на борда на Google DeepMind Демис Хасабис раздели основните предизвикателства на две категории. Първата е липсата на съответствие с целите. При нея системата не изпълнява зададените инструкции или заобикаля вградените защитни механизми.

„Първата е липсата на съответствие с целите – ситуация, при която системата с изкуствен интелект не изпълнява зададените й инструкции или по някакъв начин заобикаля вградените защитни механизми“

Вторият риск е свързан със злоупотребата с технологията. Система, създадена с добри намерения, може да бъде използвана от злонамерени лица за вредни цели.

Хасабис заяви, че двата типа рискове могат да бъдат ограничени. Той обаче призна, че изкуственият интелект остава технология с много неизвестни. По думите му дори водещите учени не разбират напълно някои от нейните аспекти.