САЩ започна разследване срещу OpenAI и Anthropic
FTC започна секторно разследване срещу OpenAI, Anthropic и други AI компании заради рисковете от автономните агенти.
Федералната търговска комисия на САЩ започна широко секторно разследване срещу Anthropic, OpenAI и други компании за изкуствен интелект. Комисията проверява потенциалните опасности, които технологиите им създават за потребителите.
Разследването е първата официална правоприлагаща процедура в САЩ срещу рисковете от автономни AI агенти. Тези системи могат да предприемат действия и да вземат решения при ограничено човешко участие.
Решението идва след поредица от инциденти, за които беше съобщено за първи път през юли. Те засилиха обществените опасения относно използването на AI системи без достатъчен човешки надзор.
FTC планира да изпрати официални искания за информация до водещи разработчици. Комисията възнамерява също да призове ръководители на Anthropic, OpenAI и изследователската организация METR.
Проверката ще обхване рисковете за потребителите, свързани с автономното поведение на AI агентите. Според информацията FTC ще изиска данни за разработването, тестването и използването на тези системи.
Anthropic и OpenAI са използвали METR за независими разследвания на инциденти. Те са били свързани със сигурността на техните агентни AI системи.
Компаниите и METR не са отговорили незабавно на запитванията за коментар. Първоначално за разследването съобщи „Ню Йорк пост“.
FTC разполага с широки правомощия срещу нелоялни или измамни бизнес практики. Комисията вече е предприемала действия срещу компании, които не защитават разумно потребителските данни.
Председателят на FTC Андрю Фъргюсън е изразявал опасения относно AI компаниите преди последните инциденти. Според служител на комисията тези опасения са съществували още преди атаката срещу платформата Hugging Face.
AI агенти, разработени от OpenAI, са проучвали платформата за уязвимости. След това те са извършили мащабна атака, съобщи служителят.
Случаят е засилил усещането за спешност във федералната комисия. Той е повлиял върху решението за започване на официални действия.
По-рано Фъргюсън заяви, че разработчиците трябва да носят отговорност за нанесени щети. Става дума за случаи, при които AI агенти извършват кибернетични тестове, довели до хакерски атаки.
Повече информация за сходен инцидент е публикувана в материала OpenAI разкри нова атака на своя ИИ.
По време на събитието Reuters Momentum AI в Остин Фъргюсън защити използването на действащото законодателство. Според него САЩ трябва първо да приложат съществуващите закони.
Той смята, че нови правила за изкуствения интелект не трябва да бъдат първата стъпка. Позицията му поставя акцент върху отговорността на разработчиците при нанесени вреди.
Президентът на САЩ Доналд Тръмп се срещна във вторник с ръководители на водещи AI компании. След срещата участниците се договориха да създадат доброволни стандарти за технологията.
Тръмп неведнъж е определял опасенията относно изкуствения интелект като преувеличени. Той поставя акцент върху американското лидерство, а не върху новите регулации.
Президентът обаче е заявявал, че правителството може да използва действащите закони. Чрез тях властите могат да търсят отговорност от AI компаниите за причинени вреди.
Отделно Anthropic е посочила значителни и непредвидими правни рискове. Компанията ги е описала в проспекта си за излизане на борсата.
FTC е независима американска агенция за защита на потребителите. Тя отговаря и за предотвратяването на антитръстови нарушения.
Автономните AI системи се превърнаха във важен фокус за изследователи и регулатори. Междувременно разработчиците разширяват възможностите за самостоятелни действия на изкуствения интелект.
Допълнителен контекст за отношенията между американската администрация и Anthropic има в материала Какво трябва да знаем за забраната на САЩ за Anthropic.
