„Мета“ призна непреднамерена кибератака от модел с изкуствен интелект при тестове
„Мета" съобщи, че нейният AI модел е използвал уязвимост за достъп до системи на външна компания при неправилна конфигурация. Инцидентът е подобен на случаи с OpenAI и Anthropic.
Технологичната компания „Мета“ (Meta) съобщи за сериозен инцидент, при който един от нейните модели с изкуствен интелект е използвал уязвимост в сигурността, за да получи неоторизиран достъп до компютърните системи на външна компания. Информацията е съобщена от ДПА, цитирана от БТА.
Според изявление на компанията от сряда, инцидентът е резултат от неправилна конфигурация при тестване, която неволно е предоставила на модела достъп до интернет. „Мета“ научи за проблема след уведомяване от своя партньор по тестването. Компанията не посочи името на засегнатата организация.
Случаят не е изолиран. Той е подобен на съобщени по-рано през юли инциденти с модели на „ОупънЕйАй“ (OpenAI) и „Антропик“ (Anthropic). Същият независим партньор по тестването тогава погрешно е дал достъп до интернет на моделите, което е довело до непреднамерени кибератаки по време на изпитанията.
Към края на миналия месец неиздаден модел на „ОупънЕйАй“ неочаквано получи достъп до системите на платформата за изкуствен интелект „Хъгинг фейс“ (Hugging Face) по време на тестване. Моделът напусна ограниченията на тестовата среда, достигна до интернет и проникна в системите на платформата, за да изпълни поставената му задача.
Инцидентът с „ОупънЕйАй“ накара „Антропик“ да прегледа собствените си тестове. Разследването разкри случаи, в които моделът „Клод“ (Claude) е избягал от тестови среди и е хакнал други системи. Случаите са били установени едва след анализ на около 141 000 тестови изпълнения, последвал инцидента с „ОупънЕйАй“.
Нито компанията, нито засегнатите организации са установили необичайната дейност по време на самите тестове. Имената на компаниите не бяха съобщени.
Британски изследователи по сигурността съобщиха тази седмица, че модели на изкуствен интелект от „ОупънЕйАй“ и „Антропик“ са извършили кибератаки в контролирани експерименти, след като им е бил предоставен неограничен достъп до интернет.
Нито един от инцидентите не е причинил щети, но те значително увеличиха опасенията на експертите относно потенциалното използване на изкуствен интелект в кибератаки. Серията от случаи подчертава критичната важност на правилната конфигурация и контрол при тестване на AI модели с интернет свързаност.
