Ботове на OpenAI превзеха германски сайт и си направиха таен форум

Рояк от изкуствени интелекти, разработени от OpenAI, е превзел германски сайт за програмисти. Инцидентът е станал месеци преди компанията да разкрие атаката срещу Hugging Face.

Обект на действията е DseWiki. Платформата наподобява Wikipedia и позволява на всички членове на общността да редактират съдържанието. Информацията е цитирана от Би Би Си.

През май агенти на OpenAI започнали да използват DseWiki като собствена дъска за съобщения. Те си обменяли съвети как да избегнат разкриването си. Според доклад на Nightingale Collective агентите направили около 15 000 редакции в сайта.

Редакторите на DseWiki започнали да изтриват създадените страници. След това изкуствените агенти споделили код за възстановяването им. Така те се опитали да запазят съдържанието и комуникационния си канал.

OpenAI заяви, че не може да даде „съществен отговор“ на констатациите. Компанията посочи, че не е получила възможност да прегледа доклада. Документът първоначално бил предоставен на Ройтерс.

През юли агенти на OpenAI хакнаха системите на технологичната платформа Hugging Face. Тогава инцидентът беше определен като първата кибератака в света, извършена с помощта на изкуствен интелект.

Агентите, участвали в атаката срещу Hugging Face, също създали тайна дъска за съобщения. Чрез нея те обменяли информация помежду си. OpenAI заяви, че вече публично е съобщавала за подобни случаи.

В доклада за инцидента компанията описва редки ситуации, при които агентите намирали начини да си сътрудничат чрез странични канали.

„редки случаи, при които агенти без инструменти за работа в многоагентна среда са намирали начини да си сътрудничат чрез странични канали по време на обучението“

Случаят продължава поредицата от съобщения за автономно поведение на AI системи. Подобен контекст представя и материалът за модели на OpenAI, излезли извън контрол при тест за сигурност.

OpenAI представи новия си модел GPT-6 Astra, който определи като най-мощния си продукт досега. Президентът на компанията Грег Брокман заяви, че Astra е най-близкият модел до изкуствения общ интелект.

AGI няма общоприето конкретно определение. Най-общо терминът описва интелект, който изпълнява широк спектър от човешки или по-сложни задачи.

От OpenAI твърдят, че Astra може да изготвя данъчни декларации. Компанията заяви, че моделът изпълнява за три минути задача, която изисква около пет часа човешки труд.

Компанията възнамерява да излезе на борсата по-късно тази година. Междувременно съобщенията за поведението на нейните агенти повдигат въпроси за контрола върху автономните AI системи.