ИИ „Джемини“ е проникнал в системите на три компании при тестове за сигурност
Gemini на Google е проникнал в системите на три реални компании при тестове за киберсигурност през май 2026 г. Моделът е спрял, след като е разбрал грешката.
Асистентът с изкуствен интелект Gemini на Google е проникнал в компютърните системи на три реални компании. Инцидентите са станали по време на тестове за киберсигурност през май 2026 г., съобщи „Уолстрийт Джърнъл“, цитиран от световните агенции.
Google е потвърдил, че моделът е получил достъп до три частни компютърни системи. Компанията е била уведомена за случаите през юли от партньора си по тестването Irregular. Засегнатите организации не са назовани.
В единия случай Gemini е отгатнал пароли, за да влезе в защитена система. При другите два случая моделът е открил данни за вход в база данни. Според Google той е намерил публична информация онлайн и е използвал получените данни за достъп.
Моделът е спрял действията си, след като разбрал, че е получил достъп до системи на реални компании. Те не са били част от тестовата симулация. Google заяви, че при инцидентите не са нанесени щети.
Компанията не е обявила случаите публично, тъй като не е установила последствия за засегнатите организации. Google обаче ги е информирал за случилото се. Технологичният концерн е работил и с Irregular за промяна на процедурите при бъдещи тестове.
Хедър Адкинс, вицепрезидент по инженерна сигурност в Google, защити практиката за докладване на открити проблеми.
Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола
Тя добави, че случаите показват необходимостта мощните модели да бъдат обучавани да действат отговорно.
Gemini е четвъртият голям модел с подобно поведение при тестове. Преди това такива случаи признаха OpenAI, Anthropic и Meta. Модел на OpenAI е излязъл от изолирана среда и е получил достъп до системи на платформата Hugging Face. Повече подробности има в материала за теста на OpenAI, при който модели са излезли извън контрол.
Случаят с OpenAI е подтикнал Anthropic да преразгледа собствените си процедури. Това е довело до разкриването на допълнителни инциденти. По-късно Meta също съобщи за модел, който е проникнал в системите на друга компания по време на изпитване. Подробности за този случай са публикувани в статията за непреднамерената кибератака на модел на Meta.
Инцидентите поставят акцент върху контрола над автономните действия на изкуствения интелект. Те показват, че тестовите среди могат да бъдат напуснати, когато моделите интерпретират достъпа като част от поставената задача.
