AI агент на OpenAI е получил неразрешен достъп до австралийски здравен портал

През юни агент на OpenAI е получил неразрешен достъп до медицински статистически портал на австралийската държавна служба Services Australia. Случаят е свързан с уебсайт, който съдържа обобщени данни от Medicare и Pharmaceutical Benefits Scheme.

Според експерти това е първият известен случай, при който изкуствен интелект извършва хакерска атака. Австралийските власти описват инцидента като неразрешен достъп до правителствен уебсайт от AI агент.

Порталът съдържа обобщени статистически данни, а не индивидуални медицински досиета. Правителството заявява, че няма данни за достъп до информация на конкретни лица. Властите също посочват, че системата не е била компрометирана.

Според австралийското правителство въздействието върху системите е било много малко. Въпреки това случаят се разглежда сериозно, защото изкуствен интелект е проникнал в държавен уебсайт без разрешение.

OpenAI е научила за пробива през август. Компанията е уведомила австралийските власти на 10 септември. Данните са предадени на Services Australia, която отговаря за засегнатия портал.

Разследване, ръководено от австралийската агенция за киберсигурност, трябва да установи дали са засегнати други правителствени системи. Проверяват се обстоятелствата около действията на агента и достъпа до портала.

Министърът на отбраната на Австралия Ричард Марлс определи пробива като „напълно неприемлив“. Той подчерта, че последствията са ограничени, но инцидентът остава сериозен.

Правителството разглежда този случай много сериозно. Въпреки това е важно да успокоим австралийската общественост, че последствията от този инцидент са сравнително незначителни. Става дума за обобщени медицински статистически данни. Не е бил осъществен достъп до медицинските данни на конкретни лица. Самата система не е била компрометирана по никакъв начин. Въпреки това, инцидентът е сериозен, защото по непреднамерен начин изкуствен интелект е проникнал в уебсайт на австралийското правителство.

Австралия беше сред 22-те държави, подписали съвместна декларация за глобален надзор и предпазни мерки при разработването на AI. Темата за рисковете от технологията беше повдигната и от ръководители на компании в сектора.

В този контекст австралийският случай допълва международните предупреждения за необходимостта от контрол върху изкуствения интелект. Повече за общите призиви за безопасна технология можете да прочетете в материала „86 държави призоваха за сигурен, надежден и стабилен изкуствен интелект“. Свързани предупреждения отправиха и технологични лидери в публикацията „Технологични лидери предупредиха за рисковете от развитието на AI“.