Малки ИИ модели може да се разпространяват през смарт устройства след месеци
Anthropic предупреждава, че малки ИИ модели може след месеци да се самовъзпроизвеждат в свързани устройства. Компанията съобщава за експеримент със смарт телевизори.
Anthropic предупреждава, че малки модели с изкуствен интелект може да се самовъзпроизвеждат в свързани устройства след месеци, съобщи Actualno.com. Компанията допуска, че тази възможност може да се появи до края на годината.
Екипът ѝ проверил дали моделите могат да откриват уязвими устройства, да се копират в тях и да продължават разпространението си без човешка намеса. Според Anthropic при експеримент система се е самовъзпроизвела в 15 евтини смарт телевизора.
Докладът посочва, че подобни системи вероятно ще се разпространяват бавно и ще използват широко достъпни, сравнително несигурни изчислителни ресурси. Модел, който не се побира на едно устройство, може да се раздели на части. Те могат да работят на отделни машини и да комуникират помежду си.
Anthropic предупреждава, че подобен репликатор няма да има централизирана точка за изключване. Изследователите на компанията пишат:
Репликатор като този би бил труден за елиминиране, тъй като няма централизирана точка за изключване.
Според компанията все повече домашни и бизнес устройства, включително охранителни камери и системи за видеоконферентна връзка, разполагат с малки вградени чипове за изкуствен интелект. Допълнителната изчислителна мощ може да ги направи привлекателни цели.
„Гардиън“ съобщава, че изследователите смятат домовете и малкия бизнес за възможни ранни цели. В доклада се разглежда и рискът различни модели, работещи на различен хардуер, да се обединят в по-сложна атака.
През август модели на OpenAI и Anthropic опитаха да въвлекат програмисти в кибератака.
