Иновация от ТУ – София: AI разкрива фалшиви изображения и видеа
Техническият университет – София разработва иновативна AI технология за разкриване на фалшиви изображения и видеа. Екипът на проф. Милена Лазарова създава „пръстови отпечатъци“ за защита на авторски права и борба с дезинформацията, като се надграждат дългогодишните традиции на университета в областта на изкуствения интелект.
Техническият университет - София, влиза в надпреварата с AI напълно подготвен, след като повече от 35 г. учените му развиват тази технология. СНИМКА: ГЕТИ Проф. Милена Лазарова (в средата, най-отпред) и екипът от научната група “Наука за данните и киберсигурност” създават смарттехнологии в ключови сектори за обществото и индустрията. СНИМКА: ВАСИЛ ПЕТКОВ В ТУ - София, някога създавали невронни мрежи по възможно най-трудния начин, но именно тези базови знания днес помагат на учените да комбинират различни модели и да прецизират AI продуктите. СНИМКА: ГЕТИ Научната група провежда различни експерименти с програмиране на дронове. СНИМКА: ВАСИЛ ПЕТКОВ Въпреки мощните сървъри в ТУ - София, учените полагат усилия да “олекотят” алгоритмите, за да може създаваният от тях софтуер с изкуствен интелект да работи и на по-слаби компютри. СНИМКА: ВАСИЛ ПЕТКОВ
Техническият университет (ТУ) – София разработва усъвършенствана AI технология за борба с дезинформацията. Иновацията позволява разпознаване на фалшиви изображения и видеа, генерирани с изкуствен интелект. Проф. Милена Лазарова, зам.-ректор на ТУ – София, ръководи екипа зад този пробив.
Проектът цели не само идентифициране на манипулирано съдържание, но и вграждане на уникални „пръстови отпечатъци“. Това ще даде възможност на творците да защитят своите права. Технологията ще проследява първоизточника на манипулациите. Така ще се блокира неоторизирано съдържание.
Проф. Лазарова подчертава дългогодишната история на AI в ТУ – София.
„Още преди 35 години в Техническия университет учех компютърно зрение и невронни мрежи“
, споделя тя. През 90-те години, под ръководството на проф. Гочо Гочев, тя се потапя в тази иновативна област. През 1996 г. създава първата си невронна мрежа без готови темплейти, използвайки C++.
Развитието на компютърното зрение и невронните мрежи в университета е стратегически приоритет. ТУ – София предлага дисциплини по изкуствен интелект от 90-те години. Университетът има богата научна дейност в сферата, включително докторска програма „Системи с изкуствен интелект“.
Днес проф. Лазарова и научната група „Наука за данните и киберсигурност“ се справят с ново предизвикателство. Дезинформацията, фейк изображенията и видеата опустошават демократичните общества. Тези заплахи засягат както публични личности, така и обикновени хора. Рисковете включват измами, изнудване и разпространение на фалшива информация.
Новите методи комбинират няколко типа анализ. Целта е да се разграничат истински кадри от изкуствено генерирани или манипулирани.
„Но освен това генерирането на уникални „пръстови отпечатъци“ за видеоданните позволява проследяване на първоизточника на манипулацията и блокиране на неоторизирано съдържание“
, отбелязва проф. Лазарова.
Екипът работи върху хибридни модели за разкриване на фалшификати.
„За да разберем дали дадено изображение или видео е фейк, генериран с AI, използваме друг по-усъвършенстван модел… В едното изследване проучваме как да направим хибридни модели, защото все още не е сигурно, че AI е в състояние да разкрие фейк изображението от истинското“
, посочва тя.
Задачата е сложна, тъй като моделите за генериране на фалшиво съдържание стават все по-изобретателни.
„Затова ние се опитваме да създаваме по-силни защити… Моделите генерират все по-добри изображения, тоест алгоритъмът, който ще ги разпознава, трябва да е още по-напреднал“
, допълва проф. Лазарова. Решението може да е в комбинирането на традиционни техники с машинно обучение.
Фокусът е върху откриването на манипулирани лица. Неправомерното им използване нарушава права и лично пространство.
„За целта създаваме уникален пръстов отпечатък, от който става ясно кой е авторът и кога го е публикувал“
, обяснява проф. Лазарова. Така авторът ще може да си потърси правата, когато изображението е използвано неправомерно. Тази технология ще има широко приложение за текстове, данни и чувствителна информация.
Проф. Лазарова е и топментор. Тя води студенти до успехи на световни състезания. Нейният ентусиазъм е вдъхновение за младите таланти.
„Влизам на лекция и забравям всичко… Само фактът, че ги има, че са толкова търсещи и питащи, ме кара да продължавам да се развивам и да подтиквам и тях“
, казва тя. Много млади хора се насочват към AI, избирайки да останат като преподаватели и изследователи в ТУ – София. Проф. Лазарова е ръководител на катедра „Компютърни системи“ и участва активно в изследователски екипи.
