От х:

Днес в x:

Deepfake на кралица Елизабет II ни кара да се замислим за бъдещето на AI

По традиция, стартирала през 1952 година, кралица Елизабет II отправя своето послание към всички точно на 25.12. Тази година тя направи същото, като има една доста голяма промяна - след оригиналното й обръщение по BBC телевизионният канал Channel 4 излъчи алтернативен негов вариант, който всъщност използва deepfake технологията.

Целта бе да се привлече внимание към напредъка в машинното обучение и хардуера, използван за реализацията му, като едновременно с това да е „ярко предупреждение“ за тревожния потенциал на фалшивите новини и манипулираните съобщения.

"По BBC не винаги мога да си позволя да говоря свободно и от сърце. Затова съм благодарна на Четвърти канал, че ми даде възможността да кажа това, което искам, без някой да слага думи в устата ми", заявява кралицата, застанала в типичната за речите си обстановка.

Но тук има една малка, не особено скрита подробност. Това всъщност не е Елизабет II.

Вместо нея зрителите виждат поредното, при това доста успешно направено deepfake видео, чиято официална цел, освен всичко друго, е да напомни на британците да не вярват на всичко, което виждат и чуват в днешната среда на онлайн манипулации.

"Едно от нещата, които ни крепиха през тази година, са нашите семейства. Именно заради това бях толкова натъжена от заминаването на Хари и Меган. Малко неща са по-обидни от това някой да ти каже, че предпочита канадците пред това да е с теб", казва фалшивата Елизабет II.

Deepfake видеоклипът е създаден от VFX студиото Framestore, носител на "Оскар" за специални ефекти. Като основа за речта на кралицата служи комедийната актриса Дебра Стивънсън, която и преди е имитирала гласа на кралицата като част от сатирично куклено шоу.

Тя чете самата реч, а чрез алгоритъма на програмата лицето и гласът ѝ се заменят от тези на кралицата.

Така фалшивата реч на британския монарх ще засегна множество спорни теми - от решението на принц Хари да се откаже от ролята си в кралското семейство и да напусне страната със съпругата и детето си, до скандала с принц Андрю, който трябваше скоростно да се оттегли от официалните си задължения заради скандала, който го свърза с американския милиардер Джефри Епстайн.

А в края на обръщението "кралицата" обещава да изпълни танцово предизвикателство от TikTok.

Иън Кац, директор на програми на Channel 4, коментира, че технологията deepfake е "плашещата нова граница" в битката между дезинформацията и истината.

"Тазгодишното алтернативно коледно обръщение - привидно изнесено от една от най-познатите и доверени фигури в страната - е мощно напомняне, че вече не можем да се доверяваме на собствените си очи", казва Кац.

В последните няколко години технологията deepfake навлиза все повече в онлайн пространството. С помощта на изкуствен интелект и специални алторитми, тя създава реалистично и често убедително изображение и говор, които да заблудят някои потребители.

В случая обаче британската телевизия не иска да заблуждава никого, а точно обратното - да припомни на хората, че днешните технологии позволяват да се извършват множество манипулации в обществото. Като същевременно с това, разбира се, си направят малко шеги на гърба на кралското семейство.

Въпреки това редовният кореспондент на Би Би Си от Бъкингамския дворец, Никълъс Уичъл, коментира, че на практика това не е особено добра имитация.

"Досега е имало безброй имитации на кралицата, а тази не е особено добра. Гласът звучи като жалък опит да се наподоби нейния. Притеснителното тук е използването на видео технология, която се опитва да синхронизира устните й с изговорените думи", коментира Уичъл.

Според Сам Грегъри, програмен директор на неправителствена организация, която се занимава с технологии за защита на човешките права, по подобни въпроси трябва да се пристъпва много внимателно, тъй като с използването на deepfake технологията авторът на видеото кара хората да си мислят, че вече не могат да вярват на очите си.

"Ако не сте виждали deepfake преди, ще си помислите, че това е много по-разпространен проблем, отколкото реално е", коментира той пред "Гардиън".

Арик Чоудхъри, автор на подобни видео манипулации с участието на британски политици, на свой ред предупреждава, че сега за политиците ще е много по-лесно да твърдят, че всеки компрометиращ ги видеозапис е манипулиран и ще е много по-трудно да отговарят за думите си.

Много онлайн потребители също са недоволни от решението на Четвърти канал да направи "алтернативна реч" на кралицата. Част от тях коментират в Twitter, че подобно нещо е неуважително и дори обида за държавния глава на Великобритания.

Междувременно дори са постъпили и жалби в британския медиен регулатор Ofcom.

От Бъкингамския дворец засега не са публикували коментар по темата с алтернативната реч на кралица Елизабет II.

В момента има достъпни вече редица приложения, които се нуждаят от само една снимка, за да заменят лицето на даден холивудски актьор с това на потребителя.

По-рано тази година Microsoft представи приложение, което може да открива подправени с deepfake видеа.

От компанията заявиха, че се надяват то да помогне в борбата с дезинформацията, но експертите предупредиха, че има риск твърде бързо технологията да напредне, а приложението на Microsoft да остарее морално за кратък период от време.

Видеа по темата

Facebook коментари

Коментари в сайта

Случаен виц

Последни новини