Jest to zjawisko nowe i bardzo groźne. Deepfake to nagranie spreparowane. Polega na nałożeniu twarzy konkretnej osoby na dowolną postać. Można więc zobaczyć pewne osoby mówiące rzeczy, których nigdy nie powiedziały lub wykonujące czynności, których nigdy w rzeczywistości nie robiły. Możliwe stało się "doczepienie" do twarzy aktora lub aktorki porno twarz dowolnej osoby i rozpowszechnianie takich scen. Ostatnio pojawiła się kolejna technika nazwana DeepNudes. Przerabiała ona fotografie kobiet tak, aby wyglądały jak rozebrane. Aplikacja została wycofana po tym, gdy o sprawie zrobiło się głośno, ale wersje oprogramowania nadal krążą po forach internetowych.
Wyrządzanie krzywdy
Problem fałszywych treści generowanych przy wykorzystaniu narzędzi sztucznej inteligencji staje się coraz poważniejszy. Eksperci podkreślają tymczasem, że deepfakes i technologie odtwarzania wyglądu czy wypowiedzi mogą wyrządzić osobie, która jest ofiarą krzywdę psychiczną, fizyczną i wizerunkową. Internet nie zapomina, a rozróżnienie treści prawdziwych od generowanych przez algorytmy na pierwszy rzut oka obecnie już bardzo często jest niemożliwe.
Specjaliści tłumaczą, że treści generowane w oparciu o sztuczną inteligencję - niezależnie od tego, czy mają na celu podszycie się pod konkretną osobę publiczną (na przykład polityka czy celebrytę), czy też skrzywdzenie osoby prywatnej (jak to najczęściej ma miejsce w przypadku "pornografii zemsty") - są narzędziem przemocy, dezinformują i wprowadzają w błąd.
Zmiany w amerykańskim stanie
Wirginia stała się jednym z pierwszych miejsc, w których zakazano dzielenia się generowaną komputerowo pornografią. Amerykański stan uczynił to poprzez zmianę istniejącego prawa, które uznawało za przestępstwo tzw. pornografię zemsty - złośliwe udostępnianie wyraźnych zdjęć lub filmów wideo bez zgody ofiary. Od lipca 2019 r. wyraźnie zaznacza się też, że kategoria ta obejmuje materiały "fałszywie stworzone".
Poprawka dotyczy "fałszywie stworzonego obrazu wideo lub nieruchomego obrazu", co oznacza, że obejmuje zarówno złożone, realistyczne, głęboko sfałszowane filmy wideo, jak i proste zmiany zdjęć przy użyciu prostego oprogramowania. Każdy, kto dzieli się tą treścią jako środkiem do "wymuszania, nękania lub zastraszania" spotyka się z grzywną sięgającą 2500 dolarów i karą do jednego roku więzienia.
To posunięcie zbiega się w czasie z raportem krytycznym w stosunku do prawa brytyjskiego. W opracowaniu opublikowanym przez Durham University i Kent University podkreślono, że oprogramowanie wykorzystujące sztuczną inteligencję znacznie ułatwiło tworzenie deepfakes, a jednocześnie obraz staje się coraz trudniejszy do zidentyfikowania jako manipulowany.
"Musimy zmienić nasze przestarzałe i fragmentaryczne prawa, w tym kryminalizując paraliżujący i zagrażający życiu wpływ zagrożeń oraz uznając znaczące szkody związane z fałszywymi pornografiami" - powiedziała jedna z autorek, prof. Clare McGlynn. W zeszłym miesiącu brytyjskie Ministerstwo Sprawiedliwości zwróciło się do Komisji Prawnej o dokonanie przeglądu tej kwestii w Anglii i Walii. Jednakże niezależny organ ma złożyć sprawozdanie dopiero latem 2021 roku.
Źródło: mediaphilia.pl, techspot.pl, bbc.com