Populárne Príspevky

Redakcia Choice - 2019

Neverte nikomu: Čo ohrozuje neurónovú sieť, robiť porno

Dmitrij Kurkin

Falošné porno videav ktorom hviezda filmu "Wonder Woman" Gal Gadot údajne sex s jeho nevlastným bratom, ktorý sa objavil na webe tento týždeň, sa ukázalo byť nielen falošný, ale falošný generovaný umelou inteligenciou.

Autor videa, anonymný užívateľ reddit s prezývkou deepfakes, v rozhovore s Vice, potvrdil, že on používal neurónovú sieť, aby "sa photoshoot" Gadot tvár do tela porno herečka. Falošný, všeobecne, je viditeľný, a deepfakes nemali v pláne robiť žiadne peniaze na to - podľa neho on chcel len skontrolovať, aké ľahké by bolo, aby to pomocou AI. A má pre nás zlú správu: bolo veľmi ľahké urobiť falošné porno doma.

Problém vo všeobecnosti nie je v samotných pornofeakoch: dopyt po obrázkoch a videách, kde celebrity ako herci a herečky majú sex, bol a bude s fetišistami a fanúšikmi pocitov. Čo sa týka vonkajšej podobnosti s hviezdami v pornografickom priemysle, prebieha celá kariéra - tento fenomén dokonca vyvolal výrazný titulok žltej tlače: „Gordon Ramsay trpaslík trpaslíkov trpaslík objavil mŕtvy v jazveckom diere“.

Ale ak pred výrobou potreboval čas, zdroje a nejakú zručnosť, potom neurónová sieť, vyškolená na zváranie tvárí na obraz, veľmi zjednodušuje úlohu. Roboty sa držia, nie človek a roboti sa čas od času múdrejší, čo znamená, že falzifikáty budú vyzerať viac a spoľahlivejšie. Užívateľ hlbokého boja objasnil, že zozbieral svoj softvér AI z improvizovaných prvkov nachádzajúcich sa v knižniciach s otvoreným zdrojovým kódom a fotografoval vo verejných kanálech a hostingu, napríklad v službe YouTube. Jednoducho povedané, všetky nástroje na generovanie pornofeikov ležali pod jeho nosom, nielen s ním, ale aj medzi miliónmi ľudí na celom svete.

A to, presne povedané, ani správy. V roku 2003, odborníci z University of Oregon Health and Science varovali, že audio podvody sú "ľahké urobiť a ťažko určiť." Do roku 2017 sa predikcia naplnila a boli vytvorené falošné hlasové nahrávky generované neurónovými sieťami, ktoré je veľmi ťažké odlíšiť od reálnych. Po audite bolo video vytiahnuté nahor. Vývoj zamestnancov Univerzity vo Washingtone synchronizuje výrazy tváre osoby s jeho rečou: vo videozázname s napríklad Barackom Obamom je prítomný len zvuk, ktorý je vytvorený programom. Spojte sa s ostatnými - a teraz sú pripravené falošné videá, v ktorých, napríklad, známy liberálny politik "priznáva" svoje sympatie k Hitlerovi.

Predstaviť si, ako zneužitie takejto umelej inteligencie môže viesť k tomu, že by to mohlo viesť k tomu, že by to viedlo k tomu, že by to mohlo viesť k tomu, že by sa zneužitia takýchto umelých inteligencií z Microsoftu, ktoré sa stali trolmi z Twitteru, stali rasistickými v menej ako jeden deň, sa javilo ako dosť žart. A samozrejme, technológia Porno nie je primárne ohrozená Gal Gadot, Taylor Swift alebo Jennifer Lawrence. Sú dostatočne zabezpečené, aby si najali armádu IT špecialistov, ktorí rozpoznajú faloš, a flotilu právnikov, ktorí budú žalovať každého, kto sa pokúsi použiť tieto falzifikáty na osobný zisk.

Nie, prostí smrteľníci sa stanú obeťami nových neškodných algoritmov. Digitálne falzifikáty môžu byť použité na pornografiu, kybernetické prenasledovanie, sieťové obťažovanie, vydieranie a manipuláciu ľuďmi, ktorí sú ľahko navrhnuteľní a nepoznajú najmä správy z oblasti vyspelých technológií („Vaša dcéra bola natáčaná na videozáznam, prevod peňazí naliehavo, inak ho všetko uvidí“). A nehovoríme nevyhnutne o porne: falzifikáty môžu byť tiež spustené do siete pre politickú propagandu a podnecovanie k nenávisti.

"Ale toto je príšerné!" Áno, monstrózne, a nie je to vinu za to, že to nie je hlboko zakorenené. Keďže hackeri niekedy prenikajú do bankových systémov, aby nekradli peniaze, ale aby oddelenie pre kybernetickú obranu preniesli do bezpečnostných medzier, tak ho vymyslel anonymný programátor AI, ktorý nás stavia pred fakt: éra digitálnych falzifikátov nie je antipotopický hororový príbeh "Čierne zrkadlo" a prichádzajúca realita. Ona ešte nebola chápaná modernou etikou (môže byť pornofily považovaná za inváziu do súkromia iných ľudí?), Ani podľa platného zákona. Ale je to v nej, že budeme musieť žiť v nadchádzajúcich rokoch. Je teda potrebné vyvinúť protilátku proti takejto plnke.

Kurátori Collinsovho slovníka označili výraz „falošné správy“ za výraz roku 2017, čím zdôraznili, že priemerný používateľ je závislý na clickbate a repostových senzačných titulkoch bez plytvania času na overenie pravosti informácií. Falošné správy môžu ovplyvniť výsledky volieb a referend. A to je tiež súčasť novej reality, v ktorej už máme a v ktorej sa budeme musieť naučiť byť menej frivolní.

Sociálne siete už vytvorili internet skleneným murovaným domom, kde si každý deň môžu sledovať životy milióny ľudí - aj keď to nechcete. Teraz je zrejmé, že v tomto dome nie sú žiadne dvere: ktokoľvek sa môže pokúsiť o inváziu do vášho osobného priestoru, pomocou AI naskrutkovať vašu tvár na pornorol alebo na film „Pán prsteňov“. Súkromie je mŕtve, ale nielen Veľký brat je vinný z toho vo forme špeciálnych služieb a globálnych korporácií, ale aj my sami.

Svet digitálnych falzifikátov prichádza, ale to nie je dôvod na paniku, paranoiu, odmietnutie používať internet alebo požiadavky na zákaz neurónových sietí. To je dôvod na premýšľanie o hygiene siete a novej etike, ktorá raz a navždy napraví, že použitie obrazu niekoho iného na vytvorenie digitálneho falošného filmu je odporné a nezákonné. Časy, keď ľudia bezpodmienečne uverili všetkému, čo hovoria v televízii (aj keď hovoria, že „Lenin bol huba“), miznú. Postupne si zvykneme, že sa nedôverujeme všetkému, čo je napísané na internete.

kryt:Warp záznamy

Загрузка...

Zanechajte Svoj Komentár