Deepfakes 2.0: de angstaanjagende toekomst van AI en nepnieuws

Deepfakes 2.0: de angstaanjagende toekomst van AI en nepnieuws

Stel je voor dat je jezelf in een pornovideo ziet. Naakt. Geschonden. Behalve dat je je de handeling, de kamer waarin je bent, de partner waarmee je bent of de camera filmt, niet meer kunt herinneren. Dat komt omdat het niet echt is gebeurd, althans niet bij jou.



Of stel je voor dat je jezelf in een video ziet met dingen die je nog nooit eerder hebt gezegd, controversiële dingen, dingen die je je baan kunnen kosten of die je van familie en vrienden kunnen vervreemden. De stem die je hoort is beslist van jou, en dat geldt ook voor de zinswendingen, maar je herinnert je niet wat er wordt gezegd en je bent geschokt door wat je hoort.

Dat zijn de mogelijkheden die worden ontketend door beruchte programma's zoals FakeApp, die slechte acteurs in staat hebben gesteld om het gezicht van nietsvermoedende slachtoffers op het lichaam van iemand anders te leggen, wat een voorspelbare vlaag van nepporno van beroemdheden uitnodigt. De video's worden deepfakes genoemd, en hoewel er veel is gezegd over de gevaren die ze met zich meebrengen, zijn de echte problemen veel breder dan je misschien beseft.



Deepfakes zijn slechts de eerste stap in een keten van technologische ontwikkelingen die één duidelijk doel hebben: het creëren van AI-klonen die eruitzien, spreken en zich gedragen als hun sjablonen. Met behulp van neurale netwerken en deep learning-programma's zullen deze klonen voor het eerst bestaan ​​in video- en virtuele werelden. Of je er nu bewust bij betrokken bent of niet, ze bieden nauwkeurige reproducties van je gezichtsuitdrukkingen, accent, manier van spreken, lichaamstaal, gebaren en bewegingen, en gaan verder dan het eenvoudig overplanten van gezichten om uitgebreide, multidimensionale imitaties te bieden.

In de verre toekomst zullen deze vorderingen in machine learning worden gecombineerd met de vooruitgang in robotica, waardoor fysieke robots de vorm en het gedrag van bepaalde menselijke wezens, zowel levend als dood, volledig kunnen aannemen. In het proces zal de aard van individualiteit en persoonlijkheid veranderen, omdat we merken dat we naast onze eigen klonen en volmachten leven, die namens ons zullen optreden als alternatieve versies van onszelf.

Dit is het nietWestworldScience fiction. Het begint al te gebeuren.

emma watson deepfake nepporno-video
Een deepfake-video van Emma Watson

Een enkel pakket

In termen van het imiteren van specifieke mensen op een niet-cognitief niveau, is AI-technologie bijna in staat om overtuigende virtuele klonen te produceren. 'Gezichtsuitdrukking, stem en lichaamsbewegingen zijn drie voorbeelden van wat AI tegenwoordig zou kunnen doen, ervan uitgaande dat we het juiste type en de juiste hoeveelheid gegevens hebben', legt Hussein Abbass uit, een professor aan de University of New South Wales, wiens onderzoek dergelijke gebieden als AI en beeldverwerking, intelligente robotica en mens-computerinteractie. 'De technologie heeft enkele verbeteringen nodig, maar de haalbaarheid van de principes is al aangetoond.'



Een voorbeeld van hoe neurale netwerken en deep learning al meer kunnen doen dan alleen iemands gezicht kopiëren, aldus onderzoekers van de University of California, Berkeley. ontwikkelde een programma dat de dansbewegingen van één persoon kan leren en deze naar een tweede kan kopiëren. Terwijl de onderzoekers de lichamen van beide individuen moesten modelleren als stokfiguren in de video's die ze maakten, illustreert hun werk hoe AI al ingewikkelde menselijke bewegingen kan leren en reproduceren.

Zoals Abbass opmerkt, is een dergelijke reproductie 'anders dan het imiteren van cognitie, die de mentale processen vertegenwoordigt die het gedrag hebben voortgebracht'. Toch gelooft Abbass dat het vermogen om zowel het innerlijke als het externe gedrag te imiteren dat door een bepaald persoon wordt geproduceerd, binnen tien jaar zou kunnen liggen. 'We hebben vandaag enkele succesverhalen in beperkte contexten in deze richting, maar ik voorspel dat het nog 10-20 jaar kan duren voordat we het omslagpunt bereiken dat nodig is om AI-technologieën te laten convergeren naar een staat waarin een massaal verspreide AI niet te onderscheiden lijkt te zijn. van een mens in de manier waarop hij handelt en zich gedraagt. '



AI kan ook individuele menselijke stemmen nabootsen met een hoge mate van nauwkeurigheid. In februari kwam het Chinese technologiebedrijf Baidu aangekondigd dat het een diepgaand leerprogramma had ontwikkeld dat de stem van een bepaalde persoon kan reproduceren na slechts een minuut ernaar te hebben geluisterd, terwijl een in Montreal gevestigde startup genaamd Lyrebird ging openbaar met een vergelijkbare prestatie in april 2017. En net zo indrukwekkend lanceerde Luka uit San Francisco een chatbot met de naam Replica's vorig jaar dat leert van de spraakpatronen (of beter gezegd tekst) van de gebruiker om een ​​dubbele conversatie te produceren.

De vraag is: kunnen al deze vorderingen in machine learning worden gecombineerd in één enkel AI-programma dat, in video's of een virtuele wereld, fungeert als een griezelig levensechte kloon van een gebruiker of een onwetend onderwerp?

'Het is moeilijk te voorspellen', zegt Bryan Fendley, een expert op het gebied van educatieve AI en de directeur van educatieve technologie en webservices aan de Universiteit van Arkansas in Monticello. “AI kan heel geschikt zijn om menselijk gedrag na te bootsen, zoals spraak, handschrift en stem. Op een dag kunnen we het zelfs allemaal samenvoegen in een enkel pakket dat als een soort kloon kan doorgaan. ...

“Ik zie veel experts cijfers weggooien voor AI-voorspellingen die twintig jaar later zijn. Ik denk dat het sneller gaat dan dat. '



Carbon kopieën

Binnen twee decennia zal AI-technologie zo ver gaan dat een aantal dingen mogelijk zal zijn. Aan de ene kant zullen mensen waarschijnlijk toegang hebben tot producten en diensten waarmee ze voor hun eigen vermaak (of therapie ). Dergelijke klonen zullen toegankelijk zijn via digitale interfaces of virtuele spelwerelden, zodat ze kunnen worden gebruikt alsof ze echt zijn.

“Ja, binnen ongeveer 10 jaar zal de combinatie van chatbot-achtige technologie en deepfake-achtige technologie een plausibele audiovisuele interactie kunnen genereren via een Skype-achtige technologie waarvan je zou denken dat het een echt persoon is, althans voor een korte periode ”, zegt Nell Watson, een AI-expert en lid van de faculteit van de afdeling AI & Robotics van de Singularity University.

Watson erkent dat er nog aanzienlijke vooruitgang nodig is voordat echt overtuigende AI-klonen van mensen een vast onderdeel worden van het technologische landschap. Desalniettemin denkt ze dat het eenvoudiger zal zijn om op kunstmatige intelligentie gebaseerde reproducties van beroemdheden te produceren.

'Een belangrijk aspect is de noodzaak om over goede trainingsgegevens te beschikken om mee te werken', zegt ze. 'Voor een beroemdheid is dit vrij eenvoudig, gezien een verscheidenheid aan film- en tv-optredens, interviews enz.… In de videogameDeus Ex Invisible War, is er een personage, NG Resonance, waarmee de speler kan communiceren in verschillende kiosken in nachtclubs, enz. Dit personage wordt mogelijk gemaakt door AI, maar is gebaseerd op een echt menselijk sterretje ... We zullen waarschijnlijk soortgelijke interacties zien met pseudo-echte AI -krachtige personages, virtuele versies van historische helden en schurken die themalocaties kunnen bevolken (bijvoorbeeld Hard Rock Café of een restaurant met een Americana-thema misschien). '

Watson waarschuwt daarentegen dat het klonen van niet-beroemde individuen aanzienlijk moeilijker zal zijn - maar niet onmogelijk. “Het nabootsen van een particulier zal in vergelijking een uitdaging zijn, behalve door hun bewuste medewerking. Er zijn tegenwoordig technologieën die 3D-modellen gemakkelijk kunnen vastleggen van 2D-foto's of video, en accent en prosodie kunnen repliceren, dus het repliceren van persoonlijkheid en een plausibele ‘vonk van het leven’ wordt de grootste uitdaging. ''

Toch is het duidelijk dat dergelijke video's en simulaties mogelijk zijn met voldoende gegevens, en in een tijdperk van big data en alomtegenwoordige sociale media zou het naïef zijn om ze volledig uit te sluiten. En ervan uitgaande dat er stiekem genoeg persoonlijke gegevens kunnen worden verzameld, zouden klonen dan op vrijwel dezelfde manier kunnen worden gebruikt als deepfake-pornovideo's om nu verschillende mensen te vernederen, zij het met een overtuigender en uitgebreider scala aan geïmiteerde vaardigheden.

Deepfakes: op maat gemaakte nepporno van beroemdheden met Emma Watson.
Nog een deepfake-video van Emma Watson

Stuur de klonen in

Dr. David Levy gelooft niet alleen dat AI-klonen in de komende twee decennia zullen verschijnen, maar dat er ook voor hen een aanzienlijke consumentenmarkt zal zijn.

'Binnen 20 jaar zal er een verzameling technologieën beschikbaar zijn waarmee bedrijven robots kunnen produceren in de gelijkenis van ieder mens', zegt Levy, een internationale schaakmeester die zijn liefde voor schaken combineerde met een interesse in computers om een ​​laatste te smeden. -dagcarrière als auteur en expert op het gebied van AI.

In een klimaat dat wordt bepaald door pornografische deepfake-video's, zou een dergelijke voorspelling voor velen reden tot bezorgdheid kunnen zijn, gezien het enorme potentieel voor misbruik. Maar Levy, de auteur van Liefde en seks met robots , is van mening dat robotklonen een aantal legitieme toepassingen zullen hebben.

“Een idee is dat het mogelijk wordt om een ​​robot te maken die lijkt op een overleden dierbare. Dus als je 50 jaar met iemand getrouwd bent en hij of zij overlijdt, kun je een replica van hem of haar hebben '', zegt hij. (Dit kan gedeeltelijk een verwijzing zijn naar Bina48 , een robot gebouwd door David Hanson van Hanson Robotics en Sophia in 2010 en gebaseerd op de 'mind clone', d.w.z. audio-opnames, van Bina Rothblatt, de overleden mede-oprichter van de transhumanistische Terasem-beweging.)

Een andere functie voor op AI gebaseerde robotklonen is die van proxy of stand-in (voornamelijk) voor beroemdheden. Als voorbeeld citeerde Levy Hiroshi Ishiguro, die beroemd was geprogrammeerd een Android-versie van hemzelf om namens hem lezingen te geven. 'Er bestaat al één zakelijke deal waarbij Stormy Daniels haar gelijkenis laat veranderen in een seksrobot door een bedrijf in dat bedrijf', zegt hij, verwijzend naar een licentieovereenkomst ondertekend in juni tussen de pornografische actrice en de in Californië gevestigde seksrobotfabrikant Realdoll.

Levy geeft toe dat dergelijke licentieovereenkomsten zeker niet de kop van elke beroemdheid zullen zijn. 'Maar evenzeer in de echte zakenwereld als bij mensen die geld proberen te verdienen, denk ik dat sommige beroemde mensen zullen denken:‘ Dat is een leuk idee. ’Het is een beetje zoals een 3D-versie van het sturen van een foto van iemand. Ik denk dat dat een ander belangrijk gebruik van deze technologieën zal zijn. '

De behoefte aan duidelijke ethische richtlijnen

Natuurlijk denken sommige experts dat we veel langer zullen moeten wachten op echt overtuigende dubbelgangers.

'Eenvoudige imitatie duurt nog maar een paar jaar', zegt Toby Walsh, hoogleraar informatica en engineering aan de Universiteit van New South Wales. 'Maar om voor mens te slagen, dit is de Turing-test. Het zal 50, 100 of zelfs meer jaren duren voordat computers al onze capaciteiten kunnen evenaren. '

Hussein Abbass is zelfs nog conservatiever in zijn inschatting van wanneer niet te onderscheiden AI zal ontstaan, zelfs als hij het ermee eens is dat relatief levensechte virtuele AI-klonen slechts één of twee decennia verwijderd zijn. “[D] e uitdagingen zijn niet alleen AI-uitdagingen. Soms zijn de uitdagingen mechanische beperkingen op het lichaam van de robot, en soms zijn het de materialen die worden gebruikt om bijvoorbeeld het robotgezicht te produceren, waar deze materialen geen natuurlijke textuur hebben of niet de elasticiteit om een ​​goede imitatie te doen, '' zegt hij. 'Het kan eeuwen duren voordat we dezelfde AI op een robot van mensenformaat kunnen hebben zonder afhankelijk te zijn van een externe verbinding via internet.'

Onderzoekers weten niet wanneer je met je kloon over straat kunt lopen, maar de tijd om te beslissen hoe we met dergelijke media om moeten gaan en ons tegen dergelijke media moeten beschermen, is nu aangebroken.

'Tenzij de gemeenschap blijft aandringen op duidelijke ethische richtlijnen en grenzen voor het gebruik van AI, zal het onvermijdelijk zijn om een ​​toekomstscenario te zien waarin mensen verschijnen in video's die dingen doen die ze in werkelijkheid niet deden', waarschuwt Abbass. 'Het is waarschijnlijk dat dit begint als leuke applicaties, maar dan kan de situatie heel snel ondersteboven keren.'

Andere experts zijn het erover eens dat de gevolgen van volledig gerealiseerde AI-imitators gemengd zullen zijn, waarbij sommige resultaten nieuw en vermakelijk zijn en andere meer verontrustend. 'We zullen overleden acteurs terug hebben in Hollywood-films', zegt Toby Walsh. 'En de politiek zal veel last hebben van nepvideo's van politici die dingen zeggen die ze nooit hebben gezegd.'

Gezien de overvloed aan nepnieuws die al circuleert, is het mogelijk dat het bestaan ​​van overtuigende deepfakes, virtuele klonen en zelfs robotklonen de situatie alleen maar erger kan maken. Inderdaad, als het niet gepaard gaat met een enorme verandering in de manier waarop we media kritisch evalueren, zou het de huidige neiging tot politieke polarisatie alleen maar kunnen versterken, waarin we steeds meer de filterbellen bewonen die onze vooroordelen en vooroordelen bevestigen.

'De grens tussen wat echt is en wat niet echt is, is aan het veranderen', besluit Fendley. 'Onze mentale kracht om weerstand te bieden aan het plaatsen van menselijke eigenschappen op robots en niet onder de invloed te vallen van dingen waarvan we weten dat ze niet echt zijn, zal uiteindelijk mislukken. We zullen comfortabeler leven in een veranderde realiteit naast robots en krachtige AI's. '