Hoe Parya Lotfi met DuckDuckGoose de strijd aangaat met deepfakes

Zakdoekje leggen, niemand zeggen. Dat spel heb je vroeger misschien weleens gespeeld. De Engelsen hebben het over 'duck, duck, goose'. Kinderen zitten in een kring met hun ogen dicht. Eén van hen loopt er omheen, tikt ze op hun schouder en zegt 'duck'. Het kind dat 'goose' hoort, staat als de wiederweerga op en probeert diegene te tikken.

‘De goose lijkt op alle ducks, zoals je dat ook bij deepfakes ziet’, aldus Parya. ‘Wij hebben een tool ontwikkeld waarmee je ontdekt wie de ‘goose’ is'.

DuckDuckGoose dus. Het is de naam die Lotfi en haar compagnons hun bedrijf hebben gegeven. Ze ontwikkelen een product dat de strijd aangaat met deepfakes. Dat zijn video's, foto's en audioberichten die door middel van kunstmatige intelligentie zijn bewerkt en nauwelijks van echt te onderscheiden zijn.

Zo'n deepfake kan misschien soms best grappig zijn, maar het is een ontwikkeling die ook risico's met zich meebrengt.
'Steeds meer apps maken gebruik van gezichtsherkenning. Heel handig, maar ook gevoelig voor deepfake-fraude. Verder kun je bijvoorbeeld stemmen manipuleren. Dan doet een deepfake zich voor als de directeur van het bedrijf die vraagt om snel even een ton over te maken. Dit is al voorgekomen.'

Het product van DuckDuckGoose toont binnen een paar seconden de echtheid van een filmpje, foto of stem aan. De tool vertelt niet enkel of het echt of nep is, het laat ook zien waar de deepfake zit.

DuckDuckGoose is zo'n 3,5 jaar geleden opgericht. 'Ik deed de minor Technology-Based Entrepreneurship aan de TU Delft. Daar ontmoette ik Mark Evenblij. We kregen de opdracht om op zoek te gaan naar een oplossing voor een technisch probleem. Eén van onze ideeën ging over deepfakes, een onderwerp waarover destijds nog niet zoveel bekend was', aldus Parya.

Een half jaar later hebben de twee hun minor afgerond. Maar eigenlijk is hun avontuur dan nog maar net begonnen, ze besluiten namelijk om met de opgedane kennis een nieuw bedrijf te starten.

Niet veel later komt Joris Mollinga aan boord, die dan net zijn Master in AI aan de Universiteit van Amsterdam heeft afgerond. Vanaf september 2020 bouwt het drietal bij de tech-incubator YES!Delft aan hun eigen startup.

'Mark doet finance en R&D. Hij ontwikkelt de deepfakes die we voor onze trainingsmodellen gebruiken. Joris bouwt aan het technische platform en mijn rol is die van CEO. Ik ben verantwoordelijk voor de relaties met klanten, stuur het team aan en richt me op de strategie van ons bedrijf', zo vertelt ze.

Parya is nog maar 12 jaar als ze hier aankomt. 'We zijn uit Iran gevlucht om religieuze redenen. Je bekeren tot het Christendom mag daar niet'. Je familie en vrienden achterlaten en ergens gaan wonen waar je niemand kent en de taal niet spreekt, het was niet altijd even makkelijk. 'Daar kwam nog bij dat ik een leeftijd had waarop je net een beetje volwassen begint te worden. Mentaal waren de eerste jaren dan ook best pittig'.

Wanneer DuckDuckGoose in het vroege najaar van 2020 start, heeft het grote publiek nog nauwelijks van deepfakes gehoord. Het is de tijd vóór Chat GPT. Over content die door kunstmatige intelligentie wordt gemanipuleerd, is nog maar weinig bekend.
Het NFI, het Nederlands Forensisch Instituut, wordt de eerste klant. Daarna volgen een paar financiële instellingen en haakt ook de Tweede Kamer aan. Alle debatten worden opgenomen en online gezet. De technologie van DuckDuckGoose voorkomt dat iemand deze beelden kan manipuleren.

'We moesten bedrijven en instellingen de eerste jaren echt nog wijzen op de mogelijke gevaren van deepfakes. Inmiddels zijn we een paar jaar verder en hebben de meeste mensen al wat voorbeelden gezien. Er is veel meer bewustzijn. Inmiddels worden wij zelf door bedrijven benaderd.'
Zo zit de startup nu om tafel met vrijwel alle belangrijke spelers op het gebied van digitale gezichtsherkenning. 'We gaan een pilot doen waarbij onze oplossing direct in hun producten is geïntegreerd', zegt Parya.

Daarnaast wordt het bedrijf nu ook benaderd door grote mediapartijen. Zij zien in deepfakes een mogelijk risico voor het werk van journalisten. Parya: 'De Amerikaanse verkiezingen komen eraan en daarin kunnen gemanipuleerde foto's, video's en stemmen een rol gaan spelen.'

Ondernemen noemt ze 'vooral heel leuk'. De vrijheid om zelf je koers te bepalen en belangrijke beslissingen te nemen. 'We doen dat met harde data, gut feeling en door te luisteren naar signalen uit de markt. Ons bedrijf opereert in een heel dynamische omgeving waar de technologie snel verandert. We moeten meebewegen, anders raken we achter.'

'We zijn bezig met onze eerste investeringsronde', vertelt Parya. 'Met dat geld kunnen we de technologie verder verbeteren en nieuwe klanten vinden. Wie weet worden we uiteindelijk een beursgenoteerde onderneming. Waarom ook niet? Je moet een beetje groot durven dromen, vind ik.'