Ik krijg regelmatig van vrienden en familie foto’s toegestuurd met de vraag: “Is dit met AI gemaakt of is dit echt?”. Je zou zeggen dat ik dit af en toe zat zou worden, maar dat is zeker niet zo. Ik zie het als een leuke puzzel, al kan ik begrijpen dat het niet altijd even leuk is. Vooral in het tijdperk van deepfakes, waarbij afbeeldingen van bekende personen worden gemanipuleerd voor ongewenste of zelfs schadelijke doeleinden, is het belangrijk om het verschil te kunnen zien. Bovendien merk ik steeds vaker AI-gegenereerde afbeeldingen op bij teksten die desinformatie verspreiden. De vraag of een afbeelding echt is of met behulp van AI is gemaakt, zal de komende jaren alleen maar vaker gesteld worden.
Leuk: Recent heb ik ngo een artikel geschreven, waarin ik laat zien aan de hand van een foto (waarvan iedereen zegt: “Je ziet niet dat deze door Ai is gemaakt!”), hoe je het tòch kan herkennen. Lees dus ook: https://aikundig.nl/deze-ai-foto-wordt-gezien-als-perfect-maar-zo-zie-je-de-verborgen-fouten/
De jas van de paus
In november 2023 verscheen een foto van paus Franciscus in een hele hippe witte gewatteerde winterjas online. Het werd direct een internetsensatie en ging keihard viral. De foto was gemaakt met behulp een AI-beeldgenerator. Uiteindelijk kwam dankzij deze foto de discussie over de mogelijkheden en gevaren van AI, deepfakes en desinformatie op gang. Wanneer ga je te ver met AI? Veel mensen die de foto van de hippe winterjas van de paus voor het eerst zagen, dachten dat het echt was. Toch waren er meerdere dingen in de foto die toch niet echt klopten. Zie jij het?
Herken jij AI?
Hieronder zie je een serie van steeds een tweetal aan foto’s. Eén daarvan is met AI gemaakt (door mij) en de ander is een echt persoon (stock photo, betaald abonnement). Onder de serie foto’s staan de antwoorden.
Jonge vrouw
Oudere man
Zijkant
Pasfoto
Zittende vrouw
Antwoorden:
- Jonge vrouw: Links is echt, rechts is AI. De haargrens begint op een onnatuurlijke plek, er zweven veel haren die nergens beginnen en haar nek is vrij onnatuurlijk lang.
- Oudere man: Links AI, rechts echt. De afbeelding links heeft o.a. twee kleuren wenkbrauwen
- Zijkant: Links is AI, rechts is echt. De oorbel van de vrouw links zit op een hele rare manier ín haar oorlel.
- Pasfoto: Links is echt, rechts is AI. De neuspiercing van de vrouw rechts gaat niet in haar neus, er ontbreekt een oorbel.
- Zittende vrouw: Links is AI, rechts is echt. De schouder van de vrouw zit onnatuurlijk hoog en is erg assymetrisch, haar arm loopt niet goed door achter haar been. Haar been stopt plots. Er groeit een duim uit haar pols.
Had jij alles goed? Laat het me weten in de reacties!
Herkennen van een AI foto
Dat AI-afbeeldingen steeds ‘echter’ worden is aan de ene kant erg leuk, maar aan de andere kant vind ik dit ook erg zorgelijk. Bji een onderzoek naar Generative Adversarial Networks (GAN) in 2014 waren de voorbeelden nog kinderlijk eenvoudig te onderscheiden van het echt, zoals je hieronder kan zien.
In een soortgelijk onderzoek naar de kwaliteit van GAN’s in 2017 zie je al dat de kwaliteit steeds beter werd.
In 2024 moet je wel heel erg je best doen om afbeeldingen van mensen als AI aan te merken. De afbeelding hieronder bestaat uit 6 afbeeldingen die ikzelf met AI heb gemaakt. Deze heb ik nog niet eens extra bewerkt, maar komen direct van AI. Ik zou deze bijvoorbeeld met een upscaler, zoals Magnific AI nog realistischer kunnen maken.
Toch zie je vaak nog dat het AI is
Hieronder heb ik een uitgebreide lijst gemaakt van punten waar je aan kan herkennen of een afbeelding met AI is gemaakt. Deze lijst probeer ik zo vaak mogelijk bij te werken, maar ik verwacht dat deze (hopelijk niet al te snel!) ingehaald wordt door de technologie.
Belangrijkste: Neem de tijd
We worden vaak overspoeld met informatie en verwerken afbeeldingen in een fractie van een seconde. Neem de tijd om goed te kijken naar details. AI-programma’s genereren realistische afbeeldingen op basis van een grote hoeveelheid echte foto’s, maar ze hebben hun beperkingen. Let op onnatuurlijke elementen.
Zoom in: Als een afbeelding wat kleiner is of als je twijfelt, zoom dan op de foto in. Het herkennen van AI-afbeeldingen heeft tegenwoordig te maken met details. Pas dan zie je als er iets mis is!
Bekijk handen, haren en ogen
Als er mensen op de afbeelding staan, kijk dan naar de handen en ogen. AI-programma’s hebben moeite met het genereren van realistische handen. Let op vreemde vormen of onnatuurlijke posities. Ook de ogen kunnen een aanwijzing zijn. Pupillen zouden bij mensen vrijwel altijd rond moeten zijn, maar AI plaatst soms vreemde schaduwvormen in het oog. Soms hebben de pupillen ook hele andere vormen, of bestaan ze uit twee rondjes. Er ontstaan verder vaak haren uit het niets of vertakken hele lange haren uit de haarpunten van haren.
Op de afbeelding ontbreekt een oor, zweven er haren boven het hoofd die nergens beginnen en hebben haar pupillen een onnatuurlijk vorm.
Let extra op:
- Ogen: Onregelmatige pupillen, vreemde reflecties, wazige of onnatuurlijke iris.
- Tanden: Onnatuurlijk rechte of gelijke tanden, gaten of vreemde patronen.
- Huid: Vreemde vlekken, onregelmatige textuur, onrealistische glans.
- Verhoudingen: Onnatuurlijk grote of kleine oren, scheve gezichten, onproportionele kenmerken.
- Vingers: Te veel of te weinig vingers, onnatuurlijke kromming, vreemde lengteverhoudingen.
- Handpalmen: Vage lijnen, ontbrekende handlijnen, onnatuurlijke textuur.
- Nagels: Onregelmatige vormen, verkeerde kleuren, vreemde textuur.
- Haren: Plek van de haargrens, vorm van de haren, haren die geen oorsprong hebben
Let op schaduwen
AI worstelt vaak met natuurwetten, vooral als het gaat om licht en schaduwen. Als er een raam of reflecterend oppervlak in de foto te zien is, let dan op onnatuurlijke licht- en schaduwplekken. In veel kunstmatige beelden ontbreekt textuur op plekken waar het logisch zou zijn.
Bij deze stand van de zon moet er zeker een schaduw zijn achter de jongen met gitaar. Deze ontbreekt volledig
Symmetrie
Aan de ene kant zie ik vaak dat AI streeft naar perfectie, waardoor soms bij mensen de symmetrie té perfect is. Aan de andere kant zie ik juist ook het tegenovergestelde. Zo zie ik bijvoorbeeld vaak dat de schouderspieren aan de ene kant veel hoger zijn dan aan de andere kant. Bij dieren zie je bijvoorbeeld dat er aan de ene kant wel snorharen zitten, maar aan de andere kant weer niet. Let goed op deze details!
Op deze afbeelding ontbreken aan de rechterkant de snorharen.
Achtergronden en context
AI kan moeite hebben met het genereren van realistische achtergronden en contextuele elementen. Let op inconsistente perspectieven, onrealistische landschappen of artefacten die niet passen bij de omgeving waarin de afbeelding is genomen. Ik zie vaak dat in de achtergrond heel veel vervormingen optreden. Die kan bijvoorbeeld een mens zijn op de achtergrond die helemaal vervormd is, of andere elementen, zoals schilderijlijsten e.d. die normaal recht moeten zijn, maar op de foto in een ronding lopen.
Op deze foto zie je dat de man op de voorgrond vrij goed is gegenereerd door AI, maar dat er in de achtergrond eigenlijk alles fout gaat.
Let extra op:
- Patronen: Herhalende fouten, onnatuurlijke patronen, wazige of onsamenhangende elementen.
- Objecten: Vreemde vormen, onrealistische schaduwen, onlogische posities.
- Perspectief: Verkeerde perspectieflijnen, onverklaarbare vervormingen, onnatuurlijke schaalverschillen.
Sierraden
AI-beeldgeneratoren hebben veel moeite met het plaatsen van sierraden. Kijk of een ketting om de nek goed doorloopt of dat het kettinkje plots stopt. Let op bij bijvoorbeeld neus piercings of deze wel door de neus lopen en twee bolletjes hebben. Ringen worden door AI ook wel eens om een verkeerde vinger geplaatst of op de verkeerde hoogte op een vinger. Soms zweven de ringen zelfs iets boven de hand.
De ketting van de vrouw loopt erg onlogisch over huid, er liggen een soort van kralen op de huid, die niet aan de ketting vastzitten, bovenaan stopt de ketting en krijgt de vorm van een haar.
Tools die je kan gebruiken om AI afbeeldingen te herkennen
Je staat er gelukkig niet alleen voor. Er zijn meerdere bedrijven, startups en initiatieven die zich bezig houden met het herkennen van AI-afbeeldingen. Ik pak het vaak op twee manieren aan:
- Reverse image search: Ik maak gebruik van reverse image search. Hier kan ik zien of een afbeelding al eens elders is gebruikt. Is een afbeelding op veel plekken gebruikt, dan bekijk ik de bronnen. In het geval van veel AI-afbeeldingen zie je geen resultaten in een reverse image search.
- Detectietools: Er zijn meerdere tools die je kan gebruiken waar je een afbeelding kan uploaden om te kijken of het volgens de tool een AI-afbeelding is. Dit is overigens niet altijd juist, maar vaak geeft het wel een goede indicatie in een percentage. Contentatscale, Huggingface en Is it AI zijn goede detectietools om mee te starten.
Belangrijke termen in dit artikel
- Deepfake: Dit is een technologie die gebruikmaakt van kunstmatige intelligentie (AI) om video’s, afbeeldingen of audiofragmenten te produceren waarin personen worden vervangen door anderen, meestal bekende personen. Het doel van deepfake-technologie kan variëren van humoristische video’s tot misleidende of schadelijke manipulaties, zoals het creëren van nepnieuws of het verspreiden van valse informatie.
- Desinformatie: Dit verwijst naar valse of misleidende informatie die met opzet wordt verspreid om mensen te misleiden, hun mening te beïnvloeden of verdeeldheid te zaaien. Desinformatie kan worden verspreid via verschillende kanalen, waaronder sociale media, traditionele media en mond-tot-mondcommunicatie. Het doel van desinformatie kan variëren, van politieke beïnvloeding tot commercieel gewin of het ondermijnen van vertrouwen in instellingen.
- Digitale manipulatie: Dit omvat het bewerken, wijzigen of manipuleren van digitale inhoud, zoals afbeeldingen, video’s of audiofragmenten, met als doel de oorspronkelijke betekenis of context te veranderen.
- Authenticiteitsverificatie: Dit is het proces van het controleren en valideren van de echtheid en integriteit van digitale inhoud, zoals afbeeldingen, video’s of audiofragmenten, om te bepalen of deze authentiek zijn of mogelijk zijn gemanipuleerd.
- Artefacten in AI-afbeeldingen verwijzen naar ongewenste of abnormale elementen die verschijnen wanneer een kunstmatige intelligentie, zoals een computermodel, afbeeldingen genereert. Deze afwijkingen kunnen variëren van vervormingen, onnatuurlijke kleuren tot onlogische patronen die niet overeenkomen met de werkelijkheid. Ze ontstaan vaak door beperkingen in het AI-model of door onvoldoende trainingsgegevens waarop het model getraind is. Hierdoor heeft de AI moeite met het nauwkeurig reproduceren van bepaalde details of texturen.
Bronnen en interessante artikelen
- https://kcimc.medium.com/how-to-recognize-fake-ai-generated-images-4d1f6f9a2842
- https://cfhorgan.medium.com/the-pope-coat-was-helpful-actually-33c0c8971080
- https://www.kerknet.be/kerknet-redactie/artikel/man-die-getrukeerde-foto-van-paus-maakte-%E2%80%98ik-ging-te-ver%E2%80%99
- https://www.nationalgeographic.nl/wetenschap/a43685235/ai-foto-herkennen-tips
- https://tech.co/news/ways-detect-ai-images-examples
- https://www.pcmag.com/articles/how-to-detect-ai-created-images
