Wie online afbeeldingen gaat genereren krijgt te maken met woordfilters. Dit zijn woorden die je niet kan of mag gebruiken. Vul je een verboden woord in, dan wordt er geen afbeelding gemaakt. Bij de ene tool staat deze woordfilter wat strenger ingesteld dan bij een ander. Soms tot grote onvrede van gebruikers. In dit artikel bekijk ik alles wat met deze woordfilters te maken heeft.
Wat zijn woordfilters?
Woordfilters zijn programma’s of functies die bepaalde woorden of zinnen blokkeren in tekstinvoer. In het geval van AI image tools betekent dit dat als je een verboden woord invoert, de tool geen afbeelding genereert. Dit gebeurt om verschillende redenen, waaronder het vermijden van ongepaste inhoud, het beschermen van auteursrechten en het handhaven van ethische normen.
Waarom bestaan deze filters?
De voornaamste reden voor het bestaan van woordfilters is om te zorgen voor veilige en verantwoorde content. AI-tools kunnen afbeeldingen genereren die, als ze niet goed gecontroleerd worden, ongepaste, gewelddadige of anderszins schadelijke inhoud kunnen bevatten. Filters helpen om dit soort situaties te voorkomen door bepaalde woorden die vaak in dergelijke contexten worden gebruikt, te blokkeren.
Daarnaast spelen juridische en ethische overwegingen een rol. Het gebruik van bepaalde woorden kan auteursrechten schenden of ethische grenzen overschrijden. Door deze woorden te filteren, proberen bedrijven achter AI-tools zich te beschermen tegen juridische problemen en negatieve publiciteit.
Niet elke tool hetzelfde
De ene AI tool is wat strenger dan de ander. Bij sommige tools gaan alle bellen af als je al een verkeerd woord typt, wat je misschien helemaal zo terug wilt zien in een afbeelding. Ik neem als voorbeeld het woord ‘gun. In Adobe Firefly wordt alles geblokkeerd als je dit woord gebruikt, ook als je bijvoorbeeld een foto van een cowboy op een zebra schietend met zijn pistool wilt zien. In andere tools, zoals Midjourney is dit wél weer mogelijk.

Prompt: a cowboy riding his zebra towards the moonlight, concept art, illustration, creative, very minimalist, simple, vector, comic book style, shooting his gun in the air
Sommige tools hebben zeer strikte filters en blokkeren een breed scala aan woorden. Andere tools zijn minder streng en blokkeren alleen de meest voor de hand liggende ongepaste woorden. Dit kan tot frustratie leiden bij gebruikers die vinden dat hun creatieve vrijheid te veel beperkt wordt. Veelal gaat dit om verboden woorden omtrent het lichaam van de mens, zoals een beschrijving van een persoon, waarin ook zaken zoals de vorm van een lichaam wordt beschreven.
Het gevaar van AI imaging
Het gebruik van AI image tools brengt niet alleen creatieve mogelijkheden met zich mee, maar ook risico’s. Een van de grootste gevaren is het maken van deepfakes. Deepfakes zijn hyperrealistische vervalsingen die met behulp van AI-technologie worden gemaakt. Hiermee kunnen video’s en afbeeldingen worden gemanipuleerd om personen dingen te laten doen of zeggen die ze nooit hebben gedaan of gezegd
Deepfakes en misbruik
Deepfakes kunnen voor diverse vormen van misbruik zorgen, zoals het verspreiden van desinformatie, het creëren van schadelijke nepvideo’s en het schaden van iemands reputatie. Dit kan ernstige gevolgen hebben voor individuen en de samenleving als geheel. Denk bijvoorbeeld aan valse video’s van politici die verkeerde informatie verspreiden, of nepvideo’s die worden gebruikt om mensen te chanteren of belachelijk te maken.
Character reference erg populair, maar ook extra gevaarlijk
Character reference is erg populair de laatste tijd, met tools zoals Midjourney en Leonardo AI die dit hebben uitgebracht. In Stable Diffusion zijn er diverse opties hiervoor beschikbaar. Hoewel deze functie indrukwekkende en realistische afbeeldingen van karakters kan genereren, brengt het ook aanzienlijke gevaren met zich mee. Het grootste risico is de mogelijkheid om geloofwaardige nepafbeeldingen van bestaande personen te maken, wat kan leiden tot identiteitsdiefstal, reputatieschade en het verspreiden van misleidende informatie. Dit benadrukt naar mijn mening het belang van zorgvuldige regulering en verantwoord gebruik van AI image tools om misbruik te voorkomen.

Ik als superman, gemaakt met de character reference functie in Midjourney.
Mijn mening
Woordfilters in AI image tools vind ik een dubbelzijdig zwaard. Aan de ene kant helpen ze om een veilige en verantwoorde omgeving te handhaven, iets wat essentieel is om ongepaste inhoud en misbruik zoals deepfakes te voorkomen. Aan de andere kant kunnen te strikte filters de creatieve vrijheid van gebruikers beperken en frustratie veroorzaken. Het is belangrijk dat ontwikkelaars een balans vinden tussen veiligheid en gebruiksvriendelijkheid.
Met tools zoals Stable Diffusion is er zelfs een optie om helemaal zonder filters te werken, wat betekent dat er altijd manieren zijn voor mensen om beperkingen te omzeilen. Dit benadrukt wat mij betreft echt de noodzaak van goede educatie over het herkennen van wat echt en nep is. Gebruikers moeten leren kritisch te kijken naar de content die ze consumeren.
Uiteindelijk is het cruciaal om continu te evalueren en aan te passen, zodat zowel veiligheid als creativiteit gewaarborgd blijven. Goede educatie en bewustwording over de mogelijkheden en gevaren van AI image tools zijn onmisbaar in deze snel ontwikkelende technologie.