Laatst raakte ik in gesprek met iemand over Adobe Firefly. Deze AI-afbeeldingen maker staat bekend als de meest ethische Ai-generator van dit moment. De dataset waarop het is getraind, bestaat alleen maar uit rechtenvrije afbeeldingen, afbeeldingen uit het publieke domein en materiaal dat aan Adobe beschikbaar is gesteld. Toch blijkt dit niet helemaal zo te zijn. Adobe Firefly is voor een deel getraind op zeer discutabel materiaal, dat zeker niet rechtenvrij gebruikt mag worden.
Wat is Adobe Firefly?
Adobe Firefly is een generatieve AI-tool die ontworpen is om afbeeldingen te creëren op basis van prompts. Met Firefly kunnen gebruikers snel en eenvoudig unieke visuele content maken, zonder zelf een achtergrond in grafisch ontwerp te hoeven hebben. Deze technologie maakt gebruik van diepe neurale netwerken die getraind zijn op enorme hoeveelheden beelddata, waardoor het de mogelijkheid heeft om originele kunstwerken, illustraties en zelfs grafische ontwerpen te genereren.
Het verschil met andere AI-tools, zoals DALL-E en Midjourney, is dat Adobe vanaf het begin beweerde dat hun Firefly-tool “veilig” was voor commercieel gebruik. Ze boden zelfs juridische bescherming voor hun enterprise-klanten, zoals beschreven in een artikel van MarketWatch in 2023. Dit betekent dat Adobe de juridische kosten zou dekken als een gebruiker aangeklaagd zou worden voor copyrightinbreuk vanwege een afbeelding gegenereerd door Firefly.
Hoe zit het met de trainingsdata van Firefly?
Adobe was in eerste instantie heel transparant over de bron van de data waarmee Firefly getraind is. Ze verklaarden dat Firefly is gebaseerd op een combinatie van:
- Adobe Stock-afbeeldingen, waarvoor Adobe de rechten heeft,
- Open-licensed content, zoals beelden uit Creative Commons,
- Public domain afbeeldingen, die door iedereen vrij gebruikt mogen worden.
Dit was een van de belangrijkste redenen dat mensen het begonnen te gebruiken. De outpunt is namelijk lang niet zo goed als bijvoorbeeld Midjourney, Leonardo AI en Mystic, maar de trainingsdata is wel zuiver. Veel mensen die ik sprak, die wat meer weerstand hadden tegen AI, maar het toch wilden proberen, kozen daarom voor deze tool. Adobe beweerde namelijk dat Firefly, in tegenstelling tot andere AI-afbeeldingengeneratoren, geen ongeoorloofde gebruik van auteursrechtelijk beschermd materiaal zou maken. Sterker nog, het bedrijf stelde dat het model getraind was op strikt gecontroleerde datasets.
Voorbeeld Midjourney afbeelding
Waarom is Firefly toch niet zo ethisch als gedacht?
Ondanks de aanvankelijke beloftes zijn er in 2024 twijfels gerezen over de echtheid van Adobe’s claims. Volgens een artikel van Bloomberg bleek dat Firefly niet uitsluitend getraind is op legale, rechtenvrije beelden, zoals Adobe beweerde. Een deel van de gebruikte trainingsdata blijkt afkomstig te zijn van dezelfde bronnen als die voor andere AI-tools, zoals Midjourney. Dit betekent dat sommige van de beelden mogelijk niet volledig legaal zijn gebruikt, wat het risico op copyrightclaims toch vergroot.
Deze ontdekking leidde tot bezorgdheid onder grote bedrijven, die Firefly gebruikten voor hun marketingcampagnes. Het idee dat hun gegenereerde beelden misschien gebaseerd zijn op auteursrechtelijk beschermd werk, heeft ertoe geleid dat sommige bedrijven hun gebruik van de tool hebben heroverwogen, uit angst voor mogelijke rechtszaken.
Is Firefly nog steeds ethischer dan andere AI-tools?
Hoewel deze onthullingen een schaduw werpen op Adobe’s ethische claims, vind ik het erg belangrijk om te benoemen dat Firefly nog steeds een van de meer verantwoorde AI-tools is op de markt.
Veel andere generatieve AI’s, zoals DALL-E en Midjourney, hebben minder strikte regels over het gebruik van auteursrechtelijk beschermd werk. Sterker nog: de gebruikte datasets zijn daar totaal onbekend. Dat daar gebruik is gemaakt van materiaal waar auteursrecht op rust is, is zeker een feit.
Daarnaast heeft Adobe aangekondigd dat ze werken aan een compensatiemodel voor stockfotografen en andere creatieve makers wier werk is gebruikt om Firefly te trainen. Dit laat zien dat Adobe in ieder geval probeert om bij te dragen aan een eerlijkere omgang met kunstenaars en fotografen, iets waar veel andere AI-bedrijven minder aandacht aan besteden.
Voor nu is Adobe’s Firefly ethischer dan veel andere opties, maar volledige zekerheid is er nog niet. Je moet dit dus meenemen in je overwegingen wanneer je dit belangrijk vind voor een ai-tool.
Meer bronnen:
- https://www.creativebloq.com/news/adobe-firefly-trained-on-midjourney
- https://finance.yahoo.com/news/adobe-ethical-firefly-ai-trained-123004288.html
- https://www.tomsguide.com/ai/ai-image-video/adobe-firefly-used-thousands-of-midjourney-images-in-training-its-ethical-ai-model
- https://www.cdpinstitute.org/news/adobe-firefly-partly-trained-on-midjourney-images/
- https://cyber.harvard.edu/story/2024-04/adobes-ethical-firefly-ai-was-trained-midjourney-images