2 min read

Boze kunstenaars saboteren AI-modellen met vergiftigde data

Een nieuw tooltje kan foto's veranderen op een manier die voor mensen onzichtbaar is, maar AI-modellen onherstelbaar in de war schopt.
Boze kunstenaars saboteren AI-modellen met vergiftigde data

Het klinkt nogal sci-fi, maar het is waar: een groep kunstenaars probeert AI-beeldmodellen van binnenuit kapot te maken. Dat doen ze met Nightshade, een tooltje dat foto's kan veranderen op een manier die voor mensen onzichtbaar is, maar AI-modellen onherstelbaar in de war kan schoppen als zulke 'vergiftigde' beelden worden opgenomen in de trainingsdata.

Ironie

In eerste instantie lijkt er iets te zeggen voor de verontwaardiging van kunstenaars: hun creaties zijn zonder toestemming als AI-trainingsdata gebruikt, en nu vechten ze terug tegen AI-bedrijven die razendsnel rijk worden. Er lijkt echter meer achter te zitten: een groeiend wantrouwen tegenover technologische ontwikkelingen in het algemeen. Maar, hoe kan het dat we jarenlang zo bereidwillig onze creatieve vruchten in de schoot van tech-giganten hebben geworpen, om nu ineens heel verontwaardigd te zijn over de macht die we daarmee in hun handen hebben gelegd?

Jarenlang werd alles naar hartelust geüpload naar Instagram, gedeeld op Facebook en geïndexeerd door Google, zonder een seconde wakker te liggen van potentiële implicaties. Er zit een zekere ironie in hoe degenen die hun kunst vrijelijk weggaven op platformen met winstoogmerk, nu bezwaar maken tegen het gebruik ervan door AI-bedrijven. Kwam het doordat deze platforms de illusie schiepen van een universele, creatieve broedplaats? Was het de verleiding van snelle bekendheid en virale aandacht? Of was het simpelweg een blinde vlek, een collectief falen om te onderkennen dat deze bedrijven niet slechts neutrale doorgeefluiken zijn, maar entiteiten met eigen belangen en agenda's?

Nightshade kan al met een kleine hoeveelheid vergiftigde data modellen ontregelen

Solutionisme?

Nog merkwaardiger is dat veel kunstenaars ook al in opstand kwamen tegen het idee van web3 en NFT's. Juist de technologie die bedoeld is om hun werk in een digitaliserende wereld te beschermen en eerlijke compensatie en attributie te garanderen, werd door velen als een verdere commodificatie van kunst gezien. Alsof de uitdrukking van hun ziel en visie niet 'besmet' mocht worden door de logica van de markt, zelfs als diezelfde markt in staat zou zijn om de authenticiteit en oorsprong van hun werk te waarborgen.

Eén ding is duidelijk: de relatie tussen kunstenaars en technologie is aan een fundamentele heroverweging toe. In plaats van in een reflexieve verdedigingsmodus te schieten, bieden innovaties als web3 juist een vruchtbaar terrein om de spelregels te herdefiniëren. Dankzij blockchain-technologie kunnen kunstenaars digitale certificaten van echtheid aan hun digitale werken koppelen, zodat zelfs als een afbeelding wordt gekopieerd of gedeeld, de originele maker en de geschiedenis van het kunstwerk traceerbaar blijven. Zo helpt het niet alleen kunstenaars op individueel niveau, maar maakt het ook een meer transparante en rechtvaardige economie voor digitale kunst mogelijk, en kunnen de belangen van de kunstenaar worden afgewogen tegen het bredere maatschappelijke belang van toegankelijke en deelbare cultuur.

Vijanden, partners

Hoog tijd dus dat we de oude paradigma's achter ons laten en met een frisse blik naar de toekomst kijken. Het gaat niet om het kiezen tussen technologie en kunst, of tussen openheid en eigendom. Het gaat erom een nieuwe syntaxis te vinden waarin deze schijnbare tegenstellingen een harmonieuze samenhang kunnen vinden. En in die zoektocht zouden we wel eens kunnen ontdekken dat onze grootste 'vijanden' onze belangrijkste partners kunnen zijn in het vormgeven van een eerlijkere, inclusievere en meer creatieve digitale toekomst. Deze innovaties nodigen uit om niet in beperkingen te denken, maar in mogelijkheden. En die mogelijkheden zijn eindeloos.