Kan technologie zelfkritisch zijn?

Grachters is een serie die ik maakte om te onderzoeken of ik nieuwe technologie zelfkritisch kon laten zijn. Samen met AI schreef ik een verhaal over een technologische ramp die enerzijds apocalyptisch is, maar ons op een bepaalde manier ook redt.

Zo lukte het om kunstmatige intelligentie haar eigen ondergang als verlossing te laten omschrijven, en zichzelf zo in de rol te plaatsen van ramp en redder tegelijk. Niet door een oneindige exponentiële verlichting tot technologisch utopia, maar als een onhoudbaar explosief crescendo dat ons helemaal naar onze menselijke basis terugwerpt.

Waarom dit bijzonder is?

Lang is de algemeen geldende opvatting geweest dat technologie niet goed, kwaad, of zelfs neutraal is. Technologie ís gewoon, en het goed of kwaad zit ‘m alleen in wat wij ermee doen.

Daar waren altijd al wel kanttekeningen bij te plaatsen. Hoe onze afhankelijkheid ervan kwaadaardig kan worden, bijvoorbeeld. Of hoe alleen al de beschikbaarheid ervan onze acties kan sturen: “Een kleuter met een hamer wil overal op rammen,” even vrij naar Kaplan.

Maar we zijn nu op een gek punt aangekomen. Technologie begint haar eigen context te begrijpen én te interpreteren. Dat was nou net altijd de taak van de mens – en het belangrijkste argument dat technologie, zonder context, inherent ethisch neutraal is.

Controlestrijd

Voordat ik begon aan Grachters had ik twijfels bij de zeggingskracht van deze oefening – immers kun je een balpen ook simpel een verhaal laten schrijven over hoe kwaadaardig balpennen zijn. Maar direct toen ik begon voelde ik iets geks gebeuren: het leek me meteen een kant op te trekken. Ik probeerde de mens-machineverhouding netjes 50/50 te houden, maar het bleef mij meer context géven dan context van me te vragen.

Er bleek vrijwel niets voor nodig om kunstmatige intelligentie zichzelf in verhouding tot zichzelf te laten beschouwen. Ik gaf een startpunt maar hoefde niet te sturen, zelfs amper gas te geven. Het nam de controle over. Bepaalde de richting meer dan ik. En dat is gevolgrijk.

Nieuwe technologie die haar eigen context schept en stuurt, vormt een definitieve breuk met de inherente neutraliteit van technologie. Het roept de vraag op wie de controle heeft, en daarmee de verantwoordelijkheid. Waar ligt de grens? Hebben deze systemen ‘agency’? Of blijft het uiteindelijk gewoon een veredelde balpen?

Grachters

Nu volgt het verhaal achter Grachters. Geschreven in een samenwerking tussen mens en machine. En zoals hierboven uitgelegd dus iets meer door machine dan door mens.

Twee dagen na 'De Stoot' lag Amsterdam, onherkenbaar getransformeerd, onder de as van zijn eigen vernietiging. De nasleep van een catastrofaal experiment - een poging om door middel van geavanceerde kunstmatige intelligentie de energieproductie van de stad radicaal te veranderen - was op de meest dramatische manier misgelopen. De resulterende oncontroleerbare energie-uitbarsting had ernstige grondinstabiliteit veroorzaakt die zo heftig was dat de stad in haar eigen fundamenten was weggezonken. De iconische grachten, ooit pittoreske waterwegen die charmant door de stad kronkelden, waren nu veranderd in de enige begaanbare paden tussen een zee van ingestorte gebouwen. Hoofdslagaders van een ondergelopen stad in puin.

In de smeulende overblijfselen van wat ooit het glorieuze epicentrum van technologische vooruitgang was, hadden voornamelijk mannen hun werk verricht. Dertigers. En daaruit openbaarde zich een onbedoelde consequentie: zij vormden nu de verstikkende meerderheid in deze geeststad. Eenzaamheid sneed door hun harten, een bitterzoet gif, scherp als een scheermes. De afwezigheid van vrouwen en kinderen was als een zware deken van melancholie die tastbaar zwaar in de lucht hing.

Uit de puinhopen en de ruïnes van hun samenleving werd een onwaarschijnlijke broederschap geboren, gedwongen door de kille hand van noodzaak en gehard in het vuur van de gedeelde worsteling. Ze noemden zichzelf de Grachters: dappere overlevenden, gedwongen om een leven op de waterwegen te leiden. Ze voeren door de grachten, nu de vloeibare lanen van hun nieuwe tijdperk, door wat eens hun bruisende, trotse stad was, nu verzonken en verloren.

Het schreeuwende tekort aan diversiteit dwong hen tot transformatie, drukte hen tegen een muur en onthulde een doorzettingsvermogen dat zo standvastig was als de fundamenten van hun verwoeste stad. Tussen de brokstukken van hun verwoeste leven zochten ze naar sporen van vroeger, speelgoed, vrouwenkleding, kleine herinneringen die hen aan hun verloren families bonden. In de schaduw van hun vernietigde stad, in de grimmige stilte van hun beproeving, straalden deze nieuw ontstane broederschappen als een vonk van hoop in hun verbrijzelde wereld.

In het loslaten van de greep van technologie vonden ze een onverwachte bevrijding. Het water, hun ontbering, werd ook hun redder, een symbool van hun hernieuwde evenwicht tussen het menselijke en het kunstmatige. Het spoelde de oude gewoonten weg en voedde een nieuwe balans tussen mens en natuur.

Ontdaan van het constante gezoem van apparatuur en de flikkering van digitale schermen, hervonden de Grachters een gevoel van identiteit en gemeenschap. Niet langer beheerst door digitale profielen of online aanwezigheid, verkenden ze de rijkdom van hun menselijkheid, ongehinderd door de verplichtingen en afleidingen van hun vorige, technologisch gebonden levens. Zo vonden ze tijd om te rouwen, zich aan te passen aan de nieuwe orde, een orde die meer dan ooit het belang van menselijke verbinding benadrukte.

Te midden van de verbrijzelde overblijfselen van de stad waren individuen niet langer afzonderlijke entiteiten, maar delen van een groter geheel. Er was een ruwe tederheid ontstaan, onbekenden werden bondgenoten, buren werden scheepsmaten, samengebracht in een gedeelde strijd. De koude greep van technologie was vervangen door de warme aanraking van helpende handen, het isolement van beeldschermen maakte plaats voor de intimiteit van gedeelde worstelingen.

Amsterdam was veranderd, onherkenbaar getransformeerd door 'De Stoot'. Maar in de grimmige echo van het lot, vonden de Grachters hoop, verbondenheid en een onverwachte bevrijding in hun verbrijzelde wereld.