eendagsvliegtuig-ongekunsteld

Hoe Kubrick cybertopia al ontmantelde

In 2001: A Space Odyssee schetste Stanley Kubrick een toekomstbeeld waarin de mens onder toeziend oog van een machinaal, denkend besturingssysteem zijn werk verricht. Ruimtereizigers staan onder leiding van de boordcomputer HAL9000, die als enige op de hoogte is van het doel van de ruimtereis. Als de mens op een goed moment de eigen gedachtegangen de voorkeur verleent boven dat wat HAL wil doen, ontstaat de ultieme confrontatie: mens tegen machine.

Het toekomstbeeld dat in 1968 door de befaamde regisseur getoond werd spreekt tot op de dag van vandaag tot de verbeelding. Met een groot schrikbeeld of grenzeloze fascinatie als interpretaties van wat een daadwerkelijk HAL9000 zou betekenen voor ons als mensheid. Schrikbeeld, want straks worden onze menselijke zieltjes hopeloos onderworpen aan een boosaardig machinaal systeem. Maar ook fascinatie, want hoe oneindig zou het paradijs zijn als alle vervelende klussen op algoritmische basis opgelost zouden kunnen worden?

Pessimisme en optimisme

In het oeuvre van Kubrick zelf zijn met name de pessimistische toekomstvisies op de verhouding tussen mens en computer op uiteenlopende manieren te bewonderen. In de hilarische parodie op de verhoudingen in de Koude Oorlog Dr. Strangelove or: How I Learned to Stop Worrying and Love the Bomb bijvoorbeeld: de oorlogsmachines zijn een eigen leven gaan leiden. Niemand heeft meer in de hand wat een computer gestuurd systeem uitvoert. Alsof de machine als een alwetende, alomtegenwoordige god de mens in zijn greep houdt. Het einde is nabij, de doomsday device is in werking gesteld.

In zijn verfilming van Anthony Burgess’ A Clockwork Orange daarentegen zien we een – zij het in onze éénentwintigste eeuwse ogen wat oubollige – technologie die het kwaadaardige van de mens uitbant. Het menselijke, geestelijke proces wordt volgens een wetenschappelijk model gecorrigeerd teneinde de misdaad uit te bannen. Dat klinkt mooi, maar er lijkt ook een fikse prijs voor deze vrijwillige technologische onderwerping betaald te worden. Het systeem draait hardhandig de menselijke vrijheid – in ieder geval gedeeltelijk – de nek om.

Een voorbeeld van het tegendeel van deze apocalyptische voorstellingen zag ik eind januari in de aflevering Cybertopia van Tegenlicht. Peter Thiel, rijke man van beroep (‘durfkapitalist’ in hedendaagse vaktermen), ziet een samenleving zonder logge bureaucratie en menselijke beslommeringen voor zich. Op het moment wordt daar in Silicon Valley al hard aan gesleuteld. “Technology”, zo zegt hij, “is the vehicle for how we should be looking to escape and move beyond the politics as we find it today.” Democratie, rechtspraak, banken, je kunt er allemaal een beter digitaal en computergestuurd alternatief voor vinden. Met als bijkomend voordeel dat ellende als terrorisme, misdaad en corruptie tot het verleden gaan behoren. Een computer discrimineert niet, speelt geen dubbel spel, is niet om te kopen en is altijd eerlijk.

Vrijwillige overgave

Om dit vertrouwen in de technologie in een ander licht te zien, nu even iets totaal anders. Ik heb een lichte variant van vliegangst. Totaal onredelijk, want – zo is mij vaak genoeg op het hart gedrukt – jezelf vliegend voortbewegen is vele malen veiliger dan over de grond. Als mijn gevoel logisch na zou kunnen denken, zou ik angstiger in een auto dan in een vliegtuig stappen. Dat koele feit maakt voor mij echter niets uit; de rationaliteit kan niet op tegen de reflex van de angst. Ik denk dat die angst ten diepste samenhangt met de verhouding die ik tot de technologie – in dit geval het vliegtuig – heb. In de lucht moet ik mij volledig overgeven aan het besturingssysteem. Het is een onderwerping aan een mij volledig overstijgende techniek. In een vliegtuig verzuipt de mens vrijwillig zijn vrijheid in een computer gestuurd systeem.

Als ik bang in de lucht ben, dan komt dat door mijn gevoel van onmacht ten opzichte van de techniek. Met een beetje fantasie zou je kunnen zeggen: ik ervaar het als een doomsday device of een HAL9000 waar ik niks tegenin te brengen heb. Alles wat mij mens maakt, wat maakt dat ik hier en nu beslissingen kan nemen en vast kan pakken wat ik vast wil pakken (met bepaalde maatschappelijk vastgestelde grenzen natuurlijk), is voor mijn idee irrelevant in het vliegtuig. Mocht het toestel er onverhoeds mee ophouden, dan kan ik met mijn menselijke vrijheid geen kant op. Zo voelt het.

Het grappig is nu dat het cybertopia waar Thiel over spreekt precies deze vrijwillige overgave aan technologie als oplossing biedt. Met een beetje fantasie zou je kunnen zeggen: de cyberutopisten zien de toekomstige maatschappij als bestuurd door een doomsday device of een HAL9000 waar we niks meer tegenin moeten wíllen brengen. Want alleen als we de menselijke instituties zoals we deze hede ten dage kennen overlaten aan het computer gestuurd systeem, dán kunnen we problematieken als trage bureaucratie en corruptie werkelijk oplossen. Zo min mogelijk grilligheid van de mens, en zo veel mogelijk het objectieve systeem.

Zo bezien is mijn vliegangst het tegenovergestelde van een cybertopia. Waar ik in het luchtruim bang ben voor de objectiviteit omdat mijn subjectiviteit daar in verdrinkt, daar wordt in Sillicon Valley gewerkt aan een nieuwe objectieve orde omdát alle subjectiviteit daar in verdrinkt.

Een onmenselijke vraag

Stel dat HAL9000 al onze bestuurlijke, juridische en sociale problemen op kan lossen. Een machine in plaats van Brussel, Den Haag en Washington samen, zodat de politiek zoals deze ons nu richting probeert te geven tot het verleden gaat behoren. Een objectief systeem dat onze subjectieve wilde plannen in het gareel houdt en conflicten, angst en wantrouwen geheel en al doet verdwijnen. Wat dan? Hoe ziet dat er uit?

Ik denk dat als die wereld uiteindelijk bereikt wordt, dat wij daar dan geen inwoners meer van zijn. Want het is juist de huidige onvolmaaktheid van onze samenleving die het streven naar verdere vervolmaking zinvol maakt. In een wereld waarin de politiek overbodig is geworden omdat alles soeverein geregeld is door een computer, bestaat er geen politiek meer. In een wereld waarin de gehele maatschappelijke orde perfect gereguleerd wordt door een machine, bestaat er geen maatschappij meer. In een wereld waarin de cyborgs de meest wezenlijke taken van mensen overnemen, bestaan er geen mensen meer. De overgave aan de techniek die van de inwoners van een cybertopia wordt gevraagd, vraagt hun ook zichzelf op te geven.

Kubrick zag al: de mens heeft het gedaan

Wees niet bang: dit zal niet gebeuren. Een computer zal nooit essentiële menselijke zaken – precies die zaken die Thiel naar voren brengt zoals politiek, economie en rechtspraak – kunnen reguleren. Politiek is namelijk niet berekenbaar. Voor economie bestaat geen algoritmisch model. Binnen de rechtspraak is de interpretatie en het subjectieve oordeel een onmisbaar onderdeel. In alle samenlevingsvormen spelen emoties en gevoelens als schuld, schaamte, jaloezie en talloze anderen een fundamentele rol. Laat een machine menselijke zaken regelen, en je vlakt al die elementen uit.

Een mooi voorbeeld is in dit verband de conclusie na een onderzoek naar een vliegtuigramp. In nagenoeg alle gevallen blijkt dat het een gevolg te zijn van een menselijke fout. Met andere woorden: het objectieve systeem blijkt te vallen of te staan met de subjectieve inbreng. Het vliegtuig kan onmogelijk de schuld krijgen, dus speelt de kwestie over de techniek uiteindelijk altijd af binnen het intermenselijke. Zonder de inbreng van een mensen is de techniek nergens.

Dat iedere technologie uiteindelijk draait om de menselijke hand die daarmee in verbinding staat zien we in het werk van Kubrick reeds. De doomsday device is bewust in werking gesteld doordat generaal Jack D. Ripper een bom op de Russen afstuurde. HAL9000 is geschapen en op pad gestuurd door de nieuwsgierige mens in zijn ontdekkingsreis door het universum. En de kern van A Clockwork Orange is uiteindelijk de discussie de men voert over de toegepaste techniek om het menselijke kwaad uit te roeien.

Constant staat het meest humane op het spel: de subjectieve vrijheid ten opzichte van technologie. En zodra men ontkent dat mensenhanden aan de wieg staan van de technologische vooruitgang, wordt deze vrijheid én daarmee de menselijkheid als zodanig de nek omgedraaid. Een volledige onderwerping aan de machine maakt datgene wat het beoogt juist onmogelijk: een fraaiere samenleving waarin mensen meer tot hun recht komen.

Filmavondje in Sillicon Valley

De aanhangers van een cybertopia streven een onhaalbare utopie na, in ieder geval als we een wereld waarin nog steeds mensen leven als uitgangspunt nemen. Filosoof Roger Scruton schrijft in zijn boekje The uses of pessimism uitvoerig over dergelijke onhaalbare utopieën. Kenmerkend voor het utopische denken, is, volgens hem, dat “by pursuing a single and complete solution to human conflict, a solution that eliminates the problem forever, it destroys the institutions that enable us to resolve our conflict one by one.” Niet geheel zonder gevaren dus, zulke omvangrijke ideeën uit Silicon Valley.

In een vliegtuig vind ik het vervelend om mij over te geven aan mijn persoonlijke doomsday device. De cyberutopisten denken dat HAL9000 een bevrijding is van alle logge menselijke structuren en problematieken en dat deze – als de rest van de samenleving eenmaal verlicht is met deze inzichten – eeuwig tot het verleden zullen gaan behoren. Met de huidige wankele politieke orde om ons heen is dat laatste een begrijpelijk verlangen. Maar in feite niet minder naïef dan mijn vliegangst. Maar ja, zie er maar eens vanaf te komen. Ik stel een filmavondje Kubrick voor.

Ontvang onze nieuwsbrief

Ben je het oneens met de schrijver of heb je een interessante toevoeging?

Schrijf je artikel!

Wees niet bang:
Je wordt goed begeleid door de eindredactie. Bovendien krijgt je artikel een visuele prikkel van onze beeldredactie.