Onlangs werden wij lid van AirBnb, met de bedoeling ons weekendhuisje nu en dan te verhuren. Bij het aanmaken van het account ontstond een probleem.Via een chatkanaal nam ik contact op met de klantenservice. Ik kreeg een allervriendelijkst berichtje van ene Julia, die vroeg of we het gesprek in het Engels konden voortzetten. Ik formuleerde mijn vraag in het Engels. Daar was Julia alweer, met een vriendelijke, adequate, eerste reactie. Zo ging het een paar keer op en neer, tot het probleem was opgelost. Hartelijk dank Julia.

‘Julia is een chatbot,’ wist een kennis. Ik las het gesprek nog eens terug. Geen spoor van onnatuurlijk taalgebruik!

Lidl heeft een chatbot (‘Margot’) die wijn-advies geeft, Estée Lauder laat vragen over make-up door een chatbot beantwoorden, KLM-passagiers krijgen vluchtinformatie van een chatbot.

Als gastheer van AirBnb kan ik zelf ook gebruik maken van een chatbot. Die heet Hostbot en kan namens mij huurders te woord staan. Als er nu ook nog een chatbot wordt ontwikkeld voor AirBnb-huurders, dan kan het hele proces worden afgehandeld door bots. Zoals een impresario in Hollywood roept als hij het restaurant uitloopt: ‘I’ll have my people contact your people and  set up a meeting with their people!’

Een belangrijk element in de retoriek van de vooruitgang is altruïsme, de vooruitgang dient ons allen. Toch hoor je maar zelden van miraculeuze ontdekkingen zonder enig praktisch nut. Steeds meer universiteiten gooien hun geesteswetenschappen achter de rododendron – wat moet je ermee? Met nieuwe kennis moet wel iets te verdienen zijn. Follow the money!

De opmars van slimme bots

De NASA maakte onlangs bekend dat het heelal waarschijnlijk toch niet tot stand kwam door een enorme knal, de Big Bang, maar eerder door een traag proces van samenklontering. Interessant, maar niet een ontdekking waar zo één, twee, drie een verdienmodel omheen te timmeren valt. Donald Trump heeft de bestedingen voor dat soort fundamenteel onderzoek met een kleine 20 procent verlaagd, de grootste bezuiniging in 40 jaar, en verdere verlaging wordt verwacht.

Trump wil dat zoveel mogelijk van het budget voor wetenschappelijk onderzoek besteed wordt aan het verdienmodel der verdienmodellen: artificiële intelligentie. 

De maatschappelijke impact van AI zal ongeveer 3000 keer groter zijn dan de industriële revolutie, voorspelt het McKinsey Global Institute. Een even indrukwekkende als nietszeggende abstractie, maar of dat veelvoud nu klopt of niet, deze revolutie zal niet onopgemerkt voorbijgaan, zeker niet nu de grootmachten op dit gebied vastbesloten zijn de ‘strijd’ te winnen door bij andere disciplines geld weg te halen voor nog meer momentum. De effecten van AI op de samenleving zijn nu nog nauwelijks waarneembaar, maar dat is snel aan het veranderen – zie de gestage opmars van tekstbots.

Een ‘bot’ kan zelfstandig taken uitvoeren maar heeft geen ‘lichaam’, het is een verzameling codes, zwevend in cyberspace

Rond begrippen als ‘AI’, ‘robot’ en ‘bot’, bestaat enige verwarring. De nuance ligt rond de vraag hoe autonoom zo’n systeem precies is, en wat je onder autonomie verstaat. Robots hebben een fysieke gestalte en kunnen autonoom bepaalde taken uitvoeren, luidt de gangbare definitie. Een afwasmachine is een robot, bijvoorbeeld, net als een espresso-automaat of een wastunnel voor de auto. Een ‘bot’ kan ook zelfstandig taken uitvoeren maar heeft geen ‘lichaam’, het is een robot van software, een verzameling codes, zwevend in cyberspace. Een AI-systeem kan zelfstandig taken uitvoeren (met of zonder lichaam), maar kan zijn eigen prestaties geleidelijk aan ook verbeteren door te leren. Een zelflerende bot bijvoorbeeld, of een zelfrijdende auto. 

Voor ons dagelijks leven maken die nuances niet zoveel uit; het komt erop neer dat wij meer en meer omringd worden door zelfhandelende en zelfdenkende systemen, soms omdat wij zo’n systeem zelf in werking stellen, maar vaak zonder dat ons iets gevraagd wordt, zoals bij die chatbot van AirBnb.

Tekstgeneratiesoftware is nu al zo goed dat er journalistieke kopij mee kan worden geschreven die niet van man made valt te onderscheiden, zij het vooral over sport en financiën, onderwerpen die kennelijk het makkelijkst te begrijpen zijn. Ook een overtuigend opiniestuk kun je ermee schrijven, (al gaat er soms nog wel iets fout).

The New Yorker bracht eind vorig jaar een diepgravend verhaal over de zelfschrijvende computer, waarbij een geavanceerde tekstbot aan het eind van elk hoofdstuk mocht schrijven hoe het verder zou gaan. Als de auteur die fragmenten stilletjes in zijn eigen tekst had opgenomen, zou de lezer niets gemerkt hebben. Wel valt op dat de computer telkens voortborduurt op het voorafgaande, waar de auteur juist een cesuur naar een nieuw thema in gedachten had. Dat strookt met hoe de mens leert schrijven: lopende tekst aanmaken is één ding, een boeiende compositie bedenken is iets anders.

Maar het wordt griezeliger. Ook de content voor ‘pink slime’ websites, die zich voordoen als onafhankelijk nieuwsmedium maar in werkelijkheid politieke propaganda maken, wordt geproduceerd door tekstbots. Een onderzoek van de Columbia Journalism School, eind vorig jaar, wees uit dat er vooruitlopend op de Amerikaanse verkiezingen van 2020 al zo’n 450 van zulke websites actief zijn, met duizenden algoritmisch gegenereerde ‘artikelen’. Desinformatie, gecamoufleerd als lokaal nieuws, grotendeels afkomstig van één bedrijf, Metric Media. De kleur van deze propaganda doet er in wezen niet toe, maar voor de volledigheid: deze zijn rechts-conservatief, pro-Trump. Als de Democraten hier een gelijkwaardig offensief tegenover zetten, zal de voorspelling uitkomen die Bruce Schneier onlangs in de The Atlantic deed: dan worden de verkiezingen van 2020 een battle of the bots. Schneier is expert op het gebied van computerveiligheid, verbonden aan Harvard. Zijn schets van de ontwikkelingen op dit gebied is opzienbarend.

Van alle tweets over klimaatverandering in de periode dat Trump uit het klimaatakkoord van Parijs stapte, was liefst 25 procent afkomstig van bots

Er is nog steeds geen beter middel om stemmen te winnen dan het ouderwetse canvassen: van deur tot deur gaan en een-op-een praten met kiezers. Miljardair Michael Bloomberg kan de Democratische kandidatuur misschien kopen, voor ‘normale’ politici is die luxe niet weggelegd. Die moeten het hebben van vrijwilligers die als geduldige rupsen een wijk schoon knagen. Maar, schrijft Schneier, dat kan dus ook virtueel. Online, met behulp van bots.

The Guardianonthulde vorige week een niet gepubliceerd onderzoek van Brown University waaruit blijkt dat van alle tweets over klimaatverandering in de periode dat de regering-Trump uit het klimaatakkoord van Parijs stapte, maar liefst 25 procent afkomstig is van bots. Bij het specifieke onderwerp ‘fake science’ loopt het percentage op tot 38. Al deze twitterbots zijn anti-klimaatakkoord, anti-Greta Thunberg, anti-IPCC en pro-Trump. Twitter-boodschappen vóór klimaatactie bevatten hooguit 5 procent bot-content. (De onderzoekers gebruikten hierbij een instrument ontwikkeld door de Universiteit van Indiana, de Botometer, die twitterbots tamelijk nauwkeurig kan identificeren.)

Ziedaar het zoveelste voorbeeld van hoe rechts effectiever communiceert dan links. Ooit was het andersom, denk aan de sociale beweging begin vorige eeuw en de protestbeweging van de jaren zestig, toen links de toon zette en rechts geen antwoorden had, maar Thatcher en Reagan veroverden het initiatief terug. Sindsdien ligt het initiatief bij rechts en staat links wat bedremmeld aan de zijlijn. 

Het voornaamste effect van die niet aflatende hagelstorm is misschien niet eens dat mensen er door van standpunt veranderen, maar dat mensen uit de aanwezigheid van zo’n enorme hoeveelheid ‘tegenstemmen’ afleiden dat hun standpunt haast wel legitiem móet zijn, en dus afstand gaan nemen van klimaatwetenschappelijke feiten. Twijfel zaaien is net zo effectief als mensen overtuigen. 

‘Je moet er niet aan denken dat Donald Trump werd overgehaald om een misdaad tegen de mensheid te plegen door een stelletje bots,’ zegt Ed Maibach, expert op het gebied van klimaatcommunicatie, in The Guardian.

De liegbot van de toekomst

Er zijn nu naar schatting vijftig landen die propagandabots gebruiken. Na de moord op Jamal Khashoggi twitterden 250.000 Saoedische  twitterbots: ‘We all have trust in Mohammed bin Salman.’ Toen de regering-Trump de netneutraliteit wilde afschaffen, werd een speciale inspraak-website gebombardeerd met 22 miljoen reacties, de helft afkomstig van bots. Die commentaren waren taalkundig primitief en herkenbaar als bot-content, maar dat was in 2017; de tijd staat niet stil. 

Twee jaar later schreef Harvard-onderzoeker Max Weiss een tekstprogramma waarmee hij duizend verschillende reacties genereerde voor een inspraak-website over een Medicaid-plan. Het waren deep fakes: niet van echt te onderscheiden, alle duizend verschillend. Niemand bij Medicaid had iets in de gaten – totdat Weiss zijn experiment bekend maakte.

Zij kunnen ingezonden brieven en opiniestukken voor nieuwsmedia schrijven, politici benaderen met persoonlijke mails

De liegrobot van de toekomst zal niet van een mens te onderscheiden zijn: ze hebben namen, gezichten, persoonlijkheden en kunnen intelligent discussiëren over politieke kwesties. Met mensen van vlees en bloed of met propagandabots van de tegenpartij. Zij dumpen hun boodschap niet in grote oplagen, typisch kenmerk van bots, maar spreken slechts nu en dan, op wisselende tijdstippen, soms kort, soms lang, als een echt mens. Zij kunnen ingezonden brieven en opiniestukken voor nieuwsmedia schrijven, politici benaderen met persoonlijke mails en deelnemen aan inspraakrondes. Schneier: ‘Combineer deze trends en je hebt het recept voor een algoritmisch politiek debat dat het stemgeluid van echte mensen overstemt. Bots arguing with other bots.’

Een kleuter in de Efteling

Dat is heel iets anders dan wat wij ons ooit voorstelden bij het internet als platform voor een vrije uitwisseling van ideeën en een open, vrije dialoog. Als het nieuwe digitale hart van de deliberatieve democratie. Zoals Schneier zegt: een democratie vereist twee dingen: informatie en zeggenschap. Bots ontnemen ons beide.

En kunstmatige intelligentie staat nog maar in de kinderschoenen. Stel je voor hoe dit over tien of twintig jaar zal zijn, als alles om ons heen online is en bestuurd wordt door zelfdenkende, zelflerende bots en robots. Als de mens is teruggebracht tot een omstander, die verwonderd toekijkt in een wereld bestuurd door machines, als een kleuter in de Efteling. Machines die met elkaar onderhandelen, discussiëren en ruzie maken.

De grote koplopers op dit gebied zijn Amerika en China. De Europese investeringen in AI zijn op dit moment hooguit een-zesde van die van China en de VS bij elkaar. Als Europa geen technologisch wingewest van Azië en Amerika wil worden, zal het zijn eigen alternatieven moeten ontwikkelen. De Europese Commissie lanceerde daar vorige week een plan voor: Europe fit for the Digital Age. Het blaakt van de ambitie. Op korte termijn moeten vijfhonderdduizend digitale specialisten worden opgeleid (vooral vrouwen). Uit publieke en private middelen moet twintig miljard euro worden vrijgemaakt voor een inhaalslag op het gebied van AI. Er moeten meer waarborgen komen voor de veiligheid van onze data, en tegelijk moet Europa het verzamelen en gebruik van data intensiveren, onafhankelijk van de twee digitale grootmachten. 

Misschien moet Brussel eens naar California kijken. Die staat is een beetje de gekke Henkie van de VS. In de jaren zeventig begonnen ze daar al met strenge CO2-maatregelen. Menigeen lachte ze uit, maar ze hadden het goed gezien en het Californische pionierswerk wordt dankbaar benut. Toen Donald Trump in 2017 de netneutraliteit ophief, voerde Californië hem gewoon weer in – ook een maatregel die waarschijnlijk ooit als visionair te boek zal staan. De Europese burger moet het digitale domein net zo kunnen vertrouwen als het analoge, stelt de Europese Commissie in Europe fit for the Digital Age. Een nobel streven, maar met de opmars van liegrobots en de onwil van de sociale media om ze een halt toe te roepen, beweegt de zich trend helaas in omgekeerde richting.

De Californische wetgever probeert nu een wet in te voeren tegen het gebruik van bots. Misschien moet Brussel daar ook eens naar kijken.