Stockfish heeft geen gevoelens, wij wel

Iedereen die al wat langer meedraait op de club kent het wel, na een spannende partij bleef je nog even, of wellicht wat langer, aan de ‘bar’ hangen. Met een biertje of een glas rode wijn erbij ging de partij opnieuw over het bord.

‘Wat als je daar nou die loper had gepakt?’

En natuurlijk ging het niet alleen over zetten. Je besprak de spanning, de tijdnood en misschien werd de partij gedurende de avond zelfs nog iets mooier dan hij in werkelijkheid was door alle zijsprongen die werden genomen tijdens de analyse.
Tegenwoordig is dat net zo, maar gaat het vaak ook anders. Nauwelijks is de koning omgelegd of de smartphone komt tevoorschijn. De partij wordt ingevoerd en een paar seconden later volgt het onverbiddelijke oordeel van Stockfish:

+2.4. Blunder op zet 22.

Niemand denkt dat Stockfish daarna tevreden naar huis gaat of aanschuift voor een biertje. De computer heeft geen ego, kent geen zenuwen en ligt niet wakker van die verschrikkelijke zet 22.
Maar computers hebben de laatste jaren een merkwaardige ontwikkeling doorgemaakt: ze praten tegenwoordig terug.
AI-systemen beantwoorden vragen, maken grapjes, bieden excuses aan en kunnen verrassend begripvol reageren. Dat leidt inmiddels zelfs tot discussies over de vraag of AI ooit bewustzijn kan hebben en misschien bescherming of rechten verdient. Persoonlijk vind ik dat voorlopig een stap te ver. Er is weinig reden om aan te nemen dat een chatbot daadwerkelijk verdrietig wordt wanneer ik hem uitscheld omdat hij voor de derde keer hetzelfde verkeerde antwoord geeft.
Maar misschien is de interessantere vraag niet wat wij de computer aandoen, maar wat onze omgang met de computer met ons doet.

De toetsenbordridder

De toetsenbordridder

We zien op sociale media al jaren wat er gebeurt als de normale menselijke remmingen verdwijnen. Mensen schrijven daar dingen tegen wildvreemden die ze waarschijnlijk nooit op dezelfde manier aan de bar zouden zeggen.

‘Ik zeg gewoon wat ik denk’  betekent online opvallend vaak: ik zeg dingen op een manier waarop ik ze in je gezicht waarschijnlijk niet zou zeggen.

Bij AI verdwijnt die rem vrijwel helemaal. Je kunt schelden en beledigen en een paar seconden later antwoordt het systeem waarschijnlijk gewoon:

‘Natuurlijk. Waarmee kan ik je verder helpen?’

De computer ligt daar vermoedelijk niet wakker van. Maar wij oefenen wel bepaald gedrag. En gedrag zonder consequenties kan op den duur normaal gaan voelen. In een samenleving waarin de omgangsvormen er toch al niet bepaald op vooruitgaan, vind ik dat eigenlijk interessanter dan de vraag of de computer gekwetst is.
Nu moeten we ook weer niet overdrijven. Wie nog nooit tegen een vastgelopen computer, een weigerachtige printer of een AI die vol overtuiging onzin produceert, heeft gevloekt, heeft volgens mij nog nooit serieus met technologie gewerkt. Ik hoef dan ook geen AI die bij de eerste krachtterm reageert met:

‘Ik ervaar uw taalgebruik als kwetsend en beëindig daarom dit gesprek.’

Een computer hoeft geen digitale zedenmeester te worden die mij opvoedt.

Een sparringpartner met oneindig geduld

De spar-ring-partner

Juist het ontbreken van een ego is een van de sterke kanten van AI. Schakers kennen dat al jaren. Je kunt vijf varianten analyseren en daarna weer teruggaan naar de eerste. Stockfish zucht niet, kijkt niet op zijn horloge en zegt niet dat hij morgen vroeg op moet.
Datzelfde vind ik interessant aan AI buiten het schaken. Ik gebruik het lang niet altijd omdat ik een antwoord zoek. Soms wil ik weten wat ik zelf eigenlijk van iets vind. Ik leg een gedachte voor, krijg een tegenargument, probeer het van de andere kant en kom er soms achter dat mijn oorspronkelijke redenering niet helemaal deugde. Of juist wel.
Maar een goede gesprekspartner hoeft niet voortdurend ja te knikken. Ik hoef geen AI die beledigd is als ik iets onaardigs zeg. Maar ik heb er geen enkel probleem mee wanneer dezelfde AI zegt:

‘Volgens mij sla je hier een stap over.’

Of wanneer ik weer eens een iets te directe e-mail heb geschreven:

‘Echt waar? Weet je zeker dat je dit zo wilt versturen?’

Niet omdat ik de gevoelens van de computer moet ontzien, maar omdat hij mij even dwingt na te denken over wat ik probeer te bereiken.
Als schakers gebruiken we de computer eigenlijk al jaren zo: als een emotieloze spiegel. Hij wijst genadeloos aan waar onze analyse niet deugt, maar veroordeelt ons niet als mens. Misschien is dat ook buiten het schaakbord wel de beste rol voor AI. Niet menselijk willen zijn, maar wel een gesprekspartner zijn die ons af en toe helpt iets menselijker te blijven. En daarna moeten we de partij nog steeds zelf aan de bar bespreken.
Want één ding heeft Stockfish voorlopig nog niet geleerd: na afloop een rondje geven.

Marco & MarCoPilot