OPINION
The Algorithm as an Excuse
Joop Snijder shares his opinion about Artificial Intelligence and Machine Learning. You can read his column in English and in Dutch.
The algorithm as an excuse
Until recently, ‘An error in the computer system’ was a popular statement. An obvious distraction of human failure that has been accepted time and again. The error arises as if the computer has acquired a mind of its own, which causes the error.
Now we humanize objects more often, because who hasn’t complained to his computer and shouted: “Cooperate! Otherwise, I’ll throw you out the window!”
Artificial intelligence fuels this humanization even further because a machine that can see, hear and speak stimulates our imagination. We read more about algorithms that make the computer smarter and make those decisions. However, as soon as unwanted effects arise from decisions taken, the excuse is quickly found: ‘because of the algorithm.’ People forget that people design and build systems that use algorithms. Errors that arise from this are the results of people’s choices. Wrong choices, consciously or unconsciously, or incorrect data, produce mistakes but are always made by people.
I, therefore, distrust statements when an algorithm is an excuse for mistakes. Especially if the reason is considered a law of nature: it is what it is. Mistakes are made but only corrected when recognized and attributed to us: people.
Het algoritme als excuus
‘Een fout in het computersysteem’, was tot voor kort een gevleugelde uitspraak. Een opzichtige afschuiving van menselijk falen dat keer op keer geaccepteerd werd. De fout die ontstaat alsof de computer een eigen wil heeft gekregen, die de fout veroorzaakt.
Nu vermenselijken we objecten vaker, want wie heeft niet tegen zijn computer geklaagd en geschreeuwd: “werk toch eens mee, anders gooi ik je uit het raam!”
Kunstmatige intelligentie wakkert deze vermenselijking nog verder aan. Want een machine die kan zien, horen en spreken, prikkelt onze fantasie nog meer. We lezen meer over algoritmen die de computer slimmer maken en die besluiten nemen. Maar zodra ongewenste effecten ontstaan door genomen besluiten, dan is het excuus snel gevonden: ‘komt door het algoritme‘. Vergeten wordt dat mensen systemen ontwerpen en bouwen, die gebruikmaken van algoritmen. Door bewust of onbewust verkeerde keuzes of door het gebruik van verkeerde data ontstaan fouten, maar die fouten zijn altijd gemaakt door mensen.
Ik wantrouw daarom uitspraken wanneer een algoritme als excuus wordt gebruikt. Vooral een excuus dat als natuurwet wordt geserveerd: er valt niets aan te doen. Fouten worden gemaakt, maar zijn te herstellen als ze erkend worden door en toegekend worden aan ons: mensen.