De Amsterdamse visie op AI

Vorig jaar november publiceerde Directie Digitalisering en Innovatie van Amsterdam de Amsterdamse visie op AI. Hier een korte samenvatting, want het is een wat tekstig document (zou er AI gebruikt zijn om het te schrijven? :o), met hier en daar wat korte kanttekeningen. In cursief kantekeningen van mijn hand, rest is een ‘objectieve’ samenvatting.

Vraagstukken

De eerste pagina’s zijn vooral introductie, vanaf pagina 9 komen er wat ideeën voor toepassingen:

• Ontsluiten van oude archieven (ik neem aan voor toevoegen context? Of is handschriftherkenning al AI?)
• Detecteren zware objecten op kademuren (?)
• Preventief onderhoud aan op basis van modellen

Er wordt geschreven dat logisch redeneren en kansberekening is waar AI systemen goed in zijn, maar dat is niet volledige intelligentie, het kent b.v. geen ervaringen en emoties. AI zal dus niet de mens volledig vervangen.

Des te complexer echter de AI modellen, des te lastiger het is om na te gaan hoe tot een conclusie is gekomen. Daarnaast stippen ze juist aan dat de systemen zo betrouwbaar zijn als de input (let ook op de neutraliteit) en, ondanks mogelijk ontbrekende kennis, bijna altijd in staat zijn om overtuigende antwoorden te geven. AI misbruik ligt dan ook op de loer. Een expert oordeel is daarom belangrijk; AI moet niet zomaar worden toegepast.

Een risico is dat we te snel ontwikkelen voor een bepaalde groep ten koste van een andere. Of het geen zingevende banen gaat vervangen, bijvoorbeeld. Ook de milieu impact wordt benoemd, niet alleen energie, maar ook de apparatuur.

De vragen worden gesteld over wendbaarheid, vertrouwelijkheid, weerbaarheid en machtsconcentratie, maar Amsterdam is te klein voor eigen modellen. Hmm.. Dus daarom is het toch ok om je maar over te leveren aan Big Tech?

Denkkader

In het hoofdstuk denkkader zetten ze hoe ze niet naar AI willen kijken tegenover hoe ze er wel naar willen kijken:

• Technologie vs. mens centraal
• Technologie is neutraal vs. waardengeladen
• Alles moet zo efficiënt mogelijk vs. publieke waarden centraal
• Technologie bepaalt jou vs. jij bepaalt zelf
• Met technologie kan je alles oplossen vs systeemproblemen worden door technologie versterkt
• AI wordt slimmer vs AI kan nooit menselijke intelligentie vervangen

De eerste punten heb ik geen commentaar op, maar ik ga niet mee met het idee dat systeemproblemen per definitie door technologie worden versterkt. Het risico bestaat wel natuurlijk, zeker wanneer techniek slechts wordt ingezet wordt in het automatiseren van bestaande processen. Daarnaast is ‘nooit’ zeggen voor mij ongeloofwaardig, al is het punt van kunstmatige algemene intelligentie nog ver weg. Daarentegen, computers zijn beter in rekenen dan mensen; soms kan een gestructureerde benadering beter zijn dan wat mensen nu doen.

Richtinggevende principes

“AI is geen doel op zich, maar een middel”, maar ook: “We voeren doorlopend onderzoek naar de effecten”. Het leest toch als wat tegenstrijdige principes. Als het doel goed is gedefinieerd, dan kan een middel goed of slecht passen en kunnen er bewuste keuzes gemaakt worden, maar het andere principe interpreteer ik toch meer als dat er wordt geëxperimenteerd (geen bezwaar), maar doe dan niet alsof het alleen instrumenteel wordt ingezet.

Onder betrouwbaarheid wordt ingegaan op zaken als privacy en bias en altijd een expert in de loop. Maar minder duidelijk is de uitlegbaarheid van model-output, iets wat mij zorgen baart, in hoeverre kan een Expert de output dan goed beoordelen? Laat staan de betrokkene/getroffene?

En tenslotte moeten we kijken naar de toekomst: zinloos materiaal en energieverbruik vermijden, maar ook kijken naar de kansen voor een kenniseconomie rondom goede inzet. En bevolking leren er mee om te gaan…

Conclusie

AI is intensieve (kost veel energie, hulpmiddelen) automatisering (maakt zaken efficiënter). Hierin streeft Amsterdam naar een mensgerichte benadering, terwijl ze blijven experimenteren. AI kan soms helpen bij het verwezenlijken een betere toekomst.

Reflectie op de Amsterdamse visie op AI

Enerzijds is het bewonderenswaardig dat de gemeente Amsterdam al een visie heeft over AI, anderzeids gelden alle principes voor bijna alles wat de overheid doet: wanneer er processen worden gestroomlijnd, wordt het werk ook efficiënter, maar mogelijk ook minder humaan. Maar ook, voordat Large Language Models (LLMs) (meestal worden er vandaag de dag LLMs bedoeld wanneer er over AI wordt gesproken) laagdrempelig beschikbaar werden voor ontwikkelaars konden we ook al honderden scenario’s laten doorrekenen in “monte carlo” stijl binnen complexe modellen die veel energie en resources kosten, ook toen moest er op een gegeven moment een grens getrokken worden…

In algemene zin moet er iedere keer afgevraagd worden of het ook anders kan. Effectiever, slimmer, humaner, met minder middelen… daarbij zou mijn grootste zorg op dit moment zijn dat vanuit een intellectuele luiheid gemakkelijk ingezet wordt op het inbedden van LLMs van grote marktpartijen in (semi-)kritieke processen. In plaats van continue schakelen met de OpenAI/Claude/Mistral/…-API om de burger te bedienen vanuit een ‘chat interface’ (als dit al wenselijk zou zijn vanuit de ervaring die wenselijk wordt geacht voor de gebruiker), dan zou je ook vragen en antwoorden kunnen opslaan en eerder gestelde vragen primair aanbieden, waarbij je pas als een laatste stap een grote LLM inschakelt, of op een gegeven moment wel gewoon een mens. Of misschien is het wel wenselijker dat de dienstverlening beter ingericht dient te worden.

Het is daarom jammer dat de goed aangestipte vraagstukken in de eerdere hoofdstukken niet echt uit de verf komen in de principes die eruit volgen.