Bijdrage Staten­voorstel: Uitvoering motie 135 'Klaar voor de toekomst'

In de eerste plaats wil ik wijzen op het verschil tussen motie 135 (waar wij vóór hebben gestemd) en het statenvoorstel, waar wij kritisch over zijn.

Motie 135 roept op om te zorgen voor een weerbare provincie op het gebied van cyber security, en te komen tot een structurele financiële dekking. Daar staan wij voluit achter. Maar het statenvoorstel gaat veel verder dan deze oproep. Er is een aanvullend budget begroot van ruim 1,7 miljoen euro voor met name AI en Datagedreven netwerken. Dit roept vragen op. Projecten over AI en datagedreven netwerken zijn iets anders dan cyber security.

Vraag: Graag willen wij meer weten over de focus van deze projecten en de reden waarom deze projecten zo impliciet worden ingeschoven.

Het lijkt ons belangrijk om een discussie te voeren in de staten over de verschillende standpunten ten aanzien van het gebruik van AI.  AI is er, het blijft er, en het zal steeds belangrijker worden, of we het leuk vinden of niet. Dat betekent niet dat we er kritiekloos in mee moeten gaan. Kritische noten zijn belangrijk. Maar we zien dat AI ook behulpzaam kan zijn.  

Kritische noten:

·       AI kost erg veel energie: een prompt, ofwel zoekopdracht, kost 50-100 keer zo veel als een google zoekopdracht.

·       AI kan nieuwe onveiligheid creëren. Denk aan deepfake video’s en gefakete teksten die van overheden afkomstig lijken. Daar zullen we ons tegen moeten wapenen.

·       Een gevaar van AI is dat mensen neigen te geloven dat AI gegenereerde teksten waar zijn. En dat is niet terecht.

Ten eerste bevat elke door AI gegenereerde tekst biases. Bijvoorbeeld: AI-samenvattingen laten maken lijkt leuk, maar wie bepaalt wat er geselecteerd wordt voor die samenvatting? Is dat hetzelfde als wat jij belangrijk vindt? Welke onderwerpen worden weggelaten? Ook worden vooroordelen versterkt. In een tekst over artsen of wetenschappers bijvoorbeeld, worden deze bijna altijd opgevoerd als man. En in geval van plaatjes, als witte man.

Ten tweede: AI kan regelrechte kolder genereren in teksten die op het eerste gezicht heel plausibel lijken als je weinig van het onderwerp af weet. Het gaat vooral vaak de mist in met redeneren, zoals het ten onrechte leggen van causale verbanden. Bronvermeldingen deugen meestal niet.

Maar: AI kan zeer behulpzaam zijn, helpen met aanscherpen van redenaties en gedachten, en werk uit handen nemen. Enkele voorbeelden:

·       Een intranet met een AI-systeem dat alleen provinciedocumenten bevat, en dat alleen door de provincie is te gebruiken kan grote voordelen hebben doordat het makkelijker wordt om informatie snel en goed geordend te verzamelen.

·       Intelligent gebruik van AI kan zeer behulpzaam zijn in het schrijfproces. Dit wordt steeds meer in het hoger onderwijs onderwezen, en zal door jonge afgestudeerden steeds meer gebruikt worden. Dat betekent dat ook nieuw jong personeel van de provincie steeds meer gebruik zal willen en kunnen maken van AI.  Een voorbeeld van zulk gebruik: Laat AI een samenvatting maken. Neem de tekst ernaast, scan dit op de onderwerpen die je zelf relevant vindt, en gebruik de AI-tekst als een raamwerk om je eigen tekst te schrijven. Gebruik AI om een te lange tekst van jezelf in te korten, en check wat er nu in staat. In het algemeen: AI gegenereerde teksten kunnen goed dienen als raamwerk voor een eigen tekst. Zolang je maar kritisch blijft op wat er staat en gespitst blijft op omissies.

Deze plussen en minnen laten zien dat het introduceren van AI in het statenwerk een discussie vergt. Het moet niet even in een bijzin in een statenvoorstel worden meegenomen. Bovendien is 1,7 miljoen veel geld. Welke keuzes maken we hierin als Staten? Vanuit het perspectief van de PvdD spelen vooral het energie-aspect, het veiligheidsaspect, privacy-aspecten en de grote som geld een belangrijke rol.