Verslag bijeenkomst: Een weerbare AI-infrastructuur begint met zelfvertrouwen

Met deze woorden wees raadslid Marleen Stikker op het belang van een weerbare AI-infrastructuur tijdens de Naar een innovatieagenda voor een weerbare AI-infrastructuur. Ruim 50 experts bogen zich over de vraag hoe een weerbare AI-infrastructuur eruit zou moeten zien.

AWTI organiseert een serie bijeenkomsten naar aanleiding van het recente advies Weerbaar en toekomstbestendig - De kracht van stabiele grootschalige investeringen in onderzoek en innovatie. Daarin adviseert de raad over stabiele investeringen in grootschalig onderzoek en innovatie. En dat die investeringen gericht worden ingezet voor het oplossen van maatschappelijke uitdagingen. Op deze manier dragen onderzoek en innovatie bij aan een weerbare samenleving en economie. Digitale weerbaarheid is één van de maatschappelijke uitdagingen die het advies noemt.

AI is niet neutraal

Na een welkom van raadsmedewerker Marleen van de Vate bouwde Marleen Stikker een brug tussen het reeds uitgebrachte advies Weerbaar en toekomstbestendig, en het advies AI als kritieke infrastructuur, waar de AWTI op dit moment aan werkt.  “AI krijgt op dit moment terecht veel aandacht, ook in Den Haag. Maar als we te snel meegaan, maken we onszelf afhankelijk. AI is geen neutrale technologie. Het bevat allerlei ontwerpkeuzes, een zekere vooringenomenheid die inherent is aan de techniek. Daarnaast leidt het ontwikkelen en toepassen van AI tot verschillende urgente vraagstukken zoals de ecologische voetafdruk, de verschuiving van arbeid, de bestendigheid van onze democratie en technologische soevereiniteit.”

Zet in op de volgende generatie AI

Wat is AI-infrastructuur eigenlijk? Met die vraag begon digitaal-expert Bert Hubert zijn bijdrage. Onder AI-infrastructuur worden vaak rekenkracht, data, modellen en applicaties gerekend. “Maar denk zeker ook aan de bedrijven die AI exploiteren en juridische borging. Zo heeft een Duitse rechter onlangs bepaald dat de uitbater van een AI-model verantwoordelijk blijft voor het advies dat door het model wordt gegeven.”
Bert Hubert ging ook in op de verschillen tussen Amerika, China en Europa in de wijze waarop zij AI ontwikkelen en toepassen. Waar Amerika en China bereid zijn om bijvoorbeeld privacyregels en auteursrechten te overschrijden om AI te ontwikkelen, toont Europa zich daar terughoudend in. “Om een weerbare AI-infrastructuur op te bouwen, zou Europa daarom fundamenteel onderzoek moeten verrichten naar nieuwe modellen om te komen tot de volgende generatie AI. Hiermee ontstaan ook alternatieve mogelijkheden voor taalmodellen van de Amerikaanse big tech.”

Naar een AI-innovatieagenda

Wat dit betekent voor de onderzoeks- en innovatieagenda van de AI-infrastructuur stond centraal tijdens het panelgesprek, onder leiding van raadsmedewerker Tara van Viegen.

Roel Dobbe, UD Techniek, Bestuur en Management aan de TU Delft, wees erop dat institutionele innovatie essentieel is om minder kwetsbaar te worden. “Ik denk vooral na over de vraag hoe we AI op een verantwoorde manier kunnen inbouwen in onze kritieke systemen. We moeten bouwen, maar we moeten ook kunnen bijsturen. Uiteindelijk gaat het om de vraag hoe we met politieke besluitvorming en behoorlijk bestuur grip houden op de toepassing van AI in processen die voor de maatschappij essentieel zijn.”
In het AI-tijdperk is toegang tot betrouwbare informatie een fundamentele voorwaarde voor weerbaarheid. Bestaande maatschappelijke instellingen zoals de KB nationale bibliotheek en het Instituut voor Beeld & Geluid kunnen daarin een belangrijke rol spelen, aldus Wilma van Wezenbeek, algemeen directeur van de KB nationale bibliotheek. Minstens zo belangrijk vindt zij het herstellen en versterken van het vertrouwen van de samenleving in publieke instituties. “De KB geeft toegang tot kennis en cultuur van Nederland en bewaart alles wat er in en over Nederland wordt geschreven. De KB moet zorgen dat er betrouwbare informatie is en blijft en kan de samenleving ook ondersteunen om kritisch te blijven denken.”

Bewuste keuzes maken vooraf

Saskia Lensink, product manager voor GPT-NL bij TNO, brak een lans voor meer zelfvertrouwen. “Er zijn in Europa minder middelen beschikbaar dan in de Verenigde Staten, maar wij kunnen veel leren door kleine stapjes te zetten.” Daarnaast wees ze erop dat volledig inzetten op elke dimensie van weerbaarheid betekent dat er afwegingen gemaakt moeten worden.  “Wat kunnen we wél doen en welke keuzes kunnen we dan maken?”
“Focus op het ecosysteem,” voegde Daan Snellink daaraan toe. “Data-ecosystemen moeten worden gesteund en hubs gekoppeld. In Finland werkt Nebius nauw samen met universiteiten. Het gaat om enorme hoeveelheden energie en water. Universiteiten zijn dan niet alleen aangehaakt als eindgebruiker, maar ook als partner om gedegen fundamenteel onderzoek te doen.”
Snellink is adviseur internationale betrekkingen voor Europa en het Midden-Oosten bij Nebius. Nebius is een jong bedrijf dat AI-infrastructuur bouwt. Nebius is een concurrerende partij van de Amerikaanse big tech, maar werkt ook met hen samen. “De Nederlandse overheid moet vooral kijken wat ze nodig denkt te hebben en waar ze verwacht over vijf jaar te staan.”

Aan het eind van de bijeenkomst bleek dat de zaal en sprekers het over één ding eens zijn: vertrouwen in ons eigen kunnen is de basis voor een weerbare samenleving en economie én noodzakelijk om op een verantwoorde manier een eigen, betrouwbare AI-infrastructuur op te bouwen.