Eerste mkb-bedrijf uit Noord-Nederland krijgt toegang tot Europees netwerk van AI-supercomputers

Terwijl in Groningen nog hard wordt gewerkt aan de realisatie van de Nederlandse AI-fabriek, is het expertisecentrum al operationeel. Met ondersteuning van dit expertisecentrum is KOWW (Kenniscentrum Ongewenste Wortelende Waterplanten) het eerste mkb-bedrijf uit Noord-Nederland dat toegang krijgt tot het Europese netwerk van AI-supercomputers. Met de beschikbare rekenkracht wil KOWW een AI-model voor de herkenning van waterplanten verder ontwikkelen.
 
KOWW mag gebruik maken van de Discoverer Petascale Supercomputer in Bulgarije. Daar ontwikkelen en trainen Lude Feldbrugge en Jelle Dalenberg van Objectherkenning.com, de technische partner van KOWW, een innovatief AI-herkenningsmodel voor verschillende exotische en inheemse waterplanten op basis van dronebeelden. Voor KOWW is dit een belangrijke stap om waterschappen, provincies en gemeenten straks sneller en preciezer inzicht te geven via het Platform Datagestuurd Waterplantenbeheer (PDW).

“Water en waterwegen zijn van vitaal belang voor onze samenleving. Het vormt de basis onder ecosystemen, huisvest en onderhoudt flora en fauna, dient als drinkwater en bron van recreatie voor de mens en is onmisbaar voor industrie, landbouw en onze samenleving”, vertelt Leon Sterk, kwartiermaker bij KOWW.

KOWW zet in op continu onderzoek naar innovatieve methoden om waterplanten beter te kunnen monitoren en beheren. “Wetenschappers, ecologen en onderzoeksinstituten spelen hierin een centrale rol en gaan samen op zoek naar betere, duurzamere oplossingen.”

Expertisecentrum helpt mkb de weg naar EuroHPC te vinden

Dat KOWW toegang heeft gekregen tot de Europese infrastructuur, is mede te danken aan ondersteuning vanuit het expertisecentrum van de Nederlandse AI-fabriek. Volgens Lude Feldbrugge heeft die assistentie “zeker het verschil gemaakt”.

KOWW had aanvankelijk zelf een aanvraag ingediend, maar die bleek niet voldoende toegespitst op de manier waarop EuroHPC voorstellen beoordeelt. “We hadden die eerste aanvraag eigenlijk vrij naïef ingestuurd: vraag maar gewoon maximaal aan en dan zien we wel”, vertelt Feldbrugge. “Die werd heel resoluut afgewezen. Toen werd duidelijk dat we met een veel concreter en beter onderbouwd plan moesten komen.”

Daar kwam het expertisecentrum in beeld. Edwin Kuipers, een van de kwartiermakers van de Nederlandse AI-fabriek, hielp KOWW onder meer om beter te begrijpen hoe vanuit EuroHPC naar een aanvraag wordt gekeken. “Daarmee hebben we uiteindelijk een mooi plan neer kunnen leggen dat bijna op academisch niveau is onderbouwd”, aldus Feldbrugge.

Juist voor kleinere bedrijven is die ondersteuning volgens hem waardevol. Een ondernemer heeft doorgaans niet de tijd om zich uitgebreid te verdiepen in alle procedures, technische eisen en beoordelingscriteria. Bovendien is de Europese HPC-wereld voor een nieuwkomer complex. Er zijn verschillende AI-fabrieken, verschillende vormen van toegang en uiteenlopende documentatie en aanvraagprocedures.

“Als je op de website van EuroHPC kijkt, dan zijn er vele soorten programma’s (redactie: momenteel staan 12 van deze zogenaamde calls open) waar je op in kunt schrijven. Ook zijn er veel verschillende fabrieken te zien, ieder met eigen technische specificaties en documentatie. Als mkb-bedrijf zie je dan door de bomen het bos niet meer”, zegt Feldbrugge. 

Van technische taal naar een kansrijke aanvraag

De ondersteuning gaat bovendien verder dan uitleg over welk aanvraagformulier moet worden ingevuld. Ook de manier waarop technische, maatschappelijke en ethische aspecten van een project worden beschreven, kan bepalend zijn voor de beoordeling.

Feldbrugge noemt als voorbeeld vragen over mogelijke bias in de dataset en de maatschappelijke gevolgen wanneer het systeem een fout maakt. In eerste instantie leek dat voor een toepassing voor waterplanten nauwelijks relevant. Maar een verkeerde herkenning kan er uiteindelijk wel toe leiden dat een terreinbeheerder de verkeerde plant verwijdert of een verkeerde beheermaatregel neemt. “Dan heeft het uiteindelijk wel degelijk serieuze impact”, legt Feldbrugge uit. “Je moet dus laten zien dat je over die sociaal-ethische aspecten hebt nagedacht.”

Ook bij technische eisen helpt het wanneer iemand de vertaalslag kan maken. Zo werd in de aanvraag gevraagd om inzicht in de gebruikte programmacode. “Voor een mkb-bedrijf ligt het niet voor de hand om zonder meer alle programmacode met derden te delen.” Het expertisecentrum kon uitleggen wat EuroHPC precies nodig had om de technische haalbaarheid te kunnen beoordelen en hoe KOWW daaraan kon voldoen zonder simpelweg alle programmacode te overhandigen. “Die wisselwerking vinden we heel fijn: een contactpersoon hebben met wie je kunt sparren”, zegt Feldbrugge. “Dat scheelt uiteindelijk ook aan de EuroHPC-kant veel tijd.”

Dronetechnologie en AI zorgen voor beter inzicht

Om data te verzamelen en analyseren voor het Platform Datagestuurd Waterplantenbeheer (PDW) worden voor dit project met drones hoge-resolutiebeelden gemaakt, waarmee met behulp van AI waterplanten boven en gedeeltelijk onder water kunnen worden geïdentificeerd. Daarbij gaat het niet alleen om de constatering dát ergens waterplanten groeien. Het systeem kan soortspecifiek aangeven om welke plant het gaat, waar deze voorkomt en in welke hoeveelheid.

“Met een resolutie van 0.3 mm per pixel gebeurt dit op bladniveau, zodat we elk wegdrijvend plantje kunnen detecteren”, aldus Sterk. Die informatie kan terreinbeheerders helpen om veel gerichter in te grijpen. “Wij bieden aangesloten partners, zoals waterschappen, provincies, gemeenten en terreinbeherende organisaties, beter inzicht in wat er precies in hun gebied gaande is. Daardoor kunnen ze sneller acteren en proactief ingrijpen.”

Dat is bijvoorbeeld van belang bij invasieve exoten. Die houden zich niet aan gemeente-, provincie- of landsgrenzen. Wanneer de ene terreinbeheerder maatregelen neemt, maar niet weet wat er in een aangrenzend gebied gebeurt, kan een invasieve soort zich opnieuw verspreiden. KOWW wil de verzamelde informatie daarom juist toegankelijk maken voor verschillende publieke partijen, zodat zij gezamenlijk en op basis van dezelfde gegevens kunnen handelen. Dat kan volgens Sterk uiteindelijk ook veel kosten besparen.

Opschaalambities

Voor de doorontwikkeling van het AI-model is echter veel rekenkracht nodig. KOWW diende daarom het voorstel in voor de EuroHPC-call Playground Access to AI factories. Voor de eerste fase heeft het bedrijf 5000 rekenuren toegewezen gekregen op de Discoverer-supercomputer in Bulgarije, met een looptijd van drie maanden. “Dit is de eerste, verkennende fase, een zogeheten playground-traject”, vertelt Sterk. “Daarin kunnen we aantonen waarom HPC voor ons project noodzakelijk is. Wanneer we deze fase succesvol afronden, is de ambitie om vervolgens op te schalen naar een groter traject.”

Veel meer AI-experimenten in dezelfde tijd

De extra rekenkracht moet Objectherkenning.com vooral in staat stellen om veel meer varianten van het AI-model te trainen en te testen. Een AI-model kent tal van instellingen en mogelijke architecturele keuzes. Op beperkte hardware is het praktisch onmogelijk om al die varianten uit te proberen. “Het trainen van één model van nul tot het eindresultaat kost op de HPC-infrastructuur die we nu gebruiken van de Rijksuniversiteit Groningen al ongeveer zestig uur”, vertelt Feldbrugge.“Gelukkig kan dat bij de Rug tot wel 6 experimenten tegelijkertijd. Zonder deze hulp kost dat weken en misschien zelfs maanden. En dan heb je nog maar één experiment met één bepaalde instelling uitgevoerd.”

De Europese supercomputer maakt het mogelijk om oog meer experimenten parallel uit te voeren. Daardoor kunnen de ontwikkelaars onderzoeken welke architectuur het beste werkt voor de herkenning van waterplanten. Dat wordt nog belangrijker wanneer KOWW in de toekomst naast reguliere RGB-beelden (gewone kleurenbeelden, RGB staat voor Red, Green, Blue) ook multispectrale of hyperspectrale beelden gaat gebruiken. Die bevatten veel meer informatie en stellen daarmee ook hogere eisen aan de modellen en de beschikbare rekenkracht.

“Wij willen toe naar veel betere architecturen die echt specifiek zijn ontwikkeld voor waterplanten of andere planten”, zegt Feldbrugge. “Daar zien we de grote toegevoegde waarde van het netwerk voor Europese AI-supercomputers.” Een volgende ambitie is om de modellen niet alleen nauwkeuriger, maar ook sneller en efficiënter te maken. Uiteindelijk moeten modellen zelfs rechtstreeks op de drone kunnen draaien en beelden daar live verwerken. “We hebben technisch gezien hoge ambities”, aldus Feldbrugge. “Willen we het onderste uit de kan halen en veel snellere netwerken maken, dan moet daar ook tijdens de ontwikkeling rekenkracht tegenover staan.”

Parallel ontwikkelen op Hábrók

Het EuroHPC-traject loopt parallel aan de trainings-, test- en productieruimte die KOWW heeft gekregen op de Hábrók HPC van de Rijksuniversiteit Groningen. Daar wordt het model eveneens technisch doorontwikkeld en getraind en wordt data verwerkt.

De ervaring met Hábrók heeft het team bovendien geholpen om de stap naar Europese HPC-infrastructuur te zetten. Feldbrugge en zijn collega's hadden daardoor al ervaring met het trainen van modellen op een supercomputer. Voor KOWW was bovendien al snel duidelijk dat verdere opschaling noodzakelijk zou zijn. Omdat de Nederlandse AI-supercomputer in Groningen nog niet beschikbaar is, bood het Europese netwerk de mogelijkheid om nu al een volgende stap te zetten. “Al deze computerkracht zorgt ervoor dat we voorop kunnen lopen qua modelontwikkeling en de resultaten met zo min mogelijk wachttijd aan de eindgebruikers kunnen terugkoppelen”, zegt Sterk.

Opstap naar grotere projecten

De 5000 rekenuren vormen voor KOWW nadrukkelijk een eerste stap. Het Playground-programma is bedoeld om te onderzoeken wat HPC voor een toepassing kan betekenen en om aan te tonen dat verdere opschaling zinvol is. Als het huidige traject de verwachte resultaten oplevert, wil KOWW daarom een aanvraag indienen voor aanzienlijk meer rekenkracht. Dat hoeft overigens niet per definitie opnieuw in Bulgarije te zijn. Binnen het Europese netwerk kan worden gekeken welke AI-fabriek en infrastructuur het beste aansluiten bij de technische eisen en benodigde capaciteit van een project.

KOWW ziet daarnaast veel waarde in het Europese netwerk dat rond deze infrastructuur ontstaat. Het kenniscentrum werkt vanuit het uitgangspunt dat kennis en data zoveel mogelijk gedeeld moeten worden. Juist rond invasieve waterplanten is internationale samenwerking belangrijk, omdat het probleem zich over landsgrenzen heen uitstrekt. “Wij willen de techniek vooruitbrengen, zodat uiteindelijk iedereen daar zijn voordeel mee kan doen”, zegt Feldbrugge. “En omgekeerd denk ik dat wij heel veel kunnen leren van andere partijen die hiermee bezig zijn en misschien voor andere oplossingsrichtingen kiezen.”

De leden van het consortium kunnen daarvoor onder meer gebruikmaken van het EuroHPC User Forum, een community voor gebruikers van EuroHPC-systemen. Het forum is gericht op kennisdeling en samenwerking tussen gebruikers, discussies over technische en niet-technische onderwerpen en het geven van feedback over de EuroHPC-systemen.

“Het is een eerste tastbaar succes van assistentie van het expertisecentrum van de Nederlandse AI-fabriek bij het aanvragen van rekencapaciteit op een van de EuroHPC AI-fabrieken.”

Voorproefje van de Nederlandse AI-fabriek

Edwin Kuipers, een van de kwartiermakers van de Nederlandse AI-fabriek, noemt de toekenning een bijzondere mijlpaal en een voorproefje van wat de Nederlandse AI-fabriek straks mogelijk maakt. “Het is een eerste tastbaar succes van assistentie van het expertisecentrum van de Nederlandse AI-fabriek bij het aanvragen van rekencapaciteit op een van de EuroHPC AI-fabrieken.”

Het project laat daarmee zien dat de functie van de Nederlandse AI-fabriek verder gaat dan alleen het beschikbaar stellen van een krachtige supercomputer in Groningen. Minstens zo belangrijk is het begeleiden van organisaties die geavanceerde AI willen ontwikkelen: van het bepalen welke infrastructuur zij nodig hebben tot het vinden van de juiste Europese faciliteit en het opstellen van een aanvraag die aan de eisen van EuroHPC voldoet.

Met de komst van de Nederlandse AI-fabriek, die wordt aangesloten op het Europese netwerk van AI-supercomputers, krijgt Nederland straks zelf meer hoogwaardige AI-rekencapaciteit. Tegelijkertijd blijft de verbinding met de andere Europese AI-fabrieken belangrijk. Het traject van KOWW laat zien wat die combinatie kan opleveren: gespecialiseerde kennis en begeleiding dichtbij huis, gekoppeld aan grootschalige Europese rekenkracht.

Europese rekenkracht als motor voor innovatie

Feldbrugge ziet de beschikbaarheid van dergelijke infrastructuur ook in breder perspectief. Objectherkenning.com maakt veel gebruik van open-sourcemodellen. Veel van de basistechnologie achter deze modellen wordt momenteel buiten Europa ontwikkeld, onder meer in de Verenigde Staten en China. Europese bedrijven hebben krachtige infrastructuur nodig als zij niet alleen bestaande modellen willen gebruiken, maar zelf aan de ontwikkeling van nieuwe AI-technologie willen bijdragen.

“Als wij ook op dat vlak mee willen gaan spelen en significant willen zijn, moeten we zelf gaan innoveren”, zegt Feldbrugge. “Dat doe je niet met een grafische kaart die je een keer online koopt en op kantoor neerzet. Daar heb je echt serieuze apparatuur voor nodig.”

Sterk wijst daarbij ook op de keerzijde van de groeiende behoefte aan rekenkracht. KOWW wil niet alleen kijken naar wat technisch mogelijk is, maar ook naar het energie- en watergebruik en de CO2-voetafdruk van HPC. Snellere en efficiëntere modellen, nieuwe chips en efficiëntere koeling kunnen eraan bijdragen dat dezelfde AI-toepassingen in de toekomst met minder resources kunnen draaien.

“Het is niet alleen consumeren”, zegt Sterk. “Het is ook kijken hoe je dit kunt verbeteren. Niet alleen financieel, maar ook qua impact.” Het project biedt volgens hem de mogelijkheid om nieuwe technieken daadwerkelijk uit te proberen. “Het is learning by doing. Daar mogen wij in pionieren en daar zijn we best trots op.”