Doorgaans komt er elke vijf tot zeven jaar een nieuwe Nationale Supercomputer in Nederland. De vraag of er in een van de volgende versies een rol moet zijn voor neuromorphic computing (NC), heeft heel wat teweeggebracht. Inmiddels is vanuit bedrijfsleven en universiteiten een nieuwe coalitie opgericht die zich richt op praktische toepassingen van NC in high performance computing (HPC). Een Market-driven Application Lab (MDAL) is in ontwikkeling.
SURF heeft als infrastructuur- en dienstenleverancier voor het hoger onderwijs een belangrijke rol in hoe onderzoekers gebruik kunnen maken van de nieuwste computertechnologieën. De Nationale Supercomputer is een van de essentiële infrastructuren die onder het beheer van SURF valt. Welke technologieën onderdeel moeten zijn van volgende generaties van de Nationale Supercomputer is een voortdurend zoekproces waar Sagar Dolas, programmamanager Innovatie bij SURF, zich mee bezighoudt. “We doen haalbaarheidsstudies en gebruikersconsultaties om de behoeften en wensen van de gebruikers beter in kaart te brengen.”
Zo landde een vraag over de verschillende toepassingsrichtingen van NC ruim drie jaar geleden op het bordje van universitair hoofddocent en neuromorphic-expert Johan Mentink van de Radboud Universiteit. “SURF is een community-gedreven organisatie. De vraag of neuromorphic tot de opties behoort, kan dus niet door één onderzoeker worden bepaald. Dus ben ik met een team een whitepaper gaan schrijven”, vertelt Mentink.
Met het opstellen van de whitepaper startte meteen ook een initiatief om meer eenheid te brengen in de verschillende initiatieven rond NC. “Tot twee jaar geleden waren de onderzoeksgroepen echt grotendeels gescheiden omdat ze werkten aan verschillende breingeïnspireerde technologieën. Die hebben we voor het opstellen van de whitepaper voor het eerst bij elkaar gebracht.”
De opstellers wilden niet dat na afronding van de whitepaper die contacten weer zouden verwateren. Dat had tot gevolg dat eind januari dit jaar onder de vlag van Digital Holland de coalitie NC-NL werd opgericht als nationaal actie- en investeringsprogramma met Mentink als boegbeeld.
Van onderzoek naar toepassingen
Het doel van NC-NL is om de stap van academisch onderzoek naar toepassingen te vereenvoudigen én de ontwikkeling van start-ups en scale-ups te stimuleren. Een van de belangrijke punten op de actie-agenda is het ontwikkelen van een Market-driven Application Lab (MDAL). SURF is medeoprichter van de NC-NL-coalitie en actief betrokken bij de opzet van dit MDAL. “We hebben de eerste ontwerpen gesuggereerd voor het lab dat gaat inventariseren welke breingeïnspireerde technologieën er allemaal bestaan in de markt en welke use cases daar profijt van kunnen hebben”, vertelt Dolas. “Zo’n koppeling tussen probleem en oplossing bestaat op dit moment nog nergens.”
Dolas ziet NC als een van de nieuwe technologieën die als versneller van bepaalde taken een aanvulling kunnen zijn op een supercomputer. Daarmee zouden NC-chips in het rijtje komen van grafische processoren (GPU’s) en de gespecialiseerde AI-chips (TPU’s en NPU’s) die naast de klassieke algemene processoren (CPU’s) kunnen worden gebruikt. Er is echter wel een verschil. “Neuromorfe systemen kunnen ook standalone werken en zo een aanvulling vormen op bestaande supercomputers.” Hij noemt als voorbeeld SpiNNaker-opstellingen die in Manchester en Dresden op die manier functioneren.
Hoewel er al verschillende NC-systemen voor onderzoeksdoeleinden in gebruik zijn, moeten er nog flink wat obstakels worden weggenomen, voordat de technologie breed inzetbaar is. Zo zijn voor NC andere tools nodig dan voor klassieke HPC-systemen, waardoor de integratie nog lastig is. Daarnaast is het programmeren van neuromorfe hardware aanzienlijk moeilijker dan voor CPU’s en GPU’s. Dolas: “De vraag is of we dat kunnen harmoniseren zodat het gebruik eenvoudiger wordt. De manier waarop je NC-toepassingen compileert, verschilt van de klassieke aanpak.” Er moet dus niet alleen worden gezocht naar integratie van de hardware, maar ook naar integratie van de programmeerlaag en uiteindelijk de gebruikersinterface.
NC biedt nieuwe mogelijkheden in kleine apparaatjes en in datacentra
Neuromorphic computing is gebaseerd op een radicaal nieuwe manier waarop hard- en software zijn opgebouwd en samenwerken. De aanpak is aantoonbaar sneller en tot wel duizendmaal energiezuiniger dan de computertechnologie waarmee we nu werken. De eerste toepassingen zijn vanwege het energiezuinige karakter van NC vooral gericht geweest op het uitvoeren van berekeningen in situaties waarbij stroomvoorziening beperkt is. Denk daarbij aan sensoren, autonome drones, wearables en industriële hulpmiddelen waarbij energieverbruik, netwerkvertraging (latency) en privacybescherming beperkende factoren zijn.
We hadden het over radicaal nieuwe manieren om de efficiëntie van computers te verbeteren.”
Grote datacentra en supercomputers kampen echter ook met een probleem door het explosief stijgend verbruik van energie en koelwater. Daar moet een oplossing voor komen, anders valt de ontwikkeling van bijvoorbeeld AI binnenkort stil. NC kan daarbij een belangrijke rol krijgen vanwege de energiezuinige eigenschappen. Inmiddels zijn er verschillende grote NC-gebaseerde HPC-systemen beschikbaar, zoals de SpiNNaker2 in Dresden, een Loihi 2-cluster in Albuquerque en DeepSouth in Sydney.
NC is niet één technologie, maar in feite een verzameling van allerlei typen chips en systemen. Die hebben wel één ding gemeen, namelijk dat ze op hun eigen manier iets van hersenactiviteit nabootsen of gebruiken. De vooruitzichten voor NC zijn veelbelovend en in Nederland is veel NC-expertise ontwikkeld aan kennisinstellingen en in het start-up-ecosysteem daaromheen. NC is dan ook door de overheid in de Nationale Technologie Strategie (NTS) aangewezen als een van de sleuteltechnologieën voor economische ontwikkeling van Nederland.
Waarom is SURF geïnteresseerd in neuromorphic computing?
Het idee dat NC mogelijk een onderdeel kon worden van een van de volgende generaties Nationale Supercomputer kwam naar boven tijdens een conferentie drie jaar geleden. Sagar Dolas, programmamanager Innovatie bij SURF, raakte daar in gesprek met Johan Mentink, universitair hoofddocent en neuromorphic-expert van de Radboud Universiteit. “We hadden het over radicaal nieuwe manieren om de efficiëntie van computers te verbeteren. De huidige computing-paradigma’s zijn al geoptimaliseerd, dus je kunt met wat veranderingen hooguit nog enkele procentpunten efficiëntiewinst behalen, maar een radicale verbetering waarbij je een verbetering met een orde van grootte bereikt, is niet mogelijk”, vertelt Dolas.
De huidige computers zijn allemaal gebaseerd op de Von Neumann-architectuur, waarbij er een strikte scheiding bestaat tussen verwerking, werkgeheugen en dataopslag. Datatransport tussen die onderdelen is een inherent aspect van de Von Neumann-architectuur en dat vraagt verhoudingsgewijs veel energie. “Drie jaar geleden maakte neuromorphic een opmars als een radicale en fundamentele paradigmaverandering die de toekomst van computing kan veranderen. Het is een non-Von Neumann-architectuur waarbij geheugen en dataverwerking dus niet gescheiden gebeuren, maar onderdeel zijn van een enkelvoudig systeem. De gedachte kwam toen op of die aanpak een complementaire technologie kan zijn voor klassieke HPC-systemen.”
Veel omvangrijk rekenwerk in aantocht
Vanuit wetenschappelijk oogpunt zijn er voldoende redenen om op zoek te gaan naar efficiëntere rekenmethoden. SURF weet al dat er de komende jaren specifieke vraagstukken aan de orde komen waarbij extreem veel gegevens verwerkt moeten worden. Dolas noemt onder meer onderzoek aan de Large Hadron Collider, de grootste en krachtigste deeltjesversneller van CERN bij Genève. Daarnaast leveren ook nieuwe radio-astronomieprojecten veel dataverwerking op, net als onderzoek aan quantum many-body physics. Dit is een tak van de quantummechanica die rekent aan systemen van heel veel onderling interacterende deeltjes om zo eigenschappen te kunnen begrijpen die optreden op macroscopische schaal.
Er is genoeg bewijs dat de nieuwe aanpak grote gevolgen kan hebben”
De vraag is wel of de technologie al voldoende volwassen is om onderdeel te worden van een nieuwe Nationale Supercomputer. Een probleem bij het beantwoorden daarvan is dat de huidige evaluatiemethoden zijn ontworpen voor klassieke architecturen en de sterke kanten van neuromorfe systemen onvoldoende laten zien. Bovendien bestaan er nog geen gestandaardiseerde methoden om neuromorfe systemen te laten samenwerken met bestaande infrastructuren. “Er is genoeg bewijs dat de nieuwe aanpak grote gevolgen kan hebben, maar onze praktische realiteit is dat we nog wel heel wat uitdagingen hebben op te lossen.”
Waarom is het bedrijfsleven geïnteresseerd in neuromorphic computing?
Voor de komende jaren liggen er verschillende maatschappelijke problemen op tafel die heel veel rekenkracht vereisen bij het zoeken naar oplossingen. Denk aan het onderzoek aan netcongestie, het doorrekenen van klimaatmodellen, medicijnontwikkeling en logistieke optimalisatie. Dat rekenwerk kost met de huidige computersystemen zoveel energie en water om de systemen te koelen, dat dit op zichzelf een nieuw maatschappelijk probleem vormt. Daarom is er grote behoefte aan radicaal nieuwe computersystemen die een orde van grootte minder energie verbruiken. NC is een veelbelovende kandidaat daarvoor.
NC is echter een verzameling aan technologieën met elk voor- en nadelen voor specifieke toepassingen. Tot nog toe werken verschillende groepen in Nederland en andere Europese landen relatief geïsoleerd aan bepaalde varianten van NC. Het doel van het Market-driven Application Lab (MDAL) is om die ontwikkelingen bij elkaar te brengen en uit te zoeken welk neuromorf systeem het beste geschikt is voor een bepaalde toepassing.
Het MDAL moet een centrale plek worden waar capaciteit en expertise beschikbaar zijn, zodat geïnteresseerde organisaties niet zelf grote investeringen hoeven te doen.”
“Als wij dat in Nederland als eerste begrijpen, geeft ons dat wereldwijd een groot concurrentievoordeel”, stelt Johan Mentink, boegbeeld van de kersverse coalitie NC-NL. Het maakt Europa daarmee minder afhankelijk van de grote techbedrijven die vaak buiten Europa zijn gevestigd. De coalitie wil het voor bedrijven en andere organisaties eenvoudiger maken om NC-toepassingen uit te proberen. “Het MDAL moet een centrale plek worden waar capaciteit en expertise beschikbaar zijn, zodat geïnteresseerde organisaties niet zelf grote investeringen hoeven te doen als ze willen uitzoeken wat NC voor de bedrijfsvoering kan betekenen.” Er is al belangstelling om aan de slag te gaan, bijvoorbeeld vanuit de financiële dienstverlening, de nutsbedrijven en het veiligheidsdomein.
