Technologie Tussen hersenen en computers bestaat een fundamenteel verschil in hoe ze gegevens verwerken. Hersenen gaan ook veel efficiënter met energie om.
Elisabetta Chicca en haar promovendus Ton Juny Pina met een kunstmatige neus.
Op een vrijdagnamiddag probeert Ton Juny Pina de ruikende hersenen van een fruitvlieg na te bootsen. Op de tafel voor hem ligt een doorzichtig plastic doosje met daarin een batterij gassensoren die eruitzien als kleine vingerhoedjes. Door het doosje kan de onderzoeker aan de Rijksuniversiteit Groningen verschillende gasmengsels laten stromen, waarop de sensoren dan allemaal reageren. „We hebben zestien sensoren die gevoelig zijn voor verschillende gassen, maar om eerlijk te zijn, zijn zulke sensoren niet heel selectief: ze reageren typisch allemaal wel een beetje op een heel breed palet aan gassen”, zegt Juny Pina.
Dat maakt het ontwerpen van een kunstmatige neus, een gevoelige en specifieke detector voor geuren, geen gemakkelijke opgave. Vandaar dat hij en zijn begeleider Elisabetta Chicca de signalen voeren aan een computermodel van de piepkleine hersenen van Drosophila melanogaster, een fruitvliegje dat met nog geen miljoen hersencellen feilloos naar iedere biobak of achtergelaten appelpartje weet te navigeren.
„We gebruiken een model van de corpora pedunculata, dat zijn hersencircuits die insecten gebruiken om de signalen van verschillende geuren uit elkaar te trekken”, vertelt Chicca, hoogleraar bij het Groningse instituut CogniGron, gericht op neuromorphic computing, waarbij werkingsprincipes van de hersenen, zenuwen, zintuigen van mensen en dieren als inspiratie dienen.
„De ideeën achter neuromorphic computing bestaan al sinds de jaren tachtig, maar de laatste tien jaar gaat het heel snel”, vertelt Beatriz Noheda, natuurkundige en tot voor kort directeur van CogniGron in het nieuwe Feringa-onderzoeksgebouw op de Groningse campus. Bij het centrum, in 2016 gesticht met hulp van 40 miljoen euro uit de nalatenschap van een anonieme donateur, werken ruim honderd onderzoekers uit uiteenlopende disciplines, van psychologen en neurowetenschappers tot computerwetenschappers, natuurkundigen en materiaalkundigen.
Het lab van Elisabetta Chicca en Ton Juny Pina.
Maar ook bij twaalf andere universiteiten, bedrijven en onderzoeksinstituten zijn er inmiddels bijna honderd onderzoeksleiders die er onderzoek naar doen, somt een white paper op dat dit jaar werd uitgebracht door de Topsector ICT. Nederland heeft een goede positie om een neuromorfe wereldmacht te worden, betoogt het rapport.
Toepassingen liggen op gebieden waar snelle en energiezuinige dataverwerking nodig is, zoals het monitoren van elektriciteitsnetwerken, logistiek, beveiliging, rampenbestrijding, voedselproductie en de gezondheidszorg, en daarnaast in de ontwikkeling van energiezuinige computerchips en sensoren. Het academisch onderzoek heeft al geleid tot spin-offs, zoals de bedrijven Innatera, Hoursec en AxeleraAI, die energiezuinige chips of sensoren ontwikkelen.
Die opkomst heeft op verschillende manieren te maken met die ándere door biologische hersenen geïnspireerde technologiehausse, bij een breed publiek bekend onder de naam AI. Vrijwel alle chatbots, beeldgeneratoren en andere verbazing- en angstwekkende prestaties die we nu AI en machine learning noemen, zijn gebaseerd op diepe neurale netwerken. En de werking daarvan is weer geïnspireerd door neuronen, de hersencellen die u nu helpen om deze tekst te begrijpen.
Hoewel zowel computer-AI’s als echte hersenen veel complexer zijn dan in de komende alinea uitgelegd kan worden, is de basis eenvoudig: neuronen ofwel hersencellen, echte of gesimuleerde, sturen signalen aan elkaar door. Ieder neuron telt de binnenkomende signalen bij elkaar op en bepaalt of het totaal boven een bepaalde grens uitkomt. Zo ja, dan stuurt dat neuron zelf ook weer een signaal uit naar de neuronen die er verderop in het netwerk mee verbonden zijn.
Het gewicht, de versterkingsfactor waarmee de signalen doorgegeven worden, kan per verbinding veranderen. Door deze gewichten aan te passen, kan het netwerk als geheel getraind worden: het netwerk van neuronen leert om informatie te verwerken, of het nu het herkennen van iemands stem is of het genereren van een deepfake.
Maar ondanks het enorme succes van kunstmatige neurale netwerken, is er ook wel wat op aan te merken: behalve hun soms teleurstellende, leugenachtige en zielloze intellectuele prestaties, moeten ze met immense hoeveelheden data getraind worden. En „deep learning-netwerken slurpen gigantische hoeveelheden energie. ChatGPT is echt een probleem aan het worden”, zegt Noheda van CogniGron. „En dat terwijl onze hersenen draaien op ongeveer 20 watt, en ook nog méér kunnen.”
De neuromorfe inspiratie gaat voorbij het idee van neurale netwerken, gesimuleerd door digitale computers, vertelt Noheda. „Neuromorphic computing kan veel verschillende dingen betekenen: het kan eigenlijk slaan op ieder principe van de hersenen.”
Een van die principes heeft te maken met een fundamenteel verschil tussen hersenen en computerchips, zegt Yoeri van de Burgt, een onderzoeker aan de TU Eindhoven, een van de Nederlandse pioniers in het gebied. „Digitale computers werken volgens het Von Neumann-principe: een berekening doe je in een processor, en dan stuur je de uitkomst naar het geheugen. Voor een volgende berekening haal je weer gegevens uit het geheugen, en zo ben je de hele tijd gegevens heen en weer aan het sluizen.”
Bij het simuleren van grote neurale netwerken loop je al gauw tegen de ‘Von Neumann-bottleneck’ aan: alles moet na elkaar gebeuren, terwijl het in de echte hersenen parallel loopt. De AI-hausse van nu kwam dan ook pas op gang toen onderzoekers ontdekten dat grafische computerchips van Nvidia, bedoeld voor het renderen van 3D-computergames, deze flessenhals omzeilen. Op iedere chip zitten meerdere processoren, die parallel aan elkaar berekeningen uitvoeren. Daarmee zijn snel grote ‘matrixvermenigvuldigingen’ uit te voeren, een operatie die neerkomt op het vermenigvuldigen en optellen van grote tabellen van getallen. Matrixvermenigvuldigingen komen veel voor bij 3D-simulaties, maar ook het uitrekenen van de signalen tussen neuronen in een neuraal netwerk komt rekentechnisch neer op een matrixvermenigvuldiging.
„Parallelle processoren versnellen de berekening, een volgende stap is de complete opheffing van de scheiding van geheugen en berekeningen”, zegt Noheda. In de hersenen zijn de rekeneenheden (de neuronen) en de geheugeneenheden (de gewichten) immers ook egaal verspreid over de grijze massa. „Eén aanpak waar nu sterk op ingezet wordt, is om dat ook te doen op een computerchip”, zegt Noheda.
Een memristor van de TU Eindhoven.
Zo’n neuromorfe chip bestaat uit een raster van horizontale en verticale lijnen, die op de kruispunten verbonden zijn met memristors. Het woord is een combinatie van memory (geheugen) en resistor (elektrische weerstand). Dit is een elektrische weerstand die in waarde kan variëren, en die de variërende waarde ook langere tijd kan onthouden, als een lokaal geheugen. Het geheel kan een matrixvermenigvuldiging razendsnel uitrekenen zonder dat er processoren of transistoren aan te pas komen, en daarmee ook een berekeningsstap in een neuraal netwerk. De Groningse spin-off IMChip werkt aan de ontwikkeling van een neuromorfe computerchip.
Deze aanpak werkt het best in combinatie met een ouder neuromorf idee: dat van spiking networks. Van de Burgt: „Een van de redenen dat de hersenen zo efficiënt zijn, is dat ze werken met korte pulsen van elektrische activiteit. Neuronen ontvangen zulke spikes in reeksen: hoe korter de tijd tussen de pulsen, hoe sterker het signaal.”
Door de pulsen op te tellen die binnen een bepaalde tijd binnenkomen, besluit het neuron of het zelf ook pulsen moet afvuren. „De tijd tussen opeenvolgende pulsen bevat dus de informatie, en dat is heel efficiënt. De spikes zelf kosten heel weinig energie, en het grootste deel van de tijd gebeurt er niets.”
Aan het California Institute of Technology werkte in de jaren tachtig computerchippionier Carver Mead met zijn promovendi al aan camera’s, gehoorapparaten en andere sensoren die biologische zintuigen nabootsten. De pixels in zo’n camera vuren hun pulsen alleen als de waarde van die pixel verandert. Dus als er in beeld niets verandert, worden er geen gegevens verstuurd. Zulke event-based camera’s, met snelle respons maar een extreem laag energie- en dataverbruik, zijn inmiddels op de markt. Ook draagbare hartmonitors of andere medische monitors die biologische signalen meten, en die liefst lang met een batterij moeten doen, werken volgens dit principe.
„Mead was geïnspireerd door het beroemde motto van natuurkundige Richard Feynman: wat ik niet kan maken, begrijp ik niet”, vertelt Noheda. De mensen die bij Mead promoveerden, en later de onderzoekers die daar weer mee samenwerkten, noemen zich nog altijd neuromorphs”, zegt Noheda, „en onze Elisabetta Chicca, van de kunstmatige fruitvliegneus, is een van hen.”
Waren de neuromorphs zoals Chicca aanvankelijk vooral neurowetenschappers, computerwetenschappers en elektronici, sinds een jaar of tien zijn ook natuurkundigen en materiaalkundigen in het vakgebied ingevoegd, zoals Noheda zelf.
Nieuwe neuromorfe chips zijn namelijk niet meer gebaseerd op transistoren en de CMOS-technologie (complementary metal oxide semiconductor) waarmee die in silicium geëtst worden, maar op andere combinaties van materialen die zich gedragen als pulserende neuronen en de eerder genoemde memristors. „Daarvoor heb je iets nodig dat van weerstand verandert, maar op een voorspelbare en controleerbare manier”, zegt Noheda. „Een systeem is bijvoorbeeld een netwerk van zilveren nanodeeltjes, die elkaar hier en daar raken. Als er meer stroom door loopt, smelten ze een beetje aan elkaar, en gaan ze beter geleiden.” Zelf werkt Noheda aan memristors gebaseerd op ferro-elektrische materialen, een variant op de ferromagneet die je wel op koelkasten tegenkomt.
Aan het Amsterdamse natuurkunde-instituut Amolf ontdekte de onderzoeksgroep van Bruno Ehrler een extreem energiezuinige memristor, gebaseerd op het materiaal perovskiet, bekend van superefficiënte zonnepanelen, en de onderzoeksgroep van Yoeri van de Burgt in Eindhoven werkt aan een memristor op basis van elektrisch geleidende polymeren.
„In tegenstelling tot silicium is het een zacht materiaal”, vertelt Van de Burgt in zijn laboratorium in Eindhoven. Op de labtafel ligt een miniem flintertje doorzichtig plastic, verbonden met drie elektroden. „Het is geleidend voor elektrische stroom maar ook voor waterstofionen. Door die er met een elektrode in te pompen, verandert de elektrische weerstand.”
Heel klein of snel kan zo’n memristor niet worden, „maar het idee is ook niet om er miljoenen op een chip te proppen om op te boksen tegen Nvidia”, zegt Van de Burgt, die eerder aan medische toepassingen denkt. „Dit materiaal, in combinatie met andere speciale polymeren die vervormen als het warm wordt, kan mogelijk dienen als kunstmatige spier.” De groep experimenteerde al met het gebruik van neurotransmitters, signaalstoffen in de hersenen, om de polymeren aan te sturen. Van de Burgt: „En omdat het zacht is past het beter bij medische toepassingen, denk aan hartmonitors, of bij mensvriendelijke soft robots.”
Voorlopig kunnen we nog blijven leren en afkijken van biologische breinen, zegt Noheda. „Hersenen zijn miljoenen jaren lang geëvolueerd. Om te overleven hebben we meestal geen grote precisie nodig, maar wel energiezuinigheid en snelle beslissingen. Dus dat is waar de hersenen goed in zijn.”
Op de hoogte van kleine ontdekkingen, wilde theorieën, onverwachte inzichten en alles daar tussenin
Source: NRC