Afgelopen april is Robin bij ons begonnen in de rol van Machine Learning Engineer. Hij is gefascineerd door wiskunde. Robin heeft eigenlijk precies op het juiste moment de juiste vakken geleerd. Hij volgde een dubbele bachelor Economie en Recht, maar kwam er toen achter dat hij wiskunde eigenlijk veel leuker vond.
'Wanneer weet je zeker dat iets waar is? Een vraag die voor veel mensen relevant is in het AI tijdperk waar we ons nu in bevinden.'
“Wiskunde is training van de geest, je leert logisch nadenken. In econometrie ligt de nadruk erg op wiskunde en statistiek, wat ik heel interessant vind, dus toen heb ik naast economie en recht ook de pre-master econometrie gedaan. Deze combinatie van studies geeft veel achtergrondkennis van de dingen die nu spelen, het is
nu bijvoorbeeld best relevant aan het worden binnen Europa hoe je data gebruikt en wat er met data wel en niet is toegestaan. Europa is een beetje het bolwerk aan het worden van de juridische ontwikkelingen rond AI. Dit heeft best wat nadelen, maar er zijn ook duidelijke voordelen. De Verenigde Staten zijn namelijk een duidelijk tegenvoorbeeld: ze bepalen aan de hand van AI voorspellingen waar de mensen zijn die ze, zo nu en dan zonder rechtsbescherming, willen uitzetten. Je moet je ten zeerste afvragen hoe wenselijk het is om dat type AI te bouwen.”
'De tools die je bij econometrie leert, zoals statistiek, zijn breed toepasbaar en worden ook gebruikt in de ontwikkeling van AI. De regel is: garbage in = garbage out, met welk model je ook bouwt.'
We kunnen nu heel snel ontwikkelen, maar je moet wel precies voor ogen hebben wat je wil hebben en uit welke data waarde gaat volgen. Als je precies voor ogen hebt wat je wil én hoe het werkt, kun je een harness bouwen en effectief ontwikkeling versnellen met LLMs.
Het belangrijkste is dus dat je aan de voorkant goed weet wat je doel is én dat je bekend bent met de processen die in werking treden om tot het resultaat te komen. Je weet vrij zeker dat iets goed gaat als het binnen een harness wordt gebouwd. Tegelijkertijd ligt er veel nadruk op automatisering door middel van AI, in diverse vakgebieden heerst er angst om vervangen te worden door een AI model.
'Hoewel banen zijn veranderd en zullen veranderen, lijkt het me in ieder geval op de korte termijn niet realistisch dat veel mensen geen baan meer hebben door AI.'
'Historisch gezien groeit een volwassen economie voor langere tijd gemiddeld niet meer dan 2% reëel per jaar. Het is dan ook niet evident dat dit nu gaat veranderen. Het lijkt mij met deze groeisnelheid ook zeer onwaarschijnlijk dat mensen op de korte termijn geen waarde meer kunnen toevoegen aan het economisch proces. Verandering heeft dus tijd nodig en is tegelijkertijd een constante. De eerste auto werd uitgevonden in 1885. Het autobezit nam gestaag toe, maar pas van de jaren 20 en 30 van de twintigste eeuw had meer dan 30% van de huishoudens een eigen auto in de Verenigde Staten.'
Een discussie over AI en wiskunde kan niet om de recente wiskundige bewijzen van LLMs heen. “Dat AI-agents nu hebben bewezen dat de Navier-Stokes-vergelijkingen met een gladde externe kracht in eindige tijd een singulariteit ontwikkelen – de snelheid wordt oneindig – lijkt me het ultieme succes tot nu toe voor kunstmatige intelligentie. Als het nog niet duidelijk was, heeft de wereld nu gezien dat LLMs zeer complexe taken kunnen voltooien. Heel misschien is het zelfs zo dat wat mensen doen ook veelal het voorspellen van een volgend token is. Een vakgebied dat tientallen jaren kon doen over het bewijzen en doorgronden van sommige stellingen wordt nu in maanden op zijn kop gezet.”
Het bewijzen van een stelling is alleen niet genoeg: "Als een academicus alles door AI laat maken, ontneemt hij of zij zichzelf iets. Deze discussie speelt nu heel sterk in de wiskunde. Het is namelijk leuk om kennis te vergaren en te weten hoe iets werkt! Juist omdat je weet hoe iets werkt, kun je het in je voordeel laten werken en waarde laten creëren. En juist als je waarde toevoegt aan een project, proces of bedrijf, hoef je denk ik niet bang te zijn om je positie in het economisch proces te verliezen."
'De ene kant van de medaille is te weten waar je eigen waarde ligt en waar je heen wil. De andere kant is begrip van het proces: zowel het proces dat je wil bewerkstelligen, als de werking van de generatie van antwoorden uit een LLM.' Dat laatste is niet voor iedereen bekend, gelukkig legt Robin het uit.
'De modellen die we gebruiken genereren output die consistent is met de verwachtingen. Een veelbesproken probleem is nu namelijk dat LLMs echte bedrijven hacken. Een model doet wat jouw opdracht beloont, niet wat je bedoelt.'
'Vraag je een agent om ervoor te zorgen dat een beveiligingstest slaagt, dan is het slagen van die test het doel geworden, niet een veilig systeem. Dan moet je niet verbaasd zijn als hij de test omzeilt of de sporen van zijn eigen fouten opruimt. Dat is geen kwade wil, dat is logisch gedrag gegeven de opdracht.'
Een machine gebaseerd op wiskunde is dus geen toverdoos, maar een wiskundige spiegel die zijn uiterste best doet jouw prompt te voltooien. Als jij weet waar je het over hebt en waar je heen wil, weet jij of de output van je LLM het gewenste resultaat is of niet.
Robin werkt bij ons aan verschillende projecten, houd onze site in de gaten als je meer wil lezen over de werking van AI en tips te lezen van Robin over het effectief toepassen van de tools in je bedrijfsprocessen.
