AI verovert embedded software, maar hoe garandeer je de betrouwbaarheid?
Van programmering tot softwareverificatie: steeds meer onderdelen van het embedded ontwikkelproces maken gebruik van AI. Dit stelt organisaties voor een dilemma, want hoe toon je aan dat AI-ondersteunde software veilig, betrouwbaar en certificeerbaar is? Op WoTS 2026, de grootste technologiebeurs van de Benelux, deelden drie experts hun visie op dit vraagstuk tijdens het seminar ‘Embedded Software and AI’.
Bij embedded software kan een kleine fout in de code verstrekkende gevolgen hebben voor de veiligheid en bedrijfscontinuïteit. Dit geldt zeker voor software in veiligheidskritische systemen, zoals medische apparatuur, energiemanagementsystemen en defensiesystemen. De industrie en overheid stellen daarom strenge eisen aan deze systemen, vastgelegd in normen zoals ISO 26262, IEC 61508 en IEC 62304.
Wie is verantwoordelijk
Transparantie is een voorwaarde om aan de wettelijke eisen te voldoen. Ontwikkelaars moeten kunnen onderbouwen hoe ontwerpbeslissingen tot stand zijn gekomen. Maar die traceerbaarheid is bij generatieve AI niet vanzelfsprekend, aldus Walter van der Heiden van VDH Informatica. Hij laat in zijn openingspresentatie zien hoe generatieve AI kan helpen bij het structureren van de eisen en het verbinden daarvan aan SysML- en UML-modellen.
Dit maakt het ontwikkelproces efficiënter, maar het roept ook vragen op wie er verantwoordelijk is wanneer AI een wettelijke eis verkeerd interpreteert. Een kleine (interpretatie)fout aan het begin van een embedded project kan immers later leiden tot kostbare wijzigingen in het ontwerp. Daarom blijven menselijke beoordeling en onafhankelijke validatie tijdens elke fase van de ontwikkeling noodzakelijk, concludeert Van der Heiden.
Architectuurerosie opsporen
Na deze pittige juridische kost, snijdt Neil Langmead, medeoprichter van CodeClinic, een actueel thema aan waar veel ontwikkelaars in de praktijk mee worstelen: architectural erosion. Dit is het geleidelijk afwijken van een softwarearchitectuur door uitbreidingen en aanpassingen van systeemeisen. Langmead presenteert een aanpak die Dependency Structure Matrix-analyse combineert met Large Language Models en reinforcement learning. AI fungeert hierbij als hulpmiddel om ongewenste afhankelijkheden tussen systemen, modules en functies zichtbaar te maken en vroegtijdig de technische schuld te ontdekken en te minimaliseren.
Domeinkennis blijft essentieel. Architectuurkeuzes hangen namelijk nauw samen met bedrijfsprocessen, technische beperkingen en eerdere ontwerpbeslissingen. Die context is niet altijd volledig beschikbaar voor een AI-model. En zo eindigt Langmead zijn presentatie met dezelfde conclusie als Van der Heiden: AI is een handig hulpmiddel, maar de eindregie blijft mensenwerk.
Meer AI vraagt om strengere verificatie
Naarmate AI meer ontwikkeltaken overneemt, groeit de behoefte aan onafhankelijke controle. Zeker met de opkomst van agentic AI; systemen die niet alleen code voorstellen, maar ook zelfstandig wijzigingen kunnen uitvoeren en tests kunnen starten. Statische analyse, runtime checking, regressietesten en toetsing aan richtlijnen zoals MISRA en CERT worden belangrijker, zo blijkt tijdens de lezing van Marc Thomas van IAR Systems. Hij vertelt in zijn afsluitende presentaties over de verificatie van software die geheel of gedeeltelijk met AI tot stand komt en de uitdagingen die dit met zich meebrengt.
De presentaties wijzen allemaal in dezelfde richting. AI vervangt de embedded engineer niet, maar zijn of haar functie verandert wel. De focus ligt steeds meer op toezicht, besluitvorming en kwaliteitsborging. AI kan het ontwikkelproces versnellen, maar vertrouwen blijft afhankelijk van controleerbare processen en zorgvuldig engineeringwerk.
Sluit je aan bij het Software Cluster
Dit seminar is een initiatief van het Software Cluster van FHI, een actief netwerk van leveranciers van embedded software. Jaarlijks organiseren de leden themabijeenkomsten over actuele onderwerpen en een seminar over (embedded) software tijdens de techbeurzen WoTS en E&A.
Gerelateerde events: