Door: FHI, Federatie van Technologie Branches In de gezondheidszorg wordt een onvoorstelbare hoeveelheid data verzameld. Zóveel dat het voor het menselijke brein niet te bevatten is. De verwachting is dat er een essentiële rol is weggelegd voor AI bij het analyseren van medische data. Maar wat zijn de voorwaarden voor een betrouwbare diagnose?
Door: Eline te Velde
Voor het stellen van een diagnose worden er tal van gegevens verzameld over de patiënt. In de gezondheidszorg wordt inmiddels zóveel data verzameld dat het voor het menselijk brein niet meer te bevatten is. Dr. Meike Nauta, senior data scientist bij Datacation, legt uit dat hier een uitgelezen kans ligt voor AI. Maar zij benadrukt tegelijkertijd het belang van uitlegbare AI en menselijke sturing.
AI is erg geschikt voor het analyseren van medische beelden, vertelt Nauta. “Röntgenfoto’s zijn nog relatief simpel. Maar CT-scans zijn al uitdagender, want je hebt hier met 3D beeld te maken.” Datacation heeft echter met succes een algoritme ontwikkeld voor het Universitair Medisch Centrum Utrecht (UMC), die medisch specialisten helpt bij het detecteren van pancreas (alvleesklierkanker) recidieven op CT-scans. “Vaak is de tumor in eerste instantie goed te herkennen voor een arts. Maar na een operatie is er een kans dat de tumor weer terugkomt. Op een CT-scan is het verschil tussen littekenweefsel, vanwege de operatie, en een tumor moeilijk te onderscheiden. AI kan het menselijk oog ondersteunen door een mogelijk recidief in een vroeg stadium te herkennen.”
Shortcuts
AI leert op basis van data patronen herkennen en kan hierdoor soms zorgvuldiger en beter een diagnose stellen dan een arts. Maar het gevaar dreigt dat het algoritme een foute conclusie trekt en daarmee een ‘shortcut’ neemt.
Nauta legt dit uit aan de hand van een voorbeeld “Bij potentiële heupbreuken maakt de patiënt een afspraak en worden er twee röntgenfoto’s gemaakt, vanuit verschillende hoeken. Maar soms komt er iemand binnen via de spoedeisende hulp en dan is het niet mogelijk om die standaardfoto’s te maken. Er wordt in dat geval één foto gemaakt vanuit een andere hoek en vaak is het randje van het bed dan zichtbaar. Het model leerde een verband te zien tussen de aanwezigheid van de rand van het bed en een breuk, omdat er bij deze foto’s vaker een breuk aanwezig was.”
Een model kan gestuurd worden om geen shortcuts te maken, maar deze zijn niet allemaal te ondervangen. “Sommige biases zijn heel erg logisch. Bijvoorbeeld als we het hebben over onderscheid tussen man en vrouw of huidskleur. Maar vaak zit er ook een shortcut in waar wij helemaal niet vooraf over nadenken, maar waar je pas achter komt als het model eenmaal draait. Je wilt het model dan kunnen bijsturen, als het ware een operatie op het brein van de AI uitvoeren,” vertelt Nauta.
“Je wilt het model kunnen bijsturen, als het ware een operatie op het brein van de AI uitvoeren.”
Uitlegbare AI
“AI bestaat uit miljoenen getallen," legt Nauta uit, "die kan je als ontwikkelaar zien, maar ik snap verder ook niet wat al die getallen betekenen: Ik kan er geen menselijke betekenis aan geven. Met uitlegbare AI kunnen we al die getallen vertalen naar iets wat wij kunnen uitleggen en dan kunnen we het model begrijpen.” Ze pleit voor AI-modellen die inzicht geven in de genomen beslissingen en redeneringsstructuur van het model. Inzicht in de redenering is van essentieel belang om shortcuts te vinden en het model bij te sturen indien nodig. Zonder dit inzicht verandert de AI in een zogenoemde black box, waarbij niet valt te controleren welke patronen het heeft aangeleerd.
“AI bestaat uit miljoenen getallen, die kan je als ontwikkelaar zien, maar ik snap verder ook niet wat al die getallen betekenen: ik kan er geen menselijke betekenis aan geven.”
Daarnaast is het voor mensen erg interessant om te zien wat een model geleerd heeft. “Als wij de inzichten die AI leert eruit kunnen halen, dan kunnen wij daar erg veel van leren en de wetenschap verder ontwikkelen. Maar dit is alleen mogelijk als een model uitlegbaar is,” vertelt Nauta. Juist de combinatie van kunstmatige- en menselijke intelligentie, hybride intelligentie, is heel krachtig en maakt ons ‘slimmer’. Menselijke intuïtie, creativiteit en samenwerkingsvermogen vullen de snelheid, geheugen en patroonherkenning van kunstmatige intelligentie naadloos aan.
Data
De ontwikkelingen binnen AI gaan razendsnel en soms lijkt het alsof het op magische wijze werkt. Maar we vergeten weleens dat een model gevoed moet worden met data om te kunnen leren. Bijvoorbeeld: “Vroeger moesten er een heleboel foto’s handmatig gelabeld worden. Stel je bent op zoek naar een tumor, dan moet een arts per plaatje handmatig intekenen waar de tumor precies zat. Deze data werd dan gebruikt om AI op te kunnen trainen. Er worden steeds meer slimmigheden ontwikkeld waarbij een handmatig label in de toekomst hopelijk niet meer nodig is.”
Voor het diagnosticeren van ziektes heb je heel veel data nodig en deze is niet altijd beschikbaar. Er zijn inmiddels AI-methodes die extra data genereren, die een AI-model kan gebruiken om van te kunnen leren. Zo kun je een model vragen scans of foto’s te creëren van een denkbeeldige patiënt met een bepaalde ziekte. Daarnaast is het uitwisselen van data tussen ziekenhuizen een belangrijke ontwikkeling. “De samenwerking tussen ziekenhuizen in Nederland is veelbelovend. Het delen van data in de medische wereld is natuurlijk ingewikkeld vanwege de privacy van patiënten, maar er zijn steeds meer methoden om een AI-model te trainen op verschillende datasets, zonder dat de data kan worden ingezien door het ziekenhuis. Want hoe meer kennis we bundelen, hoe slimmer de modellen worden,” aldus Nauta.
Wil je meer weten? Dr. Meike Nauta geeft tijdens FHI presents TechStories een lezing over uitlegbare AI aan de hand van real-life toepassingen. Dit inspirerende tech event duikt dieper in op thema’s als kunstmatige intelligentie, nanotechnologie en quantum computing. Meld je aan voor een gratis bezoek.
