Eis expertvriendelijke A.I. !

Experten voelen zich vaak ongemakkelijk bij A.I. Stel dat een A.I. systeem slimmer wordt. Wat dan? 

Recent had ik een gesprek met een geneesheer-specialist. We weten allemaal dat medische beeldvorming cruciaal is bij veel diagnoses. En dat een beeld goed kunnen interpreteren een belangrijke expertise is voor een arts. 

Nemen we het interpreteren van het beeld van een oog. Een A.I.-systeem kan getraind worden met beelden en diagnoses van veel topdokters. Het A.I.-systeem zal dus meer goede voorbeelden gezien hebben dan een dokter redelijkerwijze kan gezien hebben. Het is dan niet onredelijk te verwachten dat Het A.I-systeem beter wordt in de herkenning dan een gemiddelde dokter. Maar daarmee is de kous niet af. En het zou erg zijn mocht de expertise van de dokter afnemen om zelf goed beelden te herkennen. Dat zou trouwens gevaarlijk zijn: wat als de dokter denkt dat het A.I.-systeem zich vergist? Of zich afvraagt of het ook niet iets anders zou kunnen zijn? 

Het A.I.-systeem moet zich dus kunnen verantwoorden. Dat kan typisch door beelden te tonen die goed gelijken op het beeld van het oog van de patiënt, en die gebruikt zijn om het A.I.-systeem te trainen, m.a.w. door te tonen wat de mening is van andere (top)dokters in gelijkaardige gevallen. De arts kan dan vergelijken en zien of er een verschil kan zijn dat het verschil maakt. De arts kan feedback geven aan het systeem, waarbij de (top)dokters die het systeem trainen het verder kunnen verfijnen. En als de arts akkoord gaat bij het zien van gelijkaardige voorbeelden, dan heeft die arts weer iets bijgeleerd.

Op de vraag: "zou het ook diagnose X kunnen zijn" kan het systeem foto's tonen van gelijkaardige beelden die wel of niet X bevatten. 

Of bij elke diagnose een % kans geven dat het X, Y, Z... is.

Een expertvriendelijke A.I. mag dus zeker geen zwarte doos zijn, maar moet de expert genuanceerd informeren, en leren van de feedback van de expert. Het systeem zelf moet leren van en in een Community van (top)experten. En zo zitten we natuurlijk weer in het hart van Kennismanagement.