Een blog van Rudolf de Vetten, Chief Product Officer bij Blue Radix.
Twee weken geleden hadden we op ons kantoor een interessante discussie met drie telers over autonoom telen met Crop Controller. We bespraken hoe zij het werken met AI ervaren en wat het voor hen als teler betekent om een algoritme te vertrouwen. Geef je je over aan een black box? Voor mij heeft de term black box een negatieve connotatie. Je wilt iets wat je niet begrijpt niet vertrouwen. Liever een white box: een volledig transparante techniek, waarvan je elke stap kunt volgen.
De vraag is: werkt het zo? Vertrouwt u technologie pas als u volledig begrijpt hoe het werkt? U start uw auto en voor u het weet draaien de wielen. Een deel van dit proces begrijpt u, maar veel ervan is complexe technologie waar u geen idee van heeft. Toch vertrouwt u er uw leven aan toe.
Het basisprincipe bij Blue Radix is dat we algoritmes ontwikkelen die mensen gemakkelijk vinden in gebruik en die echte praktische waarde toevoegen. Ons team bestaat uit vele specialisten met een wiskundige achtergrond en diepgaande kennis van algoritmes. Om hun werk goed te doen, werken ze nauw samen met telers, teeltspecialisten en collega's die gespecialiseerd zijn in het ontwikkelen van gebruiksvriendelijke schermen. Deze interactie levert oplossingen op die niet alleen technisch ingenieus zijn, maar ook uitlegbaar en bruikbaar voor telers in de praktijk. Dit is geen stap terug, maar ligt aan de basis van elke ontwikkeling die we doen.
We vermijden het black box-effect met verschillende interventies: door het probleem van de teler op te splitsen in deelstappen. Door inzicht te geven in de data die een algoritme ingaat en uitkomt. En door de teler invloed te geven en altijd hun eigen strategie als uitgangspunt te nemen. Tegelijkertijd zoeken we altijd naar nieuwe verbeterstappen die ons in staat stellen resultaten te behalen die door mensen niet kunnen worden bereikt.
Bovendien bieden algoritmes veel mogelijkheden om inzicht te krijgen in hoe een beslissing tot stand komt. Dit levert vaak verrassende inzichten op, ook voor de teler. Als mensen denken we vaak dat een bepaalde factor cruciaal is, hoewel data-analyse aantoont dat deze slechts een beperkte rol speelt. Regen is een goed voorbeeld: we hebben onlangs het effect van regen op de kas temperatuur geanalyseerd. Regen heeft een effect, maar het is zeer subtiel: regen beïnvloedt voornamelijk de buitentemperatuur, wat op zijn beurt de binnentemperatuur beïnvloedt. Intuïtief zegt iedereen dat regen een directe relatie heeft met de kas temperatuur. Je eigen intuïtie is zeker niet altijd gemakkelijk te verklaren, laat staan altijd correct.
De vraag rond de verklaarbaarheid van AI-modellen is terecht. Simpelweg accepteren dat het een black box is, is een onnodig compromis. Dat was ook een van de conclusies in ons gesprek met de telers. Een goede balans tussen verklaarbaarheid, interesse en vertrouwen op basis van de resultaten is essentieel. Op deze manier wordt werken met algoritmes mogelijk voor elke teler. Tegelijkertijd is het goed om jezelf af te vragen: ‘In hoeverre ben ik zelf een black box?’
