Un blog de Rudolf de Vetten, Chief Product Officer chez Blue Radix.
Il y a deux semaines, nous avons eu une discussion intéressante avec trois producteurs dans nos bureaux concernant la culture autonome avec Crop Controller. Nous avons abordé leur expérience de travail avec l'IA et ce que signifie pour eux, en tant que producteurs, de faire confiance à un algorithme. S'agit-il de se soumettre à une boîte noire ? Pour moi, le terme « boîte noire » a une connotation négative. On ne veut pas faire confiance à quelque chose que l'on ne comprend pas. Il s'agit plutôt d'une boîte blanche : une technique entièrement transparente, dont chaque étape peut être suivie.
La question est la suivante : est-ce que cela fonctionne ainsi ? Ne faites-vous pas confiance à la technologie tant que vous ne comprenez pas parfaitement son fonctionnement ? Vous démarrez votre voiture et, avant même de vous en rendre compte, les roues tournent. Vous comprenez une partie de ce processus, mais une grande partie est une technologie complexe dont vous n'avez aucune idée. Pourtant, vous lui confiez votre vie.
Le principe fondamental chez Blue Radix est de développer des algorithmes que les utilisateurs trouvent faciles à utiliser et qui apportent une réelle valeur pratique. Notre équipe est composée de nombreux spécialistes ayant une formation en mathématiques et une connaissance approfondie des algorithmes. Pour bien faire leur travail, ils collaborent étroitement avec les producteurs, les spécialistes des cultures et les collègues spécialisés dans le développement d'interfaces conviviales. Cette interaction produit des solutions qui sont non seulement ingénieuses sur le plan technique, mais aussi explicables et utilisables par les producteurs dans la pratique. Il ne s'agit pas d'un pas en arrière, mais du cœur de chaque développement que nous entreprenons.
Nous évitons l'effet « boîte noire » grâce à diverses interventions : en décomposant le problème du producteur en sous-étapes, en fournissant un aperçu des données qu'un algorithme traite en entrée et en sortie, et en donnant au producteur une influence en prenant toujours sa propre stratégie comme point de départ. Parallèlement, nous recherchons constamment de nouvelles étapes d'amélioration qui nous permettront d'atteindre des résultats impossibles à obtenir par l'homme.
De plus, les algorithmes offrent de nombreuses opportunités de comprendre comment une décision est prise. Cela fournit souvent des perspectives surprenantes, y compris pour le producteur. En tant qu'humains, nous pensons souvent qu'un certain facteur est crucial, bien que l'analyse des données montre qu'il ne joue qu'un rôle limité. La pluie en est un bon exemple : nous avons récemment analysé l'effet de la pluie sur la température de la serre. La pluie a un effet, mais il est très subtil : elle affecte principalement la température extérieure, ce qui, à son tour, influence la température intérieure. Intuitivement, tout le monde dit que la pluie a une relation directe avec la température de la serre. Votre propre intuition n'est certainement pas toujours facile à expliquer, et encore moins toujours correcte.
La question de l'explicabilité des modèles d'IA est pertinente. Accepter simplement qu'il s'agit d'une boîte noire est un compromis inutile. C'était d'ailleurs l'une des conclusions de notre conversation avec les producteurs. Un bon équilibre entre explicabilité, intérêt et confiance basée sur les résultats est essentiel. De cette manière, travailler avec des algorithmes devient possible pour chaque producteur. En même temps, il est bon de se demander : « Dans quelle mesure suis-je moi-même une boîte noire ? »
