Un blog de Rudolf de Vetten, Director de Producto en Blue Radix.
Hace dos semanas, tuvimos una interesante discusión con tres Productores en nuestra oficina sobre el cultivo autónomo con Crop Controller. Discutimos cómo experimentan trabajar con IA y lo que significa para ellos como Productor confiar en un algoritmo. ¿Te estás rindiendo a una caja negra? Para mí, el término caja negra tiene una connotación negativa. No quieres confiar en algo que no entiendes. Más bien una caja blanca: una técnica totalmente transparente, cuyos cada paso puedes seguir.
La pregunta es: ¿funciona así? ¿No confías en la tecnología hasta que comprendes completamente cómo funciona? Enciendes tu coche y, antes de que te des cuenta, las ruedas están girando. Parte de este proceso lo entiendes, pero gran parte es tecnología compleja de la que no tienes ni idea. Sin embargo, le confías tu vida.
El principio básico en Blue Radix es que desarrollamos algoritmos que las personas encuentran fáciles de usar y que añaden un valor práctico real. Nuestro equipo está formado por muchos especialistas con formación matemática y un profundo conocimiento de los algoritmos. Para hacer bien su trabajo, colaboran estrechamente con Productores, especialistas en cultivos y colegas especializados en el desarrollo de pantallas fáciles de usar. Esta interacción produce soluciones que no solo son técnicamente ingeniosas, sino también explicables y utilizables por los Productores en la práctica. Esto no es un paso atrás, sino que está en el corazón de cada desarrollo que realizamos.
Evitamos el efecto de caja negra con diversas intervenciones: desglosando el problema del Productor en subpasos. Proporcionando información sobre los datos que un algoritmo introduce y extrae. Y dando al Productor influencia y tomando siempre su propia estrategia como punto de partida. Al mismo tiempo, siempre estamos buscando nuevos pasos de mejora que nos permitan lograr resultados que no pueden ser alcanzados por las personas.
Además, los algoritmos ofrecen muchas oportunidades para comprender cómo se toma una decisión. Esto a menudo proporciona conocimientos sorprendentes, también para el Productor. Como humanos, a menudo pensamos que un cierto factor es crucial, aunque el análisis de datos muestra que solo juega un papel limitado. La lluvia es un buen ejemplo: recientemente analizamos el efecto de la lluvia en la temperatura del invernadero. La lluvia tiene un efecto, pero es muy sutil: la lluvia afecta principalmente la temperatura exterior, lo que a su vez afecta la temperatura interior. Intuitivamente, todo el mundo dice que la lluvia tiene una relación directa con la temperatura del invernadero. Tu propia intuición ciertamente no siempre es fácil de explicar, y mucho menos siempre correcta.
La pregunta sobre la explicabilidad de los modelos de IA es válida. Simplemente aceptar que es una caja negra es un compromiso innecesario. Esa fue también una de las conclusiones en nuestra conversación con los Productores. Un buen equilibrio entre explicabilidad, interés y confianza basada en los resultados es esencial. De esta manera, trabajar con algoritmos se vuelve posible para cada Productor. Al mismo tiempo, es bueno preguntarse: ‘¿Hasta qué punto soy yo mismo una caja negra?”
