¿Podemos confiar en los algoritmos para hacer negocios?

Los algoritmos, programas con instrucciones que usan datos para predecir nuestro comportamiento, están cada vez presentes en nuestras vidas y en los negocios. Hay algoritmos detrás de prácticamente todo lo que hacemos en internet: desde un producto sugerido en Amazon o un destino en Despegar.com, hasta el precio de nuestro seguro de coche (basado en nuestro historial, el tipo de automóvil que queremos comprar y nuestro código postal). Los algoritmos deciden por nosotros tan frecuentemente, que es lógico que nos preguntemos cómo funcionan realmente y quién nos asegura que no cometen errores.

Un algoritmo es una lista de instrucciones similares a las de una receta de cocina. Estas instrucciones deben ser reconocidas por una computadora que es capaz de recibir datos (ingredientes), aplicar un proceso (receta) y obtener un resultado (nuestro plato favorito).    

Todos nos hemos sentido alguna vez como en Big Brother al ser “adivinados” por estos algoritmos. La última vez que me sentí así fue a punto de abordar un vuelo de Delta (en los buenos tiempos, cuando se podía viajar). En mi puerta de embarque me pidieron mirar a una cámara que escaneó mi rostro y vi una luz verde que anunciaba que podía pasar al avión. No necesité mostrar mi pasaporte ni mi pase de abordar. Después de algunos segundos de incredulidad y cierta sensación de vulnerabilidad, empecé a atar cabos sobre los datos que usaron y en qué momento autoricé su uso.

Así fue la historia. Al llegar al aeropuerto para registrar mi maleta, un quiosco de autoservicio tomó mi foto y la convirtió en un modelo biométrico (algo así como un plano a escala de mi cara), luego relacionó esa foto con mi pase de abordar; básicamente le dijo al sistema: “esta foto va con este pase de abordar”.  En el abordaje, la cámara comparó mi cara (de sala de espera) con la cara registrada y comprobó que era la misma y que estaba asociada a un pase de abordar en ese vuelo. Et Voilà!, a volar se ha dicho.

Ahora que entendemos el ejemplo, nos parece hasta familiar, pero no siempre es tan fácil determinar qué datos usó el algoritmo, cómo los usó para dar un resultado o si el resultado de su evaluación tiene algún nivel de sesgo. Dos ejemplos muy concretos explican el originen de estos sesgos.

El primero tiene que ver justamente con los algoritmos de reconocimiento facial que han usado mayormente imágenes de personas blancas para ser entrenados, por ende, tienen ahora desafíos para reconocer rostros de color. Esto no es un gran problema cuando puedes mostrar tu pase de abordar, pero sí cuando te impide entrar a tu cuenta de banco o a tu oficina. Aquí el origen del problema fueron los datos y la consecuencia es que empresas como IBM y Microsoft han detenido el desarrollo y venta de estas tecnologías.

El segundo sesgo es el caso de la prueba de admisión que tomó este año el gobierno de Reino Unido para decidir para qué universidad son elegibles miles de egresados de escuelas.  Las universidades ofrecen admisión agregando dos aspectos importantes: el ranking de los alumnos en las escuelas y el ranking histórico de las escuelas en el sistema. Un ligero ajuste en el algoritmo favoreció notoriamente a alumnos de escuelas privadas en detrimento de los de escuelas públicas, provocando reacciones masivas en todo el país. Aquí el problema fue el proceso, es decir, cómo el algoritmo le dio más peso a un factor que a otro para tomar su decisión. La presión fue tal que el gobierno decidió eliminar la prueba. 

¿Pueden darse estos errores y sesgos en nuestros negocios? La respuesta es sí. Un algoritmo puede asumir la edad incorrecta de un cliente y mandarle material inapropiado, puede sugerir una línea de crédito adicional para un cliente si en sus parámetros no está su calificación de buró de crédito o puede generar una campaña de email e incluir clientes que ya se dieron de baja. En todos estos casos es un humano, una persona que conoce el negocio, el que define los datos a utilizar y el resultado que quiere obtener. 

Estará también en sus manos indagar si el error estuvo en los datos que utilizó o en la forma en que la procesó.  ¿Los datos estaban limpios? ¿Hubo una buena definición de la población objetivo? ¿Se hicieron pruebas con poblaciones más pequeñas o A/B testing para ver si la acción funcionaba en un grupo versus el otro? Estas son algunas de las preguntas que debe resolver antes de volver al código de programación o al pizarrón a revisar la pregunta que quiere responder. La buena noticia es que podrá ajustar el modelo cuantas veces sea necesario hasta que la predicción mejore. 

Es cierto que al inicio los algoritmos no serán tan precisos, pero con más y más usuarios y datos, mejorarán su predicción y serán cada vez más certeros, permitiendo a las compañías ahorrar tiempo y dinero y dedicar más recursos a decisiones estratégicas.  

Cuando alguien me pregunta sobre los potenciales errores de los algoritmos en ciertos procesos, pregunto siempre cuál piensan que es el porcentaje de error del humano en ese proceso. Nadie pensaría hoy en darle a una persona la responsabilidad de reconocer personas en millones de fotos o de buscar un pasaje de avión económico. ¿Todas las decisiones pueden ser tomadas por algoritmos? La respuesta es no. Por fortuna, hay infinidad de decisiones y procesos que requieren nuestro juicio, experiencia e intuición.  El humano siempre tendrá la última palabra… aunque el algoritmo diga lo contrario.

Artículo publicado originalmente en Alto Nivel.