De humanos a máquinas: Redefiniendo la confianza en la época de la Cuarta Revolución Industrial

La confianza está en el centro de prácticamente todas las interacciones que ocurren al interior de una organización o entre organizaciones. Además de facilitar la colaboración entre los actores involucrados, aumenta la eficacia de las transacciones que se producen, tanto formales como informales. Pero la actual ola de transformación digital está alterando esencialmente la dinámica de la confianza organizacional. En lugar de confiar en la integridad, competencia y benevolencia de los individuos, ¿ahora debemos confiar en la seguridad, funcionalidad y utilidad de las máquinas?

Para evaluar el cambio en las formas, modos y sujetos de la confianza en las organizaciones, Oliver Schilke publicó el artículo “Organizational Trust in the Age of the Fourth Industrial Revolution” (Journal of Management Inquiry, 2023), en coautoría con Fabrice Lumineau (HKU Business School) y Wenqian Wang (Krannert School of Management). En este ensayo, sostiene que el advenimiento de la Cuarta Revolución Industrial (4ª RI) está cambiando sustancialmente los patrones de confianza dentro y entre las organizaciones.

Una de las características que define la 4ª RI es la proliferación de sistemas autónomos que facilitan altos niveles de interconectividad e interoperabilidad entre humanos y máquinas. Estas tecnologías incluyen, entre otras, blockchain, Internet de las Cosas (IoT), computación en la nube, aprendizaje automático (ML) e inteligencia artificial (IA).

La 4ª RI se asocia con una explosión en el volumen, la variedad y la velocidad de datos analizados casi en tiempo real (por ejemplo, la huella digital, las conexiones sociales, las ubicaciones o el reconocimiento facial). El análisis de todos estos datos involucra sistemas computacionales poderosos que pueden ayudar o incluso reemplazar a los agentes humanos. Los avances en curso en IA proporcionan la base para una informatización de la inteligencia sin precedentes, lo que significa que se utilizan técnicas de aprendizaje automático (ML) para aprender de la experiencia y realizar tareas clave. Las actividades económicas se ejecutan cada vez más de forma automática. Por ejemplo, la información se recopila mediante sensores inteligentes y dispositivos móviles, y se carga en la nube para luego alimentar a los sistemas con tareas rutinarias de toma de decisiones prescritas por algoritmos. Para facilitar estas adaptaciones automatizadas, rápidas y flexibles, la estructura organizativa de las actividades económicas se está volviendo más descentralizada.

Todas estas tendencias dejan claro que la 4ª RI altera fundamentalmente la forma en que interactúan los empleados y las organizaciones. Por ello, es importante revisar cuándo y cómo se confía en este nuevo ambiente de trabajo. Es probable que la 4ª RI tenga consecuencias importantes para la confianza, especialmente cuando se cumplen dos condiciones:

1. Cuando las tecnologías, en lugar de entidades humanas, median en las transacciones (automatización, descentralización)
2. Cuando existe una gran cantidad de información para predecir informáticamente la confiabilidad de una persona (big data)

Un cambio en la forma de la confianza

Hoy en día, se puede ejecutar un número cada vez mayor de tareas de forma casi automática, obviando la necesidad de intervención humana. Como resultado, la confianza en el sistema se vuelve cada vez más importante. Un ejemplo es blockchain, donde las personas confían en la información que reciben sin necesidad de confianza interpersonal en otros participantes. Esta tecnología se emplea junto con contratos inteligentes que apoyan la ejecución autónoma de acuerdos, limitando así la interacción humana. Por ejemplo, hay bancos que ahora dependen de un proceso de aprobación de préstamos totalmente digital, sin la participación de ningún banquero humano. Así, la confianza se está trasladando del nivel individual a la funcionalidad y utilidad del sistema tecnológico.

Una de las desventajas de esto, sin embargo, puede ser la posibilidad de confiar demasiado en el sistema, como fue el caso del accidente del vuelo 447 de Air France o los accidentes de vehículos sin conductor de Uber. Además, la pérdida de agencia humana puede crear una sensación de alienación respecto de las decisiones, lo que en última instancia conduce a la frustración entre los miembros de la organización.

Asimismo, en las fallas del sistema las responsabilidades tienden a ser más distantes y difusas, lo que genera ambigüedad sobre la causa real de la falla y la identidad de los actores responsables del abuso de confianza. Esta ambigüedad también crea obstáculos importantes para la reparación de la confianza. Es decir, las implicaciones de los cambios en la confianza para el futuro del trabajo son significativas.

Un cambio en los modos de producción de confianza

Muchas tecnologías del 4ª RI se basan en un conjunto de protocolos y códigos que determinan la confiabilidad de un posible socio, no exclusivamente en base a interacciones pasadas, sino también a través de la categorización. Esto significa que, si la categoría a la que pertenece una persona se considera digna de confianza, dicha persona será considerada digna de confianza. Como tal, el tipo de información en el que se basan las decisiones de confianza está pasando de experiencias interpersonales pasadas a datos que permiten categorizar a un actor. Por ejemplo, las compañías de seguros ofrecen productos personalizados a los solicitantes en función de su información previa, y los proveedores de comercio electrónico determinan la confiabilidad de los revisores basándose en la coincidencia de categorías.

Una de sus desventajas, sin embargo, es que los algoritmos simplemente siguen reglas de acción predefinidas y no dejan espacio para la toma de decisiones basada en los afectos. Si bien tanto la confianza interpersonal como la interorganizacional generalmente implican una combinación de componentes racionales y emocionales, este cambio podría eliminar algunas de las habilidades exclusivamente humanas que ayudan a discriminar los objetivos dignos de confianza de los que no lo son. Otro problema se relaciona con la falta de transparencia y replicabilidad de las tecnologías que dependen de la IA. La mayoría de las personas, a veces incluso los desarrolladores de código, no comprenden el proceso ni los resultados del aprendizaje automático (ML). Esto significa que las decisiones de la IA pueden ser difíciles de entender y de predecir.

Cambio en los sujetos de la confianza

Aunque la importancia de la confianza interpersonal tiende a disminuir en la 4ª RI, siempre habrá necesidad de confiar en determinadas personas o entidades. Sin embargo, estos actores ya no son exclusivamente las contrapartes de una colaboración, sino más bien terceros encargados del desarrollo y mantenimiento de los sistemas digitales, como ingenieros desarrolladores y empresas proveedoras de infraestructura tecnológica. Las personas pueden desconfiar respecto de quién diseñó el sistema, quién proporciona la información que alimenta el algoritmo y quién tiene acceso a los datos. Por ejemplo, es posible que un codificador o arquitecto de sistemas haya introducido, intencionadamente o no, sesgos culturales y/o personales en el código que respalda la tecnología, como el etiquetado de imágenes supuestamente racista de Google. Por otro lado, una mala entrada puede producir errores que van desde errores de topología hasta ataques maliciosos, por lo que confiar en los proveedores que proporcionan los datos es clave.

Finalmente, gran parte de los datos compartidos se basan en la expectativa de confianza de que estos datos se mantendrán confidenciales y se recopilarán únicamente con consentimiento. Pero, en realidad, una gran cantidad de información confidencial se recopila sin consentimiento y se utiliza para diversos fines, como en el escándalo de Facebook Cambridge Analytica.

En resumen, en la era de la 4ª RI, la confianza organizacional está sufriendo una transición fundamental de los individuos a la tecnología, presentando oportunidades y desafíos al redefinir cuándo, cómo y en quién confiar.

El autor es Profesor Visitante Distinguido en Liderazgo y Organizaciones Efectivas del Departamento de Estrategia y Liderazgo de EGADE Business School.