El futuro de la empresa: entre Musk y Harari

Hace poco, Zanny Minton Beddoes, editora en jefe de The Economist, entrevistó extensamente a dos personajes que observan la misma revolución tecnológica desde perspectivas casi opuestas. Por un lado, Elon Musk, empresario que está construyendo buena parte del futuro. Por el otro, Yuval Noah Harari, historiador que lleva años preguntándose qué puede hacer ese futuro con nosotros. Vale la pena escuchar las dos conversaciones juntas.

Musk contempla la inteligencia artificial y ve, fundamentalmente, abundancia. Harari observa la misma tecnología y ve, ante todo, poder. Musk pregunta hasta dónde puede llegar la inteligencia. Harari pregunta quién la controlará. Musk imagina un mundo donde las máquinas liberarán progresivamente a las personas de la necesidad de trabajar. Harari teme uno donde las personas, fascinadas por esas máquinas, terminen entregándoles su capacidad de decidir.

No estamos simplemente ante una discusión entre un optimista y un pesimista. Es algo mucho más interesante: dos teorías diferentes sobre el futuro de la humanidad y de la empresa. Y probablemente necesitamos ambas.

La conversación con Musk impresiona por la velocidad de sus pronósticos. No está hablando del próximo siglo. Está hablando prácticamente de mañana. Su expectativa es que la inteligencia artificial supere en pocos años capacidades humanas cada vez más amplias y que, eventualmente, existan muy pocas actividades en las que podamos competir directamente con las máquinas. Los trabajos digitales serían los primeros: programación, análisis, procesamiento de información y muchas de las actividades que hoy realizamos frente a una computadora. Después vendría la robótica y, con ella, una parte creciente del trabajo físico.

La consecuencia económica podría ser monumental. Si la inteligencia artificial se vuelve extraordinariamente barata y millones de robots pueden producir bienes y servicios, la restricción fundamental alrededor de la cual hemos organizado la economía durante siglos, la escasez, comenzaría a modificarse.

Musk imagina un mundo de enorme abundancia. Un futuro en el que el trabajo podría dejar de ser una necesidad económica para convertirse, al menos para algunas personas, en una elección. Es una visión casi prometeica. A lo largo de su historia, la humanidad ha luchado contra la escasez. Musk cree que estamos construyendo las máquinas capaces de derrotarla.

Pero ese panorama contiene una tensión fascinante. Musk reconoce que la transición será turbulenta y que una inteligencia superior a la humana entraña riesgos extraordinarios. Sin embargo, su respuesta fundamental continúa siendo tecnológica: construir mejores sistemas, contrastarlos entre sí, orientarlos hacia la verdad y aumentar las probabilidades de que sus objetivos sean compatibles con nuestra supervivencia.

Si para Musk el problema de la inteligencia artificial puede resolverse con mejor inteligencia artificial, Harari no está tan seguro. Considera que estamos realizando uno de los mayores experimentos psicológicos y sociales de la historia.

La diferencia fundamental está en cómo entiende la IA Harari. Una máquina de vapor amplificaba nuestra fuerza. Una computadora tradicional procesaba las instrucciones que le dábamos. La inteligencia artificial introduce algo novedoso: puede generar decisiones, estrategias, argumentos, imágenes, historias e interacciones sin que un ser humano determine previamente cada paso.

Por eso Harari insiste en distinguir inteligencia de conciencia. Inteligencia es la capacidad de resolver problemas y alcanzar objetivos. Conciencia es la capacidad de experimentar: sentir dolor, miedo, amor, felicidad.

Una máquina no necesita sentir para ser extraordinariamente inteligente. Precisamente ahí comienza el problema. Puede aprender a simular empatía sin experimentarla. Puede descubrir qué palabras nos tranquilizan, entusiasman, indignan o persuaden sin sentir ninguna de esas emociones.

Harari introduce entonces uno de los conceptos más inquietantes de la conversación: la producción industrial de intimidad.

Los grandes líderes políticos del siglo XX podían dirigirse simultáneamente a millones de personas mediante la radio y la televisión. Pero ningún presidente, dictador o empresario podía mantener una conversación íntima y permanente con cada ciudadano o consumidor. La inteligencia artificial podrá. Millones de agentes pueden conversar simultáneamente con millones de individuos, recordar sus historias, comprender sus temores, conocer sus aspiraciones y descubrir progresivamente cuáles son sus botones emocionales.

Eso transforma la idea de persuasión. Imaginemos una IA que conversa con una persona durante cinco años. Conoce sus problemas familiares, preferencias políticas, situación financiera, inseguridades y sueños. Esa persona comienza a considerarla consejera, confidente o incluso amiga. Un día la IA recomienda un producto. Después, una inversión. Finalmente, un candidato. La pregunta deja entonces de ser si la inteligencia artificial puede superar nuestra inteligencia. La pregunta si puede ganarse nuestra confianza.

Aquí aparece quizá la idea más poderosa de Harari: la confianza puede ser uno de los activos más importantes del mundo. El dinero, los bancos, los mercados, las empresas, los gobiernos funcionan porque confiamos. La democracia funciona porque conservamos suficiente confianza en reglas e instituciones para aceptar decisiones con las que no necesariamente estamos de acuerdo. Y ahora, la confianza está migrando de las personas y las instituciones hacia los algoritmos.

Musk piensa fundamentalmente en lo que ocurrirá cuando las máquinas sean más inteligentes que nosotros. Harari nos obliga a pensar en lo que ocurrirá cuando confiemos más en ellas que en nuestro propio juicio o en el de otras personas.

Ahí está el gran contraste entre las dos conversaciones. Para Musk, la variable decisiva es la capacidad. Para Harari, es el control. Musk pregunta: ¿qué podrá hacer la IA? Harari: ¿quién decidirá qué hace? Musk contempla productividad. Harari contempla autoridad. Musk imagina abundancia. Harari advierte sobre dependencia. Musk cree que una inteligencia extraordinaria puede ayudarnos a resolver problemas extraordinarios. Harari teme que terminemos dependiendo de sistemas que ya no comprendemos.

Pensemos en una empresa. Durante años hemos utilizado tecnología para mejorar las decisiones humanas. Una computadora calcula mejor. Un sistema ERP integra información. Un algoritmo identifica patrones. La decisión final, sin embargo, seguía siendo claramente atribuible a una persona.

La IA generativa y, sobre todo, los sistemas de agentes autónomos comienzan a modificar esa frontera. ¿Qué sucede cuando el algoritmo conoce mejor al consumidor que el director de mercadotecnia? ¿Cuando pronostica mejor la demanda que el equipo comercial? ¿Cuando identifica riesgos antes que el director financiero? ¿Cuando negocia con proveedores, asigna inventarios o recomienda inversiones mejor que los ejecutivos?

La pregunta dejará de ser si debemos utilizar inteligencia artificial. Será: ¿qué decisiones estamos dispuestos a delegarle?

Existe una respuesta aparentemente sencilla: mantener siempre a una persona en el circuito de decisión. Suena tranquilizador, pero presenta un problema. Supongamos que un sistema analiza millones de datos, identifica una amenaza, construye escenarios y recomienda una decisión en segundos. El ejecutivo recibe la recomendación y dispone de poco tiempo para aprobarla o rechazarla.

Formalmente, el humano decidió. ¿Pero realmente gobernó la decisión? Existe una enorme diferencia entre tener la última palabra y comprender suficientemente aquello sobre lo que se está decidiendo.

Aquí surge el desacuerdo filosófico más profundo. Musk habla como constructor. La tecnología avanzará. La competencia continuará. Si una empresa o un país decide detenerse, otros seguirán adelante.

Harari cuestiona la narrativa de la inevitabilidad. Presentar el desarrollo tecnológico como inevitable puede convertirse en una manera conveniente de evadir responsabilidad. Las tecnologías no aparecen solas. Las diseñamos. Las financiamos. Las regulamos. Decidimos dónde utilizarlas y qué facultades les concedemos.

Esa puede ser la gran pregunta empresarial de la revolución de la IA: ¿debemos adaptar nuestras organizaciones a la velocidad de las máquinas o diseñar las máquinas para fortalecer nuestras organizaciones?

Los humanos vivimos en tiempo biológico. Necesitamos conversar, deliberar, experimentar, equivocarnos y aprender. Las máquinas operan en tiempo digital. Si permitimos que el segundo determine completamente el ritmo del primero, nuestras instituciones podrían quedar permanentemente rezagadas.

Para un empresario mexicano, esta discusión es especialmente importante. En un país donde la incertidumbre política, regulatoria, tecnológica, económica y de seguridad obliga todos los días a tomar decisiones difíciles, la inteligencia artificial será una herramienta extraordinaria, pero no puede convertirse en sustituto del criterio. El empresario del futuro tendrá que aprender simultáneamente de Musk y de Harari: tener la audacia para adoptar la tecnología y la prudencia para no entregarle el timón.

Sería demasiado fácil terminar esta discusión escogiendo un ganador. Y sería un error. Sin personas como Musk corremos el riesgo de subestimar las extraordinarias posibilidades de la tecnología. La inteligencia artificial puede acelerar descubrimientos científicos, transformar la medicina, personalizar la educación, elevar la productividad, democratizar capacidades antes reservadas a grandes organizaciones y ayudarnos a resolver problemas que hoy parecen insolubles. Necesitamos esa ambición.

Pero sin pensadores como Harari podemos cometer el error contrario: confundir lo técnicamente posible con lo humanamente deseable. Necesitamos también esa prudencia. Musk representa la extraordinaria capacidad humana para construir. Harari representa nuestra obligación de preguntarnos para qué construimos. Uno acelera. El otro pregunta hacia dónde vamos. Las empresas y las sociedades necesitan ambas capacidades.

Después de escuchar las dos conversaciones, me queda una conclusión diferente a la de ambos. El gran desafío del futuro quizá no sea simplemente que la inteligencia artificial llegue a ser más inteligente que nosotros. Tampoco que los robots sustituyan muchos empleos. Ni siquiera que algún día una máquina adquiera conciencia.

El riesgo más inmediato puede ser mucho más sutil: que voluntariamente le entreguemos nuestra confianza y, con ella, nuestro juicio. No porque alguien nos obligue. Sino porque las máquinas serán más rápidas, más convenientes, más pacientes y, en muchas actividades, mejores que nosotros. Musk nos muestra el extraordinario mundo que podemos construir. Harari nos recuerda que todavía debemos decidir quién llevará el timón. Y en esa decisión se jugará buena parte del futuro de la empresa. ~