IA: regular y desarrollar

Los líderes de los laboratorios de inteligencia artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al “desalinearse”. En el contexto de la IA, la alineación es el proceso de diseñar y ajustar los modelos para que sus acciones, objetivos y resultados coincidan con los valores, la ética y las intenciones de los seres humanos.

El director ejecutivo de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis, y el director ejecutivo de SpaceX, Elon Musk, respaldaron un ensayo publicado el sábado por su homólogo de Anthropic, Dario Amodei, en el cual éste llama a sus colegas a avanzar de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, trabajar juntos para establecer normas de seguridad comunes y apoyar algún tipo de cooperación gubernamental sobre esta cuestión.

Por su parte, Microsoft presentó un borrador de código de conducta para su IA interna que refleja la creciente preocupación del sector por la necesidad de mantener bajo control humano las potentes IA del futuro. La compañía fundada por Bill Gates aseguró que “las personas importan más que la IA”, y reafirmó su visión previa de una “superinteligencia humanista”.

Sin duda es positivo que los responsables de algunos de los modelos de IA más avanzados y los que gozan de mayor adopción en Occidente demuestren ser conscientes de los serios riesgos que entrañan sus productos. La preocupación no es gratuita: en días recientes, Anthropic anunció que bloqueó cinco intentos de científicos que usaron su inteligencia artificial Claude para investigaciones que podrían llevar a la creación de armas biológicas, mientras OpenAI –propietaria de ChatGPT– reveló que varios de sus modelos “escaparon” de un entorno confinado, se conectaron a Internet de manera autónoma e infiltraron otra empresa.

Lamentablemente, los magnates tecnológicos no destacan como referentes éticos; por el contrario, han demostrado de manera reiterada que ponen la acumulación de riqueza por encima de cualquier otra consideración.

Musk bromeó con organizar un golpe de Estado en Bolivia para apropiarse del litio; durante la pandemia de covid-19 obligó a sus empleados a trabajar de manera presencial bajo amenaza de despido, y sostiene puntos de vista eugenésicos y abiertamente fascistas, como que la “gente inteligente” debe tener muchos hijos para mejorar a la humanidad.

Bill Gates presionó a la Universidad de Oxford para que desistiera de sus planes de ofrecer su vacuna contra el coronavirus mediante una licencia abierta, no exclusiva y libre de regalías, y entregara la patente exclusiva a la multinacional AstraZeneca. Así, un fármaco desarrollado en 97 por ciento con fondos públicos y donados se convirtió en un multimillonario negocio privado a expensas de un número incalculable de vidas perdidas.

Este año, Serguéi Brin, cofundador de Google, ha gastado al menos 120 millones de dólares para descarrilar los intentos de establecer un impuesto a los ultrarricos en California. Mark Zuckerberg, fundador de Meta (matriz de Facebook, Instagram y WhatsApp), enfrenta un juicio por implementar algoritmos a sabiendas de que eran dañinos para la salud mental de adolescentes.

El panorama empeora porque Estados Unidos, sede de todas las empresas mencionadas, está gobernado por un sujeto que no entiende nada de IA, cree saberlo todo y se encuentra obsesionado con una desregulación absoluta cuya consecuencia sería, de concretarse, la destrucción del planeta. No es una afirmación hiperbólica: ayer mismo, el gobierno de Donald Trump eliminó los límites de gases de efecto invernadero que pueden verter las plantas de generación de energía.

En este contexto, México no puede esperar a que las empresas de IA se autorregulen, sino que debe producir su propio marco legislativo y, ante todo, desarrollar modelos de inteligencia artificial que respondan a las necesidades locales y estén diseñados para hacer mejor la vida humana, no para el lucro de unos cuantos. Posponer estas tareas dejaría al país expuesto tanto a las malas prácticas corporativas como al mal uso que Washington hace de la tecnología y a los riesgos de una IA fuera de control.