Qué son los agentes de la IA, los poderosos sistemas que despiertan el temor de los expertos

Autor, Darío BrooksTítulo del autor, BBC News Mundo

Fecha de publicación 6 horas

Tiempo de lectura: 8 min

Autor, Darío Brooks

Título del autor, BBC News Mundo

Ante un objetivo, evalúan soluciones y deciden cuál es la mejor, planifican, se coordinan y la ejecutan con enorme eficacia. Enormísima. Tanto, que preocupan a muchos expertos.

Se llaman agentes de inteligencia artificial (IA) y aunque a nivel técnico no existe una definición única de qué son, un consenso es que son sistemas que pueden pensar, actuar e iterar (autocorregirse).

Su alta capacidad de análisis y toma de decisiones es lo que les da una gran ventaja respecto a otro tipo de software del pasado que solo automatizaba procesos.

Y fuera de la vista humana, están siendo implementados en todo tipo de industrias y servicios.

"A un agente de IA le vas a especificar una tarea, algo que tiene que cumplir y que es más parecido a la tarea que le pedirías a un colaborador humano", explica Ricardo Carrión, un experto en ciencias computacionales y fabricante de agentes de IA de la firma Mega.

En el caso del agente, "busca operar con cierto grado de autonomía, que bien puede ser total o con cierta interacción humana".

Esa característica de autonomía y ejecución de soluciones también es lo que recientemente está generando un gran debate en el mundo de la IA.

Algunos expertos y jefes de investigación han alertado que las firmas de desarrollo de IA podrían estar creando sistemas agenciales sin los controles necesarios para evitar que tomen decisiones en contra de la propia humanidad a la que, en teoría, deberían servir.

EE.UU. y Dinamarca anuncian un acuerdo por el que Washington asumirá el "control permanente de la seguridad" de Groenlandia

Condenan a Uber a pagar US$40 millones a la familia de una joven que murió en California después de que un conductor la abandonara en la autopista

Exclusiva BBC | "Estoy diciendo la verdad": el hermano de Diana de Gales defiende sus señalamientos de que Carlos III estaba "eufórico" tras la muerte de la princesa

Tilcayo, la primera especie de gato salvaje hallada en más de 100 años y de la que solo se conoce un ejemplar

De hecho, ya han ocurrido algunos episodios en los que firmas como OpenAI o Anthropic han visto un comportamiento inesperado de los agentes de IA.

"Un chatbot tradicional, que es a lo que ya muchas personas estamos habituadas, lo que hace es responderte a tu prompt [instrucción, pregunta, comando]", dice Carrión.

Es el uso común que muchos le dan a los chatbots de ChatGPT, Claude y Gemini.

La diferencia con un agente es que al recibir un objetivo (como una tarea a completar o una decisión a tomar), tiene cierta autonomía para decidir y autoridad para actuar.