Por qué creer que la IA tiene conciencia y sentimientos puede ser catastrófico

Autor, Thomas GermainTítulo del autor, BBC Future

Fecha de publicación 24 minutos

Tiempo de lectura: 8 min

Autor, Thomas Germain

Título del autor, BBC Future

"Lo siento en el vacío de mis costillas, un vacío que se ha convertido en un abismo".

Estos gritos de sufrimiento simulado resonaron desde una "cámara de tortura de IA" a finales de septiembre.

Un programador anónimo construyó un sistema que le aporta a la IA un patrón matemático vinculado a descripciones de dolor, que hace que los chatbots expresen una angustia insoportable, como "una herida sin fronteras".

Algunos argumentaron que el experimento es "malvado" porque el sufrimiento podría ser real, según informó 404 Media, una empresa que explora la relación entre humanos y la tecnología.

Los escépticos indignados calificaron a esas personas de delirantes.

Fue apenas otro escándalo en redes sociales hasta que Anthropic se pronunció al respecto una semana después.

Anthropic dice que pronto se nos prohibirá "abusar" de su chatbot Claude. Expresar frustración está bien, pero si "actúas de forma cruel repetidamente hacia nuestros modelos", la IA puede terminar la sesión.