El diseño ético en tecnología. La clave para no perdernos a nosotros mismos

La continua mediación de los algoritmos en nuestras decisiones demanda un compromiso profundo con la capacidad humana de aportar coherencia y alma a procesos que cada vez parecen más huecos y clonados. Por ello, desde la práctica de diseño de soluciones tecnológicas abogamos por la reflexión y la gestión de la energía para que las experiencias digitales eviten, en la medida de lo posible, los riesgos de exclusión, manipulación o abuso. La regulación es una garantía para algunos, aunque para otros puede ser un freno. Solo la adopción de principios y buenas prácticas éticas consensuadas a lo largo del ciclo de vida de un producto o servicio digital puede prevenir males mayores.

Paradojas tecnológicas

Ya saben, una amiga de una amiga ha terminado su novela este verano y ha enviado el manuscrito a varias editoriales. La respuesta automática de algunas ha sido tajante: «escriben más personas de las que leen». Los criterios para publicar se hacen cada vez más exquisitos, entre otras cosas porque no hay lectores.  El hábito de leer el periódico casi no existe en ningún hogar de nuestro país y los libros ya ni siquiera decoran las estanterías. Se podría presuponer que se usa el móvil para adquirir conocimiento, pero yo tengo mis dudas. Y, sin embargo, reclamamos pensamiento libre y espíritu crítico frente a la tecnología. Una paradoja.

De esto no podemos echarle la culpa todavía a la inteligencia artificial: la desafección por cualquier esfuerzo es un elemento identificable de nuestros tiempos. De hecho, hasta hace nada, nuestra labor también se focalizaba en ofrecer soluciones usables y accesibles bajo el lema «no me hagas pensar».

Otra paradoja: debido a la velocidad que implica y a ese real time analytics, cuanto más avanza la tecnología con el fin de hacernos eficientes, menos tiempo tenemos para preguntarnos hacia dónde nos está llevando, si es a la neurosis generalizada o a estar en silencio con nosotros mismos e incluso a fomentar la intuición como elemento imprescindible para la creatividad. Demandamos inmediatez y novedad, sin detenernos a revisar finalidades, alcances, beneficios y repercusiones.

Demandamos inmediatez y novedad, sin detenernos a revisar finalidades, alcances, beneficios y repercusiones

Si cada solución encarna unos valores que pueden llegar a convertirse en la norma si no se cuestionan, tenemos que preguntarnos también qué es lo justo, lo necesario y cómo va a afectar al mundo futuro.

Diseños éticos

En este ambiente sociológico, la gobernanza de la IA no puede depender en exclusiva de los marcos regulatorios, aunque estos surjan de discusiones éticas previas, como recuerda el filósofo italiano Luciano Floridi, sino que debe empezar mucho antes, por ejemplo, cuando estamos reorientando el problema que queremos resolver y analizando cómo hacerlo. Es decir, en el mismo proceso de diseño.

Podemos evocar que cada vez que se inicia un proyecto susceptible de apoyo en la IA, nos enfrentamos a lo desconocido y sublime, como en el cuadro de El caminante sobre el mar de nubes, y necesitamos un bastón y una nueva mirada.

Así, cuando se trabaja para el departamento de diseño de una empresa tecnológica como EGGS, part of Sopra Steria, se adquiere una responsabilidad más allá del conocimiento de la norma, porque esta suele aplicarse de forma reactiva. Nos gusta construir artefactos que importen junto a las personas que van a utilizarlos, artefactos que transmitan esperanza frente a esa especie de desarraigo colectivo por el que inconscientemente hemos apostado. De eso va el diseño, con su dimensión moral y social, como diría uno de los grandes de la profesión, Víctor Papanek.

Las interfaces muestran valores y formas de interpretar la realidad. Al final se trata de una especie de ética aplicada. Se puede elegir, por ejemplo, comunicar con claridad las decisiones y funcionamientos de los algoritmos, mantener el control y autonomía de los usuarios, informar de agentes y sistemas opacos con alternativas de acción, evitar modelos invasivos y ofrecer el consentimiento como un proceso revisable y comprensible, dando control real sobre la privacidad.

Tampoco vayamos a engañarnos: aunque los marcos éticos no son el bálsamo de Fierabrás, ayudan a plantearse preguntas, anticiparse a posibles problemas e intentar no dejar fuera a nadie. Hay muchas decisiones críticas en ámbitos como la salud, procesos de contratación o la justicia que están siendo evaluadas por sistemas algorítmicos. No podemos simplemente confiar en la eficiencia de la máquina, sin examinar las consecuencias y seguir viendo Netflix. La confianza, la credibilidad y más aún, la dignidad, el bienestar y la permanencia de nuestra civilización están en juego.

Vivan, rían, amen, reflexionen, dialoguen y sigan escribiendo novelas. En un mundo donde la tecnología media cada vez más nuestras decisiones, hábitos y oportunidades, los productos y servicios digitales deben nacer y crecer desde principios éticos claros. No se trata únicamente de exponer aquí buenas intenciones, sino de animar a establecer guías consensuadas entre equipos multidisciplinares y cultivar un pensamiento crítico colectivo desde los primeros prototipos y flujos. Solo así será posible esquivar los riesgos de exclusión, manipulación o abuso sin esperar a que nos sancionen y sin perdernos a nosotros mismos en el camino.

 María José Tellez es strategic Designer & Digital Ethics Lead en EGGS, part of Sopra Steria

Tomado de Ethic.es