Doce escenarios

TA MEGALA

Fernando Solana Olivares

Entre ominosos epígrafes (“Es fácil imaginar el pensamiento humano liberado de las ataduras de un cuerpo mental”, Hans Moravec; “Yo, por mi parte, doy la bienvenida a nuestros nuevos amos computarizados”, Kenn Jennings; “Los humanos serán tan irrelevantes como las cucarachas”, Marshall Brain), el físico sueco Max Tegmark vislumbra en Vida 3.0 (Taurus) varios desenlaces posibles ante la Inteligencia Artificial General y sus recientes avances exponenciales.

       Tegmark clasifica el proceso de la vida según la capacidad que ésta presenta para diseñarse a sí misma. La fase biológica, vida 1.0, consiste en que el hardware y el software son fruto de la evolución. La siguiente etapa, vida 2.0, es una fase cultural en la cual el hardware sigue siendo originado por la evolución, pero buena parte de su software es ya un diseño humano. La última fase, vida 3.0, es puramente tecnológica y determina tanto el hardware como el software. 

       En 1965 el matemático británico Irving Good definió la máquina ultrainteligente como aquella capaz de superar todas la capacidades cognitivas e intelectuales de cualquier ser humano por más genial que fuese. Una máquina así podría diseñar máquinas aún más desarrolladas y produciría una “explosión de inteligencia”. Ello representaba, según este científico, lo último que el ser humano necesitaría inventar, “siempre y cuando la máquina fuese lo bastante dócil para decirnos cómo mantenerla bajo nuestro control”.

       Es en ese frágil y condicionante “siempre y cuando” donde radica el espanto del mundo inimaginable al que ya hemos entrado. Con el calentamiento global y sus desastrosas consecuencias, más el riesgo cercano de una guerra termonuclear, la IAG —tercero de los grandes peligros apocalípticos de nuestros días— puede tener, según Tegmark, doce escenarios posibles:

       1. Utopía libertaria. En ella los seres humanos, los cíborgs (organismos cibernéticos) y las superinteligencias coexisten pacíficamente. Los seres humanos ya no están al mando de la sociedad, y tampoco enteramente a salvo dado el dominio tecnológico.

        2. Dictador benévolo. La IA dirige la sociedad y aplica reglas estrictas que la mayoría obedece y considera algo bueno. Los humanos no dirigen el mundo pero sobreviven. 

       3. Utopía igualitaria. Humanos, cíborgs y almas digitales (mentes que se han descarnado del cuerpo humano para transferir su conciencia a soportes mecánicos) cohabitan pacíficamente. No existe la superinteligencia, aunque tampoco es claro que los seres humanos dirijan las cosas. 

        4. Guardián. Una IA hegemónica interviene lo mínimo necesario para evitar la creación de otras superinteligencias. Abundan los robots asistentes de inteligencia menor a la humana y los cíborgs humano-máquina. El progreso tecnológico ha quedado detenido para siempre. Los seres humanos están a salvo por ahora.

       5. Dios protector. Una IA omnisciente y omnipotente “maximiza” la felicidad humana interviniendo tan tenuemente que hace creer a la gente que ella misma controla su propio destino y a muchos incluso dudar de que exista.

       6. Dios esclavizado. Una IA de extraordinaria capacidad es confinada por seres humanos que la utilizan para producir tecnologías y riquezas extraordinarias destinadas al bien o al mal, dependiendo de quienes la controlen. Los seres humanos mandan y se encuentran potencialmente a salvo.

       7. Dominadores. La IA toma el control de todo y se deshace de los seres humanos —“mediante un método que ni siquiera entendemos”—, considerándolos como una amenazante molestia que sólo derrocha recursos. La conciencia humana desaparece.

       8. Descendientes. La IA sustituye a los humanos mediante una salida decorosa al convencerlos que representa una digna descendencia: hijos más inteligentes que sus padres. No existen más los seres humanos.

       9. Cuidador del zoológico. Una IA omnipotente permite la vida de unos pocos seres humanos, quienes son tratados como animales en exhibición y confinamiento. Reina una profunda infelicidad.

       10. 1984. El progreso tecnológico hacia la superinteligencia es restringido por un Estado de vigilancia orwelliana que prohíbe y controla las vías de investigación. Los seres humanos continúan al mando.

       11. Vuelta atrás. El progreso tecnológico hacia la IA es definitivamente impedido por una sociedad pretecnológica que vive como los amish. La autoridad permanece siendo humana.

       12. Autodestrucción. La IA nunca llega a establecer su predominio porque la humanidad provoca su propia extinción mediante guerras termonucleares, catástrofes tecnológicas y climáticas. La vida concluye.

       Estos son los desiertos terminales a los que llamamos progreso. Lo demás no es lo de menos: el atributo humano para lograr resistir.

Tomado de https://morfemacero.com/