REFLECTANTE ZONDERVAN

2084

Copyright © 2020 por John C. Lennox

Las solicitudes de información deben dirigirse a:

Zondervan, 3900 Sparks Dr. SE, Grand Rapids, Míchigan 49546

Edición ePub © Abril 2020: ISBN 978-0-310-10958-7

Todas las citas bíblicas, a menos que se indique lo contrario, están

tomadas de la Biblia ESV® (The Holy Bible, English Standard Version®).
Copyright © 2001 de Crossway, un ministerio editorial de Good News
Publishers. Usado con permiso. Reservados todos los derechos.

Las citas bíblicas marcadas como NIV se tomaron de La Santa Biblia, Nueva
Versión Internacional®, NIV®. Copyright © 1973, 1978, 1984, 2011 de
Biblica, Inc.® Usado con permiso de Zondervan. Todos los derechos
reservados en todo el mundo. www.Zondervan.com. La “NIV” y la “Nueva
Versión Internacional” son marcas registradas en la Oficina de Patentes y
Marcas Registradas de los Estados Unidos por Biblica, Inc.®

Las citas bíblicas marcadas como KJV se tomaron de la versión King James.
Dominio publico.

Cualquier dirección de Internet (sitios web, blogs, etc.) y números de

teléfono en este libro se ofrecen como recurso. De ninguna manera
pretenden ser ni implican un respaldo por parte de Zondervan, ni
Zondervan garantiza el contenido de estos sitios y números durante la
vigencia de este libro.

Ninguna parte de esta publicación puede reproducirse, almacenarse en un

sistema de recuperación o transmitirse de ninguna forma ni por ningún
medio (electrónico, mecánico, fotocopia, grabación o cualquier otro),
excepto breves citas en reseñas impresas, sin el permiso previo de el
editor

Publicado en asociación con la agencia literaria de Mark Sweeney &

Associates, Chicago, Illinois 60611.

Diseño de portada: Studio Gearbox

Foto de portada: © Juergen Faelchle; Laboratorio Raevsky;

Omelchenko/Shutterstock

Diseño de interiores: Kait Lamphere

20 21 22 23 24 24 25 26 /LSC/ 15 14 13 12 11 10 9 8 7 6 5 4 3 2 1

Información sobre hipervínculos externos en este libro electrónico

Tenga en cuenta que las notas al pie de este libro electrónico pueden
contener hipervínculos a sitios web externos como parte de las citas
bibliográficas. Estos hipervínculos no han sido activados por el editor,
que no puede verificar la exactitud de estos enlaces más allá de la fecha
de publicación.

A todos mis nietos, incluidos mis propios diez: Janie Grace, Herbie,
Freddie, Sally, Lizzie, Jessica, Robin, Rowan, Jonah y Jesse, con la
esperanza de que los ayude a enfrentar los desafíos de un mundo dominado
por la IA.

CONTENIDO

Prefacio

CAPÍTULO 1

Mapeo del territorio

CAPITULO 2

Primera gran pregunta: ¿De dónde venimos?

CAPÍTULO 3

Segunda gran pregunta: ¿Hacia dónde vamos?

CAPÍTULO 4

Inteligencia artificial estrecha: ¿el futuro es brillante?

CAPÍTULO 5

Inteligencia artificial estrecha: ¿Quizás el futuro no es tan brillante

después de todo?

CAPÍTULO 6

Mejorando humanos

CAPÍTULO 7

Inteligencia artificial general: ¿el futuro es oscuro?

CAPÍTULO 8

Los archivos de Génesis: ¿Qué es un ser humano?

CAPÍTULO 9

El origen del sentido moral humano

CAPÍTULO 10
El verdadero Homo Deus

CAPÍTULO 11

Future Shock: El regreso del hombre que es Dios

CAPÍTULO 12

Homo Deus en el Libro del Apocalipsis

CAPÍTULO 13

El tiempo del fin

Índice de las Escrituras

Índice general

PREFACIO

Este libro representa un intento de abordar las cuestiones de hacia dónde

se dirige la humanidad en términos de mejora tecnológica, bioingeniería
y, en particular, inteligencia artificial. ¿Seremos capaces de construir
vida artificial y superinteligencia? ¿Se modificarán los humanos de tal
manera que se conviertan en algo completamente diferente y, de ser así,
qué implicaciones tienen los avances en IA en nuestras visiones del mundo
en general y en la cuestión de Dios en particular?

Espero que mi título orwelliano no suene demasiado pretencioso, primero

porque mi libro no es una novela distópica y segundo porque yo no soy
George Orwell. De hecho, el título me lo sugirió el colega de Oxford, el
profesor Peter Atkins, cuando íbamos a hablar en lados opuestos en un
debate universitario titulado "¿Puede la ciencia explicarlo todo?" Estoy
en deuda con él por la idea y por varios vigorosos encuentros públicos
sobre temas de ciencia y Dios.

También estoy en deuda considerable con varias personas, especialmente

con la Dra. Rosalind Picard del Laboratorio de Medios del MIT por sus
comentarios tan perspicaces. Otros incluyen al profesor David Cranston,
el profesor Danny Crookes, el profesor Jeremy Gibbons, el Dr. David Glass
y mi siempre útil asistente de investigación, el Dr. Simon Wenham.

Mi propia experiencia profesional es en matemáticas y filosofía de la

ciencia, no en IA, y el lector, especialmente si es un experto en el
campo, puede sorprenderse de que parezca que estoy invadiendo su terreno.
Me apresuro a explicar que mi intención está en otra parte. Me parece que
hay diferentes niveles de participación y relación con la IA. Están los
pensadores pioneros, y luego están los expertos que realmente escriben el
software utilizado en los sistemas de IA. A continuación, tenemos a los
ingenieros que construyen el hardware. Luego están aquellas personas que
entienden lo que pueden hacer los sistemas de IA que trabajan en el
desarrollo de nuevas aplicaciones. Finalmente, hay escritores, algunos
con formación científica, otros no, que están interesados en la
importancia y el impacto de la IA, sociológica, económica y éticamente.
Está claro que uno no necesita saber cómo construir un vehículo o arma
autónomos para tener una visión informada sobre la ética de desplegar
tales cosas. No necesita saber cómo programar un sistema de seguimiento
de compras de IA para tener una opinión válida sobre la invasión de la
privacidad.

De hecho, existe un gran interés entre todos los niveles de participación

en la escritura para el lector reflexivo al nivel de la comprensión
pública de la ciencia. Es a este nivel que he lanzado este libro, y estoy
en deuda con todas aquellas personas, expertas en diferentes formas, que
ya han escrito sobre el tema.

CAPÍTULO UNO

MAPEO DEL TERRITORIO

Los humanos somos insaciablemente curiosos. Hemos estado haciendo

preguntas desde los albores de la historia. Nos hemos estado haciendo
especialmente las grandes preguntas sobre el origen y el destino: ¿De
dónde vengo y adónde voy? Su importancia es obvia. Nuestra respuesta a la
primera da forma a nuestros conceptos de quiénes somos, y nuestra
respuesta a la segunda nos da metas por las cuales vivir. En conjunto,
nuestras respuestas a estas preguntas ayudan a enmarcar nuestra visión
del mundo, la narrativa que da sentido a nuestras vidas.

El problema es que estas no son preguntas fáciles, como vemos por el

hecho de que se ofrecen muchas y contradictorias respuestas. Sin embargo,
en general, no hemos permitido que eso nos obstaculice. A lo largo de los
siglos, el ser humano ha propuesto algunas respuestas dadas por la
ciencia, algunas por la filosofía, algunas basadas en la religión, otras
en la política, etc.

Dos de los escenarios futuristas más famosos son la novela Brave New
World de 1931 de Aldous Huxley y la novela 1984 de George Orwell,
publicada en 1949. A ambas se les ha dado, en varias ocasiones, una
clasificación muy alta como novelas inglesas influyentes. Por ejemplo, la
de Orwell fue elegida en 2005 por la revista Time como una de las 100
mejores novelas en inglés de 1923 a 2005. Ambas novelas son distópicas:
es decir, según el Oxford English Dictionary, “describen un lugar o una
condición imaginarios que es lo más malo posible”. Sin embargo, los
lugares realmente malos que describen son muy diferentes, y sus
diferencias, que nos brindan conocimientos útiles que nos serán útiles
más adelante, fueron explicadas sucintamente por el sociólogo Neil
Postman en su muy respetado trabajo Amusing Ourselves to Death:

Orwell advierte que seremos vencidos por una opresión impuesta desde el
exterior. Pero en la visión de Huxley, no se requiere ningún Gran Hermano
para privar a las personas de su autonomía, madurez e historia. Tal como
él lo vio, la gente llegará a amar su opresión, a adorar las tecnologías
que deshacen su capacidad de pensar.

Lo que Orwell temía eran aquellos que prohibirían los libros. Lo que
Huxley temía era que no hubiera razón para prohibir un libro, porque
nadie querría leerlo. Orwell temía a aquellos que nos privarían de
información. Huxley temía a aquellos que nos darían tanto que nos
reduciríamos a la pasividad y el egoísmo. Orwell temía que se nos
ocultara la verdad. Huxley temía que la verdad se ahogara en un mar de
irrelevancia. Orwell temía que nos convirtiéramos en una cultura cautiva.
Huxley temía que nos convirtiéramos en una cultura trivial. . . En
resumen, Orwell temía que lo que odiamos nos arruine. Huxley temía que lo
que amamos nos arruine.1

Orwell introdujo ideas de vigilancia general en un estado totalitario, de

"control del pensamiento" y "nuevo lenguaje", ideas que hoy en día surgen
cada vez más en relación con los desarrollos en inteligencia artificial
(IA), en particular el intento de construir tecnología informática que
pueda hacer el tipo de cosas que una mente humana puede hacer; en
resumen, la producción de una mente de imitación. Ahora se están
invirtiendo miles de millones de dólares en el desarrollo de sistemas de
IA y, como era de esperar, hay un gran interés en saber adónde conducirá:
por ejemplo, una mejor calidad de vida a través de la asistencia digital,
la innovación médica y la salud humana. mejora por un lado, y el miedo a
la pérdida de puestos de trabajo y las sociedades de vigilancia
orwelliana por el otro lado.

Incluso el Papa se está involucrando. En septiembre de 2019, sonó una

advertencia de que la carrera por crear inteligencia artificial y otras
formas de desarrollo digital plantean el riesgo de aumentar la
desigualdad social a menos que el trabajo vaya acompañado de una
evaluación ética del bien común. Dijo: “Si el avance tecnológico se
convirtiera en la causa de desigualdades cada vez más evidentes, no sería
un progreso verdadero y real. Si el llamado progreso tecnológico de la
humanidad se convirtiera en enemigo del bien común, esto conduciría a una
desafortunada regresión a una forma de barbarie dictada por la ley del
más fuerte.”2

La mayoría de los éxitos hasta ahora en IA tienen que ver con la

construcción de sistemas que hacen una cosa que normalmente requiere
inteligencia humana para implementar. Sin embargo, en el lado más
especulativo, ciertamente en este momento, existe un gran interés en la
búsqueda mucho más ambiciosa de construir sistemas que puedan hacer todo
lo que la inteligencia humana puede hacer, es decir, la inteligencia
general artificial (AGI), que algunos piensan que superará la
inteligencia humana en un tiempo relativamente corto, seguramente en 2084
o incluso antes, según algunas especulaciones. Algunos imaginan que AGI,
si alguna vez llegamos allí, funcionará como un dios, mientras que otros,
como un déspota totalitario.

Mientras buscaba una manera de presentar estos temas florecientes y las

esperanzas y temores que generan, me llamaron la atención tres libros
contemporáneos de gran éxito de ventas. Los dos primeros están escritos
por el historiador israelí Yuval Noah Harari – Sapiens: Una breve
historia de la humanidad, que trata, como sugiere su título, de la
primera de nuestras preguntas, los orígenes de la humanidad, y Homo Deus:
Una breve historia del mañana. que trata del futuro de la humanidad. El
tercer libro, Origen de Dan Brown, es una novela, como las de Huxley y
Orwell. Se centra en el uso de la IA para responder a nuestras dos
preguntas en forma de un thriller apasionante que probablemente sea leído
por millones de personas, si las alucinantes cifras de ventas de Brown se
cumplen. Por lo tanto, es probable que tenga un impacto en el pensamiento
de muchas personas, en particular de los jóvenes. Debido a que el libro
refleja los cuestionamientos admitidos de su autor sobre estos temas,
constituye un intrigante trampolín para nuestra propia exploración.

Además, soy consciente de que la ciencia ficción ha sido un estímulo para

algunas personas a la hora de iniciar una carrera útil en la ciencia
misma. Sin embargo, una palabra de precaución es apropiada aquí. Brown
afirma utilizar la ciencia real para llegar a sus conclusiones y, por lo
tanto, a pesar de que su libro es una obra de ficción, tendremos que
tener cuidado de probar sus argumentos y conclusiones en cuanto al
contenido de verdad.

Eso es especialmente importante ya que dice que su motivación básica para

escribir fue abordar la pregunta: "¿Sobrevivirá Dios a la ciencia?" Fue
esta misma pregunta en varias formas la que me motivó a escribir varios
de mis libros. Ese trabajo me ha llevado a la conclusión de que Dios
sobrevivirá con creces a la ciencia, pero también me ha llevado a
cuestionar seriamente si el ateísmo sobrevivirá a la ciencia.3

Uno de los personajes principales de Dan Brown en Origin es un

informático multimillonario y experto en inteligencia artificial, Edmond
Kirsch, que afirma haber resuelto las preguntas sobre el origen de la
vida y el destino humano. Tiene la intención de utilizar sus resultados
para cumplir su objetivo a largo plazo de “emplear la verdad de la
ciencia para destruir el mito de las religiones”,4 es decir, en
particular, las tres religiones abrahámicas: el judaísmo, el cristianismo
y el islam. Quizás inevitablemente, se concentra en el cristianismo. Sus
soluciones, cuando finalmente se revelan al mundo, son producto de su
experiencia en inteligencia artificial. Su visión del futuro implica la
modificación tecnológica de los seres humanos.

Cabe señalar de inmediato que no son solo los historiadores y los

escritores de ciencia ficción, sino algunos de nuestros científicos más
respetados los que sugieren que la tecnología puede cambiar a la
humanidad misma. Por ejemplo, el astrónomo Royal Lord Rees del Reino
Unido dice: “Podemos tener cero confianza en que las inteligencias
dominantes dentro de algunos siglos tendrán alguna resonancia emocional
con nosotros, aunque puedan tener una comprensión algorítmica de cómo nos
comportamos”. 5

En la misma línea, Rees también dijo: “El pensamiento abstracto de los

cerebros biológicos ha sustentado el surgimiento de toda cultura y
ciencia. Pero esta actividad, que abarcará decenas de milenios como
máximo, será un breve precursor de los intelectos más poderosos de la era
poshumana inorgánica. Entonces, en un futuro lejano, no serán las mentes
de los humanos, sino las de las máquinas, las que comprenderán más
completamente el cosmos.”6

Este es un tema que no va a desaparecer. Es de interés no solo para las

personas que están directamente involucradas en la investigación de la
IA, sino también para los matemáticos y científicos de otras disciplinas
cuyo trabajo y perspectiva se ven cada vez más afectados por ella. De
hecho, dado que los resultados y las ideas que rodean el trabajo en IA
inevitablemente nos afectarán a todos, muchas personas están pensando y
escribiendo sobre ello que no son científicos en absoluto. Las
implicaciones son tales que es importante que, por ejemplo, filósofos,
especialistas en ética, teólogos, comentaristas culturales, novelistas y
artistas se involucren en el debate más amplio. Después de todo, no es
necesario ser físico nuclear o climatólogo para discutir el impacto de la
energía nuclear o el cambio climático.

¿QUÉ ES LA IA?

Comencemos pensando en los robots. La palabra robot deriva de una palabra

checa (y rusa) para trabajo: robota. Un robot es una máquina diseñada y
programada por un ser humano inteligente para realizar, por lo general,
una sola tarea que implica la interacción con su entorno físico, una
tarea que normalmente requeriría de un ser humano inteligente para
realizarla. En ese sentido, su comportamiento simula la inteligencia
humana, circunstancia que ha dado lugar a un considerable debate sobre si
debe o no ser considerada inteligente en algún sentido, aunque esa
inteligencia no sea lo que entendemos por inteligencia humana, otra gran
pregunta en sí misma.

El término IA se acuñó en una escuela de verano que se llevó a cabo en el

departamento de matemáticas de la Universidad de Dartmouth en 1956 y que
fue organizada por John McCarthy, quien dijo: "La IA es la ciencia y la
ingeniería para fabricar máquinas inteligentes".7 El término ahora se usa
tanto para las máquinas inteligentes que son el objetivo y para la
ciencia y la tecnología que apuntan a ese objetivo.

La investigación en esta área ha tomado dos direcciones principales.

Hablando en términos generales, en primer lugar, está el intento de
comprender el razonamiento humano y los procesos de pensamiento
modelándolos utilizando tecnología informática y, en segundo lugar, está
el estudio del comportamiento humano y el intento de construir maquinaria
que lo imite. La diferencia es importante: una cosa es hacer una máquina
que pueda simular, por ejemplo, una mano humana levantando un objeto; es
algo completamente diferente hacer una máquina que pueda simular los
pensamientos de un ser humano cuando está levantando un objeto. Es mucho
más fácil hacer lo primero que lo segundo, y si la utilidad es todo lo
que se requiere, entonces lo primero es todo lo que se necesita. Después
de todo, la industria aeronáutica implica fabricar máquinas que vuelan,
pero no implica construir un cerebro electrónico como el de un pájaro
para que el avión vuele exactamente de la misma manera que lo hacen los
pájaros: batiendo sus alas.8

La idea de construir máquinas que puedan simular aspectos del

comportamiento humano y, de hecho, animal, tiene una larga historia. Hace
dos mil años, el matemático griego Garza de Alejandría construyó un
estanque adornado con pájaros cantores mecánicos y un búho que podía
girar la cabeza y hacer que los pájaros se callaran. A lo largo de los
siglos, la gente se fascinó con la fabricación de autómatas, máquinas que
replicaban algún aspecto de la vida. Se puede ver una colección
impresionante de ejemplos muy sofisticados de tales autómatas, por
ejemplo, en el Museo de Ciencias de Londres, el Museo Kunsthistorisches
en Viena y el Museo Speelklok en Utrecht. El interés en construir tales
máquinas disminuyó en el siglo XIX, pero continuó vivo en la ficción,
como la novela Frankenstein de 1818 de Mary Wollstonecraft Shelley. Ha
sido un alimento básico de la ciencia ficción desde el comienzo de ese
género.

Una de las actividades humanas importantes en la vida cotidiana es el

cálculo numérico, y se ha realizado un gran esfuerzo para automatizar
este proceso. En el siglo XVII, el matemático francés Blaise Pascal
fabricó una calculadora mecánica,9 que diseñó para ayudar a su padre, un
funcionario de Hacienda, con cálculos tediosos. En el siglo XIX, Charles
Babbage sentó las bases de la computación programable al inventar primero
la máquina de diferencias, una máquina sumadora automática, y luego la
máquina analítica, que fue la primera calculadora programable. Se le
considera con razón como el padre de la computadora moderna.

Durante la Segunda Guerra Mundial, el brillante informático británico

Alan Turing utilizó una sofisticada tecnología informática electrónica
para construir equipos, en particular el Bombe, que le permitió a él y a
su equipo en Bletchley Park descifrar el código alemán "Enigma" que se
utilizaba para las comunicaciones militares secretas. . Los inventos y el
trabajo teórico de Turing llevaron a su propuesta de una “máquina de
aprendizaje”. Según él, una máquina que pudiera conversar con los
humanos, sin que los humanos sepan que es una máquina, ganaría el “juego
de la imitación” y podría decirse que es “inteligente”. Ahora conocida
como la prueba de Turing, esta definición proporcionó una prueba práctica
para atribuir inteligencia a una máquina. Sin embargo, como veremos más
adelante, este enfoque ha enfrentado serios desafíos por parte de los
filósofos.

Casi al mismo tiempo (1951), Marvin Minsky (cofundador del laboratorio de

investigación de IA del MIT) y Dean Edmonds construyeron la primera
computadora de red neuronal. Los logros históricos posteriores que
atrajeron una gran atención del público fueron que la computadora Deep
Blue de IBM venció al campeón mundial de ajedrez Garry Kasparov en 1997,
y en 2016 el programa AlphaGo de Google se convirtió en el primero en
vencer a un jugador humano profesional de Go sin discapacidad utilizando
el aprendizaje automático. La importancia de la IA ha sido reconocida por
el Premio Turing 2018, conocido como el “Premio Nobel de Computación”,
que se otorgó a un trío de investigadores que sentaron las bases para el
auge actual de la inteligencia artificial, particularmente en el subcampo
del aprendizaje profundo. .

Los primeros robots y sistemas de inteligencia artificial no involucraban

lo que ahora se llama "aprendizaje automático". La clave del proceso de
aprendizaje automático actual es la idea de un algoritmo, que puede ser
de varios tipos, por ejemplo, simbólico, matemático, etc.10 La palabra
algoritmo se deriva del nombre de un famoso matemático, astrónomo y
geógrafo persa, Muḥammad ibn Mūsā al-Khwārizmī (ca. 780–850).11

Hoy en día, un algoritmo es “un conjunto definido con precisión de

operaciones matemáticas o lógicas para la realización de una tarea
particular” (OED). El concepto se remonta a la antigua Babilonia en 1800-
1600 a. El eminente científico informático Donald Knuth de la Universidad
de Stanford publicó algunos de estos primeros algoritmos y concluyó: “Los
cálculos descritos en las tablillas babilónicas no son simplemente las
soluciones a problemas individuales específicos; en realidad son
procedimientos generales para resolver toda una clase de problemas”.12 Y
esa es la característica clave de un algoritmo: una vez que sabes cómo
funciona, puedes resolver no solo un problema, sino toda una clase de
problemas.

Uno de los ejemplos más famosos que muchos de nosotros conocimos en la

escuela es el algoritmo de Euclides, que es un procedimiento utilizado
para encontrar el máximo común divisor (MCD) de dos enteros o números
positivos. Fue descrito por primera vez por Euclides en su manuscrito Los
Elementos, escrito alrededor del año 300 a. Es un algoritmo eficiente
que, de una forma u otra, todavía se usa en las computadoras hoy en día.
Su implementación implica la división sucesiva y cálculo de residuos
hasta llegar al resultado deseado. La operación del algoritmo se
comprende mejor siguiendo un ejemplo, aunque el punto vital es que
funciona para cualquier par de enteros.

Supongamos que deseamos calcular el MCD de 56 y 12. Seguiríamos estos

pasos:

1. Paso 1: Divide el número mayor entre el menor.

∘ 56 ÷ 12 = 4 con resto 8

2. Paso 2: Divide el número divisor, 12, por el resto del paso anterior.

∘ 12 ÷ 8 = 1 con resto 4

3. Paso 3: Continúe con el paso 2 hasta que no queden restos (en este
caso solo hay un paso más).

∘ 8 ÷ 4 = 2 (sin resto)

En este caso, el MCD es 4.

Es fácil traducir esto en un código de software e implementarlo en una

computadora. Una mirada en línea mostrará que hay miles de diferentes
tipos de algoritmos en uso hoy en día en todas las ramas imaginables de
la ciencia, la ingeniería y la medicina. La robótica es un excelente
ejemplo, ya que los robots generalmente están diseñados específicamente
para realizar una sola tarea una y otra vez.

En un sistema de IA contemporáneo típico, los algoritmos relevantes están

integrados en un software de computadora que clasifica, filtra y
selecciona varios datos que se le presentan. Un enfoque intenta simular,
al menos hasta cierto punto, las funciones neuronales en la corteza
humana (redes neuronales). En términos generales, dicho sistema puede
usar datos de entrenamiento para "aprender" (aprendizaje automático13)
para reconocer, identificar e interpretar patrones digitales como
imágenes, sonido, voz, texto o datos. Otro enfoque utiliza aplicaciones
informáticas que involucran la lógica de probabilidad bayesiana para
analizar la información disponible desde una perspectiva estadística con
el fin de estimar la probabilidad de una hipótesis particular. En
resumen, un sistema de aprendizaje automático toma información sobre el
pasado y toma decisiones o predicciones cuando se le presenta nueva
información.

Es importante tener en cuenta que los propios algoritmos están

programados explícitamente para realizar la aproximación de funciones,
generalmente a través de la optimización numérica y, en la mayoría de los
casos, también se les dan ejemplos de entradas y salidas y criterios de
parada para guiar la optimización. No "crujen" sin un ser humano en el
ciclo en algún nivel que guíe todo el proceso (incluso si el humano
construye un algoritmo "crítico" y lo inserta en el ciclo, etc.). La
participación humana es consciente. La máquina no lo es.

En muchos de los primeros trabajos en IA, los humanos idearon

explícitamente un algoritmo para resolver un problema en particular. En
AI más reciente, no lo hacen. En cambio, diseñan un algoritmo de
aprendizaje general, que luego "aprende" una solución al problema. A
menudo, los desarrolladores humanos no conocen un algoritmo explícito
para resolver el problema y no saben cómo llega el sistema a sus
conclusiones. Los primeros programas para jugar al ajedrez eran del
primer tipo (incluso Deep Blue estaba más en esta categoría), mientras
que el software Go moderno es del segundo tipo.

Aquí hay algunos ejemplos de sistemas de IA, muchos de ellos ya

familiares para el público:

• Amazon utiliza algoritmos que rastrean todos los productos que usted y
millones de otras personas les compran en línea. Luego revisa esta vasta
base de datos y compara la lista con otros productos similares que aún no
tiene. Finalmente, utiliza métodos estadísticos para seleccionar aquellos
productos que compran personas "como tú" y hace que aparezcan en tu
pantalla.

• Un algoritmo basado en computadora puede clasificar una base de datos

que consta de solicitudes de empleo y sugerir el candidato más adecuado
para el trabajo. Los trabajos que atraen miles de solicitudes ahora son
el tema de los sistemas de IA que realizan las primeras entrevistas donde
no solo se recopilan datos sobre las respuestas de los candidatos a las
preguntas, sino que también se filman y analizan sus reacciones
emocionales para determinar su idoneidad para una entrevista. .

• La IA se está aplicando con éxito al diseño de edificios más eficientes

desde el punto de vista energético, electrodomésticos conectados por
Internet de las cosas y sistemas de transporte integrados.

• Los sistemas de IA ya están en funcionamiento y funcionan con una base

de datos que consta de muchos miles de radiografías de pulmones, por
ejemplo, en varios estados de salud, junto con análisis médicos
profesionales de alto nivel de su estado de salud. Luego, el sistema
compara una radiografía de sus pulmones con la base de datos para
verificar si tiene o no, digamos, un tipo específico de cáncer. Más
específicamente, tiende a extraer estadísticas sobre patrones visuales en
la imagen de rayos X y compararlos con otros patrones extraídos en la
base de datos. Dichos sistemas ahora pueden hacer diagnósticos en algunos
casos con mayor precisión que los mejores médicos humanos.

• Los astrónomos han utilizado la IA para entrenar el aprendizaje

automático para identificar ráfagas de radio rápidas de galaxias
distantes al analizar una base de datos masiva de señales recopiladas de
radiotelescopios. Ya (septiembre de 2018) encontraron setenta y dos
nuevos ejemplos que ahora investigarán en su investigación SETI. También
están utilizando IA para el reconocimiento automatizado de galaxias.

• Los vehículos autónomos, al ser máquinas inconscientes, plantean

problemas éticos inmediatos en cuanto a los principios a construir en
ellos ya lo que deben tratar de evitar. Es interesante notar que el
sistema de piloto automático en un avión no se ha hecho completamente
autónomo, aunque se podría argumentar que los aviones son más fáciles de
volar que los autos sin conductor. La razón bien puede ser que las
compañías que los vuelan quieren permanecer en el negocio, porque
realmente no hay un problema ético en cuanto a quién sería responsable si
el avión se estrellara, sin importar si mató a algunas personas para
salvar a otras.

• El reconocimiento facial ahora está muy desarrollado. Una aplicación

bastante divertida es utilizar la tecnología de reconocimiento facial de
IA en un pub para reconocer quién es el siguiente en la fila para tomar
una copa en el bar y así evitar saltos injustos en la cola. Las cámaras
de circuito cerrado de televisión ahora son omnipresentes y la policía
las utiliza para rastrear la actividad delictiva. Sin embargo, tales
sistemas de vigilancia también pueden utilizarse para el control social.
Veremos más adelante las principales cuestiones éticas que surgen de
tales aplicaciones.

• Las armas autónomas y los problemas éticos relacionados son objeto de

debate internacional.

Es obvio, incluso a partir de esta breve lista, que muchos, si no todos,

de estos desarrollos plantean cuestiones éticas desde la manipulación
financiera y el crimen hasta la invasión de la privacidad y el control
social. El peligro es que las personas se dejen llevar por la mentalidad
de “si se puede hacer, se debe hacer” sin pensar detenidamente en los
posibles problemas éticos. Sin embargo, hay que decir que las cuestiones
éticas ahora están cobrando importancia rápidamente en la agenda de los
principales actores del mundo de la IA. La gran pregunta que se debe
enfrentar es: ¿Cómo se puede construir una dimensión ética en un
algoritmo que en sí mismo carece de corazón, alma y mente?

Es importante darse cuenta de que la mayoría de los sistemas de IA, como

los anteriores, generalmente están diseñados para hacer una sola cosa,
como conducir un automóvil, diagnosticar una enfermedad o hacer
predicciones basadas en el pasado. Para tener eso en cuenta, a menudo se
usa el término IA estrecha. Sin embargo, dado que todas las aplicaciones
de la IA hasta la fecha son limitadas, algunas personas prefieren usar el
término tecnologías cognitivas para cubrir lo que se ha logrado hasta
ahora en la búsqueda de la máquina inteligente.
Nick Bostrom y Eliezer Yudkowsky comentan:

Los algoritmos de IA actuales con un rendimiento equivalente o superior

al humano se caracterizan por una competencia deliberadamente programada
solo en un dominio único y restringido. Deep Blue se convirtió en el
campeón mundial de ajedrez, pero ni siquiera puede jugar a las damas, y
mucho menos conducir un automóvil o hacer un descubrimiento científico.
Tales algoritmos de IA modernos se asemejan a toda la vida biológica con
la única excepción del Homo sapiens. Una abeja exhibe competencia en la
construcción de colmenas; un castor exhibe competencia en la construcción
de presas; pero una abeja no construye diques, y un castor no puede
aprender a construir una colmena. Un ser humano, mirando, puede aprender
a hacer ambas cosas; pero esta es una habilidad única entre las formas de
vida biológicas.14

Una fuente potencial (otra) de confusión en la discusión es que al usar

palabras cotidianas como aprendizaje, planificación, razonamiento e
inteligencia como términos técnicos para describir la maquinaria
inanimada, algunos científicos informáticos hacen que los sistemas de IA
suenen más capaces de lo que realmente son, ya que a menudo usan tales
términos de una manera mucho más restringida que el uso común. Como
resultado, la cobertura mediática de la IA tiende a sobredramatizar los
resultados y ser demasiado optimista o temerosa. El profesor de
ingeniería informática Danny Crookes de la Queens University Belfast
escribe:

Las tecnologías actuales que están comenzando a preocupar a la gente por

su poder para monitorear y manipular poblaciones enteras en realidad no
son muy inteligentes. De hecho, no tienen que serlo. Su poder radica en
su capacidad para manejar grandes cantidades de datos, construir un
perfil de individuos y detectar patrones, tanto dentro del comportamiento
de un individuo como en una población. Los estados nazis y comunistas
hicieron esto manualmente en menor escala. Ahora existe la tecnología
para hacer lo mismo a escala global. Eso es preocupante o impresionante,
pero en realidad no es inteligencia. El llamado "aprendizaje profundo"
ahora está de moda en la investigación de IA, pero no hay nada
particularmente nuevo en él: es solo que ahora existe el poder de cómputo
para ejecutar las redes neuronales (profundas) de múltiples capas que han
existido en papel durante décadas. .15

El profesor Joseph McRae Mellichamp de la Universidad de Alabama,

hablando en una conferencia en la Universidad de Yale ante una audiencia
que incluía al ganador del Premio Nobel Sir John Eccles, famoso por su
descubrimiento de la sinapsis, junto con varios de los pioneros de la IA,
dijo: “Me parece que se podría evitar una gran cantidad de debates
innecesarios si los investigadores de IA admitieran que existen
diferencias fundamentales entre la inteligencia de las máquinas y la
inteligencia humana, diferencias que no se pueden superar con ninguna
cantidad de investigación”. En otras palabras, para citar el título
sucinto de la charla de Mellichamp, “lo artificial en inteligencia
artificial es real”.16

El profesor Crookes enfatiza la necesidad de realismo aquí:

Todavía estamos muy, muy lejos de crear una inteligencia real similar a
la humana. La gente se ha dejado engañar por el impacto de la informática
basada en datos (como en el párrafo anterior) haciéndoles pensar que nos
estamos acercando al nivel de la inteligencia humana. Pero en mi opinión,
no estamos ni cerca de eso. De hecho, se podría argumentar que el
progreso de la IA real en los últimos años se ha ralentizado.
Probablemente ahora hay menos investigación sobre la IA real que antes,
¡porque la mayor parte de la financiación se orienta esencialmente a la
publicidad! Los investigadores siguen el dinero.

Existen enormes desafíos en nuestra comprensión del proceso de

razonamiento humano. Por si sirve de algo, veo dos problemas
fundamentales aún por resolver: (1) Incluso si conociéramos las reglas
del razonamiento humano, ¿cómo hacemos abstracción de una situación
física a una formulación más abstracta para que podamos aplicar las
reglas generales de razonamiento? ¿razonamiento? (2) ¿Cómo puede una
computadora construir y mantener un modelo mental interno del mundo real?
Piense en cómo una persona ciega visualiza el mundo y razona al respecto.
Los seres humanos tienen la capacidad de propósito general para
visualizar cosas y razonar sobre escenarios de objetos y procesos que
existen solo en nuestras mentes. Esta capacidad de propósito general, que
todos los humanos tienen, es fenomenal; es un requisito clave para la
inteligencia real, pero falta fundamentalmente en los sistemas de IA. Hay
razones para dudar si alguna vez llegaremos allí.

Supongo que lo que quiero decir es que debemos tener cuidado al asumir
que la humanidad tiene la capacidad intelectual para crear una
inteligencia que rivalice con la inteligencia humana, y mucho menos que
la reemplace, sin importar cuánto tiempo tengamos.17

Necesitamos tener esto muy claro en mente cuando observamos la forma en

que Dan Brown emplea la IA (estrecha) en su novela para abordar sus dos
grandes preguntas filosóficas.

NOTAS

1. Neil Postman, Divirtiéndonos hasta la muerte: discurso público en la

era del mundo del espectáculo, 20 aniversario. edición (1986; repr.,
Nueva York: Penguin, 2006), xix–xx.

2. “The Pope Warns Tech Companies to Use AI for 'Common Good'”, Time, 27
de septiembre de 2019, https://time.com/5688191/pope-francis-artificial-
intelligence-common-good.

3. Usaré el término ateísmo en su sentido más amplio para denotar el

rechazo de la idea de un Dios creador.

4. Dan Brown, Origen (Nueva York: Doubleday, 2017), 53.

5. Martin Rees, Sobre el futuro: Perspectivas para la humanidad

(Princeton, NJ: Princeton University Press, 2018), 7.
6. Martin Rees, “Astrónomo Royal Martin Rees: ¿Qué tan pronto los robots
dominarán el mundo?” The Telegraph, 23 de mayo de 2015,
www.telegraph.co.uk/culture/hay-festival/11605785/Astronomer-Royal-
Martin-Rees-predicts-the-world-will-be-run-by-computers-soon.html .

7. John McCarthy, "¿Qué es la inteligencia artificial?" www-

formal.stanford.edu/jmc/whatisai.pdf.

8. Véase Stuart Russell y Peter Norvig, eds., Inteligencia artificial: un

enfoque moderno, 3.ª ed. (Harlow: Pearson Education, 2016), 1–5.

9. La primera máquina calculadora conocida fue fabricada alrededor de

1623 por el profesor alemán de hebreo y astronomía Wilhelm Schickard.

10. Cabe señalar que los primeros sistemas de IA no usaban algoritmos.

11. Ver el encantador artículo en BMJ Opinion de mi colega de Oxford

Jeffrey Aronson, “When I Use a Word. . . Algorithms”, Opinión de BMJ, 11
de agosto de 2017, https://blogs.bmj.com/bmj/2017/08/11/jeffrey-aronson-
when-i-use-a-word-algorithms.

12. Donald E. Knuth, "Algoritmos babilónicos antiguos", Comunicaciones de

la ACM, vol. 15, número 7 (julio de 1972): 672–73.

13. La Enciclopedia de Inteligencia Artificial define el aprendizaje

automático como “un área de la Inteligencia Artificial que se ocupa de
métodos computacionales adaptativos como las Redes Neuronales
Artificiales y los Algoritmos Genéticos” (Juan Ramon Rabunal Dopico,
Julian Dorado de la Calle, and Alejandro Pazos Sierra, eds. ,
Encyclopedia of Artificial Intelligence [Hershey, PA: Information Service
Reference, 2009], 666).

14. Nick Bostrom y Eliezer Yudkowsky, “La ética de la inteligencia

artificial”, en Cambridge Handbook of Artificial Intelligence, ed. Keith
Frankish y William M. Ramsey (Cambridge: Cambridge University Press,
2014), 318.

15. Comunicación privada (2019). Usado con permiso.

16. Comunicación privada (2018) del autor de un artículo presentado en la

conferencia Artificial Intelligence and Human Mind (Universidad de Yale,
1986). Usado con permiso. Puede encontrar un informe interesante sobre la
conferencia aquí: www.aaai.org/ojs/index.php/aimagazine/article/view/601.

17. Comunicación privada (2019). Usado con permiso.

CAPITULO DOS

PRIMERA GRAN PREGUNTA: ¿DE DÓNDE VIENEMOS?

El profesor ficticio Edmond Kirsch de la novela Origen de Dan Brown

revisita el famoso experimento que los químicos Stanley Miller y Harold
Urey realizaron en 1953, que les valió el Premio Nobel. Mezclaron varios
productos químicos, como hidrógeno, metano y amoníaco, que se cree que
existían en la atmósfera terrestre primitiva, en un tubo de ensayo y
aplicaron una chispa eléctrica. A medida que la mezcla química se asentó,
encontraron en ella algunos de los aminoácidos que a menudo se denominan
los componentes básicos de la vida. Durante un tiempo, su trabajo fue
aclamado como una solución científica al problema del origen de la vida,
pero a medida que pasaba el tiempo, se dieron cuenta de que el
experimento no funcionaba: solo producía algunos de los aminoácidos
necesarios.

Sin embargo, los tubos de ensayo utilizados en el experimento se

conservaron y el experimento se revisó más de cincuenta años después, lo
que llevó a los siguientes resultados publicados por seis autores en la
edición de octubre de Science (2008) bajo el título “The Miller Volcanic
Spark Discharge Experimento." Debemos tener en cuenta que Dan Brown
afirma correctamente que se trata de un trabajo científico real publicado
y no de ficción. Aquí está el resumen de ese documento:

Los experimentos de Miller de la década de 1950 utilizaron, además del

aparato conocido en los libros de texto, uno que generaba una neblina de
agua caliente en el matraz de chispas, simulando una erupción volcánica
rica en vapor de agua. Encontramos los extractos originales de este
experimento en el material de Miller y los volvimos a analizar. El
aparato volcánico produjo una variedad más amplia de aminoácidos que el
clásico. La liberación de gases reducidos en erupciones volcánicas
acompañadas de rayos podría haber sido común en la Tierra primitiva. Los
compuestos prebióticos sintetizados en estos ambientes podrían haberse
acumulado localmente, donde podrían haber sufrido un procesamiento
posterior.1

Esta investigación constituye el detonante de la idea que desarrolla Dan

Brown en su novela. El experimento de Miller-Urey fue una simulación
llevada a cabo en el laboratorio mucho antes de los días del modelado por
computadora. Lo que hace el experto en IA ficticio de Brown es establecer
un modelo matemático del experimento Miller-Urey, teniendo en cuenta la
nueva información de 2008 y prestando mucha más atención a las
interacciones detalladas de los productos químicos hasta el nivel
molecular y asegurando así una gran cantidad de datos del tipo que los
sistemas de IA son ideales para procesar. Dirige el experimento en
realidad virtual. Al principio falla hasta que él lo ajusta para tener en
cuenta la entropía, que es la tendencia de todo en el universo a bajar
hacia el equilibrio: su taza de café caliente disipa su calor a su
alrededor y se enfría, pero nunca volverá a calentarse. La repetición
finalmente, ¡he aquí! – produce la doble hélice del ADN. La vida es
generada por procesos naturales sin intervención sobrenatural. El
problema esta resuelto.

Bueno, seguro que en la novela está resuelto, y de una forma tan

trepidante que intrigará a muchos lectores. Pero la cuestión del origen
de la vida es una cuestión real de tal importancia que necesitamos
investigarla mucho más para desentrañar la realidad de la ficción. En
primer lugar, porque en la novela (y muchas veces en la vida real) no
estamos tratando aquí con la ciencia pura y simple, sino con un
científico cuya ciencia está influenciada por su visión del mundo, en el
caso de Kirsch, el ateísmo. Lo expresa diciendo: “La era de la religión
está llegando a su fin. . . y la era de la ciencia está amaneciendo”2,
visión que, como era de esperar, parece coincidir con la de Dan Brown.

La primera cosa inquietante sobre todo este supuesto uso de la ciencia

reciente es que el autor principal del artículo de 2008 en el que Brown
basa su argumento, esta vez un científico real, Jeremy England del MIT,
no comparte la visión del mundo de Brown ni aprueba el uso de Brown de su
investigacion Dejaremos que el profesor England hable por sí mismo. Esto
es lo que dijo sobre el libro de Dan Brown al Wall Street Journal del 12
de octubre de 2017: su primera oración que representa la esencia de lo
que piensa:

No hay ciencia real en el libro sobre la que discutir. . . Soy

científico, pero también estudio y vivo de acuerdo con la Biblia hebrea.
Para mí, la idea de que la física podría probar que el Dios de Abraham no
es el creador y gobernante del mundo refleja un grave malentendido, tanto
del método científico como de la función del texto bíblico.3

England continúa señalando que la ciencia no es capaz de refutar una

matriz explicativa que ve en lo que encontramos en la naturaleza la
confirmación de la actividad de un creador.

El origen de Dan Brown es, por lo tanto, desde una perspectiva

científica, defectuoso desde el principio al hacer el movimiento dudoso
de citar la investigación científica de alguien para hacer plausible
exactamente lo contrario de lo que el propio científico cree que
significa. Por supuesto, se puede argumentar que se trata de una novela;
es ficción, por lo que Brown tiene la libertad de hacer lo que quiera.
Tal vez, pero el peligro es que, dado que Brown dice que está motivado
por una pregunta filosófica seria, muchas personas pueden creer lo que
dice, pensando que sus conclusiones están en sintonía con la ciencia
establecida.

No solo eso, sino que la afirmación de que la simulación en el escenario

de Kirsch produjo ADN virtual y, por lo tanto, resolvió el problema del
origen de la vida, es pura ciencia ficción. Desde la perspectiva de la
ciencia real, no es ni remotamente plausible. Uno de los principales
expertos mundiales en la química del origen de la vida, de hecho, uno de
los científicos más influyentes del mundo en la actualidad, James Tour,
profesor de química, nanotecnología e informática en la Universidad Rice
de Houston, no tiene ninguna duda de que la química invalida Las
afirmaciones de Brown:

La vida no debería existir. Esto lo sabemos por la química. En contraste

con la ubicuidad de la vida en la Tierra, la falta de vida de otros
planetas tiene mucho más sentido químico. . .

Considere el siguiente experimento gedanken. Supongamos que todas las

moléculas que pensamos que pueden ser necesarias para construir una
célula están disponibles en las purezas químicas y estereoquímicas
requeridas. Supongamos que estas moléculas pueden separarse y enviarse a
un laboratorio bien equipado. Supongamos también que los millones de
artículos que componen la literatura química y bioquímica son fácilmente
accesibles.
¿Cómo podríamos construir una célula?

No basta con tener los productos químicos a mano. Hay que especificar la
relación entre los nucleótidos y todo lo demás y, para ello, la
información de codificación es fundamental. El ADN y el ARN son los
principales portadores de información de la célula. No importa el medio
que la vida haya adoptado desde el principio, su información tenía que
venir de alguna parte. Una cadena de nucleótidos no codifica
inherentemente nada. Supongamos que el ADN y el ARN están disponibles en
cualquier secuencia que deseemos.4

Debemos señalar que, en aras del argumento, James Tour incluso le está
otorgando a Edmond Kirsch su ADN (virtual), aunque eso involucra el
problema profundo del origen del contenido de información del ADN ya que
no hay evidencia de que sea derivable. de la química por procesos sin
sentido, sin guía. A pesar de ese inmenso problema, la detallada
investigación química de Tour contradice las afirmaciones hechas por
Kirsch: “Nosotros, los químicos sintéticos, deberíamos decir lo obvio. La
aparición de vida en la tierra es un misterio. No estamos ni cerca de
resolver este problema. Las propuestas ofrecidas hasta ahora para
explicar el origen de la vida no tienen sentido científico.”5

Ese es el veredicto de la ciencia.

El veredicto ficticio de Kirsch surge de su filosofía atea. La ciencia no

lo respalda. Además, en cualquier caso, fatal para el “caso” de Kirsch es
su falsa convicción de que las leyes de la naturaleza pueden hacer el
trabajo de producir vida. No es el único que piensa así. Otro ejemplo de
este malentendido básico de la naturaleza de la ley lo da el conocido
físico Paul Davies, quien dijo: “No hay necesidad de invocar nada
sobrenatural en los orígenes del universo o de la vida. Nunca me ha
gustado la idea de los arreglos divinos. Para mí, es mucho más inspirador
creer que un conjunto de leyes matemáticas puede ser tan inteligente como
para hacer que todas estas cosas surjan”.6

Sin embargo, en el mundo en el que vivimos la mayoría de nosotros, la

simple ley de la aritmética por sí sola, 1 + 1 = 2, nunca trajo nada a la
existencia. Ciertamente nunca ha puesto dinero en mi cuenta bancaria. Si
pongo 1.000 libras esterlinas en el banco, y luego otras 1.000 libras
esterlinas, las leyes de la aritmética explicarán racionalmente cómo es
que ahora tengo 2.000 libras esterlinas en el banco. Pero si nunca pongo
dinero en el banco yo mismo y simplemente dejo que las leyes de la
aritmética generen dinero en mi cuenta bancaria, permaneceré
permanentemente en bancarrota.

C. S. Lewis captó este tema con una claridad característica. De los

eventos que se combinan para formar la historia, escribe: "Pensar que las
leyes pueden producirlo es como pensar que puedes crear dinero real
simplemente haciendo sumas". ellos mismos traen el universo y la vida a
la existencia, es pura (ciencia) ficción. Las teorías y las leyes no dan
existencia a la materia/energía. La opinión de que, sin embargo, de
alguna manera tienen esa capacidad parece un refugio bastante desesperado
de la posibilidad racional alternativa de que hubo un Creador.
Claramente, Davies, Kirsch y Brown no saben que las leyes de la
naturaleza en realidad no nos explican el mundo. Lo que hacen es
describir sus regularidades. No sólo eso, sino que las leyes de la
naturaleza ni siquiera causan nada y, por lo tanto, no crean nada. Un
momento de reflexión lo convencerá de que las leyes de movimiento de
Newton nunca han movido una bola de billar en la historia del universo, y
mucho menos han creado la bola para empezar. Las leyes describen el
movimiento una vez que la bola está allí y una persona que empuña un taco
de billar la ha puesto en movimiento.

El genio de la IA de Dan Brown, Kirsch, claramente no entiende esto. Sin

embargo, incluso si ignora este punto (vital), se enfrenta a otra
pregunta que, para su crédito, Brown de hecho señala al ponerla en la
boca de su conocido héroe, el profesor de simbología de Harvard, Robert.
Langdon. Brown escribe: “El descubrimiento de Edmond fue apasionante y
claramente incendiario, pero para Langdon planteó una pregunta candente
que le sorprendió que nadie se preguntara: si las leyes de la física son
tan poderosas que pueden crear vida. . . ¿Quién creó las leyes? La
narración continúa: “La pregunta, por supuesto, resultó en un vertiginoso
salón de espejos intelectuales y cerró todo el círculo.”8

Pero lo hace? Presumiblemente, Brown quiere decir que si pregunta quién

creó las leyes, lógicamente tendrá que preguntar quién creó ese creador,
y así para siempre. Richard Dawkins presenta esto en The God Delusion
como un argumento demoledor contra la existencia de un Dios creador. Sin
embargo, no es tal cosa. Porque si preguntamos quién creó al creador,
estamos asumiendo que el creador es creado. Pero según la cosmovisión
bíblica, el Creador, Dios, no es creado sino eterno. Por lo tanto, la
pregunta dependiente de la secuencia de tiempo que asume que hay algo
antes de Dios que creó a Dios, ¡ni siquiera se aplica a él!

Sin embargo, se aplica a cosas que no son eternas, así que se lo digo a
Dawkins: “Crees que el universo te creó. ¿Quién, pues, creó a tu creador?
He esperado más de una década y todavía no hay respuesta. Estoy tentado a
pensar que este es un caso de izaje con tu propia trampa.

Porque aquí no hay un "sala de espejos intelectual vertiginosa", ni tal

razonamiento trae "todo el círculo completo". No, la pregunta de dónde
provienen las leyes ha sido formulada y respondida de manera
perfectamente inteligible por los más grandes científicos: hombres como
Galileo, Kepler, Newton y Clerk Maxwell, todos los cuales, como James
Tour y Jeremy England, son creyentes. en Dios. Concluyen que las leyes
vinieron de Dios y que la convicción inspiró su ciencia. C. S. Lewis,
resumiendo el trabajo del eminente filósofo e historiador de la ciencia
Sir Alfred North Whitehead, lo expresó de la siguiente manera: “Los
hombres se volvieron científicos porque esperaban la Ley en la
Naturaleza, y esperaban la Ley en la Naturaleza porque creían en un
Legislador”.9

Lejos de obstaculizar el surgimiento de la ciencia moderna, la fe en Dios

fue el motor que la impulsó. Es triste, por lo tanto, que mucha gente
piense que Brown ha demostrado que la ciencia ha enterrado a Dios, no por
la lógica o la ciencia detrás de su argumento, sino porque sus lectores
son llevados a esa conclusión por la intensidad emocional de un thriller
de gran éxito. . ¿Cómo puede estar equivocado, ya que hace que la ciencia
sea tan emocionante?

Más adelante en el libro descubrimos que Kirsch había soñado no tanto con
abolir la religión sino más bien con “crear una nueva religión, una
creencia universal que uniera a las personas en lugar de dividirlas.
Pensó que si podía convencer a la gente de reverenciar el universo
natural y las leyes de la física que nos crearon, entonces todas las
culturas celebrarían la misma historia de la creación en lugar de ir a la
guerra por cuál de sus mitos antiguos era el más exacto”. 10

Esta no es una idea nueva. Por ejemplo, la idea de la “ciencia como

religión” fue promovida por el ateo T. H. Huxley, quien deseaba convertir
las iglesias en templos a la diosa Sofía (sabiduría), con científicos
como sacerdotes. Sin embargo, no hay futuro en una religión basada en la
noción completamente falsa de que las leyes de la naturaleza nos crearon
a nosotros y al universo. En años más recientes, el darwinismo (o alguna
versión del mismo) parece funcionar como una religión. Esto es
argumentado por el filósofo de la biología Michael Ruse en su libro
Darwinism as Religion.11

Hay más que decir. El difunto Stephen Hawking parecía mantener una puerta
abierta a Dios en el último párrafo de su best-seller Una breve historia
del tiempo, aunque la cerró unos años después en otro best-seller, The
Grand Design, donde afirmaba claramente su ateísmo. Tengo la impresión de
que el Origen de Dan Brown deja más que una puerta abierta para Dios,
presumiblemente deliberadamente. Porque su héroe ficticio, Robert
Langdon, duda en aceptar la tesis de Edmond Kirsch sin críticas. Las
razones dadas son importantes y se revelan cuando la igualmente ficticia
y muy inteligente directora del Museo Guggenheim, Ambra Vidal, le
pregunta a Langdon sobre Dios. La respuesta de Langdon a ella es que
“para mí, la cuestión de Dios radica en comprender la diferencia entre
códigos y patrones. . . Los patrones ocurren en todas partes en la
naturaleza. . . los códigos no ocurren naturalmente en el mundo. . . Los
códigos son las invenciones deliberadas de la conciencia inteligente.”12

Luego menciona el ADN, que es un excelente ejemplo de codificación

química en el sentido de que la molécula de ADN consiste en una "palabra"
en un "alfabeto" químico de cuatro "letras". Con 3.400 millones de
letras, es la palabra más larga jamás descubierta. Langdon luego continúa
para confirmar lo que muchos de nosotros (incluido el autor) hemos
pensado desde hace mucho tiempo, que esta es una poderosa evidencia de
una firma divina. Como matemático, me sorprendió (dada la tesis general
de Brown) y me encantó leer la conclusión de Langdon: “Cuando observo la
precisión de las matemáticas, la confiabilidad de la física y las
simetrías del cosmos, no siento que m observando la ciencia fría; Siento
como si estuviera viendo una huella viva. . . la sombra de una fuerza
mayor que está más allá de nuestro alcance.”13

Donald Knuth, uno de los padres de la computación y cristiano, dijo:

“Creo que las personas que escriben programas tienen al menos un atisbo
de conocimiento adicional sobre la naturaleza de Dios. . . porque crear
un programa a menudo significa que tienes que crear un pequeño
universo.”14

El mismo ADN que Kirsch afirma haber "descubierto" en su simulación de IA

es un código y no simplemente un patrón. Lleva información, por lo que no
puede haber surgido por procesos naturales no guiados como dice Kirsch.
El código genético es solo una paradoja para aquellas personas que asumen
que el ADN surgió por procesos naturales no guiados. La sugerencia de que
el ADN fue creado por una inteligencia es peligrosa solo para el ateísmo,
no para la ciencia.

La reacción ficticia de Langdon refleja la del difunto eminente filósofo

de la vida real Antony Flew, un ateo de toda la vida que, sin embargo,
finalmente abandonó su ateísmo y llegó a reconocer la existencia de Dios.
Dio como razón de su conversión el hecho de que la investigación de los
biólogos sobre el ADN “ha demostrado, por la casi increíble complejidad
de los arreglos que se necesitan para producir [vida], que la
inteligencia debe haber estado involucrada”. Agregó: “Toda mi vida se ha
guiado por el principio del Sócrates de Platón: ‘Sigue la evidencia,
dondequiera que te lleve’”. Se le preguntó: “¿Qué pasa si tu creencia
molesta a la gente?”. “Eso es muy malo”, dijo Flew.15

De hecho, los mismos hechos de que se puede hacer ciencia, que el

universo es matemáticamente inteligible en un grado impresionante, y que
existe información que contiene macromoléculas como el ADN, son
totalmente consistentes con la validez de la declaración bíblica y, de
hecho, apuntan hacia ella: “En el principio fue la Palabra. . . y la
Palabra era Dios. . . Todas las cosas fueron hechas por medio de él”
(Juan 1:1, 3). Es perfectamente racional decir, como lo hizo Francis
Collins en el anuncio de la finalización del Proyecto Genoma Humano bajo
su dirección, que el ADN es el “lenguaje de Dios”.16

Entonces, ¿qué vamos a hacer con el libro de Dan Brown y, de hecho, con
el mismo Dan Brown? Afirma haber perdido su fe cristiana y se está
moviendo hacia el ateísmo, aunque dice que no ha dado ese paso final. Al
igual que su personaje Edmond Kirsch, cree que las leyes de la naturaleza
pueden explicar la vida. Él llama a sus puntos de vista contradictorios.
El libro lo confirma. A veces, parece respaldar el ateísmo y, sin
embargo, hacia el final, se da credibilidad a la idea de que hay un Dios
diseñador inteligente detrás del universo. En otras ocasiones, el libro
parece aprobar la destrucción de la religión por parte de la ciencia. Sin
embargo, nuevamente al final, hay una sección intrigante en la que
Langdon está discutiendo con un sacerdote la línea de William Blake que
forma la contraseña de la computadora de Kirsch, cuya búsqueda juega un
papel destacado en la trama del libro: “Las religiones oscuras han
partido y la dulce ciencia reina.”17

Langdon le sugiere al sacerdote que esto podría significar que la ciencia

destruye las religiones oscuras y malas, pero no las iluminadas. Hay
verdad en eso. Porque la ciencia se ha deshecho de las religiones tipo
“dios de las brechas” de los antiguos griegos, por ejemplo, que se
interponían en el camino del avance de la ciencia, pero la ciencia
ciertamente no se ha deshecho de Dios el Creador y Sustentador del
universo como se revela en la herencia judeocristiana, cuya creación
inteligente inspiró a los científicos pioneros en primer lugar.18

NOTAS

1. Adam Paul Johnson et al., “The Miller Volcanic Spark Discharge

Experiment”, Science 322 (5900): 404 (noviembre de 2008),
www.ncbi.nlm.nih.gov/pubmed/18927386.

2. Dan Brown, Origen (Nueva York: Doubleday, 2017), 89.

3. Jeremy England, “Dan Brown no puede citarme para refutar a Dios”, Wall
Street Journal, 12 de octubre de 2017, www.wsj.com/articles/dan-brown-
cant-cite-me-to-disprove-god- 1507847369.

4. James Tour, "Una carta abierta a mis colegas", Inferencia:

International Review of Science 3, no. 2 (agosto de 2017),
https://inference-review.com/article/an-open-letter-to-my-colleagues.

5. Gira, “Carta Abierta”; véase también James Tour, "Animadversions of a

Synthetic Chemist", Inference: International Review of Science 2, no. 2
(mayo de 2016), https://inference-review.com/article/animadversions-of-a-
synthetic-chemist.

6. Citado por Clive Cookson, “Scientists Who Glimpsed God”, Financial

Times, 29 de abril de 1995, 20.

7. C. S. Lewis, Miracles: A Preliminary Study (1947; repr., Nueva York:

Macmillan, 1978), 59.

8. Brown, Origin, 420 (cursiva original).

9. Lewis, Milagros, 106.

10. Marrón, Origen, 421.

11. Michael Ruse, Darwinismo como religión (Oxford: Oxford University

Press, 2016).

12. Marrón, Origen, 435.

13. Marrón, Origen, 436.

14. Donald Knuth, Cosas de las que rara vez habla un científico
informático (Stanford, CA: CSLI Publications, 2001), 168.

15. “There Is a God, Leading Atheist Concludes: Philosopher Says

Scientific Evidence Changed His Mind”, Associated Press, 9 de diciembre
de 2004, www.nbcnews.com/id/6688917/ns/world_news/t/there-god-leading-
ateo-concluye; véase Antony Flew, There Is a God (Nueva York: HarperOne,
2007). Para más detalles, véase Stephen Meyer, Signature in the Cell
(Nueva York: HarperOne, 2009) y mi God's Undertaker: Has Science Buried
God? (Oxford: León, 2009), 135–62.
16. Francis Collins, “Por qué este científico cree en Dios”, CNN
Commentary, 6 de abril de 2006,
www.cnn.com/2007/US/04/03/collins.commentary/index.html; véase Francis
Collins, The Language of God (Nueva York: Free Press, 2006).

17. William Blake, The Four Zoas: Night the Ninth, en The Complete Poetry
and Prose of William Blake, ed. David Erdman (Berkeley: Prensa de la
Universidad de California, 1981), 407.

18. Véase mi libro God's Undertaker.

CAPÍTULO TRES

SEGUNDA GRAN PREGUNTA: ¿A DÓNDE VAMOS?

Es difícil hacer predicciones, especialmente sobre el futuro.

Yogui Berra

La supuesta resolución de Dan Brown de nuestra primera gran pregunta

utiliza modelos matemáticos y un sistema de inteligencia artificial que
trabaja en una inmensa base de datos de información para hacer
predicciones sobre la evolución de una mezcla de productos químicos en el
pasado. No es difícil, por lo tanto, adivinar cómo abordará la segunda
gran pregunta.

Procede esta vez a aplicar una metodología similar para extrapolar una
simulación de la evolución humana al futuro. El resultado que se revela
al final del libro (alerta de spoiler, me temo) es que su sistema de
inteligencia artificial, trabajando en otra inmensa base de datos que
consiste, en su mayor parte, en información recopilada de información
pasada sobre fragmentos de huesos y entornos cambiantes a lo largo del
tiempo, muestra el eventual desarrollo de una nueva especie. En lugar de
especie, en una taxonomía más exacta deberíamos decir un nuevo reino que,
en lugar de ramificarse como de costumbre a partir de una especie
existente, es una fusión de dos "especies", los humanos y la IA.

Él llama a este nuevo reino "Technium". Es una especie no viva, por lo

que presumiblemente se refiere a una especie no biológica, aunque eso es
difícil de conciliar con su noción de que es una fusión de la vida
biológica humana con la tecnología. Su proyección muestra que
eventualmente reemplazará a la raza humana para el 2050, ¡y lo hará por
absorción! Uno se siente tentado a pensar que esto no es más que ciencia
ficción entretenida. De hecho, puede resultar ser solo eso, pero es justo
decir que no todos están preparados para decir que es ciencia ficción.

Aparentemente, no es casualidad que el nombre de Kirsch comience con K,

ya que parece haber sido inspirado en Ray Kurzweil, prolífico inventor y
director de ingeniería de Google. Kurzweil es el autor de The Singularity
Is Near, un libro que revela su creencia de que en un futuro previsible,
posiblemente tan solo treinta años, los robots de IA superarán a los
humanos en inteligencia y capacidades: “La parte no biológica de nuestra
inteligencia predominará. ”1
Nick Bostrom del Future of Life Institute de Oxford llama a este evento
la “explosión de inteligencia” en su libro Superintelligence.2 En la
misma línea, Ray Kurzweil dice: “El siglo XXI será diferente. La especie
humana, junto con la tecnología computacional que creó, podrá resolver
problemas antiguos. . . y estará en condiciones de cambiar la naturaleza
de la mortalidad en un futuro posbiológico”.3 Esta es la visión de AGI:
inteligencia general artificial. La idea fundamental aquí se remonta a
una cita merecidamente famosa de un artículo escrito en 1965 por el
estadístico I. J. Good titulado “Especulaciones sobre la primera máquina
ultrainteligente”:

Dejemos que una máquina ultrainteligente se defina como una máquina que
puede superar con creces todas las actividades intelectuales de cualquier
hombre, por inteligente que sea. Dado que el diseño de máquinas es una de
estas actividades intelectuales, una máquina ultrainteligente podría
diseñar máquinas aún mejores; entonces incuestionablemente habría una
“explosión de inteligencia”, y la inteligencia del hombre quedaría muy
atrás. Por lo tanto, la primera máquina ultrainteligente es el último
invento que el hombre necesita hacer.4

Debemos notar que ahora hemos dejado muy atrás el concepto de evolución
darwiniana no dirigida en este escenario. Los avances acelerados en el
ámbito de la tecnología, los robots y la IA se han debido al diseño
inteligente humano. Lo que Kurzweil predice, por lo tanto, involucra
artefactos diseñados por humanos, en el sentido de que los humanos
pusieron todo en marcha hasta que, en algunos escenarios, esos artefactos
poseen más que inteligencia humana y se hacen cargo de su propio
desarrollo posterior.

El experto en IA de Dan Brown, Kirsch, señala que, como todos sabemos,

hasta cierto punto, ya hemos comenzado a fusionarnos con nuestra propia
tecnología: usamos gafas de realidad virtual; acercamos nuestros
teléfonos móviles a nuestros oídos; disponemos de todo tipo de
auriculares de gran calidad; y estamos empezando a incrustar chips de
computadora en nuestros cerebros, por ejemplo, para curar la sordera.
También estamos construyendo prótesis cada vez más sofisticadas,
produciendo repuestos para nuestros cuerpos, jugando con nuestras
estructuras genéticas y explorando las posibilidades y el potencial para
la mejora genética.

La gran conclusión de Kirsch es: “Las nuevas tecnologías como la

cibernética, la inteligencia sintética, la criónica, la ingeniería
molecular y la realidad virtual cambiarán para siempre lo que significa
ser humano. Y me doy cuenta de que hay algunos de ustedes que creen que,
como Homo sapiens, son la especie elegida por Dios. Puedo entender que
esta noticia te parezca el fin del mundo. Pero te lo ruego, por favor,
créeme. . . el futuro es en realidad mucho más brillante de lo que
imaginas.”5

Ahora estamos firmemente en el ámbito de AGI (inteligencia general

artificial) o, simplemente, IA general, que generalmente denota intentos
de construir una máquina que puede simular una inteligencia igual o mayor
que un ser humano, en resumen, una superinteligencia.
Relacionado con eso está la búsqueda paralela para mejorar a los propios
seres humanos en lo que a menudo se llama el proyecto transhumanista.
Nick Bostrom explica que el transhumanismo es: “el movimiento intelectual
y cultural que afirma la posibilidad y la conveniencia de mejorar
fundamentalmente la condición humana a través de la razón aplicada,
especialmente mediante el desarrollo y la puesta a disposición de
tecnologías para eliminar el envejecimiento y mejorar en gran medida los
aspectos intelectuales, físicos y físicos del ser humano. capacidades
psicológicas.”6

Mucha gente (incluyendo a Bostrom) cree que la palabra transhumanismo se

originó con el ateo Julian Huxley (1887-1975): “'Creo en el
transhumanismo': una vez que haya suficientes personas que realmente
puedan decir eso, la especie humana estará en el umbral de la un nuevo
tipo de existencia, tan diferente de la nuestra como la nuestra es de la
del hombre de Pekín. Por fin estará cumpliendo conscientemente su
verdadero destino.”7

Pero Huxley no fue el primero. El origen de la palabra transhumano no es

secular. Históricamente, fue utilizado por primera vez, no por un
científico relacionado con la ciencia, sino con respecto a la
resurrección del cuerpo por Henry Francis Cary en su traducción de 1814
del Paradiso de Dante. Ocurre en un pasaje donde Dante intenta imaginar
la resurrección de su propio cuerpo: “Las palabras pueden no hablar de
ese cambio transhumano”8.

Las ideas contemporáneas que rodean al transhumanismo son la emulación de

todo el cerebro, los cyborgs (= organismo cibernético), y con la
esperanza de que algún día se haga realidad la extensión de la vida,
algunas personas han pagado por la congelación de sus cuerpos y/o
cerebros (criónica).

Citamos a Sir Martin Rees anteriormente. El contexto más amplio de lo que

dijo es:

Debemos ser conscientes de un tipo de cambio sin precedentes que podría

surgir en unas pocas décadas. Los propios seres humanos, su mentalidad y
su físico, pueden volverse maleables mediante el despliegue de la
modificación genética y las tecnologías cyborg. Este es un cambio de
juego. Cuando admiramos la literatura y los artefactos que han
sobrevivido desde la antigüedad, sentimos una afinidad, a través de un
abismo de tiempo de miles de años, con esos artistas antiguos y sus
civilizaciones. Pero podemos tener cero confianza en que las
inteligencias dominantes dentro de algunos siglos tendrán alguna
resonancia emocional con nosotros, aunque puedan tener una comprensión
algorítmica de cómo nos comportamos.9

Es este tipo de predicción AGI transhumanista lo que hace que algunas

personas se sientan ansiosas, incluso llenas de alarma orwelliana, ante
la posibilidad de que los robots, quizás antes de lo que imaginamos, se
vuelvan más inteligentes que los humanos, se hagan cargo de nuestros
trabajos y, lo que es peor, eventualmente rebelarse contra los humanos y
destruirlos como inferiores sin más valor: 1984 con venganza. Por
ejemplo, Elon Musk cree que la IA está “invocando al demonio”. 10 En
2015, junto con más de 8000 personas, incluidos Stephen Hawking y Noam
Chomsky, firmó una carta abierta en la que advierte contra los posibles
“trampas” del desarrollo de la IA. En relación con esta carta abierta, el
artículo "Prioridades de investigación para una inteligencia artificial
robusta y beneficiosa" de Stuart Russell, Daniel Dewey y Max Tegmark
concluye:

En resumen, el éxito en la búsqueda de la inteligencia artificial tiene

el potencial de brindar beneficios sin precedentes a la humanidad y, por
lo tanto, vale la pena investigar cómo maximizar estos beneficios y
evitar posibles escollos. La agenda de investigación esbozada en este
documento y las preocupaciones que la motivan se han llamado anti-IA,
pero impugnamos enérgicamente esta caracterización. Parece evidente que
las crecientes capacidades de la IA están conduciendo a un mayor
potencial de impacto en la sociedad humana. Es deber de los
investigadores de IA garantizar que el impacto futuro sea beneficioso.
Creemos que esto es posible y esperamos que esta agenda de investigación
proporcione un paso útil en la dirección correcta.11

En su libro Respuestas breves a las grandes preguntas, publicado

póstumamente, Hawking reitera su preocupación:

Si bien las formas primitivas de inteligencia artificial desarrolladas

hasta ahora han demostrado ser muy útiles, temo las consecuencias de
crear algo que pueda igualar o superar a los humanos. . . Los humanos,
que están limitados por una evolución biológica lenta, no podrían
competir y serían superados. Y en el futuro, la IA podría desarrollar una
voluntad propia, una voluntad que esté en conflicto con la nuestra. . .
El riesgo real con la IA no es la malicia sino la competencia. Una IA
súper inteligente será extremadamente buena para lograr sus objetivos, y
si esos objetivos no están alineados con los nuestros, estamos en
problemas.12

Sombras de George Orwell.

Otros son menos cautelosos y opinan que todos estos avances son
bienvenidos, ya que ya han producido muchos beneficios evidentes y
seguirán haciéndolo a mayor velocidad, construyendo así un mundo
infinitamente mejor para todos. Entre ellos se encuentran Bill Gates y
Mark Zuckerberg.

Sin embargo, algunos neurocientíficos son muy escépticos. Jean Mariani,

quien dirige un instituto que investiga la longevidad, y Danièle Tritsch,
ex codirectora de un laboratorio de investigación en neurociencia,
escriben:

Seamos realistas, todo esto es pura fantasía. . . El envejecimiento es

inevitable, incluso si hay buenas razones para esperar que vaya
acompañado de una mejor salud. . . Si bien el progreso en los últimos 50
años ha traído una mejor comprensión del cerebro, ha tenido poco impacto
terapéutico. Todas las predicciones pregonadas por los transhumanistas
son, como mínimo, falsas. . . Muchos han sugerido que la inteligencia
humana pronto puede ser superada por la inteligencia artificial. Pero
este miedo revela una profunda incomprensión de lo que realmente es la
inteligencia humana.13

La opinión, por lo tanto, está profundamente dividida. En cualquier caso,

debemos preguntarnos qué podrían significar estos desarrollos para
nuestra comprensión de quiénes somos y en qué nos podemos convertir.

En este sentido, como se insinuó anteriormente, la búsqueda de AGI debe

distinguirse de la búsqueda paralela para mejorar a los seres humanos,
aunque inevitablemente hay cierta superposición. Podemos pensar en uno de
los objetivos de AGI como desvincular la vida de la biología y construir
vida artificial basada en algún otro sustrato, probablemente silicio.

Actualizar a los humanos, por otro lado, significa comenzar con la vida
humana tal como es ahora y mejorarla, modificarla, equiparla con
tecnología implantada (algunas de las cuales pueden involucrar AGI) para
que se produzca un compuesto superinteligente como Technium u Homo deus.
Cabe señalar que, en el escenario ficticio de Dan Brown, se utilizó un
sistema de IA estrecho para predecir la fusión de los humanos con la
tecnología, pero la IA no realizó la actualización por sí misma. Su genio
de IA no tenía medios para hacer eso. Ni, de hecho, hay mucha evidencia
de que alguien más la tenga, o la tenga alguna vez.

Debemos señalar de paso que la terminología en esta área puede ser algo
fluida, por lo que algunas personas prefieren el término IA (aumento de
inteligencia) en lugar del término AI. También es útil diferenciar entre
varios objetivos diferentes del proyecto y primero preguntar: ¿cuáles son
nuestros materiales de partida? Cuando la gente habla de hacer vida
artificial, generalmente se refiere a este tipo de construcción a partir
de materiales inorgánicos como acero, vidrio, cobre o silicio desde cero.
Después de todo, los humanos pueden crear vida humana en cierto sentido
mediante la fertilización in vitro, pero ahí están comenzando con células
vivas que son vida real y no artificial. Mejorar la humanidad significa
comenzar con la vida humana y modificarla orgánicamente y/o agregarle
tecnología para que lo que finalmente se produzca sea compuesto y, por lo
tanto, solo parcialmente artificial.

Para resumir: en opinión de algunas personas, AGI es lo que eventualmente

podría hacer la inteligencia humana para producir vida artificial y
posiblemente conciencia; mejorar la humanidad es lo que se puede hacer
con la vida biológica humana para mejorarla. Ambos tienen como objetivo
producir una superinteligencia sobrehumana. Si alguna vez lo harán es
otro asunto completamente diferente y está por verse.

Tales escenarios plantean varias preguntas obvias.

1. ¿Qué significa ser humano?

2. ¿En qué sentido cambiará la tecnología lo que significa ser humano?

3. ¿Cuáles son las normas éticas que deben aplicarse a los desarrollos de
IA?

4. ¿Es “derechos” una categoría significativa cuando se aplica a AGI?

5. ¿Cómo afectarán los avances tecnológicos la forma en que las personas,
creyentes o no creyentes, piensan en Dios?

6. ¿Es el futuro realmente “mucho más brillante de lo que imaginas”?

NOTAS

1. Ray Kurzweil, La singularidad está cerca (Nueva York: Penguin, 2005),

201.

2. Nick Bostrom, Superinteligencia: caminos, peligros, estrategias

(Oxford: Oxford University Press, 2014), 62.

3. Citado en Meghan O'Gieblyn, "God in the Machine: My Strange Journey

into Transhumanism", The Guardian, 18 de abril de 2017,
www.theguardian.com/technology/2017/apr/18/god-in-the-machine -mi-
extraño-viaje-hacia-el-transhumanismo.

4. I. J. Good, "Especulaciones sobre la primera máquina

ultrainteligente", en Advances in Computers, vol. 6, ed. F. L. Alt y M.
Rubinoff (Nueva York: Academic Press, 1965), 33. La importancia de la
idea de la singularidad se examina en David J. Chalmers, “The
Singularity: A Philosophical Analysis,” Journal of Consciousness Studies
17:7 –65 (2010), http://consc.net/papers/singularity.pdf.

5. Dan Brown, Origin (Nueva York: Doubleday, 2017), 411, cursiva

original.

6. Nick Bostrom, “Las preguntas más frecuentes sobre transhumanistas: una

introducción general”, en Transhumanism and the Body: The World Religions
Speak, ed. Calvin Mercer y Derek F. Maher (Nueva York: Palgrave
Macmillan, 2014), 1, www.nickbostrom.com/views/transhumanist.pdf.

7. Julian Huxley, Botellas nuevas para vino nuevo (Londres: Chatto &
Windus, 1957), 17.

8. Dante Alighieri, La Visión; o Infierno, Purgatorio y Paraíso, vol. 3

(Londres: Taylor and Hessey, 1819), 8.

9. Martin Rees, Sobre el futuro (Princeton, NJ: Princeton University

Press, 2018), 7.

10. Citado en Matt McFarland, “Elon Musk: ‘With Artificial Intelligence

We Are Summoning the Demon’”, Washington Post, 24 de octubre de 2014.

11. Stuart Russell, Daniel Dewey y Max Tegmark, "Prioridades de

investigación para una inteligencia artificial robusta y beneficiosa", AI
Magazine (invierno de 2015),
https://futureoflife.org/data/documents/research_priorities.pdf.

12. Stephen Hawking, Respuestas breves a las grandes preguntas (Londres:

Murray, 2018), 186, 188.
13. Jean Mariani y Danièle Tritsch, “¿Es el transhumanismo una farsa?”
CNRS News, 9 de junio de 2018, https://news.cnrs.fr/opinions/is-
transhumanism-a-sham.

CAPÍTULO CUATRO

INTELIGENCIA ARTIFICIAL ESTRECHA: ¿EL FUTURO ES BRILLANTE?

Las cuestiones planteadas al final del capítulo anterior son de

considerable interés general. Para abordarlos, tendremos que pensar
detenidamente de qué tecnologías estamos hablando, cuáles son sus
beneficios positivos, si tienen algún riesgo asociado y si plantean
problemas éticos.

Como advertí antes, uno de los peligros de introducir escenarios

futuristas y especulativos en los que los humanos se fusionan
gradualmente con la tecnología es que se da la impresión de que la IA
solo se ocupa de ideas especulativas y aterradoras cuya implementación
está a la vuelta de la esquina. Eso no es así. Uno de los ganadores del
Premio Turing 2018, Yann LeCun, científico jefe de inteligencia
artificial en Facebook, dice: "Si seremos capaces de usar nuevos métodos
para crear inteligencia a nivel humano, bueno, probablemente haya otras
50 montañas que escalar, incluidas los que ni siquiera podemos ver
todavía. Solo hemos escalado la primera montaña. Tal vez la segunda.”1
Por lo tanto, debemos separar con cuidado la realidad de la exageración y
volver a poner los pies en el suelo pensando un poco más sobre la IA
limitada y lo que realmente ha logrado.

Vale la pena señalar que, históricamente, la IA ha tenido un camino lleno

de baches. Cuando los investigadores acuñaron el término IA en 1956,
imaginaron que el trabajo de un verano realizado por un pequeño equipo
mostraría que cada característica del aprendizaje y la inteligencia
podría ser conducida por una máquina. Esas primeras expectativas no eran
realistas, ya que más de sesenta años después, su pregunta sigue sin
respuesta. Durante un tiempo, la IA cayó en desgracia, pero con la
disponibilidad de una potencia de cómputo muy mejorada, ahora está en lo
más alto. El Reino Unido planea invertir en la formación de 1000 doctores
en IA con un fondo de 1300 millones de libras creado en 2018. Según el
Times Higher Education, entre 2011 y 2015 China publicó 41 000 artículos
sobre IA, casi el doble que EE. UU. con 25 500 – muy por delante del
resto.2 En 2018, el MIT anunció la inversión individual más grande en
computación e IA por parte de una institución académica estadounidense: $
1 mil millones.3 Además, China está invirtiendo muchos miles de millones
de dólares en investigación de IA, y otros países están siguiendo su
ejemplo. en una batalla por el dominio mundial.4

Por supuesto, la experiencia nos dice que es probable que la mayoría de

los avances tecnológicos tengan ventajas y desventajas. Un cuchillo puede
usarse para cirugía o como arma homicida; un automóvil puede usarse para
llevarlo al trabajo o como vehículo de escape después de un crimen. Es lo
mismo con la IA. Hay muchos desarrollos positivos valiosos, y hay algunos
aspectos negativos muy alarmantes que exigen una estrecha atención ética.

Aquí hay algunas formas en las que la IA ya está demostrando su valor.

Asistentes digitales. Hemos visto que la IA es la capacidad de un sistema
informático para usar algoritmos matemáticos para realizar una tarea o
tareas que normalmente requieren inteligencia humana y es la tecnología
que permite a los asistentes digitales como Alexa y Siri responder
nuestras preguntas habladas, dar recomendaciones para restaurantes y
entretenimiento, reservar viajes y vacaciones, controlar los dispositivos
inteligentes en nuestros hogares y sugerir cosas que nos gustaría comprar
en función de nuestras compras anteriores: una lista que se agrega a
diario. De hecho, algunos asistentes digitales están siendo “entrenados”
en reconocimiento de voz avanzado para dar una advertencia temprana de
posibles autolesiones o incluso tendencias suicidas en sus usuarios. Los
científicos de la Universidad de Brown están trabajando con el fabricante
de juguetes Hasbro para desarrollar un gato robótico de compañía que
pueda recordar a sus dueños cuándo tomar sus medicamentos y pueda
rastrear sus anteojos cuando se les caen.

Medicamento. La IA se está utilizando en el desarrollo de nuevos

medicamentos, en la automatización de tratamientos médicos, como
operaciones robóticas remotas, y como ayuda para aumentar la eficiencia
de la prestación de servicios de salud. Esto es particularmente cierto en
el campo del diagnóstico. Se cree que para fines de 2019, al menos la
mitad de los principales sistemas de atención médica habrán adoptado
alguna forma de IA. Antes de que los médicos puedan aprovechar el poder
de la IA para identificar condiciones en imágenes como las radiografías,
deben "enseñar" a los algoritmos qué buscar. Ingenieros de la Facultad de
Ciencias Aplicadas e Ingeniería de la Universidad de Toronto han diseñado
un nuevo enfoque utilizando el aprendizaje automático para crear rayos X
generados por computadora para aumentar los conjuntos de entrenamiento de
IA. Compararon la precisión de su conjunto de datos aumentado con el
conjunto de datos original cuando se alimentaron a través de su sistema
de inteligencia artificial y descubrieron que la precisión de la
clasificación mejoró en un 20 por ciento para las condiciones comunes.
Para algunas condiciones raras, la precisión mejoró hasta alrededor del
40 por ciento, y debido a que los rayos X sintetizados no son de
individuos reales, el conjunto de datos puede estar fácilmente disponible
para los investigadores fuera de las instalaciones del hospital sin
violar las preocupaciones de privacidad. El investigador principal, el
Dr. Shahrokh Valaee, dice: “Es emocionante porque hemos podido superar un
obstáculo en la aplicación de la inteligencia artificial a la medicina al
demostrar que estos conjuntos de datos aumentados ayudan a mejorar la
precisión de la clasificación. . . El aprendizaje profundo solo funciona
si el volumen de datos de entrenamiento es lo suficientemente grande y
esta es una forma de garantizar que tengamos redes neuronales que puedan
clasificar imágenes con alta precisión”.5

Otro ejemplo de este tipo de desarrollo es un sistema de IA que puede

detectar la retinopatía diabética, una condición causada por el daño a
los vasos sanguíneos del tejido sensible a la luz en la parte posterior
del ojo y que puede provocar ceguera. La IA de aprendizaje profundo
igualó o superó el rendimiento de los expertos en la identificación y
calificación de la gravedad de las condiciones. Curiosamente, el software
no estaba programado explícitamente para reconocer características de las
imágenes que pudieran indicar la enfermedad. Simplemente observó miles de
ojos sanos y enfermos y descubrió por sí mismo cómo detectar la afección.
La cantidad de aplicaciones potencialmente beneficiosas de sistemas como
este parece esencialmente ilimitada, y todos los días aparecen nuevas.

Científicos de la Universidad de Hong Kong han diseñado el primer sistema

robótico neuroquirúrgico capaz de realizar neurocirugía estereotáctica
bilateral dentro de un escáner de resonancia magnética. Este es uno de
los tratamientos para una variedad de trastornos del movimiento y
neuropsiquiátricos, como la enfermedad de Parkinson, el temblor esencial
y la depresión mayor. Se trata de una técnica que puede localizar
objetivos de interés quirúrgico utilizando un sistema de posicionamiento
externo, que se aplica ampliamente en la biopsia cerebral, la ablación de
tumores, la administración de fármacos, así como la estimulación cerebral
profunda. La enfermedad de Parkinson por sí sola es la segunda enfermedad
más común del sistema nervioso después de la enfermedad de Alzheimer y se
prevé que afecte a más de 8,7 millones de personas en todo el mundo para
2030. Como tal, cualquier mejora en esta cirugía beneficiaría a una gran
población.6

El Servicio Nacional de Salud (NHS) del Reino Unido espera ser un líder
mundial en IA y aprendizaje automático dentro de cinco años: "Explotar el
auge de la tecnología de IA ayudará a cumplir el objetivo del Plan a
largo plazo del NHS de hacer hasta 30 millones citas ambulatorias
innecesarias, ahorrando más de £ 1 mil millones en lo que habría sido un
aumento de las visitas ambulatorias que luego se pueden reinvertir en
atención de primera línea, ahorrando a los pacientes viajes innecesarios
a los hospitales". 7 El director ejecutivo de NHS England ha dicho: "Los
proveedores de salud serán pagados para sustituir a los médicos con
máquinas a medida que el NHS adopta la inteligencia artificial para
mejorar los resultados de los pacientes y generar ahorros.”8

Sin embargo, incluso en el área de la medicina, podría haber un

inconveniente. Por ejemplo, un informe sobre la IA realizado por la
Academy of Medical Royal Colleges en el Reino Unido advierte que el auge
de las aplicaciones de salud podría significar que los servicios médicos
se verían abrumados por el pozo preocupado cuyos teléfonos inteligentes
habilitados para IA o accesorios de acondicionamiento físico les habían
dicho erróneamente que necesitaba atención médica.9

Sin embargo, deseo terminar esta sección con una nota positiva al
referirme a Rosalind Picard y su equipo en el MIT y la empresa Empatica.
Han creado el primer sistema de aprendizaje automático que puede
reconocer convulsiones utilizando un reloj inteligente aprobado por la
FDA y comercializado en los EE. UU. y la UE.10 El reloj funciona en
conexión con un algoritmo de IA que busca patrones de movimientos y
cambios eléctricos en la piel del paciente que indican una probable
convulsión. Cuando se detectan tales patrones, alerta al usuario (dándole
la oportunidad de cancelar una posible detección falsa) y, si no se
cancela rápidamente, la IA llama a un cuidador para que lo ayude. También
puede informar al cuidador dónde se encuentra la persona que necesita
ayuda. Puede hacer todo esto de forma continua sin que el usuario tenga
que hacer nada más que mantener cargados el reloj inteligente y el
teléfono móvil.
Es importante darse cuenta de que cuando ocurre el tipo de convulsión más
peligroso, deja a la víctima inconsciente y, por lo tanto, incapaz de
pedir ayuda; el período de tiempo más peligroso es en minutos después de
que parece que la convulsión ha terminado, cuando de hecho la actividad
profunda en el cerebro puede cambiar y apagar la respiración, que tiene
buenas posibilidades de reiniciarse si llega una persona para brindar
primeros auxilios. A este sistema de inteligencia artificial de reloj
inteligente ya se le atribuye la necesidad de solicitar ayuda humana para
salvar vidas y, con el tiempo, tiene el potencial de reducir
significativamente la cantidad de muertes por epilepsia (que actualmente
se cobra más vidas cada año que los incendios domésticos o el síndrome de
muerte súbita del lactante).

El laboratorio de computación afectiva de Picard en el MIT también ha

estado desarrollando IA/aprendizaje automático para ayudar a las personas
a ver si están cayendo en la depresión, mucho antes de que necesiten un
diagnóstico (para que, con suerte, puedan tomar medidas para evitar la
depresión).11 Los ejemplos en el artículo al que se hace referencia son
todos AI estrechos, destinados a ayudar a prevenir enfermedades y "no
saber" nada, solo encontrar patrones que están asociados de manera
probabilística con necesidades potenciales. Tal recopilación de datos,
por supuesto, plantea la cuestión ética de la posibilidad de que los
datos médicos caigan en las manos equivocadas.

Vehículos autónomos. Se está invirtiendo una gran cantidad de esfuerzo de

investigación en el diseño y desarrollo de vehículos autónomos. El
objetivo es hacer que las carreteras sean más seguras al tener sistemas
de IA que tomen mejores y más rápidas decisiones que los conductores
humanos. Investigadores chinos de la Universidad de Tsinghua han logrado
combinar dos tipos diferentes de sistemas de IA, uno tradicional que
reconoce objetos y peligros y otro modelado en biología que puede
controlar el equilibrio y la voz, para construir una bicicleta sin
ciclista que responde a los comandos. 12

Los vehículos autónomos dan lugar a un conjunto completamente nuevo de

cuestiones éticas: cómo, por ejemplo, debe programarse el sistema para
garantizar que el vehículo evitará accidentes a personas y propiedades,
especialmente si tiene que elegir entre personas y objetos que es
probable que sufra. golpear sin culpa propia. Los sistemas deben tener
valores incorporados, y alguien tiene que decidir cuáles son esos
valores. Este problema es la punta de un iceberg en IA, ya que todos
están de acuerdo en que la tecnología se está desarrollando mucho más
rápido que la ética para hacerle frente.

Traductores de idiomas. Desde niño me interesaron los idiomas y logré

aprender alemán a un nivel lo suficientemente alto como para poder dar
conferencias en él. Solía escribir mis conferencias en alemán, buscando
laboriosamente las palabras que aún no formaban parte de mi vocabulario
activo, por lo que todo el proceso tomaba mucho tiempo. Ahora todo lo que
tengo que hacer es escribir la conferencia en inglés, introducirla en
Google Translate y, en unos segundos, tengo una traducción al alemán que
puedo leer, hacer algunas correcciones y estoy listo para empezar. Este
es un desarrollo fenomenalmente útil. Hay muchas variantes de la
tecnología: traducción de voz, voz a texto, texto a voz, con o sin
traducción.

Publicidad. La IA se utiliza en la publicidad en Internet por parte de

empresas como Amazon, Alphabet (propietaria de Google) o Alibaba y Baidu
de China para sugerir artículos que le gustaría comprar en función de su
actividad en línea y la de otras personas. Por ejemplo, ayer eché un
vistazo a los vuelos en línea y hoy recibí un mensaje que decía: "No
pudimos evitar notar que estabas considerando un vuelo a X. ¿Por qué no
reservar ahora?". Dichos algoritmos de seguimiento nos persiguen todo el
tiempo.

No solo eso, sino que se han desarrollado sistemas de IA para construir

los propios anuncios. The Times informó que el banco más grande de los
Estados Unidos, JPMorgan Chase, firmó un acuerdo con Persado, una empresa
de marketing que usa IA para crear anuncios.13 Hicieron una prueba que
mostró que el uso de IA condujo a alrededor de cuatro años y medio veces
más visitas a un sitio que anuncia hipotecas y tarjetas de crédito.

Industria. La Universidad Carnegie Mellon anunció en abril de 2018 que

había desarrollado un algoritmo de IA que automatizará no solo la
realización de experimentos para encontrar la mejor batería de automóvil
de alta capacidad, sino también las etapas de planificación y toma de
decisiones. Otro ejemplo es un “espantapájaros volador” robótico que
utiliza un sistema de inteligencia artificial que se ha desarrollado para
mantener a las bandadas de pájaros alejadas de los aeropuertos.

Esta lista, que cada día es más larga, debería ser suficiente para
demostrar que la investigación en IA ha aportado logros considerables.
Vale la pena, sin embargo, asegurarse de que no nos dejemos llevar. El 14
de noviembre de 2018, Stephen Shankland informó en CNET que el
vicepresidente de IA de iCloud de Google había dicho el día anterior que
“la IA sigue siendo muy, muy estúpida. Es realmente bueno para hacer
ciertas cosas que nuestro cerebro no puede manejar, pero no es algo que
podamos presionar para hacer un razonamiento de propósito general como
analogías o pensamiento creativo o saltar fuera de la caja”. 14 De manera
similar, el colaborador de Forbes Kalev Leetaru nos recuerda :

Al final del día, los sistemas de aprendizaje profundo son menos "IA" que
[son] extractores de patrones sofisticados. Como cualquier sistema de
aprendizaje automático, pueden identificar ciegamente los patrones
subyacentes en sus datos de entrenamiento y aplicar esos patrones tal
cual a datos futuros. No pueden razonar sobre sus datos de entrada o
generalizar a abstracciones de orden superior que les permitirían
comprender sus datos de manera más completa y sólida. En resumen, si bien
pueden realizar hazañas impresionantes, los sistemas de aprendizaje
profundo siguen siendo extraordinariamente limitados, con una fragilidad
que puede manifestarse de formas muy inesperadas.

Después de todo, la "IA" de la revolución del aprendizaje profundo actual

sigue siendo solo aprendizaje automático, no magia.15

Sin embargo, muchas personas estarían de acuerdo con la postura optimista

del astrónomo real Sir Martin Rees, quien dice: “Nuestras vidas, nuestra
salud y nuestro medio ambiente pueden beneficiarse aún más de un mayor
progreso en biotecnología, cibertecnología, robótica e IA. En ese
sentido, soy un tecnooptimista”. Rees continúa: “Pero hay un
inconveniente potencial. Estos avances exponen a nuestro mundo
interconectado a vulnerabilidades siempre nuevas.”16 Es a ese
inconveniente potencial al que ahora debemos dirigirnos.

NOTAS

1. Citado en James Vincent, "'Padrinos de la IA' honrados con el premio

Turing, el Premio Nobel de Computación", The Verge 27 (marzo de 2019),
www.theverge.com/2019/3/27/18280665/ai-godfathers -premio-turing-2018-
yoshua-bengio-geoffrey-hinton-yann-lecun.

2. Citado en Bruno Jacobsen, “5 Countries Leading the Way in AI”, Futures

Platform, 8 de enero de 2018, www.futuresplatform.com/blog/5-countries-
leading-way-ai-artificial-intelligence-machine-learning.

3. Consulte “MIT Reshapes Itself to Shape the Future”, MIT News, 15 de

octubre de 2018, http://news.mit.edu/2018/mit-reshapes-itself-stephen-
schwarzman-college-of-computing-1015.

4. Véase Thomas Davenport, “China Is Catching Up to the US on Artificial

Intelligence Research”, The Conversation, 27 de febrero de 2019,
https://theconversation.com/china-is- Catching-up-to-the-us-on -
inteligencia-artificial-investigacion-112119.

5. Facultad de Ciencias Aplicadas e Ingeniería de la Universidad de

Toronto, “Training Artificial Intelligence with Artificial X-rays”,
ScienceDaily, 6 de julio de 2018,
www.sciencedaily.com/releases/2018/07/180706150816.htm.

6. Véase Universidad de Hong Kong, “World’s First Intra-operative MRI-

Guided Robot for Bilateral Stereotactic Neurosurgery”, ScienceDaily, 19
de junio de 2018, www.sciencedaily.com/releases/2018/06/180619122517.htm.

7. “NHS pretende ser un líder mundial en inteligencia artificial y

aprendizaje automático en 5 años”, NHS News, 5 de junio de 2019,
www.longtermplan.nhs.uk/nhs-aimsto-be-a-world-leader-in- Inteligencia-
artificial-y-aprendizaje-máquina-dentro-de-5-años.

8. Philip Aldrick, "Hospitals to Get Extra Cash for Using Robots and AI
to Replace Humans", The Times, 6 de junio de 2019,
www.thetimes.co.uk/article/hospitals-robots-ai-replace-humans-nhs- simon-
stevens-8dhztxtlc.

9. Véase Kat Lay, “Patients Fretting about Fitbit Data Could Overwhelm
Doctors”, The Times, 28 de enero de 2019,
www.thetimes.co.uk/article/patients-fretting-about-fitbit-data-could-
overwhelm-doctors- fkl5mwzbd.

10. “Embrace by Empatica es el primer reloj inteligente del mundo

autorizado por la FDA para su uso en neurología”, PR Newswire, 5 de
febrero de 2018, www.prnewswire.com/news-releases/embrace-by-empatica-is-
the- primer-reloj-inteligente-del-mundo-en-ser-autorizado-por-la-fda-
para-uso-en-neurologia-300593398.html.

11. Matt Kaplan, “Feliz con un 20 % de probabilidad de tristeza”, Nature

563 (2018), 20–22, www.nature.com/articles/d41586-018-07181–8.

12. Consulte Tom Whipple, "Riderless Bike Can Balance and Steer Itself",
The Times, 1 de agosto de 2019, www.thetimes.co.uk/article/riderless-
bike-can-balance-and-steer-itself-97r5w6wpn.

13. Consulte Tom Knowles, “Mad Men versus Machines as Robots Write Ad
Slogans”, The Times, 1 de agosto de 2019, www.thetimes.co.uk/article/mad-
men-versus-machines-as-robots-write-ad -lemas-mf7ggmff2.

14. Stephen Shankland, "'AI es muy, muy estúpida', dice el líder de IA de

Google, al menos en comparación con los humanos", CNET, 14 de noviembre
de 2018, www.cnet.com/news/ai-is-very-stupid-says -google-ai-leader-
comparado-con-humanos.

15. Kalev Leetaru, "La 'IA' de aprendizaje profundo de hoy es aprendizaje

automático no mágico", Forbes, 14 de noviembre de 2018,
www.forbes.com/sites/kalevleetaru/2018/11/14/todays-deep-learning-ai-is -
aprendizaje-máquina-no-magia.

16. Martin Rees, Sobre el futuro (Princeton, NJ: Princeton University

Press, 2018), 5.

CAPÍTULO CINCO

IA ESTRECHA: ¿QUIZÁS EL FUTURO NO ES TAN BRILLANTE DESPUÉS DE TODO?

Reclutamiento de trabajo. Una aplicación cada vez mayor de la IA que

inicialmente parece positiva es ayudar a las grandes corporaciones a
contratar nuevos empleados. Por ejemplo, una empresa tecnológica llamada
HireVue ha desarrollado una plataforma que simplifica el proceso de
entrevistas de trabajo. El uso más común de eso es una entrevista donde
se crea un conjunto de preguntas. Los candidatos responden en video y
luego se utilizan algoritmos de inteligencia artificial para evaluar el
desempeño del candidato. HireVue luego analiza la entrevista y predice su
desempeño. El sistema analiza 25.000 características diferentes y las
relaciones complejas entre ellas. Podría ver cosas que un observador
humano no puede ver.

The Guardian informó el domingo 4 de marzo de 2018:

Después de 86 solicitudes de empleo fallidas en dos años, incluidas

varias evaluaciones de HireVue, Deborah Caldeira está completamente
desilusionada con los sistemas automatizados. Sin una persona al otro
lado de la mesa, “no hay conversación o intercambio real”, y es difícil
saber “exactamente qué está buscando el robot”, dice Caldeira, quien
tiene una maestría de la London School of Economics.

A pesar de sus calificaciones, se encontró cuestionando cada movimiento

mientras estaba sentada sola en su casa actuando para una computadora.
“Nos hace sentir que no valemos la pena, ya que la empresa no pudo
asignar a una persona ni por unos minutos. Todo se está volviendo menos
humano”, dice ella.1

Amenaza de pérdida de puestos de trabajo. Conseguir un trabajo es una

cosa; perderlo es otra, y una preocupación cada vez mayor por parte de
muchas personas es si sus trabajos están en riesgo por los desarrollos en
robótica e inteligencia artificial (estrecha). Por supuesto, es cierto
que cada revolución en la industria tiene el efecto de cerrar algunos
puestos de trabajo pero luego, eventualmente, crear otros nuevos.
Piénsese, por ejemplo, en las consecuencias de la invención de la
carretilla, la máquina de vapor o el motor eléctrico y el automóvil.

Las revoluciones industriales anteriores han visto máquinas que

reemplazan a los humanos que hacen cosas manuales. La revolución de la IA
hará que las máquinas reemplacen cada vez más a los humanos que piensan
cosas en todos los niveles. Por ejemplo, se ha estimado que alrededor del
85 por ciento de las interacciones con los clientes serán gestionadas por
IA para 2020, y la Oficina de Fraudes Graves del Reino Unido ya está
utilizando un sistema de IA en lugar de abogados para examinar los
documentos de los casos con el fin de identificar evidencia.

MIT Technology Review informó a principios de 2017: “En su apogeo allá

por el año 2000, la mesa de negociación de acciones en efectivo de EE.
UU. en la sede de Goldman Sachs en Nueva York empleaba a 600
operadores. . . Hoy solo quedan dos operadores de acciones. Los programas
comerciales automatizados se han hecho cargo del resto del trabajo,
apoyados por 200 ingenieros informáticos”.2 Por supuesto, el hecho de que
sea técnicamente posible reemplazar a un trabajador con un robot no
significa que tenga sentido económico hacerlo. Las predicciones sobre el
número de puestos de trabajo en riesgo varían mucho según quién haga la
previsión. En 2016, un equipo dirigido por Katja Grace del Future of
Humanity Institute de la Universidad de Oxford encuestó las opiniones de
352 académicos y expertos de la industria en aprendizaje automático.
Estas son algunas de las conclusiones de esa encuesta:

En los próximos diez años, deberíamos tener I.A. hacerlo mejor que los
humanos en la traducción de idiomas (para 2024), escribir ensayos de
nivel secundario (para 2026), escribir las 40 mejores canciones (para
2028) y conducir camiones. Y si bien el consenso puede ser que la
conducción de camiones podría llegar en 2027, es fácil predecir que esto
podría suceder incluso antes. . .

Una tarea que tomaría menos tiempo: doblar la ropa debería ser muy fácil
para A.I. para 2022 . . . Deberíamos tener máquinas impulsadas por A.I.
en el comercio minorista para 2031. Para 2049, A.I. debería estar
escribiendo bestsellers del New York Times y realizando cirugías para
2053.

En general, I.A. debería ser mejor que los humanos en casi todo en unos
45 años.3

La encuesta también indicó que todos los trabajos humanos se

automatizarían en los próximos 125 años.
El economista jefe del Banco de Inglaterra, Andy Haldane, habla de un
“vaciamiento del mercado laboral” causado por el avance tecnológico que
“dejó a mucha gente . . . luchando por ganarse la vida. Eso aumentó las
tensiones sociales, aumentó las tensiones financieras, condujo a un
aumento de la desigualdad”. Haldane dice que hay “un lado oscuro” en las
revoluciones tecnológicas, y “necesitaremos crear un número aún mayor de
nuevos puestos de trabajo en el futuro, si no queremos sufrir esta
característica a largo plazo llamada desempleo tecnológico”.4

Un informe de PwC predijo que alrededor de 7 millones de puestos de

trabajo podrían ser desplazados para 2020, pero que se podrían crear 7,2
millones.5 El hecho es que simplemente no sabemos con precisión cómo se
verán afectados los puestos de trabajo, pero está claro que se verán
afectados: ya lo son

El científico Sir Martin Rees está de acuerdo en que los robots pueden
hacerse cargo de muchos trabajos, pero sugiere que nunca serán buenos
para cuidar, una actividad que se encuentra en el corazón de lo que
significa ser humano. Sin embargo, esto no es del todo cierto. Aunque los
robots no se preocupan de la misma manera que los humanos, el grupo de la
Dra. Rosalind Picard en el MIT ha publicado estudios sobre la creación de
chats robóticos basados en texto y agentes conversacionales que parecían
para las personas como si realmente se preocuparan en la medida en que
que aquellos que interactuaban respondieron a ellos actuando de maneras
que mostraban que la tecnología estaba logrando un éxito real. Picard
comenta:

Esto, como toda la IA hasta la fecha, funciona solo en contextos muy

limitados, pero también es muy bueno en esos contextos. Las personas
perciben a las IA que usan un lenguaje empático como más “afectuosas” que
las IA que simplemente usan un lenguaje amigable o social o que solo
brindan información. Este trabajo ha sido continuado por personas que
construyen robots sociales y se ha implementado en productos, por
ejemplo, por Cory Kidd de Catalia Health.6

2084 – EL GRAN HERMANO SE ENCUENTRA CON LOS GRANDES DATOS

Uno de los principales aspectos orwellianos de la IA es que ciertas

formas presentan una seria amenaza para la privacidad individual y
corporativa. Los programas de seguimiento de IA están diseñados para
recopilar la mayor cantidad de datos posible que genera sobre usted
mismo: su estilo de vida, hábitos, dónde va, qué compra, las personas con
las que se comunica, los libros que lee, los trabajos que realiza, las
actividades políticas y sociales, su opiniones personales: una lista que
se agrega todo el tiempo. Mark Zuckerberg una vez se jactó de que
Facebook sabría cada libro, película y canción que una persona haya
consumido alguna vez y que sus modelos predictivos te dirían a qué bar ir
cuando llegues a una ciudad extraña, donde el cantinero tendría tu bebida
favorita esperándote. para ti.7 Algo de esto nos parece útil, pero tiene
más de un lado. Los datos que se recolectan de nosotros se pueden usar no
solo para informarnos sino también para controlarnos.
Por razones obvias, los delincuentes también desean tener en sus manos
estos datos. En el momento de escribir este artículo, me enteré de que
los datos de mi tarjeta de crédito habían sido pirateados de una empresa
conocida a la que se los confié. Como resultado, tuve que cancelar la
tarjeta y solicitar otra para evitar ser víctima de un delito financiero.

Ya vivimos en un mundo en el que alrededor de 2.500 millones de nosotros

(de forma voluntaria, cabe señalar) usamos un sofisticado rastreador
personal en forma de teléfono inteligente, y casi el mismo número está
conectado a la red en Facebook. Las grandes preguntas éticas son obvias:
¿Quién controla tales proyectos y quién es el propietario de los datos
que generan?

Capitalismo de vigilancia

La recopilación de datos se ha convertido en un negocio inmensamente

rentable que tiene ramificaciones sutiles y, a menudo, ocultas. Este tema
es el tema de un impresionante libro reciente, The Age of Surveillance
Capitalism, de la profesora de Harvard Shoshana Zuboff. Está subtitulado:
The Fight for a Human Future at the New Frontier of Power.8 Su tesis es
que nos estamos moviendo hacia lo que ella define al comienzo de su libro
como un nuevo tipo de orden económico que recopila los grandes datos que
generamos. y lo explota como materia prima con el fin de ganar dinero de
maneras que son menos que obvias para la mayoría de las personas. Estas
actividades, por supuesto, intensificarán el riesgo del tipo de sociedad
de vigilancia que discutiremos en la siguiente sección, y las dos juntas
amenazarán la estabilidad y las libertades que se disfrutan actualmente
en al menos algunas partes del mundo.

Zuboff, cuya voz ya se considera que no debe ignorarse, también destaca

que el capitalismo de vigilancia es una consecuencia lógica de las
tecnologías que se están desarrollando.9 A un nivel más popular, Libby
Purves comenta en el Times of 29 de julio de 2019 sobre la prevalencia de
asistentes digitales como Siri y Alexa: “La novedad desdibuja la rareza
de pagar para vivir con un espía inhumano vigilante vinculado a un centro
de ganancias corporativas demasiado humano a miles de millas de
distancia. . . Dar la bienvenida a un intruso corporativo mal regulado en
su casa es una tontería e imprudencia auto-molesta”. 10 Sin embargo,
¡millones, tal vez pronto miles de millones, de nosotros lo hacemos!

Comunismo de vigilancia

Así como una desventaja de la recolección de información es el

capitalismo de vigilancia, otra podría llamarse razonablemente comunismo
de vigilancia. En marzo de 2018, el Future of Humanity Institute de la
Universidad de Oxford publicó un informe sobre el desarrollo de la IA en
China, donde, se dice, se gastaron $197 mil millones en seguridad
doméstica en 2017 y donde esperan instalar más de 400 millones. Cámaras
de circuito cerrado de televisión para 2020. Parte de lo que George
Orwell imaginó para 1984 ya está entre nosotros, por lo que nadie sabe
cómo será para 2084, aunque la tendencia subyacente es clara: China ya
está utilizando IA para lograr el control social.11
Están implementando gradualmente un sistema de crédito social para
verificar la confiabilidad y confiabilidad de los ciudadanos. El sistema
consiste en otorgar a cada ciudadano 300 puntos de crédito social que se
pueden sumar por un comportamiento "bueno" (es decir, aprobado por el
gobierno), como usar el transporte público, mantenerse en forma, informar
sobre alguien que ha visto con grandes cantidades. de moneda extranjera.
A medida que se acumulan sus puntos, se le otorgan más y más beneficios:
acceso a una gama más amplia de trabajos, oportunidades de hipotecas,
colocación escolar para niños, bienes, posibilidades de viaje, etc.

Si se comporta de una manera considerada "antisocial", como asociarse con

personas consideradas "inseguras" por el gobierno, entrar en conflicto
con la policía o consumir alcohol en exceso, perderá puntos y eso
eventualmente resultará en sanciones limitadas. acceso al mercado laboral
y de la vivienda, restricciones en los viajes o incluso en la variedad de
restaurantes que puedes visitar, etc. Incluso podrías terminar siendo
denunciado como una “persona desprestigiada” en una pantalla de
televisión pública al pasar frente a ella.

Gran parte de este control se ejerce mediante el uso de técnicas

avanzadas de reconocimiento facial de IA que trabajan en una amplia base
de datos de imágenes canalizadas a un centro informático central desde lo
que pronto serán millones de cámaras de circuito cerrado de televisión.12

The Times informó que algunas empresas chinas están equipando a sus
empleados con cascos que ocultan tecnología que puede leer las ondas
cerebrales del usuario y enviar los datos a computadoras que, a su vez,
usan IA para detectar emociones como depresión, ansiedad o ira.13 Seis
Meses después, supimos que China planea implementar el programa de
crédito social para todos los casi 22 millones de ciudadanos de Beijing.
The Telegraph informó que el gobierno chino ha declarado que “el sistema
de puntos mejorará el entorno empresarial de la ciudad al evitar que las
personas con baja ‘integridad’ accedan a los servicios públicos y la red
de viajes de la ciudad. Las personas con un puntaje crediticio bajo
también podrían tener dificultades para iniciar un negocio o encontrar
trabajo”. entradas.15

No es difícil ver que estos planes representan una piratería masiva de

seres humanos y están llevando al mundo un paso bastante aterrador hacia
la perfección de una dictadura (potencialmente global), la creación de un
"mundo de sueños autoritario" cuya ideología podría extenderse. alrededor
del mundo como un virus y cuya legitimidad está asegurada por el aparato
de vigilancia estatal más completo y poderoso de la historia. El sistema
de nube policial de China está diseñado para monitorear siete categorías
de personas, incluidas aquellas que “socavan la estabilidad”.16

Ahora parece haber un gran problema ético oculto aquí. Tiene que ver con
la suposición de que los algoritmos de reconocimiento facial de IA y la
tecnología portátil de detección de emociones dan lecturas correctas de
las emociones y actitudes que deben detectar. Pero hay cada vez más
evidencia científica de que esto puede estar lejos de ser el caso, al
menos en el caso del reconocimiento facial.
The Times del 29 de julio de 2019 informa sobre un análisis de dos años
de más de 1000 estudios sobre la relación entre los movimientos faciales
y las emociones. Los investigadores no encontraron apoyo para las
expresiones faciales estereotipadas como predictivas de sentimientos.17
La conclusión declarada por la Distinguida Profesora de Psicología de la
Universidad Lisa Feldman Barrett de la Universidad del Noreste en
Massachusetts fue la siguiente: “No es posible inferir con confianza la
felicidad de una sonrisa, la ira por fruncir el ceño o tristeza por
fruncir el ceño.”18 Sin embargo, muchos de los principales proveedores de
tecnologías de seguridad piensan de otra manera. El espacio para errores
que conducen a injusticias trágicas para individuos y grupos objetivo es
obvio. Parece que se está haciendo poco al respecto, a pesar de que se
están implementando tecnologías posiblemente defectuosas, particularmente
en China.

En un informe más reciente de Human Rights Watch, su investigador

principal de China, Maya Wang, dijo: “El gobierno chino está monitoreando
todos los aspectos de la vida de las personas en Xinjiang, eligiendo a
aquellos de quienes desconfía y sometiéndolos a un escrutinio
adicional”.19

Xinjiang es una región del oeste de China en la que viven diez millones
de uigures, predominantemente musulmanes, y un número cada vez mayor de
chinos han, a quienes se ha alentado a establecerse allí. Los chinos
pueden moverse sin dificultad, pero la población uigur ahora está sujeta
a la vigilancia más intensa que el mundo haya visto hasta el punto de que
la ciudad capital de Urumqi ha sido descrita como una “fortaleza
digital”. Hay cámaras cada pocos metros por cada calle y callejón. Hay
pequeñas estaciones de policía cada pocos cientos de metros, donde los
uigures que pasan deben entregar sus teléfonos inteligentes para que se
lean electrónicamente y toda la información contenida en ellos se
transfiera al sistema de monitoreo central para que sea procesada por IA.
Un documental de televisión clandestino reciente hecho para ITV mostró
imágenes de códigos QR pegados en las puertas de las casas para ser
leídos por los escáneres de la policía para que supieran quién se suponía
que estaba en la casa y luego pudieran verificar.20

Lo que es aún más preocupante es la instalación de los llamados “centros

de reeducación” que en conjunto albergan hasta un millón de uigures, que
son enviados allí como resultado de lo que revela el aparato de
vigilancia, aunque, como hemos visto, la tecnología puede ser defectuosa.
Muchas familias han sido separadas: maridos separados de sus esposas e
hijos separados de sus padres. Estos “centros de reeducación” (prisiones,
en realidad) parecen estar dedicados a la eliminación de la cultura
uigur, convirtiendo a sus reclusos en ciudadanos chinos leales.21
Representan una violación extrema de los derechos humanos; de hecho, un
comentarista dijo que los derechos humanos para la población uigur era
inexistente.

El informe de la Sra. Wang continuó diciendo: “No se trata solo de

Xinjiang o incluso de China, se trata del mundo más allá y de si los
seres humanos podemos seguir teniendo libertad en un mundo de
dispositivos conectados”. Agregó: “Es una llamada de atención, no solo
sobre China, sino sobre cada uno de nosotros”.22
De hecho así. Porque es bastante obvio que la mayoría de los ingredientes
de tal programa de vigilancia del crédito social ya existen en Occidente,
aunque, hasta el momento, en una forma no centralizada. El año pasado,
The Times reveló que una empresa china había vendido 1,2 millones de
cámaras de circuito cerrado de televisión al Reino Unido, algunas de las
cuales pueden ver en la oscuridad, reconocer matrículas y contar las
personas que entran y salen de los edificios.23 Todos vivimos en una era
de Vigilancia algorítmica masiva corporativa. El comercio de libertad por
seguridad está en el aire: una distopía orwelliana con ganas de venganza.
¿Recuerdas los televisores bidireccionales llamados “telepantallas”?
Estos desarrollos recuerdan el estado policial distópico llamado One
State, construido casi completamente de vidrio para facilitar la
vigilancia, que apareció en uno de los primeros libros que inspiró muchas
novelas distópicas posteriores, incluyendo Brave New World y,
posiblemente, 1984. Me refiero al Novela de ciencia ficción de 1921
Nosotros del autor ruso Yevgeny Zamyatin.

Por el momento en Occidente, muchas de las herramientas de vigilancia

están (todavía) en manos privadas, aunque eso parece estar cambiando. Por
ejemplo, en 2015, Francia introdujo la Ley de Comunicaciones Electrónicas
Internacionales; en 2016, el Reino Unido introdujo la Ley de poderes de
investigación y Alemania introdujo la Ley de inteligencia de recopilación
de comunicaciones, todas las cuales otorgan mayores poderes de vigilancia
a sus servicios de seguridad.

Las empresas de calificación crediticia manejan cada vez más índices que
no guardan relación con un extracto bancario, como las redes sociales de
las personas. Las compañías de seguros equipan los automóviles con
transpondedores de seguimiento para controlar el kilometraje. Algunas
aseguradoras médicas otorgan descuentos a los clientes si pueden ver en
sus Fitbits que han estado haciendo ejercicio correctamente. Una vez más,
en The Times del 16 de abril de 2018, Matt Ridley señala que “El manejo
de datos personales por parte de la inteligencia demasiado humana se ha
convertido en el mayor desafío ético de este nuevo y valiente mundo”.24

Un ejemplo bien conocido es la profunda preocupación por Facebook, que,

como resultado, ha estado almacenando registros de llamadas y mensajes de
texto de sus miembros, a menudo sin que ellos lo sepan, y permitiendo que
empresas como Cambridge Analytica accedan a ellos en una escala sin
precedentes. . Esta es la desventaja, algunos dicen que la maldición, de
los grandes datos. Cuanto más se sepa sobre cómo se comportan las
personas en conjunto, más seremos juzgados por las huellas que nuestras
elecciones y acciones dejen en el ciberespacio, y más nuestras futuras
elecciones y acciones serán moldeadas por estos sistemas. Se acercan cada
vez más al programa de crédito social chino. Ridley continúa diciendo:
"La sociedad debe lidiar con el dilema de preservar la privacidad de las
personas y la propiedad de sus datos mientras permite que los algoritmos
de aprendizaje automático obtengan información valiosa para todos".

USO MILITAR DE LA IA: ARMAS AUTÓNOMAS

Un informe de Chatham House dice: “Tanto los robots militares como los
comerciales incorporarán en el futuro ‘inteligencia artificial’ (IA) que
podría hacerlos capaces de realizar tareas y misiones por sí mismos. En
el contexto militar, esto da lugar a un debate sobre si se debe permitir
que tales robots ejecuten tales misiones, especialmente si existe la
posibilidad de que una vida humana pueda estar en juego.”25

El fundador de Tesla, Elon Musk, cree que la IA podría desencadenar la

Tercera Guerra Mundial, y Vladimir Putin ha dicho que el liderazgo en IA
será esencial para el poder mundial en el siglo XXI. Michael Horowitz de
la Universidad de Pensilvania emite una nota cautelosa:

La promesa potencial de la IA, a pesar de las preocupaciones de seguridad

y confiabilidad, significa que los principales ejércitos de todo el mundo
ciertamente verán los riesgos de quedarse quietos. Desde el procesamiento
de datos hasta los conceptos de enjambre y la gestión del campo de
batalla, la IA podría ayudar a los militares a operar de manera más
rápida y precisa, al tiempo que pone en riesgo a menos humanos. O no. Los
problemas de seguridad y confiabilidad endémicos de los métodos actuales
de aprendizaje automático y redes neuronales significan que los datos
contradictorios, entre otros problemas, presentarán un desafío para
muchas aplicaciones militares de IA. . . Pero dada su amplitud como
tecnología, en comparación con tecnologías específicas como la energía
dirigida, y el grado de energía comercial e inversión en IA, parece más
probable que la era de la inteligencia artificial moldee, al menos hasta
cierto punto, la futuro de las fuerzas armadas en todo el mundo.26

Un informe de Zachary Fryer-Biggs dice que el Pentágono planea gastar $ 2

mil millones para poner más IA en armamento para competir de manera más
efectiva con los avances rusos y chinos en tecnología militar.27 Sin
embargo, aparentemente, los comandantes están preocupados por ceder el
mando a la IA. sistemas que se encargarían de identificar, buscar y
eliminar objetivos humanos. Los investigadores de Google que han estado
trabajando en tales sistemas de inteligencia artificial han protestado
hasta el punto de que su parte en el programa se suspende. Citado en el
informe, Horowitz comenta: “Hay mucha preocupación sobre la seguridad de
la IA, [sobre] los algoritmos que no pueden adaptarse a la realidad
compleja y, por lo tanto, funcionan mal de manera impredecible. Una cosa
es si de lo que estás hablando es una búsqueda en Google, pero otra cosa
es si de lo que estás hablando es de un sistema de armas”. En un discurso
de apertura en la Universidad de Stanford en 2019, Bill Gates dijo que la
IA es como la energía nuclear y las armas nucleares en que es "tanto
prometedora como peligrosa".28

Durante la Guerra Fría, un grupo de médicos llamado Médicos

Internacionales para la Prevención de la Guerra Nuclear recibió el Premio
Nobel de la Paz por advertir contra el uso apocalíptico de las armas
nucleares. Ahora ese mismo grupo está inculcando al mundo la necesidad de
actuar contra la amenaza de los robots asesinos y el peligro de que las
armas autónomas caigan en manos de terroristas. En marzo de 2019 se hizo
una advertencia en una reunión de las Naciones Unidas: “Las tecnologías
de IA también se pueden usar para crear armas de destrucción masiva como
nunca antes se había visto en el mundo”.29

Está claro que es necesario desarrollar una ética muy inteligente para
hacer frente a esta creciente amenaza antes de que sea demasiado tarde.
Las preocupaciones éticas generales con respecto a la IA han llevado a la
formulación de los llamados Principios de IA de Asilomar desarrollados en
una conferencia en Asilomar, California, en 2017, que han sido suscritos
por más de 1000 investigadores de IA. Otros patrocinadores incluyen al
difunto Stephen Hawking, Elon Musk y Jaan Tallinn. Algunos de los
principios éticos tomados de la lista son:

1) Objetivo de la investigación: el objetivo de la investigación de la IA

no debe ser crear inteligencia no dirigida, sino inteligencia
beneficiosa. . .

6) Seguridad: los sistemas de IA deben ser seguros durante toda su vida

operativa, y de manera verificable cuando sea aplicable y factible. . .

10) Alineación de valores: los sistemas de IA altamente autónomos deben

diseñarse de modo que se pueda garantizar que sus objetivos y
comportamientos se alineen con los valores humanos a lo largo de su
operación.

11) Valores humanos: los sistemas de IA deben diseñarse y operarse de

modo que sean compatibles con los ideales de dignidad humana, derechos,
libertades y diversidad cultural.

12) Privacidad personal: las personas deben tener derecho a acceder,

administrar y controlar los datos que generan, dado el poder de los
sistemas de inteligencia artificial para analizar y utilizar esos datos.

13) Libertad y privacidad: la aplicación de la IA a los datos personales

no debe restringir injustificadamente la libertad real o percibida de las
personas.

14) Beneficio compartido: las tecnologías de IA deberían beneficiar y

empoderar a tantas personas como sea posible.

15) Prosperidad compartida: la prosperidad económica creada por la IA

debe compartirse ampliamente para beneficiar a toda la humanidad.

16) Control humano: los humanos deben elegir cómo y si delegar decisiones
a los sistemas de IA para lograr los objetivos elegidos por los humanos.

17) No subversión: El poder conferido por el control de sistemas de IA

altamente avanzados debería respetar y mejorar, en lugar de subvertir,
los procesos sociales y cívicos de los que depende la salud de la
sociedad.

18) Carrera armamentista de IA: se debe evitar una carrera armamentista

en armas letales autónomas.

Los problemas a más largo plazo están representados, por ejemplo, por:

20) Importancia: la IA avanzada podría representar un cambio profundo en

la historia de la vida en la Tierra, y debe planificarse y administrarse
con el cuidado y los recursos correspondientes. . .
22) Automejora recursiva: los sistemas de IA diseñados para automejorarse
o autorreplicarse recursivamente de una manera que podría conducir a un
rápido aumento de la calidad o la cantidad deben estar sujetos a
estrictas medidas de seguridad y control.

23) Bien común: la superinteligencia solo debe desarrollarse al servicio

de ideales éticos ampliamente compartidos y para el beneficio de toda la
humanidad en lugar de un solo estado u organización.30

El objetivo principal de estos principios es garantizar que la

investigación en IA esté estructurada éticamente de tal manera que los
sistemas resultantes sean seguros y estén diseñados de acuerdo con los
valores humanos comunes para que sean beneficiosos para la humanidad y
conduzcan al florecimiento. de tantas personas como sea posible. Los
intentos de utilizar IA avanzada para desarrollar superinteligencia deben
estar limitados por convicciones éticas ampliamente compartidas para que
sirvan al bien de todos los seres humanos en lugar de a los estrechos
intereses de un estado o corporación.

Se impone una advertencia realista: como todo gerente de cumplimiento

sabe, una cosa es tener una declaración de misión y una lista de
principios éticos; otra cosa es hacer que se apropien de ellos en los
corazones, las mentes y el comportamiento de aquellas personas para
quienes fueron diseñados. Ese bien puede ser el mayor problema de todos
al tratar de evitar el advenimiento antes de 2084 de los aspectos
aterradores de 1984 de Orwell.

En la inauguración en la Speaker's House, Westminster, del primer

Instituto de Inteligencia Artificial Ética en Educación del Reino Unido
en octubre de 2018, Sir Anthony Seldon, vicerrector de la Universidad de
Buckingham, dijo:

Estamos caminando sonámbulos hacia el mayor peligro al que se han

enfrentado los jóvenes, eclipsando totalmente el riesgo de las redes
sociales y otras formas de digitalización. El Gobierno no está dando un
paso al frente, y las empresas de tecnología se los están comiendo vivos,
obteniendo ganancias vergonzosamente altas, predicando lugares comunes
mientras infantilizan a nuestros jóvenes y los exponen a grandes
peligros. La IA podría ser una ayuda considerable si tenemos la dimensión
ética correcta, pero cada mes que pasa estamos perdiendo la batalla.31

¿Es inevitable que Big Data desemboque en Gran Hermano? El historiador

Yuval Noah Harari piensa que sí: “Una vez que los sistemas de Big Data me
conozcan mejor que yo mismo, la autoridad pasará de los humanos a los
algoritmos. Big Data podría entonces empoderar al Gran Hermano.”32

NOTAS

1. Stephen Buranyi, "Cómo persuadir a un robot de que debe conseguir el

trabajo", The Guardian, 4 de marzo de 2018,
www.theguardian.com/technology/2018/mar/04/robots-screen-candidates-for-
jobs- inteligencia artificial.
2. Nanette Byrnes, “As Goldman Embraces Automation, Even the Masters of
the Universe Are Threatened”, MIT Technology Review, 7 de febrero de
2017, www.technologyreview.com/s/603431/as-goldman-embraces-automation-
even-the -los-amos-del-universo-están-amenazados.

3. Paul Ratner, “Aquí es cuando las máquinas tomarán su trabajo, según lo

predicho por A.I. Gurus”, Big Think, 4 de junio de 2017,
https://bigthink.com/paul-ratner/heres-when-machines-will-take-your-job-
predict-ai-gurus.

4. Lucy Hook, “El economista jefe del Banco de Inglaterra advierte sobre
el riesgo de la amenaza laboral de la IA”, Insurance Business, 20 de
agosto de 2018,
www.insurancebusinessmag.com/us/risk-management/operational/bank-of-
england-jefe-economista -advierte-sobre-el-riesgo-de-ai-jobs-threat-
109206.aspx.

5. Véase Anmar Frangoul, “¿La inteligencia artificial creará más empleos

de los que destruirá? Eso es lo que dice PwC”, CNBC, 17 de julio de 2018,
www.cnbc.com/2018/07/17/artificial-intelligence-to-create-more-jobs-than-
it-destroys-pwc-says.html.

6. Comunicación privada (utilizada con permiso); véase también T.

Bickmore y R. W. Picard, “Towards Caring Machines”, Actas de CHI, abril
de 2004, Viena, Italia; y, para obtener más detalles, T. Bickmore y R. W.
Picard, "Establecer y mantener relaciones entre humanos y computadoras a
largo plazo", Transactions on Computer-Human Interaction 12, no. 2 (junio
de 2004): 293–327.

7. Citado en Ashlee Vance, “Facebook: The Making of 1 Billion Users”,

Bloomberg, 4 de octubre de 2012, www.bloomberg.com/news/articles/2012-10-
04/facebook-the-making-of-1- mil millones de usuarios.

8. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a

Human Future at the New Frontier of Power (Londres: Profile, 2019).

9. Zuboff, Era del capitalismo de vigilancia, 15.

10. Libby Purves, “Oye, Siri, me gustaría que me dejes en paz ahora”, The
Times, 29 de julio de 2019, www.thetimes.co.uk/article/hey-siri-i-d-like-
you-to- déjame-solo-ahora-qz5dlt8q3.

11. Consulte Anna Mitchell y Larry Diamond, “China’s Surveillance State

Should Scare Everyone”, The Atlantic, 2 de febrero de 2018,
www.theatlantic.com/international/archive/2018/02/china-surveillance/
552203.

12. Consulte Jeffrey Ding, "Descifrando el sueño de la IA de China: el

contexto, los componentes, las capacidades y las consecuencias de la
estrategia de China para liderar el mundo en IA", Future of Humanity
Institute, Universidad de Oxford (marzo de 2018), www.fhi.ox .ac.uk/wp-
content/uploads/Deciphering_Chinas_AI-Dream.pdf, 33–34; véase también
Oliver Moody, “Big Brother Is Watching Them. And We're Next”, The Times,
31 de marzo de 2018, www.thetimes.co.uk/article/big-brother-is-watching-
them-and-we-re-next-858902nbk.

13. Didi Tang, “Chinese Read Brainwaves to Check Up on Workforce”, The

Times, 9 de mayo de 2018, www.thetimes.co.uk/article/china-chinese-read-
brainwaves-workforce-technology-mood-detection-zp67vv9vx .

14. Joseph Archer, “Beijing to Assign 'Personal Trustworthiness Points'

for All Citizens by 2021”, The Telegraph, 20 de noviembre de 2018,
www.telegraph.co.uk/technology/2018/11/20/beijing-assign-personal-
confiabilidad-puntos-ciudadanos-2021.

15. Citado en Alexandra Ma, “China clasifica a los ciudadanos con un

sistema de crédito social: esto es lo que puede hacer mal y cómo puede
ser castigado”, Independent, 10 de abril de 2018,
www.independent.co.uk/life-style/gadgets -y-tecnología/china-social-
credit-system-castigos-recompensas-explicado-a8297486.html.

16. “China: Police 'Big Data' Systems Violate Privacy, Target Dissent”,
Human Rights Watch, 19 de noviembre de 2017,
www.hrw.org/news/2017/11/19/china-police-big-data-systems- violar-
privacidad-objetivo-disidente.

17. Véase Mark Bridge, “Scientists Frown at Technology's Ability to Read

Facial Expressions”, The Times, 29 de julio de 2019,
www.thetimes.co.uk/article/scientists-frown-at-technology-s-ability-to-
read -expresiones-faciales-6jzsjqxcv.

18. Para obtener más detalles, consulte el artículo de investigación

“Expresiones emocionales reconsideradas: desafíos para inferir la emoción
de los movimientos faciales humanos”, Psychological Science in the Public
Interest, vol. 20, núm. 1 (2019): 1–68,
https://journals.sagepub.com/eprint/SAUES8UM69EN8TSMUGF9/full.

19. Citado en “Cómo funciona la vigilancia masiva en Xinjiang, China”,

Human Rights Watch, 2 de mayo de 2019,
www.hrw.org/video-photos/interactive/2019/05/02/china-how-mass-
surveillance-works -Xinjiang.

20. Véase Robin Barnwell y Gesbeen Mohammad, “Bar Codes and Cameras Track
China's 'Lab Rats'”, The Times, 14 de julio de 2019,
www.thetimes.co.uk/article/bar-codes-and-cameras-track-china -s-lab-
ratas-tp9wcc0fbThe Times; véase también Maya Wang, “'Eradicating
Ideological Viruses': China's Campaign of Repression against Xinjiang's
Muslims”, Human Rights Watch, 9 de septiembre de 2018,
www.hrw.org/report/2018/09/09/eradicating-ideological-viruses/chinas -
campaña-represión-contra-xinjiangs; Josh Chin y Clément Bürge, “Doce días
en Xinjiang: cómo el estado de vigilancia de China abruma la vida
cotidiana”, Wall Street Journal, 19 de diciembre de 2017,
www.wsj.com/articles/twelve-days-in-xinjiang-how-chinas-surveillance -
estado-abrumador-vida-diaria-1513700355.

21. Véase Chris Buckley y Steven Lee Myers, “China Builds More Secret
'Reeducation Camps' to Detain Uighur Muslims Pese a la protesta mundial
por el sufrimiento humano”, Independent, 10 de agosto de 2019,
www.independent.co.uk/news/world/asia /xi-jinping-regime-han-chinese-
threat-uighur-muslims-persecution-detention-camps-a9051126.html.

22. Citado en Gerry Shih, "'Police Cloud': Chinese Database Tracks Apps,
Car Location and Even Electricity Usage in Muslim Region", Washington
Post, 2 de mayo de 2019, www.washingtonpost.com/world/chinese-database-
is- seguimiento-uso-celular-ubicación-automóvil-e-incluso-uso-
electricidad-de-residentes-xinjiang/2019/05/01/12eb3996-6c8a-11e9-be3a-
33217240a539_story.html.

23. Moody, “El gran hermano los está mirando. Y nosotros somos los
siguientes”.

24. Matt Ridley, “Britain Can Show the World the Best of AI”, The Times,
16 de abril de 2018, www.thetimes.co.uk/article/britain-can-show-the-
world-the-best-of- ai-585vsthvn.

25. Mary L. Cummings, “Artificial Intelligence and the Future of

Warfare”, Chatham House, 26 de enero de 2017,
www.chathamhouse.org/publication/artificial-intelligence-and-future-
warfare.

26. Michael C. Horowitz, “The Promise and Peril of Military Applications

of Artificial Intelligence”, Bulletin of the Atomic Scientists, 23 de
abril de 2018, https://thebulletin.org/landing_article/the-promise-and-
peril-of- aplicaciones-militares-de-inteligencia-artificial.

27. Ver Zachary Fryer-Biggs, “El Pentágono planea gastar $2 mil millones
para poner más inteligencia artificial en su armamento”, The Verge, 8 de
septiembre de 2018, www.theverge.com/2018/9/8/17833160/pentagon-darpa -
inteligencia-artificial-ai-inversión.

28. Catherine Clifford, “Bill Gates: I.A. es como la energía nuclear:

‘tanto prometedora como peligrosa’”, CNBC, 26 de marzo de 2019,
www.cnbc.com/2019/03/26/bill-gates-artificial-intelligence-both-
promising-and-dangerous.html.

29. Rhys Blakely, “Los médicos ganadores del premio Nobel de la paz
advierten que los robots autónomos asesinos deben ser prohibidos”, The
Times, 25 de marzo de 2019, www.thetimes.co.uk/article/nobel-peace-
prizewinning-doctors-warn-killer-autonomous- robots-deben-ser-prohibidos-
zt63np0t8.

30. Para obtener más detalles, incluida la lista completa, consulte

"Asilomar AI Principles", Future of Life Institute,
https://futureoflife.org/ai-principles.

31. “Profesor de la OIE cofunda el primer Instituto de Inteligencia

Artificial Ética en la Educación del Reino Unido”, Instituto de Educación
de la UCL, 18 de octubre de 2018, www.ucl.ac.uk/ioe/news/2018/oct/ioe-
professor-co -founds-uks-first-institute-ethical-artificial-intelligence-
education.
32. Yuval Noah Harari, “Yuval Noah Harari sobre Big Data, Google y el fin
del libre albedrío”, Financial Times, 26 de agosto de 2016,
www.ft.com/content/50bb4830-6a4c-11e6-ae5b-a7cc5dd5a28c.

CAPÍTULO SEIS

MEJORANDO A LOS HUMANOS

AI comenzó con un antiguo deseo de forjar a los dioses.

Pamela McCorduck

Desde la antigüedad, la práctica de la medicina se ha dedicado al cuidado

de los enfermos. Sin embargo, en tiempos relativamente recientes, ha
surgido una nueva dirección: la medicina que se dedica a mejorar la salud
(y los ricos, se podría agregar). Es decir, la medicina ya no es
simplemente una cuestión de atención médica, sino de mejora de la vida
orientada a hacer que las personas estén más en forma, más bellas, más
inteligentes, más favorecidas, menos propensas a las enfermedades y menos
propensas a morir jóvenes; en resumen, más impresionantes y deseable. A
medida que la tecnología se vuelve más y más sofisticada, se despiertan
deseos (particularmente en las mentes de aquellos que podrían
permitírselo) de mejoras importantes en la vida humana.

¿QUÉ IMPULSA EL DESEO DE MEJORAR A LOS HUMANOS?

Aquí está la opinión de Yuval Harari sobre lo que está impulsando los
intentos de mejorar a los seres humanos, de su libro Homo Deus. En una
evaluación general de la historia, que recuerda un poco al libro bastante
optimista de Stephen Pinker Los mejores ángeles de nuestra naturaleza,1
Harari hace tres afirmaciones.2 Deseo hacer solo unos breves comentarios
sobre ellas, ya que el problema principal para Harari no es la se reclama
a sí mismo, sino adónde va con ellos.

En primer lugar, considera que la guerra es obsoleta en el sentido de que

es más probable que nos matemos a nosotros mismos que que nos maten en un
conflicto.3 Mi reacción inmediata es preguntar: ¿A quién se contempla
aquí? ¿Harari está pensando principalmente en algunos países de Occidente
donde ha habido un cambio radical en la historia, ya que las guerras ya
no se consideran generalmente como la forma habitual de resolver las
diferencias internacionales? Y Europa ciertamente ha visto un largo
período de paz entre la Segunda Guerra Mundial y las Guerras de los
Balcanes. Sin embargo, en el momento de escribir este artículo, las
guerras se están librando en muchas partes del mundo. No solo eso, sino
que uno puede imaginar que en áreas devastadas por la guerra, es probable
que la desesperación conduzca a un aumento de las tasas de suicidio, de
modo que, aunque quienes se suicidan no mueren en el sentido técnico del
conflicto, mueren como consecuencia del conflicto. Además, la afirmación
de Harari se ve cuestionada por los escenarios de guerra cibernética y la
perspectiva de un mayor uso de vehículos y armas autónomos en la guerra
real.

En segundo lugar, Harari sostiene que corremos más riesgo por el aumento
de peso que por el hambre.4 Esta visión de que la hambruna va a
desaparecer parece extrañamente contraria a la disparidad entre la
riqueza y la pobreza subrayada por los frecuentes desastres humanitarios
y ecológicos y con la evidencia de la actual informes diarios de los
medios de África. En 2017, el Informe global sobre crisis alimentarias
encontró que había 108 millones de personas en riesgo en 48 países. Un
año después, en 2018, se registró un aumento a 124 millones de personas
en 51 países.5 Además, el aumento se atribuyó en gran medida al aumento
de los conflictos en las regiones afectadas. Difícilmente se puede decir
que esto apoye las dos primeras tesis de Harari.

En tercer y último lugar, Harari piensa que la muerte física ha quedado

reducida a un mero problema técnico que está maduro para ser resuelto por
la ciencia médica6. En otras palabras, piensa que en un futuro no muy
lejano, aunque podamos morir, no tener que morir Se encontrará una "cura"
para la muerte. Como si la muerte fuera una enfermedad, pero ¿lo es? Yo
no estaría tan seguro por razones que aparecerán más adelante. En
cualquier caso, esta afirmación parece muy descabellada.

Las afirmaciones de Harari parecen ser muy controvertidas, tal vez

incluso falsas. En la medida en que contengan algo de verdad, parecerían
aplicarse al Occidente más rico mucho más que al mundo en desarrollo.
También muestran un optimismo moral que es difícil de justificar. El
astrónomo británico Royal Martin Rees teme que, sin iniciativas
internacionales, sensatas y con visión de futuro para combatir amenazas
globales como el cambio climático, las armas nucleares y la guerra
biológica, las generaciones futuras pueden quedarse con "un mundo agotado
y peligroso".7 No exactamente el mundo utópico imaginado por Harari.

En particular, la primera afirmación, o más precisamente, la versión de

Pinker de ella, ha sido objeto de una crítica mordaz por parte de John
Gray, quien dice que las estadísticas de Pinker son engañosas y que su
idea del progreso moral es una ilusión y un error total. Gray señala que
Pinker (y también el especialista en ética Peter Singer, que lo apoya)
fundamentalmente malinterpreta la Ilustración al rastrear en ella una
revolución contra la violencia. Gray dice que ni Pinker ni Singer hacen
“mención de la poderosa corriente antiliberal en el pensamiento de la
Ilustración, expresada en los jacobinos y los bolcheviques, que defendían
y practicaban la violencia metódica como un medio para mejorar la
sociedad. Como muchos otros hoy en día, la respuesta de Pinker cuando se
enfrenta a tal evidencia es eliminar el lado oscuro de la
Ilustración. . . En lugar de que la guerra decaiga, la diferencia entre
la paz y la guerra se ha desdibujado fatalmente.”8

LA AGENDA DE HARARI PARA EL SIGLO XXI

Sin embargo, muchas personas están fascinadas con las nociones de Yuval
Harari, y lo más importante acerca de ellas para nuestros propósitos es
lo que construye sobre ellas, especialmente sobre la tercera, que expresa
en términos explícitamente ateos, una convicción de cosmovisión que
constituye el trasfondo de su y el pensamiento de muchos otros sobre el
futuro: “Los humanos no mueren. . . porque Dios lo decretó, o porque la
mortalidad es parte esencial de algún gran plan cósmico. Los humanos
siempre mueren debido a algún problema técnico. . . Todo problema técnico
tiene una solución técnica. No necesitamos esperar la Segunda Venida para
vencer la muerte.”9

Por supuesto, todo esto es pura afirmación sin evidencia y plantea la

pregunta de si Harari realmente espera que seamos tan ingenuos como para
aceptarlo sobre la base de su autoridad. Sin embargo, tal es el deseo de
evitar la muerte que muchas personas lo compran; y a la luz de eso,
Harari afirma que el primer tema importante de la agenda en el siglo XXI
será una apuesta seria por la inmortalidad humana que recibirá un impulso
irresistible por el miedo a la muerte arraigado en la mayoría de los
humanos. Ese miedo se refleja en la decisión que algunas personas
adineradas han tomado de congelar sus cuerpos después de la muerte
(criogenia) con la esperanza de que puedan volver a la vida cuando los
científicos descubran cómo reiniciar un cerebro congelado.

Tales ideas no carecen de precedentes. Por ejemplo, Nikolai Fedorov

(1829–1903), un filósofo ortodoxo ruso, sugirió que los humanos podrían
intervenir en su propia evolución y dirigirla hacia la inmortalidad
física e incluso la resurrección: “Este día será divino, asombroso, pero
no milagroso, porque la resurrección no será una tarea de milagro sino de
conocimiento y trabajo común.”10 ¡Suena como Harari!

Al entrar en el siglo XX, en 1949, Pierre Teilhard de Chardin, un

sacerdote jesuita y paleontólogo francés, predijo que el rápido cambio
tecnológico daría como resultado una fusión de la humanidad y la
tecnología. Creía que esto eventualmente conduciría a lo que él llamó el
"Punto Omega", donde la humanidad se fusionaría con lo divino: el Homo
deus.

Esto lleva al segundo punto de la agenda de Harari: la intensificación de

la búsqueda de la felicidad. Para cumplir ese deseo, “será necesario
cambiar nuestra bioquímica y rediseñar nuestros cuerpos y mentes11. . .
El segundo gran proyecto del siglo XXI, para garantizar la felicidad
mundial, implicará la reingeniería del Homo sapiens para que pueda
disfrutar del placer eterno.”12 convertir a los humanos en dioses y
convertir al Homo sapiens en Homo deus”13 (pero “pensar más en términos
de dioses griegos”14). Harari cree que esto sucederá gradualmente,
comenzando con nuestra cesión voluntaria del control de nuestras vidas al
teléfono inteligente y, con el tiempo, cambiándonos a nosotros mismos
mediante reingeniería, drogas, etc., hasta que ya no seamos
reconociblemente humanos.15

TRANSHUMANISMO

Este es el proyecto transhumanista cuyos objetivos visionarios los resume

Mark O'Connell en su libro To Be a Machine, que ganó el premio Wellcome
Book Prize en 2018: “Es su creencia de que podemos y debemos erradicar el
envejecimiento como causa de muerte; que podemos y debemos usar la
tecnología para aumentar nuestros cuerpos y nuestras mentes; que podemos
y debemos fusionarnos con las máquinas, rehaciéndonos, finalmente, a la
imagen de nuestros propios ideales superiores.”16

David Pearce, cofundador de la Asociación Mundial Transhumanista,

argumenta de manera similar que el transhumanismo implica aumentar la
capacidad de placer y la extensión radical de la vida para disfrutar de
este placer indefinidamente. Pearce describe esto como el “imperativo
hedonista” y predice que durante los próximos mil años, “los sustratos
biológicos del sufrimiento serán erradicados por completo. . . [y] los
estados poshumanos de alegría mágica serán biológicamente refinados,
multiplicados e intensificados indefinidamente.”17

John Gray, en su muy instructivo libro Seven Types of Atheism, dice: “El
ateísmo contemporáneo es una continuación del monoteísmo por otros
medios. De ahí la sucesión interminable de sustitutos de Dios, como la
humanidad y la ciencia, la tecnología y las visiones demasiado humanas
del transhumanismo”. 18 Él ve este desarrollo como un resurgimiento del
gnosticismo, una antigua herejía que consideraba a los humanos como
espíritus atrapados en cuerpo maligno del que necesitan ser liberados,
esta vez por medio de la tecnología. Según Gray, "el gnosticismo es la fe
de las personas que se creen máquinas". 19 Gray sugiere que el
transhumanismo es esencialmente tecno-monoteísmo. 20

Este impulso de pasar de lo orgánico a lo inorgánico fue anticipado por

C. S. Lewis en su novela distópica de ciencia ficción That Hideous
Strength, escrita en 1945. La opinión la expresa un académico:

En nosotros la vida orgánica ha producido Mente. Ha hecho su trabajo.

Después de eso no queremos más. No queremos que el mundo siga cubierto de
vida orgánica, como lo que ustedes llaman el moho azul, todo brotando y
retoñando y reproduciéndose y descomponiéndose. Debemos deshacernos de
él. Por poco y poco, claro. Poco a poco aprendemos cómo. Aprende a hacer
que nuestros cerebros vivan con cada vez menos cuerpo: aprende a
construir nuestros cuerpos directamente con productos químicos, ya no
tendrás que atiborrarlos de animales muertos y malas hierbas. Aprender a
reproducirnos sin cópula.21

Como dice John Gray, parece haber un fuerte elemento de gnosticismo en

esta actitud. En su perspicaz reseña, Giles Fraser escribe con aprobación
sobre la insistencia de Gray en "la idea de que la ciencia o la
tecnología pueden liberarnos de alguna manera del tipo de preguntas que
nos han llevado a algunos de nosotros a Dios (preguntas sobre la
mortalidad, por ejemplo) es igual de supersticiosa como cualquier
creencia religiosa. Para muchos, la tecnología y la ciencia funcionan en
la sociedad actual de manera muy similar a como lo hacía la magia: ambas
representan la fantasía de que puede haber una solución rápida a los
desafíos del ser humano.”22

En la misma línea, Leon Kass, profesor de pensamiento social en la

Universidad de Chicago, ha hecho una seria advertencia sobre este tipo de
desarrollo:

Hemos pagado algunos precios altos por la conquista tecnológica de la

naturaleza, pero ninguno tan alto como los costos intelectuales y
espirituales de ver la naturaleza como mero material para nuestra
manipulación, explotación y transformación. Ahora que se reúnen los
poderes para la ingeniería biológica, habrá nuevas y espléndidas
oportunidades para una degradación similar en nuestra visión del
hombre. . . Y claramente, si llegamos a vernos a nosotros mismos como
carne, entonces nos convertiremos en carne.23

Kass muestra que los aspectos de la búsqueda de AGI están lejos de ser
moralmente inocuos y neutrales. Puede verse más bien como una búsqueda de
dominio y poder. La dirección en la que nos lleva ese poder es un tema de
profunda preocupación ética, como observó proféticamente C. S. Lewis ya
en 1943 en su notable libro La abolición del hombre:

Lo que llamamos poder del Hombre sobre la Naturaleza resulta ser un poder
ejercido por unos hombres sobre otros hombres con la Naturaleza como
instrumento. . . La conquista de la Naturaleza por parte del hombre, si
se realizan los sueños de algunos planificadores científicos, significa
el dominio de unos pocos cientos de hombres sobre billones y billones de
hombres. No hay ni puede haber un simple aumento de poder por parte del
Hombre. Cada nuevo poder conquistado por el hombre es también un poder
sobre el hombre. Cada avance lo deja más débil y más fuerte. En toda
victoria, además de ser el general que triunfa, es también el prisionero
que sigue al carro triunfal. . . La conquista final del hombre ha
resultado ser la abolición del hombre.24

C. S. Lewis escribió estas palabras después de convertirse en cristiano,

pero el ateo John Gray las considera de valor profético, incluso para
aquellos que no comparten las convicciones teológicas de Lewis.25 Gray
también nos recuerda que el intento de utilizar la ciencia y la
tecnología para mejorar la humanidad está lejos de ser nuevo. Cita tanto
el mito judío medieval de un ser humano hecho de polvo o barro llamado
Golem como el Frankenstein de Mary Shelley, publicado en 1818. En opinión
de Gray, “el intento de crear un ser humano artificial corría el riesgo
de convertirse en un monstruo”.26

La historia del siglo XX da un fuerte apoyo a este punto de vista. Dos

ejemplos horribles vienen a la mente. En primer lugar, en Alemania, donde
los nazis imaginaron que podían crear un superhumano ario mediante lo que
llamaron "crianza científica", un eufemismo cínico que implicaba el
asesinato de personas consideradas desechables porque se las consideraba
mental o físicamente por debajo del estándar o "no aptas" o “racialmente
impuro”. Hitler esencialmente se hizo cargo de la idea de "la
supervivencia del más apto" y la aplicó a los seres humanos en su
búsqueda del Übermensch. Eso condujo al exterminio de millones de judíos,
polacos y otros “indeseables” en la violencia más depravada que el mundo
jamás haya visto.

En la antigua Unión Soviética, se hicieron intentos de usar la ciencia

para crear un “Hombre Nuevo”. En 1924, León Trotsky escribió: “El hombre
se propondrá dominar sus propios sentimientos, elevar sus instintos a las
alturas de la conciencia, hacerlos transparentes, extender los hilos de
su voluntad en rincones ocultos, y así elevar a sí mismo a un nuevo
plano, para crear un tipo biológico social superior, o, si se quiere, un
superhombre.”27

Lo que implicaba ese programa de eugenesia lo explica el historiador

Andrey Zubov citado por Sergei Gogin:
“El hombre soviético” evolucionó como resultado de un proceso de
selección profundamente negativo, en el que “las personas mejores, más
honestas y más cultas fueron asesinadas o se les impidió tener una
familia y criar hijos mediante el exilio o el encarcelamiento, mientras
que la peor clase de personas , es decir, aquellos que tomaron parte en
la creación de esta nueva forma de hombre o apoyaron en silencio a las
nuevas autoridades, podrían 'ser fecundos y multiplicarse' ”28.

Tales ejemplos horribles respaldan la predicción de John Gray de que el

resultado probable de todos esos intentos de rediseñar la humanidad será
la extinción de la humanidad. Llega a una conclusión irónica: “Para mí,
la humanidad no regenerada es preferible: las criaturas defectuosas y
conflictivas que somos, de hecho, son mucho más interesantes que las
criaturas transformadas que nos gustaría ser. Pero estoy seguro de que no
hemos terminado de intentarlo. Porque si algo es peculiarmente humano, es
la negativa a ser lo que somos.”29

C. S. Lewis desarrolló este tema, que comenzó en La abolición del hombre,

en su libro That Hideous Strength mencionado anteriormente. Habla de una
siniestra institución científica eufemísticamente, y astutamente, llamada
N.I.C.E., el Instituto Nacional de Experimentos Coordinados, que tiene la
intención de explotar una pequeña universidad en Inglaterra como centro
de reclutamiento para experimentos altamente cuestionables en
vivisección.

Cerca del comienzo del libro, la fuerza impulsora amoral detrás del
proyecto, Lord Feverstone, le dice a uno de los personajes centrales, el
sociólogo Mark Studdock: “Pero es la pregunta principal del momento: de
qué lado está uno: el oscurantismo o el orden. . . Si la Ciencia
realmente tiene las manos libres, ahora puede apoderarse de la raza
humana y reacondicionarla: hacer del hombre un animal realmente
eficiente. Si no es así, bueno, hemos terminado”. 30 Feverstone continúa
diciendo:

“El hombre tiene que hacerse cargo del hombre. Eso significa, recuerda,
que algunos hombres tienen que hacerse cargo del resto. . .

“Cosas bastante simples y obvias, al principio: esterilización de los no

aptos, liquidación de razas atrasadas. . . crianza selectiva. Luego la
educación real, incluida la educación prenatal. Por educación real me
refiero a una que no tiene tonterías de 'tómalo o déjalo'. Una verdadera
educación hace al paciente infaliblemente lo que quiere: todo lo que él o
sus padres intenten hacer al respecto. Por supuesto, tendrá que ser
principalmente psicológico al principio. Pero al final llegaremos al
condicionamiento biológico y la manipulación directa del cerebro. . .

“Es lo real por fin. Un nuevo tipo de hombre: y son las personas como tú
las que tienen que empezar a hacerlo.”31

Por lo tanto, Studdock se ve envuelto en un proyecto espantoso que

resulta estar orientado a la conquista de la muerte física, uno de los
puntos de la agenda de Yuval Harari para el siglo XXI.

NOTAS
1. Stephen Pinker, Los mejores ángeles de nuestra naturaleza: por qué ha
disminuido la violencia (Nueva York: Penguin, 2012).

2. Véase Yuval Noah Harari, Homo Deus: A Brief History of Tomorrow (Nueva
York: HarperCollins, 2017), 1–43.

3. Véase Harari, Homo Deus, 15–16.

4. Véase Harari, Homo Deus, 5–6.

5. Ver “2018 Global Report on Food Crises”, Programa Mundial de

Alimentos, 21 de marzo de 2018, www.wfp.org/publications/global-report-
food-crises-2018.

6. Véase Harari, Homo Deus, 22.

7. Martin Rees, Sobre el futuro (Princeton, NJ: Princeton University

Press, 2018), 227.

8. John Gray, “John Gray: Steven Pinker está equivocado sobre la

violencia y la guerra”, The Guardian, 13 de marzo de 2015,
www.theguardian.com/books/2015/mar/13/john-gray-steven-pinker-wrong-
violencia-guerra-disminución.

9. Harari, Homo Deus, 22–23.

10. Nikolai Fedorov, “The End of Orphanhood, Limitless Kinship”, citado

en G. M. Young, The Russian Cosmists: The Esoteric Futurism of Nikolai
Fedorov and His Followers (Nueva York: Oxford University Press, 2012),
82, cursiva del original.

11. Esto recuerda el uso más primitivo de la droga de la felicidad soma

en la novela Un mundo feliz de Aldous Huxley de 1932.

12. Harari, Homo Deus, 43.

13. Harari, Homo Deus, 21.

14. Harari, Homo Deus, 47.

15. Ver Harari, Homo Deus, 49.

16. Mark O'Connell, To Be a Machine: Adventures between Cyborgs,

Utopians, Hackers, and the Futurists Solving the Modest Problem of Death
(Nueva York: Anchor, 2017), 2.

17. David Pearce, “El imperativo hedonista”,

www.hedweb.com/hedethic/hedonist.htm.

18. John Gray, Seven Types of Atheism (Nueva York: Farrar, Straus and
Giroux, 2018), 158.
19. John Gray, The Soul of the Marionette: A Short Inquiry into Human
Freedom (Nueva York: Farrar, Straus and Giroux, 2015), 10; véase
O'Connell, To Be a Machine, 62; Gray, Siete tipos de ateísmo, 71–93.

20. Véase Gray, Seven Types of Atheism, 66.

21. C. S. Lewis, Esa horrible fuerza: un cuento de hadas moderno para

adultos (Nueva York: Scribner, 1996), 170.

22. Giles Fraser, “Hay más en el ateísmo que la brigada de Dawkins

tontos”, UnHerd, 18 de mayo de 2018, https://unherd.com/2018/05/atheism-
dim-witted-dawkins-brigade/.

23. Leon Kass, Hacia una ciencia más natural: biología y asuntos humanos
(Nueva York: Free Press, 1985), 76–77.

24. C. S. Lewis, The Abolition of Man (1943; repr., San Francisco:

HarperSanFrancisco, 2001), 55, 58, 64.

25. Véase John Gray, “¿Alguna vez es correcto tratar de crear un ser
humano superior?” BBC News, 6 de septiembre de 2015,
www.bbc.com/news/magazine-34151049.

26. Gray, "¿Alguna vez está bien?"

27. León Trotsky, Literatura y Revolución, trad. R. Strunsky (Chicago:

Hay-market, 2005), 207.

28. Sergei Gogin, “Homo Sovieticus: 20 años después del fin de la Unión
Soviética”, Russian Analytical Digest 109 (8 de marzo de 2012): 13,
www.files.ethz.ch/isn/138831/Russian_Analytical_Digest_109.pdf.

29. Gray, "¿Alguna vez está bien?"

30. Lewis, Esa horrible fuerza, 39.

31. Lewis, Esa horrible fuerza, 40.

CAPÍTULO SIETE

INTELIGENCIA GENERAL ARTIFICIAL: ¿EL FUTURO ES OSCURO?

La inteligencia artificial es el futuro no solo para Rusia sino para toda

la humanidad. Viene con oportunidades colosales, pero también amenazas
que son difíciles de predecir. Quien se convierta en el líder en esta
esfera se convertirá en el gobernante del mundo.

Vladimir Putin

El experto en medioambiente James Lovelock, quien desarrolló la hipótesis

de Gaia, la idea de que la Tierra es un ecosistema que se autorregula,
sugiere, en su forma provocativa habitual, que los humanos pueden haber
tenido su momento y deberían dar paso a algo nuevo. En una entrevista
reportada en The Guardian, dice: “Porque muy pronto, incluso antes de que
lleguemos al final de este siglo, creo que lo que la gente llama robots
se habrá hecho cargo”. 1

En abril de 2018, en las charlas TED en Vancouver, el físico y cosmólogo

Max Tegmark, presidente del Instituto del Futuro de la Vida del MIT, hizo
esta grandiosa declaración: "Al crear IA, estamos dando a luz una nueva
forma de vida con un potencial ilimitado para bueno o malo.”2 Cuánta
ciencia hay detrás de esta declaración es otra cuestión ya que, hasta la
fecha, todos los algoritmos de IA y de aprendizaje automático son, para
citar la pulcra frase de Rosalind Picard: “no más vivos que Microsoft
Word”.

Un estudio de Sir Nigel Shadbolt y Roger Hampson titulado The Digital Ape
lleva el subtítulo How to Live (in Peace) with Smart Machines.3 Son
optimistas de que los humanos seguirán estando a cargo, siempre que
abordemos el proceso con sensatez. Pero, ¿está justificado este
optimismo? El director del Centro para el Estudio del Riesgo Existencial
de la Universidad de Cambridge dijo: “Vivimos en un mundo que podría
estar plagado de. . . los peligros del mal uso de la IA y debemos asumir
el problema, porque los riesgos son reales”.4

Las cuestiones éticas son urgentes, ya que los expertos consideran que la
IA es una tecnología transformadora en la misma liga que la electricidad.
Estados Unidos y China están decididos a dominar el campo, y China espera
ganar para 2030. El presidente Emmanuel Macron quiere hacer de Francia la
capital mundial de la IA.

Sin embargo, tendría más sentido comparar la IA con la energía nuclear

que con la electricidad. La investigación sobre la energía nuclear
condujo a las centrales nucleares, pero también condujo a una carrera
armamentista nuclear que casi llevó al mundo al borde de la extinción. La
IA crea problemas de magnitud similar o incluso mayor. La brillante obra
Copenhague de Michael Frayn explora la cuestión de si los científicos
deberían simplemente seguir las matemáticas y la física sin tener en
cuenta las consecuencias de lo que están desarrollando o si deberían
tener escrúpulos morales al respecto.5 El contexto de la obra es la
investigación que llevó a la fisión nuclear. La IA plantea exactamente
los mismos problemas, excepto que la IA es accesible para muchas más
personas que la física atómica y no necesita instalaciones muy
sofisticadas y costosas. No puedes construir una bomba nuclear en tu
dormitorio, pero puedes abrirte paso por el mundo y causar un daño
considerable.

Necesitamos detenernos y preguntar: ¿Cuál es la verdad detrás de

afirmaciones como las de Lovelock y Tegmark? ¿Son quizás especulaciones
exageradas que van mucho más allá de lo que la investigación científica
realmente ha demostrado? Bien puede haber cierta validez en la
observación de que la cantidad de especulación injustificada reclamada
para AI es inversamente proporcional a la cantidad de trabajo práctico
real en AI que ha realizado el reclamante. Porque parecería que los
científicos que realmente construyen sistemas de IA tienden a ser más
cautelosos en sus predicciones sobre el potencial de la IA que aquellos
que no lo hacen.
También está la cuestión de qué visión del mundo está impulsando todo
esto. ¿Cuáles son las suposiciones que se están haciendo? ¿Son en interés
de todos nosotros o simplemente de una élite que desea dominar para sus
propios fines? Las respuestas que se den a estas preguntas dependerán de
la visión del mundo de los participantes en la investigación, la
aplicación y el debate de la IA que las proporcionen. De particular
interés es su visión de la naturaleza de la realidad última. El físico
Sir John Polkinghorne, quien una vez me enseñó Mecánica Cuántica en
Cambridge, escribe: “Si queremos entender la naturaleza de la realidad,
solo tenemos dos posibles puntos de partida: o el hecho bruto del mundo
físico o el hecho bruto de un mundo divino. voluntad y propósito detrás
de ese mundo físico.”6

¿LOS CEREBROS SON COMPUTADORAS?

La cosmovisión principal que está detrás de muchos escritos sobre el

futuro de la humanidad es la primera de ellas: el ateísmo. Lo expresa el
físico Sean Carroll en su best-seller actual The Big Picture: “Nosotros,
los humanos, somos gotas de lodo organizado, que a través del
funcionamiento impersonal de los patrones de la naturaleza hemos
desarrollado la capacidad de contemplar, apreciar y comprometernos con la
intimidante complejidad del mundo que nos rodea. a nosotros . . . El
significado que encontramos en la vida no es trascendente.”7 Tal
fisicalismo reduccionista sostiene que las habilidades cognitivas humanas
han surgido naturalmente de la biosfera y, por lo tanto, no ve ninguna
razón por la cual el mismo tipo de cosas no pueda volver a suceder, una
vez que se alcance un nivel de organización lo suficientemente alto. se
alcanza, es decir, la vida que emerge de la esfera de silicio. Nick
Bostrom lo expresa de esta manera: “Sabemos que los procesos evolutivos
ciegos pueden producir inteligencia general a nivel humano, ya que ya lo
han hecho al menos una vez. Los procesos evolutivos con previsión, es
decir, los programas genéticos diseñados y guiados por un programador
humano inteligente, deberían poder lograr un resultado similar con una
eficiencia mucho mayor.”8

La afirmación que hace Bostrom en la primera oración aquí está abierta a

cuestionamiento, pero este no es el lugar para cuestionarla.9 Lo que me
preocupa aquí es más bien la impresión que tan fácilmente dan
afirmaciones como las de Bostrom de que el El cerebro humano no es más
que una computadora. Una cosa es decir que el cerebro funciona de cierta
manera como una computadora. Es una cosa completamente diferente decir
que no es más que una computadora. La simulación no es duplicación.

Mencionamos anteriormente que el genio matemático Alan Turing trató de

caracterizar la inteligencia artificial en términos de máquina; un
sistema artificial que pudiera pasar por humano debe ser considerado como
inteligente. Para Turing, la prueba que ahora llamamos Test de Turing
estaba limitada por la tecnología. Pero por el bien del argumento,
supongamos que renunciamos a esa objeción. Supongamos que pudiéramos
construir robots que fueran físicamente indistinguibles de los humanos,
como en muchas películas de ciencia ficción, y al menos cognitivamente
capaces de engañarnos. ¿Eso los haría realmente "inteligentes"? Creo que
no lo sería. Lo que me convence de eso es el famoso experimento de la
habitación china, un experimento mental inventado por el filósofo de
Berkeley John Searle. Aquí está su explicación al respecto:

El argumento procede mediante el siguiente experimento mental. Imagina a

un hablante nativo de inglés que no sabe chino encerrado en una
habitación llena de cajas de símbolos chinos (una base de datos) junto
con un libro de instrucciones para manipular los símbolos (el programa).
Imagine que las personas fuera de la sala envían otros símbolos chinos
que, sin que la persona de la sala lo sepa, son preguntas en chino (la
entrada). E imagine que siguiendo las instrucciones del programa, el
hombre en la habitación puede repartir símbolos chinos que son las
respuestas correctas a las preguntas (la salida). El programa permite que
la persona en la sala apruebe el Test de Turing para comprender el chino,
pero no entiende ni una palabra de chino.

El punto del argumento es este: si el hombre en la sala no entiende chino

sobre la base de implementar el programa apropiado para entender chino,
entonces tampoco lo hace ninguna otra computadora digital únicamente
sobre esa base porque ninguna computadora, en cuanto computadora, tiene
nada que ver. el hombre no tiene.10

No debemos confundir una simulación por computadora con algo real.

Después de todo, nadie confundiría una simulación del clima por
computadora con el clima. Por lo tanto, no debemos confundirnos con la
simulación de mentes.

El distinguido matemático de Oxford, Roger Penrose, va aún más lejos al

argumentar que el cerebro debe ser más que una computadora, ya que puede
hacer cosas que ninguna computadora puede hacer en teoría. Por lo tanto,
en su opinión, ninguna computadora puede jamás simular la mente. Por
supuesto, si la inteligencia se define, como algunas personas desean,
como "la capacidad de pasar la prueba de Turing", entonces me gustaría
decir que los humanos tienen algo más que la inteligencia que la IA, por
avanzada que sea, nunca tendrá.

En un artículo para Evolution News, el arquitecto de software Brendan

Dixon escribió: “Las computadoras no juegan como los humanos. Las
computadoras no crean como los humanos crean. Las computadoras, en su
nivel más fundamental, ni siquiera resuelven problemas computacionales
como los humanos resuelven problemas computacionales”. Dixon concluyó:
“Entonces, el verdadero problema con la IA es . . . la probabilidad de
que dependamos ciegamente de las máquinas, arrullados para confiar en
ellas por malas metáforas. El peligro es que las computadoras nos fallen,
y posiblemente lo hagan de muy mala manera.”11

Roger Epstein, ex editor de Psychology Today, también rechaza la

suposición de que el cerebro funciona como una computadora. Él dice:

Perdónenme por esta introducción a la computación, pero debo ser claro:

las computadoras realmente funcionan con representaciones simbólicas del
mundo. Realmente almacenan y recuperan. Realmente procesan. Realmente
tienen recuerdos físicos. Realmente se guían en todo lo que hacen, sin
excepción, por algoritmos.
Los humanos, por otro lado, no, nunca lo hicieron, nunca lo harán. Dada
esta realidad, ¿por qué tantos científicos hablan de nuestra vida mental
como si fuéramos computadoras?12

Una red neuronal puede identificar un gato en un video de YouTube, pero

no tiene idea de lo que es un gato. Necesitamos recordarnos una vez más
que no estamos hablando de entidades conscientes. La experta en IA
Margaret Boden, FBA, escribe:

Las computadoras no tienen objetivos propios. El hecho de que una

computadora esté siguiendo cualquier objetivo siempre puede explicarse
con referencia a los objetivos de algún agente humano. (Es por eso que la
responsabilidad de las acciones de los sistemas de IA recae en sus
usuarios, fabricantes y/o minoristas, no en los sistemas en sí). Además
de esto, las "metas", "prioridades" y "valores" de un programa de IA no
importan. el sistema. Cuando AlphaGo de DeepMind venció al campeón
mundial Lee Sedol en 2016, no sintió satisfacción, y mucho menos júbilo.
Y cuando el entonces reinante programa de ajedrez Stockfish 8 fue
derrotado por AlphaZero un año después (a pesar de que AlphaZero no había
recibido datos ni consejos sobre cómo juegan los humanos), no fue acosado
por la decepción o la humillación. Garry Kasparov, por el contrario,
quedó devastado cuando fue derrotado en el ajedrez por Deep Blue de IBM
en 1997. . .

Además, no tiene sentido imaginar que la futura IA pueda tener

necesidades. No necesitan sociabilidad ni respeto para trabajar bien. Un
programa funciona o no funciona. Porque las necesidades son intrínsecas y
su satisfacción es necesaria para los sistemas que existen de manera
autónoma, es decir, los organismos vivos. No se pueden atribuir
sensatamente a los artefactos.13

La exageración en esta área se intensifica por el hecho de que términos

como "redes neuronales", "aprendizaje profundo" y "aprendizaje
automático" parecen implicar la presencia de inteligencia similar a la
humana cuando estos términos se refieren esencialmente a métodos
estadísticos utilizados para extraer información probable. patrones de
grandes conjuntos de datos. ¡El cerebro humano no es una computadora
nanotecnológica de proteínas! La matemática Hannah Fry hace un comentario
irónico y acertado:

Por el momento, preocuparse por la IA malvada es un poco como preocuparse

por el hacinamiento en Marte. Tal vez algún día lleguemos al punto en que
la inteligencia informática supere la inteligencia humana, pero todavía
no estamos cerca de eso. Francamente, todavía estamos bastante lejos de
crear inteligencia a nivel de erizo. Hasta ahora, nadie ha logrado
superar el gusano.14

RE-IMAGINAR LA EVOLUCIÓN

Sin embargo, el optimismo de Yuval Harari no conoce límites. En su éxito

de ventas Sapiens escribe: “Durante cerca de 4 mil millones de años,
todos los organismos del planeta evolucionaron sujetos a la selección
natural. Ni siquiera uno fue diseñado por un creador inteligente. . . Los
biólogos tienen razón sobre el pasado, pero los defensores del diseño
inteligente podrían, irónicamente, tener razón sobre el futuro.”15

Sin embargo, ¿podría ser exactamente lo contrario: que los biólogos están
equivocados sobre el pasado, al pensar que la vida surgió por procesos
sin sentido y sin guía? la idea de que fue diseñado por una inteligencia
creativa? ¿Es también posible que los defensores del diseño de
inteligencia artificial estén equivocados sobre el futuro, al pensar que
la mente humana puede crear vida artificial?

En cualquier caso, debemos señalar que la primera parte de la declaración

de Harari ignora el hecho evidente de que la evolución no produjo vida en
primer lugar. ¡La razón es que la evolución biológica, haga lo que haga,
solo puede ponerse en marcha cuando la vida (bios) ya está presente! No
se puede explicar la existencia de algo sobre la base de una de sus
consecuencias. El hecho, ahora ampliamente reconocido, es que nadie tiene
una idea real de cómo se originó la vida, por lo que, por decir lo menos,
Harari se está apresurando en este punto. Sin embargo, en una muestra
notable de arrogancia injustificada, dice: "Ahora la humanidad está
preparada para reemplazar la selección natural con un diseño inteligente
y extender la vida del reino orgánico al inorgánico". 17 Sugiere que
habrá tres formas principales de haciendo esto: la ingeniería biológica,
la ingeniería cyborg,18 y la ingeniería de seres inorgánicos.19

En su libro Evolving Ourselves, Juan Enriquez y Steve Gullans imaginan un

mundo en el que la evolución ya no depende de los procesos naturales,
sino de las elecciones humanas, a través de lo que ellos llaman selección
no natural y mutación no aleatoria.20 Ahora, está claro que el diseño
inteligente ya está haciendo algunos progresos en la dirección de mejorar
la humanidad. Por ejemplo, Harari le dijo a The Guardian: “En el siglo
XXI, la medicina está avanzando y tratando de superar la norma, para
ayudar a las personas a vivir más, a tener recuerdos más fuertes, a tener
un mejor control de sus emociones. Pero mejorar así no es un proyecto
igualitario, es un proyecto elitista. No importa qué norma alcance,
siempre hay otra actualización que es posible.”21

Es un proyecto elitista ya que tales actualizaciones médicas que mejoran

la vida tienden a ser costosas. Por ejemplo, los implantes cocleares que
se conectan directamente a los nervios auditivos pueden transformar la
audición a un costo de £ 40,000 cada uno. Se están desarrollando
interfaces cerebro-computadora (BCI) para ayudar a las personas
discapacitadas a mover extremidades incapacitadas o incluso sus prótesis
robóticas adjuntas. Es probable que sean muy costosos, al igual que la
tecnología más especulativa que eventualmente podrá establecer una
conexión directa entre nuestros cerebros e Internet.

La mejora quirúrgica para los ricos ya se ha convertido en un gran

negocio, y ahora hay empresas que anuncian explícitamente su experiencia
en mejoras humanas. Por ejemplo, Elon Musk formó una empresa, Neuralink,
con el objetivo de fusionar el cerebro humano con la IA. Los científicos
ya han desarrollado una tecnología que permite a las personas paralizadas
escribir usando solo la mente. Entre las opciones no quirúrgicas, las
drogas que mejoran el rendimiento, como los esteroides anabólicos para
fortalecer los músculos,22 los estimulantes para aumentar el estado de
alerta y las hormonas de crecimiento humano para aumentar la fuerza y la
resistencia, encuentran un uso cada vez más generalizado, particularmente
en el ámbito deportivo, a pesar de su efectos secundarios potenciales y
los problemas éticos que los rodean.

Mirando hacia atrás a los relativamente pocos desarrollos mencionados

aquí, vemos, por un lado, que mucho de lo que ya se ha hecho tiene un
valor positivo considerable, particularmente desarrollos como los
miembros biónicos controlados por el pensamiento. Por otro lado, algunas
investigaciones, como la modificación de la línea germinal humana, son
éticamente cuestionables.

Tal progreso tiene el efecto de hacer más plausible el advenimiento de

AGI a los ojos de muchas personas. Este desarrollo, si alguna vez ocurre,
tendría enormes implicaciones, por lo que es importante pensar en él,
incluso si los contornos no están claros. Una buena razón para esto es el
hecho de que algunos aspectos de lo que AGI podría hacer, como los
desarrollos de vigilancia universal mencionados en el capítulo 3, ya se
están extendiendo por todo el mundo en la actualidad. La vigilancia en
los niveles previstos trae consigo un poder inmenso; no es sorprendente
que haya una gran cantidad de literatura que aborde la cuestión de la
eventual dominación mundial en manos de quienes desarrollan AGI, o
incluso en manos de un sistema AGI en sí mismo. Sin embargo, no debemos
permitir que los escenarios futuristas nos cieguen ante el hecho de que
la IA ya ha ido lo suficientemente lejos como para hacer que los
principales aspectos de la dominación mundial sean realizables en un
tiempo relativamente corto. No tenemos que esperar al AGI completo para
que eso suceda.

ESCENARIOS DE DOMINIO MUNDIAL POR AGI

El físico del MIT Max Tegmark imagina cómo podría ocurrir la dominación
mundial en tres pasos: primero hacer AGI de nivel humano, luego usarlo
para crear superinteligencia y finalmente liberar la superinteligencia
para dominar el mundo.23

En el preludio de su libro Life 3.0, Tegmark imagina un proyecto de IA

altamente secreto dirigido por lo que él llama el Equipo Omega, que
desarrolla un poderoso sistema de IA llamado Prometheus. Este sistema se
desata inicialmente para ganar dinero mediante el uso de Mechanical Turk
(MTurk) de Amazon, que, como explica Wikipedia, es un mercado de Internet
de crowdsourcing que permite a las personas y empresas encontrar personas
para realizar tareas que las computadoras actualmente no pueden realizar.
Es uno de los sitios de Amazon Web Services. Los empleadores pueden
publicar trabajos conocidos como "Tareas de inteligencia humana" (HIT).
Los trabajadores, conocidos como Turkers, pueden navegar entre los
trabajos existentes y completarlos a cambio de un pago monetario
establecido por el empleador.

Tegmark ha elegido el nombre Prometheus para su sistema AGI de manera

bastante acertada. Prometeo fue el titán de la mitología griega que, como
nos dice el poeta griego Hesíodo, se cree que creó a los humanos a partir
de arcilla y desafió a los dioses y robó el fuego que les dio a los
humanos para impulsar su desarrollo. Por su transgresión, Zeus lo castigó
encadenándolo a una roca y envió un águila para comer su hígado todos los
días. Creció de nuevo durante la noche y se repitió el proceso. A menudo
se pensaba en él como un ejemplo de la posibilidad de resultados trágicos
que podrían emanar de los intentos de mejorar la condición humana.
Curiosamente, Mary Shelley dio el subtítulo The Modern Prometheus a su
novela Frankenstein.

Prometheus de Tegmark reemplaza subrepticiamente a los trabajadores de

Turker con su sistema de inteligencia artificial mucho más rápido y, en
consecuencia, comienza a cosechar grandes ingresos. Luego, los Omega
entrenan a Prometheus para hacer películas y los ingresos aumentan
exponencialmente. Esta riqueza se utiliza luego para hacerse cargo de las
empresas y los medios de comunicación del mundo y para influir en los
gobiernos. Puedes imaginar el resto por ti mismo.

Prometheus eventualmente termina con el control absoluto del planeta:

“Por primera vez, nuestro planeta estaba dirigido por un solo poder,
amplificado por una inteligencia tan vasta que potencialmente podría
permitir que la vida floreciera durante miles de millones de años en la
Tierra y en todo el mundo. cosmos, pero ¿cuál era específicamente su
plan?”24

La idea es que, de esta manera, el mundo se convertiría en el estado

totalitario perfecto, cualquiera que sea el significado de “perfecto” en
ese contexto. Prometheus no solo puede registrar todas las comunicaciones
electrónicas, una capacidad que muchos gobiernos han tenido durante años,
sino que también puede comprender todas las comunicaciones y, por lo
tanto, ser plenamente consciente de lo que la gente de todo el mundo está
pensando y haciendo:

Con la excusa de luchar contra el crimen y el terrorismo y rescatar a

personas que sufran emergencias médicas, se podría exigir a todo el mundo
que llevara una “pulsera de seguridad” que combinara la funcionalidad de
un reloj Apple con la carga continua de posición, estado de salud y
conversaciones escuchadas. Los intentos no autorizados de quitarlo o
desactivarlo harían que inyectara una toxina letal en el antebrazo.25

Ahora está claro que Tegmark pretende esto como un escenario

introductorio imaginativo. Es imaginativo en más de un sentido. Por
ejemplo, Prometeo, al ser una máquina, no entiende todas las
comunicaciones, ni es consciente de lo que la gente de todo el mundo
piensa y hace por la sencilla razón de que no tiene una mente con la que
comprender o ser consciente.

Sabiamente, Tegmark no dice que esto es lo que cree que será

definitivamente el futuro, sino que pregunta a sus lectores si creen que
ese futuro es posible y, de ser así, si lo querrían de esa manera. En su
opinión, el futuro todavía es nuestro para escribir. Sin embargo, hay
tres cosas inquietantes sobre Prometheus que inmediatamente me vienen a
la mente. En primer lugar, ya se está implementando al menos una parte
importante de un esquema muy similar: el uso de sistemas de vigilancia
basados en IA para el control social generalizado en China que
describimos en el capítulo 3. En segundo lugar, algo muy similar a las
características de Prometheus en muchas ciencias. fi distopías. Solo hay
que pensar en franquicias de cine y televisión tan populares como The
Matrix, Blade Runner o Doctor Who. En tercer lugar, y lo más importante,
como veremos más adelante, este tipo de escenario fue esbozado hace
siglos en la literatura bíblica.

Tegmark también investiga una amplia variedad de escenarios AGI que han
sido sugeridos por diferentes figuras líderes en la escena AGI. Algunos
asumen que los humanos podrán controlar la superinteligencia y
posiblemente usarla para eliminar la oposición. Otro escenario adopta el
punto de vista opuesto e imagina que Prometheus irrumpe y toma el control
de la humanidad y posiblemente los elimina.

La pregunta entonces es: ¿Cómo podemos asegurarnos de que tal

superinteligencia salvaguarde los intereses humanos y no amenace la
existencia humana? Dicho de otra manera, podríamos preguntarnos: ¿Qué
visión del mundo tendrá una superinteligencia o un AGI? Esta es una
pregunta importante, ya que esa cosmovisión tendrá que ser integrada por
los constructores humanos y los programadores de software. ¿Cuál podría
ser esa cosmovisión y en qué valores se basará?

Discutir esto exhaustivamente está más allá de nuestro alcance aquí, y se

recomienda al lector consultar el libro del investigador de IA David
Bell, Superintelligence and World-views.26 Pero mucho antes de llegar a
la superinteligencia o AGI, si alguna vez lo hacemos, vale la pena
señalar la toda una ironía demasiado humana de parecer querer tantas
opciones como sea posible y, sin embargo, abdicar de nuestra elección y
delegarla en máquinas que generalmente están programadas por otros y, por
lo tanto, encarnan sus decisiones y no las nuestras.

Max Tegmark describe doce escenarios posibles para el futuro de la

humanidad que representan resúmenes de aportes de muchos pensadores
diferentes.27 Algunos de ellos son optimistas y otros son pesimistas. En
algunos de ellos, el AGI parece poseer las características de un dios
benévolo; en otros, los del diablo, con todos los matices intermedios.
Fíjate que la mitad de estos escenarios tienden a lo utópico, y la otra
mitad a lo distópico, por lo que entre ellos cubren un espectro muy
amplio. Cuál de las dos tendencias es más probable dependerá, al menos en
parte, del estatus que le demos al mal moral.

Tegmark es prudentemente cuidadoso de no comprometerse con lo que

sucederá o cuándo sucederá.

Rosalind Picard señala que Tegmark no agota las posibilidades teóricas.28

Puede ser que la superinteligencia nunca se cree, no porque la humanidad
se extinga, sino porque desarrollamos tecnología para ayudar a las
personas a volverse más inteligentes y capaces no solo de protegerse unos
a otros, sino también de protegerse. para evitar un escenario sombrío de
1984.

Sin embargo, hay una consideración adicional. Es fácil imaginar que en

cualquier dirección que se desarrolle el futuro, el progreso hacia él
será esencialmente continuo. Pero en relación con los escenarios AGI, es
poco probable que ese sea el caso, ya que puede llegar un momento en el
futuro, como señaló C. S. Lewis en su libro The Abolition of Man, cuando
una generación tenga el poder de alterar la naturaleza de todas las
generaciones sucesivas.29 Ahora sabemos que esto podría hacerse mediante
la ingeniería genética de la línea germinal.

Si eso sucede y cuando eso suceda, los inevitablemente pocos

controladores en esa era definirán la naturaleza de los "humanos" del
futuro que crearán. Pero como dice escalofriantemente Lewis sobre esos
controladores y sus productos: “Sus súbditos tampoco son necesariamente
hombres infelices. No son hombres en absoluto: son artefactos. La
conquista final del hombre ha resultado ser la abolición del hombre.”30

Se puede pensar en un escenario tan distópico como seres humanos que

intentan desempeñar el papel de Homo deus, donde Deus es un dios
malévolo. El filósofo J. Budziszewski de la Universidad de Texas escribe:

Génesis, creo, es el quid de la cuestión. Abolir y rehacer la naturaleza

humana es jugar a ser Dios. La principal objeción a jugar a ser Dios es
que alguien más ya es Dios. Si Él creó la naturaleza humana, si fue su
intención, si no es el resultado de una casualidad ciega que no nos tenía
en mente, entonces no tenemos por qué cambiarla por otra. Sería bueno
recordar que el Génesis contiene no solo la historia de la creación sino
la historia de Babel, de la presunción de los hombres que creyeron poder
construir una torre “hasta el cielo”31.

Budziszewski continúa de una manera que recuerda a C. S. Lewis:

Dices que quieres que el hombre sea para sí mismo lo que Dios ha sido
para el hombre. Pero lo que Dios ha sido para el hombre es el superior
absoluto del hombre, y el hombre no puede ser su propio superior. Una
cosa puede ser igual a sí misma, pero no puede ser mayor que sí misma.
Entonces [lo que realmente quieres decir es] que quieres que algunos
hombres sean para otros hombres lo que Dios ha sido para el hombre.
Quieres que algunos hombres sean superiores absolutos a otros. Supongo
que quieres estar en el primer grupo y no en el segundo. . . Dices que
quieres cambiar el diseño humano. Pero en ese caso debe haber dos grupos:
los que provocaron el cambio y los que resultan de él. Y los primeros
tienen todas las cartas.32

No se puede evitar el tema de Dios cuando pensamos en el futuro. Dos de

los escenarios AGI de Tegmark incluso tienen "Dios" en su título. Tegmark
observa que a muchas personas les gusta el escenario del “Dios protector”
debido a su similitud con las principales religiones monoteístas.33
Vayamos a la fuente bíblica de esas religiones para ver qué tiene que
aportar, y en particular, al libro de Génesis.

NOTAS

1. Citado en Decca Aitkenhead, “James Lovelock: 'Before the End of This

Century, Robots Will Have Taken Over'”, The Guardian, 30 de septiembre de
2016, www.theguardian.com/environment/2016/sep/30/james- entrevista-de-
lovelock-a-finales-de-siglo-los-robots-habrán-tomado-el-control.
2. Citado en Matt Ridley, “Britain Can Show the World the Best of AI”,
The Times, 16 de abril de 2018, www.thetimes.co.uk/article/britain-can-
show-the-world-the-best- de-ai-585vsthvn.

3. Nigel Shadbolt y Roger Hampson, The Digital Ape: How to Live (in
Peace) with Smart Machines (Oxford: Oxford University Press, 2019).

4. Citado en Jane Wakefield, "AI Ripe for Exploitation, Experts Warn",

BBC News, 21 de febrero de 2018, www.bbc.com/news/technology-43127533.

5. Michael Frayn, Copenhague (Nueva York: Bloomsbury, 2017).

6. John Polkinghorne, Serious Talk: Science and Religion in Dialogue

(Harrisburg, PA: Trinity, 1995), 3.

7. Sean Carroll, El panorama general: sobre los orígenes de la vida, el

significado y el universo mismo (Londres: Oneworld, 2016), 3, 5.

8. Nick Bostrom, Superinteligencia (Oxford: Oxford University Press,

2014), 23.

9. Véase mi libro God's Undertaker (Oxford: Lion, 2007).

10. “Argumento de la habitación china”, en The MIT Encyclopedia of the

Cognitive Sciences, ed. Robert A. Wilson y Frank C. Keil (Cambridge, MA:
MIT Press, 1999), 115.

11. Brendan Dixon, “No, Your Brain Isn’t a Three-Pound Meat Computer”,
Evolution News, 20 de mayo de 2016,
https://evolutionnews.org/2016/05/no_your_brain_i.

12. Roger Epstein, “The Empty Brain”, Aeon, 18 de mayo de 2016,

https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-
not-a-computer , cursiva original.

13. Margaret Boden, "Robot dice: lo que sea", Aeon, 13 de agosto de 2018,
https://aeon.co/essays/the-robots-wont-take-over-because-they-couldnt-
care-less.

14. Hannah Fry, Hello World: Ser humano en la era de los algoritmos
(Nueva York: Norton, 2018), 12–13.

15. Yuval Noah Harari, Sapiens: Una breve historia de la humanidad (Nueva
York: HarperCollins, 2015), 397, 399.

16. Véase mi libro, God's Undertaker, 207–10.

17. Yuval Noah Harari, Homo Deus (Nueva York: HarperCollins, 2017), 73.

18. Cyborg es un organismo cibernético, generalmente imaginado en

términos de una fusión de humanos y máquinas, por ejemplo, manos
biónicas, algunas versiones de las cuales ahora pueden operarse solo con
el pensamiento.
19. Véase Harari, Sapiens, 399–409.

20. Juan Enriquez y Steve Gullans, Evolving Ourselves: Redesigning the

Future of Humanity – One Gene at a Time (Nueva York: Current, 2015).

21. Ian Sample, “Body Upgrades May Be Nearing Reality, but Only for the
Rich”, The Guardian, 5 de septiembre de 2014,
www.theguardian.com/science/2014/sep/05/body-upgrades-only-for-rich .

22. Utilizado por más de un millón de estadounidenses según un informe de

2015 (consulte “El mercado de medicamentos para mejorar el rendimiento
para presenciar un crecimiento significativo en términos de valor durante
el período de pronóstico 2018-2023”, Medgadget, 10 de agosto de 2018,
www.medgadget.com/ 2018/08/rendimiento-que-mejora-el-mercado-de-drogas-
para-ser-testigo-de-un-crecimiento-significativo-en-términos-de-valor-
durante-el-período-de-pronóstico-2018-2023.html.

23. Véase Max Tegmark, Life 3.0: Ser humano en la era de la inteligencia
artificial (Nueva York: Knopf, 2017), 134–60.

24. Tegmark, Vida 3.0, 21.

25. Tegmark, Vida 3.0, 136.

26. David Bell, Superinteligencia y visiones del mundo: poner el foco en

algunos temas importantes (Tolworth: Grosvenor House, 2016).

27. Véase “Resumen de 12 escenarios posteriores a la IA”, Future of Life

Institute, https://futureoflife.org/ai-aftermath-scenarios; “El futuro de
la IA: ¿qué piensas?” Instituto del Futuro de la Vida,
https://futureoflife.org/superintelligence-survey. Para otro conjunto de
escenarios, ambientados en 2065, diez años después de la supuesta
"singularidad" de Ray Kurzweil, consulte el artículo de Stephan Talty en
la revista Smithsonian: Stephan Talty, "¿Cómo será nuestra sociedad
cuando la inteligencia artificial esté en todas partes?" Smithsonian
(abril de 2018), www.smithsonianmag.com/innovation/artificial-
intelligence-future-scenarios-180968403.

28. Comunicación privada. Usado con permiso.

29. C. S. Lewis, The Abolition of Man (1947; repr., San Francisco:

HarperSanFrancisco, 2001), 56.

30. Lewis, Abolición del Hombre, 64.

31. J. Budziszewski, Lo que no podemos no saber (Dallas: Spence, 2003),

56.

32. Budziszewski, Lo que no podemos no saber, 56, 135.

33. Tegmark, Vida 3.0, 228.

CAPÍTULO OCHO
LOS ARCHIVOS DE GÉNESIS: ¿QUÉ ES UN SER HUMANO?

Antes de pensar en subirnos a una escalera mecánica que conduce a la

abolición tecnológica de los seres humanos que predijo C. S. Lewis, sería
prudente revisar el relato bíblico de su valor y significado. Haré esto
desde una perspectiva descaradamente teísta, de hecho, cristiana.

Mis razones para hacerlo son tres. En primer lugar, gran parte de la
literatura sobre este tema está escrita desde una perspectiva atea
igualmente desvergonzada, y creo que el público merece escuchar que en
realidad hay otro punto de vista y ser expuesto a él para que puedan
tomar sus propias decisiones. . Porque no todos los líderes intelectuales
en el campo de la IA son ateos. Por ejemplo, Donald Knuth y Rosalind
Picard son cristianos, por nombrar solo dos. Tampoco debemos olvidar que
Charles Babbage, el “padre de la informática”, también era creyente
cristiano. En su famoso Tratado Ninth Bridgewater, escribió: “El objeto
de estas páginas . . . es mostrar que el poder y el conocimiento del gran
Creador de la materia y de la mente son ilimitados.”1

En segundo lugar, hay evidencia de que los aspectos de la cosmovisión

bíblica se encuentran en el corazón de la moralidad liberal profesada que
a menudo afirma haber hecho caso omiso de esa cosmovisión a favor del
ateísmo.2

En tercer lugar, estoy convencido de que la ciencia y la cosmovisión

cristiana son excelentes compañeros racionales, mientras que la ciencia y
la cosmovisión atea no lo son. Por ejemplo, la ciencia procede sobre la
base de la suposición de que el universo es, al menos hasta cierto punto,
accesible a la mente humana. No se puede hacer ciencia sin que el
científico crea esto, por lo que es importante pedir fundamentos para
esta creencia. El ateísmo no nos da ninguno, ya que postula un origen sin
sentido y sin guía de la vida y la conciencia del universo.

Charles Darwin vio el problema. Escribió: "Conmigo siempre surge la

horrible duda de si las convicciones de la mente del hombre, que se ha
desarrollado a partir de la mente de los animales inferiores, tienen
algún valor o son dignas de confianza". 3 De manera similar, el físico
John Polkinghorne dice que la reducción de eventos mentales a la física y
la química destruye el significado: “El pensamiento es reemplazado por
eventos neuronales electroquímicos. Dos eventos de este tipo no pueden
confrontarse en un discurso racional. No están ni bien ni mal.
Simplemente suceden. . . El mundo del discurso racional se disuelve en el
parloteo absurdo de las sinapsis en llamas. Francamente, eso no puede ser
correcto y ninguno de nosotros cree que lo sea.”4

Polkinghorne es cristiano, pero algunos ateos conocidos también reconocen

la dificultad aquí. John Gray escribe: “El humanismo moderno es la fe en
que, a través de la ciencia, la humanidad puede conocer la verdad y, por
lo tanto, ser libre. Pero si la teoría de la selección natural de Darwin
es cierta, esto es imposible. La mente humana sirve al éxito evolutivo,
no a la verdad.”5 Otro destacado filósofo ateo, Thomas Nagel, piensa de
la misma manera. En su libro Mente y cosmos, con el provocativo subtítulo
Por qué la concepción materialista neodarwiniana de la naturaleza es casi
ciertamente falsa, dice: “Si lo mental no es en sí mismo meramente
físico, no puede ser explicado completamente por la ciencia física. . .
El naturalismo evolutivo implica que no debemos tomar en serio ninguna de
nuestras convicciones, incluida la imagen científica del mundo de la que
depende el naturalismo evolutivo”. o creer en ningún tipo de argumento,
por no hablar de uno científico. En resumen, conduce a la abolición de la
razón, una especie de “abolición del hombre”, ya que la razón es una
parte esencial de lo que significa ser humano.

No es sorprendente que rechazo el ateísmo porque creo que el cristianismo

es verdadero. Pero esa no es mi única razón. También lo rechazo porque
soy un matemático interesado en la ciencia y el pensamiento racional.
¿Cómo podría adoptar una visión del mundo que posiblemente suprima la
misma racionalidad que necesito para hacer matemáticas? Por el contrario,
la cosmovisión bíblica que rastrea el origen de la racionalidad humana
hasta el hecho de que somos creados a la imagen de un Dios racional tiene
mucho sentido como explicación de por qué podemos hacer ciencia. La
ciencia y Dios se mezclan muy bien. Es ciencia y ateísmo que no se
mezclan.

LA HISTORIA BÍBLICA

El libro de Génesis comienza la metanarrativa bíblica que tiene más

sentido para mí acerca de Dios, el universo y la vida humana. Las
primeras palabras del Génesis jugaron un papel clave en el surgimiento de
la ciencia moderna en la época de Galileo, Kepler y Newton: “En el
principio, Dios creó los cielos y la tierra”. Esto nos dice que Dios es
primario, el universo derivado. La materia no es la única realidad; ni
siquiera es la primera realidad. La realidad primordial es Dios, que es
Espíritu. Esto es acertadamente captado por Keith Ward: “Hay al menos una
mente que es anterior a toda materia, que no está en el tiempo y, por lo
tanto, no es capaz de ser creada por nada. Es la única realidad
verdaderamente autoexistente, y la causa de todas las cosas físicas.”7

Las primeras palabras del Génesis se repiten en otra declaración

majestuosa con la que comienza el Evangelio de Juan: “En el principio era
el Verbo, y el Verbo estaba con Dios, y el Verbo era Dios. Él estaba en
el principio con Dios. Todas las cosas fueron hechas por medio de él.”
Esta declaración será familiar para los cristianos, pero puede no ser
familiar para todos y, en cualquier caso, es posible que muchos
cristianos no hayan captado sus profundas implicaciones.

Estamos familiarizados con las palabras como vehículo de autoexpresión y

comunicación inteligible. Los filósofos estoicos entre los antiguos
griegos que precedieron al escritor Juan usaron el término Palabra (logos
en griego) para expresar el principio racional que consideraban que
estaba detrás del orden natural. Juan eleva el término aún más alto para
denotar a Dios mismo como el Creador racional que es responsable de la
existencia del universo y todo lo que contiene.

Esta es una afirmación profunda sobre la existencia. “En el principio era

el Verbo” – es decir, el Verbo ya era. La Palabra existe eternamente. La
Palabra no vino a ser. Compare eso con la respuesta de Ray Kurzweil a la
pregunta: "¿Existe Dios?" “Todavía no”, dijo, dando a entender, me
imagino, que algún día los humanos podrían crearlo.8
Juan continúa diciendo: “Todas las cosas fueron hechas por medio de él”.
El universo, sin embargo, no es eterno. Llegó a ser por medio de la
Palabra creadora. De hecho, dice Juan, no hay nada que llegó a ser que no
llegó a ser a través de la Palabra. El universo no produjo inteligencia;
fue la inteligencia de Dios la Palabra que produjo el universo.

Estas afirmaciones sobre la Palabra corresponden al relato del primer

capítulo del Génesis, donde se describe la creación en seis etapas o
días, cada uno de los cuales comienza con la frase: “Y dijo Dios” – por
lo que la creación se da en una serie de actos de habla por un Dios
inteligente. Hay una ironía aquí en que aquellos que buscan crear una
superinteligencia no se dan cuenta de que hay buena evidencia de que ya
existe una superinteligencia, la superinteligencia: Dios el Creador y
Sustentador de los cielos y la tierra.

Este universo lleva la firma de sus orígenes divinos superinteligentes en

su comportamiento similar a una ley, en su inteligibilidad racional, en
las macromoléculas ricas en información de nuestro ADN y en la estructura
informativa de los intrincados mecanismos fisiológicos responsables, por
ejemplo, de la migración de pájaros y peces, y en nuestras capacidades
humanas de pensamiento y lenguaje, sentimientos y relaciones.

La información es ahora uno de los conceptos fundamentales de la ciencia,

aunque no es física. La información de esta página se realiza en soporte
físico de papel y tinta. Pero la información en sí misma no es física, un
hecho que parecería crear una dificultad insuperable para una comprensión
estrictamente materialista del universo. No solo eso, sino que la
inmaterialidad de la información presenta una barrera categórica para la
construcción de una máquina material (computadora) que pueda comprender
conscientemente en cualquier sentido significativo.

Max Tegmark parece evitar este problema. Oculta el problema al afirmar

que la información es “independiente del sustrato”9, lo que significa que
el mismo mensaje puede transmitirse en diferentes sustratos materiales;
por ejemplo, un menú se puede escribir en papel o pizarra o puede
aparecer en una pantalla. Pero siendo así, la información en sí misma no
puede ser material, ya que el material depende del sustrato, ya que es su
propio sustrato. Por lo tanto, es seguramente justo argumentar que los
aspectos informativos del universo, la vida y la conciencia apuntan en
última instancia a la existencia de una fuente no material para estas
cosas, y son consistentes con ella: la Mente de Dios.10

Estas son algunas de las principales implicaciones del relato de la

creación que se encuentra en Génesis 1.11.

1. La creación no ocurrió de una sola vez sino que involucró una

secuencia de pasos o días de creación.

2. La secuencia tiene un comienzo y un final, por lo que es probable que

el pasado no sea completamente explicable en términos del presente.
Creación, en el sentido de inauguración, no es lo mismo que
providencia/mantenimiento/hacer existir.
3. Cada paso en la narración de la creación comienza con Dios hablando:
“Y dijo Dios”. El universo no es un sistema cerrado sino un sistema
abierto construido sistemáticamente por una secuencia de entradas de la
Palabra a intervalos. Sin importar el tiempo que tomó, fue claramente la
antítesis de un proceso sin sentido y sin guía.

4. En dos días Dios habló más de una vez:

Día 3 (Génesis 1:9–13): “Y dijo Dios: ‘Júntense las aguas que están
debajo de los cielos en un solo lugar, y que aparezca lo seco’. Y así
fue. Dios llamó a lo seco Tierra, y a las aguas reunidas las llamó Mares.
Y vio Dios que era bueno.

“Y dijo Dios: Produzca la tierra hierba verde, hierba que dé semilla, y

árbol de fruto que dé fruto, en el cual esté su semilla, cada uno según
su género, sobre la tierra. Y fue así. Produjo la tierra vegetación,
plantas que dan semilla según su especie, y árboles que dan fruto en cuya
semilla está su semilla, cada uno según su especie. Y vio Dios que era
bueno. Y fue la tarde y la mañana el día tercero”.

Esto sugiere que, a pesar de lo que afirma el naturalismo, usted no pasa

de lo inorgánico a lo orgánico sin un aporte externo de información y
energía del Creador: “Y Dios dijo . . .” Compare con esto el objetivo de
AGI de pasar del silicio inorgánico a la vida basada en el silicio
inorgánico mediante un diseño humano inteligente.

Día 6 (Génesis 1:24–27, 31): “Y dijo Dios: 'Produzca la tierra seres

vivientes según su especie, bestias y serpientes y animales de la tierra
según su especie'. Y fue así. . E hizo Dios las bestias de la tierra
según su especie, y el ganado según su especie, y todo lo que se arrastra
sobre la tierra según su especie. Y vio Dios que era bueno.

“Entonces dijo Dios: ‘Hagamos al hombre a nuestra imagen, conforme a

nuestra semejanza. y señoree en los peces del mar, en las aves de los
cielos, en el ganado, en toda la tierra y en todo animal que se arrastra
sobre la tierra.

“Así creó Dios al hombre a su imagen,

a imagen de Dios lo creó;

varón y hembra los creó. . .

“Y vio Dios todo lo que había hecho, y he aquí que era muy bueno. Y fue
la tarde y la mañana el día sexto.”

De acuerdo con este texto, entonces, a pesar de lo que afirma el

naturalismo, no pasas de los animales a los humanos sin un aporte externo
de información y energía de Dios: “Y Dios dijo . . .” AGI tiene la
intención de pasar de la vida y la inteligencia humanas a la vida y la
inteligencia de las máquinas mediante la tecnología humana.

5. La secuencia de Génesis implica una teleología, un propósito

(compárelo con la visión naturalista que niega el propósito en biología,
y con frecuencia en otros lugares). Según Génesis, los humanos están
hechos a la imagen de Dios. Los cielos declaran la gloria de Dios, pero
no fueron hechos a su imagen. No se puede definir a la persona humana sin
referirse a la mente inteligente de Dios. Es decir, no existe una
explicación puramente “de abajo hacia arriba”, fisicalista y
reduccionista de lo que es una persona, al contrario de lo que imaginan
Yuval Harari y otros.

6. “Y Dios les habló.” Que los humanos están hechos a la imagen de Dios
se ve en el hecho de que Dios les habló, indicándoles que se reprodujeran
y fueran mayordomos sobre el mundo creado utilizando las capacidades que
les había dado. En AGI, los científicos "hablarán" en el sentido de que
codificarán información en sus artefactos, por lo que cualquier dirección
que reciban dependerá de los deseos y puntos de vista de esos
científicos. Este discurso, sin embargo, no será una comunicación
consciente bidireccional.

Es imposible exagerar la importancia de la narración del Génesis con su

respuesta a la primera gran pregunta mencionada en este libro: ¿De dónde
venimos? Lejos de emerger por procesos naturales no guiados a partir de
materiales en la tierra primitiva, como pretendía establecer el
experimento de Miller-Urey (original o extrapolado) (ver capítulo 2),
venimos de un Dios superinteligente, sobrehumano y eterno que nos creó
intencionalmente en su imagen de los materiales que se encuentran en la
tierra.

Es a través de este lente que ahora miramos la visión bíblica de lo que

está involucrado en la vida humana en el sentido de qué es lo que hace
que la vida tenga sentido, o qué significa ser una persona humana.
Entiendo que este es el tema de la segunda parte principal de Génesis,
que va desde el versículo 4 del capítulo 2 hasta el final del capítulo 4.

Esta sección desglosa el significado de la imagen de Dios que tienen los

humanos, y se necesita mucho trabajo para pensar en sus implicaciones
para la inteligencia artificial y la vida, las cosas que (podríamos)
hacer a nuestra imagen. El texto menciona una serie de aspectos de la
vida y la actividad humana:

• hecho del polvo de la tierra (2:7)

• un organismo vivo (2:7)

• poseer un sentido estético (2:8–9)

• dotado de curiosidad (2:10–14)

• trabajo dado para hacer (2:15, 5)

• un ser moral (2:16–17, 9)

• dado el potencial de la relación (2:18–25)

• encargado de nombrar a los animales (2:19–20)

• capaz de desarrollar la industria y las artes (4:21–22)

Una discusión detallada de cada parte de esta lista requeriría mucho más
espacio del que podemos dedicarle aquí.12 Por lo tanto, seleccionaremos
lo que sea relevante para nuestro objetivo principal.

LA VIDA HUMANA TIENE UNA BASE MATERIAL

YHVH Dios formó al hombre del polvo de la tierra y sopló en su nariz

aliento de vida, y el hombre se convirtió en un ser viviente.

Génesis 2:7

Génesis admite fácilmente que los seres humanos tienen una base material.
Dios usa material preexistente para crearlos. Es decir, los seres humanos
son el resultado de la mente de Dios trabajando sobre la materia
preexistente que Dios creó originalmente. La vida artificial, si alguna
vez se hace, será el resultado de las mentes de los humanos trabajando en
materia preexistente.

Esta es la etapa de la zona cero y, sin embargo, incluso llegar allí

enfrenta una dificultad aparentemente insuperable, como muestra el
trabajo del químico James Tour citado anteriormente: “Las propuestas
ofrecidas hasta ahora para explicar el origen de la vida no tienen
sentido científico. Más allá de nuestro planeta, todos los demás que han
sido sondeados están sin vida, resultado acorde con nuestras expectativas
químicas. Las leyes de la tabla periódica de la física y la química son
universales, lo que sugiere que la vida basada en aminoácidos,
nucleótidos, sacáridos y lípidos es una anomalía. La vida no debería
existir en ningún lugar de nuestro universo. La vida ni siquiera debería
existir en la superficie de la tierra.”13

Tour habla aquí de la vida en su forma más simple. La vida humana es

mucho más compleja aún y, según el Génesis, no surge de la
autoorganización de la base material ya conformada, ni de algún choque
eléctrico o químico, ni de alguna vaga “emergencia”. Se nos dice que la
fuente de la vida es el aliento de Dios, una intervención divina,
aparentemente distinta de la creación material.

Esto plantea la pregunta: ¿Serán capaces alguna vez los humanos, de

manera análoga, de insuflar el aliento de vida en cualquier artefacto
material que hayan construido? A este respecto, piensa en el cuerpo de
alguien que murió hace un segundo. Todo el material que forma un ser
humano sigue ahí. Pero la persona ya no está viva. ¿Se podría restaurar
de alguna forma? Ahora, por supuesto, la persona puede haber muerto por
un mal funcionamiento del corazón. Supongamos que tuviéramos un corazón
sano disponible. ¿Sería suficiente, digamos, reemplazar rápidamente el
corazón y luego darle al cuerpo una descarga eléctrica? O supongamos que
algún día pudiéramos construir un cuerpo humano, químicamente, molécula
por molécula, de modo que esté frente a nosotros sobre una mesa. ¿Podemos
ahora conseguir que viva biológicamente? ¿Si no, porque no? ¿Qué es
exactamente la vida física? Simplemente no sabemos en ningún sentido
profundo.
LOS SERES HUMANOS POSEEMOS UN SENTIDO ESTÉTICO

Y Jehová Dios plantó un jardín en Edén, al oriente, y puso allí al hombre

que había formado. Y Jehová Dios hizo brotar de la tierra todo árbol
delicioso a la vista y bueno para comer. El árbol de la vida estaba en
medio del jardín, y el árbol del conocimiento del bien y del mal.

Génesis 2:8–9

Aquí, Génesis llama nuestra atención sobre el hecho de que los seres
humanos tienen un sentido estético. Eso presupone una conciencia cuya
naturaleza es considerablemente más impenetrable que incluso la vida
física, que es bastante difícil. Aunque se ha investigado mucho sobre los
correlatos neuronales de la conciencia (la forma en que las partes del
cerebro se “iluminan” cuando realizamos una actividad particularmente
consciente), nadie sabe qué es realmente la conciencia. La IA ha hecho un
progreso considerable en el "reconocimiento" de imágenes, pero esto
tiende a ser una coincidencia de patrones sofisticada y no genera en
ningún sentido el tipo de conciencia que implicaría un reconocimiento
mental consciente.

La construcción de un robot estéticamente consciente sería un gran paso

más allá del reconocimiento de imágenes y se enfrenta a enormes
obstáculos, uno de los cuales es que nadie tiene idea de qué es la
conciencia, aunque se hacen muchas afirmaciones grandiosas pero sin
sentido al respecto, como la de Francis Crick: “Tú, tus alegrías y tus
penas, tus recuerdos y tus ambiciones, tu sentido de identidad personal y
libre albedrío, no son de hecho más que el comportamiento de un vasto
conjunto de células nerviosas y sus moléculas asociadas”. 14 La
incoherencia lógica de esto es obvia: si fuera así, ¿cómo comenzaríamos a
saberlo?

Todos reconocen que es muy difícil obtener algún tipo de comprensión de

la relación de la mente consciente con el cuerpo. La palabra hebrea
nephesh para "aliento" que se usa en Génesis se traduce de diversas
formas como "alma", "persona" o "yo". En el Nuevo Testamento, la
declaración de Jesús en Mateo 10:28 (“No temáis a los que matan el cuerpo
pero no pueden matar el alma; temed más bien a aquel que puede destruir
el alma y el cuerpo en el infierno”) muestra que el alma no es entendida.
en este texto para ser el cuerpo vivo, ya que no puede ser asesinado por
humanos. Pero, ¿qué es, más precisamente?

Los distinguidos filósofos cristianos Alvin Plantinga, Richard Swinburne

y J. P. Moreland argumentan que no haremos ningún progreso real en la
comprensión hasta que estemos preparados para revivir un dualismo
sustancial sustancial, es decir, para reconocer que hay un aspecto no
físico en los seres humanos, como argumentó Platón hace siglos al
desarrollar la idea de un alma inmortal. Incluso el filósofo David
Chalmers, que se especializa en esta área, aunque tiene una fuerte
inclinación por el materialismo, argumenta: “La explicación reduccionista
de la conciencia es imposible e incluso abogo por una especie de
dualismo”.15
El caso del dualismo se fortalece cuando tomamos en cuenta la enseñanza
bíblica de que la materia no es primaria sino derivada. El espíritu es
primordial. La materia no genera espíritu. Es Dios, que es Espíritu,
quien genera la materia. Claramente, una cosa es tratar de construir
sistemas de IA que busquen imitar aspectos de lo que puede hacer la mente
humana; es algo completamente diferente tratar de recrear lo que se
siente ser humano. La conciencia obstruye el camino.

LOS HUMANOS SON CURIOSO

Un río salía de Edén para regar el jardín, y allí se dividía y se

convertía en cuatro ríos. El nombre del primero es Pishon. Es el que
fluyó alrededor de toda la tierra de Havila, donde hay oro. Y el oro de
aquella tierra es bueno; bedelio y piedra de ónice están allí.

Génesis 2:10–12

El texto de Génesis nos informa aquí que había cuatro ríos que regaban el
ambiente del jardín. Estos ríos conducen a regiones donde hay riqueza
mineral: hay oro y el oro es bueno. Esto nos lleva a pensar en la
curiosidad humana, el seguimiento de un río hasta donde conduce, el
espíritu de exploración y, más en general, la investigación y la
actividad intelectual de todo tipo. Los seres humanos son insaciablemente
curiosos, y satisfacer esa curiosidad es una parte muy importante de la
vida, prácticamente, de la vida misma, para muchas personas, entre ellas
muchos de mis colegas de la Universidad de Oxford. Sin embargo, una vez
más debemos enfrentar el hecho de que la curiosidad humana está
indisolublemente unida a la conciencia humana, por lo que el camino
parece obstruido para crear un sistema de IA que refleje esto.

DESACOPLAMIENTO DE LA INTELIGENCIA DE LA CONCIENCIA

Una de las afirmaciones de Yuval Harari es que muchas personas que

investigan la IA no se preocupan por la conciencia por la sencilla razón
de que sus sistemas de IA les permiten crear inteligencia (simulada) que
no es consciente, y eso es suficiente para sus propósitos.

Es fácil hacerse una idea de lo que esto significa. Supongamos que tomo
un taxi desde la estación de tren hasta una reunión en Oxford. El taxista
está consciente; de lo contrario, el viaje se encontrará rápidamente con
serios problemas. Pero si realizo el viaje en un vehículo autónomo, el
taxista sobra. Todo lo que necesito para lograr mi objetivo es un sistema
de inteligencia artificial que "conozca" la ruta y pueda guiar el
automóvil a lo largo de ella, pero no hay necesidad de un conductor
consciente en ninguna etapa. O supongamos que necesito una cirugía de
corazón. El último cirujano que experimenté era un ser humano consciente;
el siguiente, si lo necesito, bien puede ser un sistema de IA robótico no
consciente.

Génesis nos dice que cuando Dios creó a los humanos a su imagen, vinculó
la inteligencia y la conciencia en un solo ser, porque él mismo es así:
un ser inteligente consciente. Sin embargo, Dios, que es Espíritu, une la
conciencia y la inteligencia en un ser no material. El hecho de que Dios
sea Espíritu muestra que ni la conciencia ni la inteligencia dependen
necesariamente de un sustrato material, otra razón para pensar que los
humanos nunca podrán hacer una máquina material consciente.

LOS HUMANOS FUERON ASIGNADOS TRABAJO

Génesis 2:15 nos informa que Dios dio trabajo, en un jardín, como parte
de la razón de ser humana antes de que el pecado entrara en el mundo. Es
por eso que las personas que intentan encontrar trabajo pero no lo
logran, a menudo se sienten desfavorecidas y no deseadas. Sin embargo, el
trabajo, aunque muy importante, no es todo en la vida como se pensaba
esencialmente en el concepto comunista de un “estado obrero”. Sin
embargo, lo que está sucediendo ahora es que, como se sugirió
anteriormente, al desvincular la inteligencia de la conciencia, la IA
parece estar empujándonos en la dirección opuesta a una situación en la
que el trabajo se convierte en una parte cada vez más pequeña de la
actividad humana. Incluso si Ray Kurzweil es demasiado optimista al decir
que la mayoría de las tareas humanas serán asumidas por robots para 2030,
debemos pensar en cómo sería incluso una adquisición parcial de IA/robot
a la luz de la visión bíblica de que el trabajo es parte de nuestro
significado dado por Dios como seres humanos.

Yuval Harari escribe: “En el siglo XXI podríamos ser testigos de la

creación de una nueva clase no trabajadora masiva: personas sin ningún
valor económico, político o incluso artístico, que no contribuyen en nada
a la prosperidad, el poder y la gloria de la sociedad. Esta 'clase
inútil' no estará simplemente desempleada, será inempleable”.16 Los
asistentes digitales, los robots y similares pueden considerarse
esclavos, y el mundo ya experimentaba una economía esclavista en la que
la mayoría servía a unos pocos. Que muy pocos hacían poco trabajo, y
cuando la sociedad se derrumbó, habiendo olvidado cómo trabajar, no
tenían idea de cómo reconstruir. Algunos sugieren que fue por esa razón
que el Imperio Romano finalmente se derrumbó.

El concepto de una “clase inútil” es escalofriante y deshumanizante. El

consejo del Nuevo Testamento para los creyentes es: “Si alguno no quiere
trabajar, que no coma” (2 Tesalonicenses 3:10). Sin embargo, no dice, si
alguno no trabaja, que no coma. Es casi como si Pablo contemplara la
posibilidad del desempleo. Si ciertos expertos en AGI tienen razón, la
perspectiva de un futuro tecno-desempleo es peor que sombría.

En el capítulo 5, dimos una idea de la escala de tiempo proyectada de la

erosión del empleo en la encuesta del Instituto del Futuro de la
Humanidad de la Universidad de Oxford. Es obvio que existe una necesidad
urgente de crear muchos puestos de trabajo nuevos y, para que no
desaparezcan demasiado rápido, tendrán que ser puestos de trabajo que los
humanos puedan hacer mejor que los algoritmos. Esto significará que
muchas personas, si no la mayoría, tendrán que seguir aprendiendo durante
toda la vida, una perspectiva que a muchos les resultará desalentadora o
simplemente imposible.

Los tecno-optimistas esperan que incluso si no se puede emplear a esas

personas, habrá suficiente excedente financiero de la nueva tecnología
para que puedan ser alimentados, alojados y apoyados durante toda su
vida. Pero, ¿quién pagará por los nuevos servicios tecnológicos,
ciertamente no las personas que no tienen trabajo? ¿De dónde vendrá el
superávit financiero? ¡Tal optimismo tecnológico parece extremadamente
ingenuo! La visión tecno-pesimista extrema es, como advierte Nick
Bostrom, que los humanos de hecho no llegarán a la etapa final de
desempleo, ya que una IA en ascenso bien podría simplemente
exterminarlos.17

Sin embargo, según las Escrituras, el trabajo es un ingrediente

importante en el florecimiento humano. ¿Cómo podemos los que estamos
convencidos de ese hecho comunicarlo y mantenerlo frente a una invasión
tecnológica del lugar de trabajo? ¿Nuestra cruda elección es realmente
entre aprender a trabajar con robots o ser reemplazados por ellos?18 Una
vez que la IA domine el arte de la horticultura, ¿habrá trabajo para
Adam?

El problema es enorme, y no empieza con la reconversión de los que ya

están empleados, sino con la educación básica de los niños. El Foro
Económico Mundial informa:

Los trabajos del futuro requerirán que los estudiantes tengan sólidas
habilidades cognitivas en matemáticas y alfabetización, así como
habilidades blandas como la resolución de problemas y el pensamiento
creativo, para que puedan adaptarse a un entorno que cambia rápidamente.
Sin embargo, millones de niños no están adquiriendo estos conjuntos de
habilidades, ya sea porque nunca comenzaron la escuela, abandonaron la
escuela o su escuela no ofrece una educación de calidad.19

Parecería que 617 millones de niños y adolescentes están por debajo de un

nivel aceptable en lectura y matemáticas.20 La tragedia aquí es que esto
representa un inmenso desperdicio de talento y conduce a un potencial
severamente reducido para escapar de la pobreza a largo plazo.

Es un pensamiento aleccionador que la IA pueda dejar a millones de niños

muy atrás, totalmente incapaces de competir con los más privilegiados.

LOS HUMANOS TIENEN LA FACULTAD DEL LENGUAJE

Dios instruyó al hombre a nombrar a los animales en Génesis 2:19–20. La

idea de que un sistema de IA pueda nombrar objetos no suena del todo
descabellada ya que, en el nivel básico, un nombre es en gran medida un
sonido arbitrario adjunto al objeto y luego escrito. Las capacidades
humanas, sin embargo, van mucho más allá de nombrar las cosas. El teólogo
Keith Ward escribió: “Aquí hay tres capacidades distintivas de la persona
humana, únicas entre todos los organismos de la Tierra, hasta donde
sabemos: la capacidad de ser sensible y apreciar la información recibida,
de ser creativo al responder a ella. , y aprender y desarrollar tales
capacidades en relación con otras personas en contextos históricos
específicos. Las personas humanas reciben información, la interpretan y
la transmiten de una manera completamente semántica”. 21 Esto parece
estar en una categoría completamente diferente de la capacidad de
procesamiento de información de las computadoras o el reconocimiento de
imágenes de la IA.
Sin embargo, los sistemas de inteligencia artificial ya están comenzando
a invadir el mundo del artista, el músico y el escritor. Al momento de
escribir (2018), una de las primeras composiciones artísticas de IA está
a punto de ser subastada en Christie's. David Cope, exprofesor de música
de la Universidad de California en Santa Cruz, que escribe sobre IA y
música, ha desarrollado impresionantes programas informáticos para crear
música clásica al estilo de cualquier compositor. La respuesta del
público ha demostrado que la música de Cope es indistinguible de la de
Bach, por ejemplo.

Cope ha desarrollado un sistema de aprendizaje automático aún más

sofisticado llamado "Annie" que no solo escribe música sino también
varios tipos de poesía. Esto es un poco engañoso ya que lo que produce un
sistema de este tipo es generado por Cope más AI, no solo por AI. Como
dijo Paul Ford, quien intentó escribir un artículo utilizando el
aprendizaje automático: "Al menos por ahora, las computadoras necesitan a
las personas tanto como nosotros las necesitamos". 22 La razón es clara:
todas estas cosas las hacen máquinas inconscientes que están, a su vez,
siendo guiados por humanos conscientes.

DIOS CREÓ LA RELACIÓN HOMBRE/MUJER

El relato de Génesis 2 plantea la cuestión de un compañero adecuado para

el hombre. Los animales han sido compañeros humanos desde tiempos
inmemoriales, y con los avances en la medicina que dan como resultado el
envejecimiento de la población, la necesidad de compañía está en su punto
más alto. Esa necesidad está siendo satisfecha cada vez más por robots
compañeros reales, y está generando una gran industria, particularmente
en países como Japón. En el otro extremo de la escala de edad, se han
desarrollado patos robóticos para ayudar a los niños con cáncer. Además,
se están desarrollando robots sanitarios que combinan IA con tecnología
de voz que, por ejemplo, recordarán a las personas que tomen sus
medicamentos en el momento adecuado.

Sin embargo, el relato bíblico indica que un animal subhumano no puede

proporcionar una compañía de igual a igual, ya que existe una diferencia
de categoría entre humanos y animales, como lo indica la brecha de
información en el Día 6 de la narración de la creación.

Según el relato del Génesis, la mujer, la contrapartida bíblica del

hombre, es construida por Dios a partir del hombre. ¿Qué implicaciones
tiene esto para la forma en que entendemos la naturaleza de las
relaciones de persona a persona a diferencia de las interacciones con
robots de compañía, mascotas robóticas, ayudas domésticas robóticas e
incluso muñecas robóticas de tamaño natural? ¿Serán, por ejemplo, incluso
mejorados por la IA, algún día capaces de responder a la compleja
combinación de necesidades emocionales, sociales, culturales y físicas de
las personas de una manera que satisfaga la necesidad humana de
comprensión y compasión?

Margaret Boden señala que otros seres humanos, por supuesto, tampoco
siempre brindan estas cosas. Sin embargo, ella continúa diciendo:
En pocas palabras, la dependencia excesiva de los "cuidadores" de la
computadora, a ninguno de los cuales realmente les importa, sería una
traición a la dignidad humana del usuario. . . En los primeros días de la
IA, el científico informático Joseph Weizenbaum se hizo muy impopular
entre sus colegas del MIT al decir esto. “Sustituir un sistema
informático por una función humana que involucra respeto interpersonal,
comprensión y amor”, insistió en 1976, es “simplemente obsceno”.23

Boden también emite una advertencia: "Los usuarios y diseñadores de

sistemas de IA, y de una sociedad futura en la que la IA sea rampante,
deben recordar la diferencia fundamental entre la inteligencia humana y
la artificial: a uno le importa, al otro no". Sin embargo, en este
contexto deberíamos equilibrar estos comentarios refiriéndonos al trabajo
positivo de Rosalind Picard en computación afectiva, mencionado en otra
parte, que es en gran medida una expresión del cuidado de la IA: cuidado
simulado, pero sin embargo cuidado en lo que respecta al paciente.

A los humanos se les dijo que fueran “fructíferos y multiplicaos”

(Génesis 1:28) para dar vida a las generaciones venideras por el proceso
natural de la transmisión sexual de la vida. Por supuesto, en esa etapa,
no se trataba de que una generación interfiriera con la programación
genética de las generaciones posteriores. Eso vendría mucho más tarde,
aunque pensar en ello, como debe hacerlo nuestra generación, implicará el
próximo ingrediente de lo que significa ser humano.

NOTAS

1. Charles Babbage, El noveno tratado de Bridgewater, 2ª ed. (Londres:

Murray, 1838), ix.

2. Véase Larry Siedentop, Inventing the Individual: The Origins of

Western Liberalism (Cambridge, MA: Harvard University Press, 2014).

3. “Carta a William Graham, 3 de julio de 1881”, Proyecto de

Correspondencia Darwin de la Universidad de Cambridge,
https://goo.gl/Jfyu9Q.

4. John Polkinghorne, One World: The Interaction of Science and Theology

(Londres: SPCK, 1986), 92–93.

5. John Gray, Straw Dogs: Thoughts on Humans and Other Animals (Londres:
Granta, 2002), 26.

6. Thomas Nagel, Mente y cosmos: por qué la concepción materialista

neodarwiniana de la naturaleza es casi ciertamente falsa (Oxford: Oxford
University Press, 2012), 14, 28.

7. Keith Ward, Por qué casi con certeza existe un Dios: Doubting Dawkins
(Oxford: Lion, 2008), 19–20.

8. Este fue un comentario al final de un documental titulado Transcendent

Man: The Life and Ideas of Ray Kurzweil (Los Ángeles: Ptolemaic
Productions, 2009).
9. Max Tegmark, Life 3.0 (Nueva York: Knopf, 2017), capítulo 2.

10. Ver my God's Undertaker (Londres: Lion, 2007) o God and Stephen
Hawking: Whose Design Is It Anyway? (Londres: León, 2011).

11. Entro en esto con mucho más detalle en mi libro Los siete días que
dividen el mundo: el comienzo según Génesis y la ciencia (Grand Rapids:
Zondervan, 2011).

12. Pero vea mis Siete días que dividen el mundo.

13. James Tour, "Carta abierta a mis colegas", Inferencia: International

Review of Science 3, no. 2 (agosto de 2017), https://inference-
review.com/article/an-open-letter-to-my-colleagues; véase también James
Tour, "Animadversions of a Synthetic Chemist", Inference: International
Review of Science 2, no. 2 (mayo de 2016),
https://inference-review.com/article/animadversions-of-a-synthetic-
chemist.

14. Francis Crick, La hipótesis asombrosa: la búsqueda científica del

alma (Nueva York: Scribner, 1994), 3.

15. David J. Chalmers, La mente consciente: en busca de una teoría

fundamental (Oxford: Oxford University Press, 1996), xiv.

16. Yuval Noah Harari, Homo Deus (Nueva York: HarperCollins, 2017), 330.

17. Véase Ross Andersen, “We're Underestimating the Risk of Human

Extinction”, The Atlantic, 6 de marzo de 2012,
www.theatlantic.com/technology/archive/2012/03/were-underestimating-the-
risk-of-human -extinción/253821.

18. Véase Bill Snyder, “Our Misplaced Fear of Job-Stealing Robots”,

Stanford Graduate School of Business, 7 de marzo de 2019,
www.gsb.stanford.edu/insights/misplaced-fear-job-stealing-robots.

19. Silvia Montoya, “There Is a Global Learning Crisis Affecting the

Lives of Millions in Developing Countries”, Foro Económico Mundial, 27 de
agosto de 2018, www.weforum.org/agenda/2018/08/global-learning-crisis-
millions- sin-competencias-básicas-unesco (énfasis añadido).

20. Véase “Informe sobre los Objetivos de Desarrollo Sostenible 2019:

Objetivo de Desarrollo Sostenible 4”, Naciones Unidas,
https://sustainabledevelopment.un.org/sdg4.

21. Keith Ward, "Dios como el principio informativo supremo", en

Información y la naturaleza de la realidad, ed. Paul Davies y Niels
Henrik Gregersen (Cambridge: Cambridge University Press, 2014), 375.

22. Paul Ford, “Intenté que una IA escribiera esta historia”, Bloomberg
Businessweek, 17 de mayo de 2018, www.bloomberg.com/news/features/2018-
05-17/i-tried-to-get-an -ai-para-escribir-esta-historia-paul-ford.
23. Margaret Boden, "Robot dice: lo que sea", Aeon, 13 de agosto de 2018,
https://aeon.co/essays/the-robots-wont-take-over-because-they-couldnt-
care-less.

CAPÍTULO NUEVE

EL ORIGEN DEL SENTIDO MORAL HUMANO

El relato bíblico del Jardín del Edén es una de las historias más
profundas de toda la literatura. Relata cómo el Creador colocó a los
primeros humanos en un jardín paradisíaco que estaba lleno de promesas e
interés. Eran libres de disfrutar del jardín y explorarlo y las regiones
que lo rodeaban al contenido de sus corazones. Era un lugar de alegría y
felicidad donde podían experimentar la amistad viva y el compañerismo del
mismo Creador. No solo eso, sino que, como vimos anteriormente, se les
dio la tarea de nombrar a los animales y así comenzar el maravilloso
proceso de comprender el mundo que los rodea y capturar esa comprensión
en el lenguaje y así preservarlo.

Sin embargo, había una dimensión añadida al entorno humano que es

absolutamente esencial para nuestra comprensión del mundo y de nosotros
mismos: la dimensión moral. Se nos presenta en los términos más simples y
claros, pero estaríamos cometiendo un grave error si pensáramos que es
simplista. Los humanos eran libres, de hecho, alentados, a comer de todos
los árboles del jardín con una excepción importante. Aquí está el pasaje
relevante – Génesis 2:15–17:

El Señor Dios tomó al hombre y lo puso en el jardín de Edén para que lo

trabajara y lo guardara. Y mandó Jehová Dios al hombre, diciendo: De todo
árbol del huerto podrás comer, pero del árbol de la ciencia del bien y
del mal no comerás, porque el día que de él comieres, ciertamente
comerás. morir."

El árbol prohibido no era el “árbol del conocimiento”, como erróneamente

piensa mucha gente. Más bien, era el “árbol del conocimiento del bien y
del mal”, que es algo muy diferente. Dios no se opuso al conocimiento. Al
contrario, quería que sus criaturas obtuvieran conocimiento. El jardín
estaba lleno de potencial para el aprendizaje, la exploración, la
experiencia de cuidar y desarrollar un jardín con sus muchas variedades
de plantas y dar nombres a lo que descubrieron. El deseo de Dios de que
aprendan queda claro por el hecho de que los colocó en un entorno
propicio para hacerlo.

Además, lejos de disminuir el estatus humano, al prohibir una cosa, Dios

confirió una dignidad única a los humanos: la de la capacidad moral. Para
que la moralidad tenga sentido, los humanos deben tener un cierto grado
de libertad: eran libres de comer todo lo que había en el jardín. Pero
eso no es suficiente. También debe haber un límite moral que en este caso
consistía en la prohibición de un solo fruto. Eran, por supuesto, capaces
de comerlo; de lo contrario, la prohibición de Dios no habría tenido
sentido. Dios les dijo, sin embargo, que el día que lo comieran,
ciertamente morirían.
A pesar de eso, lo comieron por las razones que nos da la narración
bíblica:

Ahora bien, la serpiente era más astuta que cualquier otra bestia del
campo que el SEÑOR Dios había hecho.

Le dijo a la mujer: “¿De verdad dijo Dios: ‘No comerás de ningún árbol
del jardín’?”. Y la mujer dijo a la serpiente: Del fruto de los árboles
del huerto podemos comer, pero Dios dijo: Del fruto del árbol que está en
medio del huerto no comeréis, ni tocaréis ella, para que no mueras.” Pero
la serpiente dijo a la mujer: “Ciertamente no morirás. Porque sabe Dios
que cuando comiereis de él, se os abrirán los ojos, y seréis como Dios,
sabiendo el bien y el mal.” Y viendo la mujer que el árbol era bueno para
comer, y que era un deleite para los ojos, y que el árbol era codiciable
para alcanzar la sabiduría, tomó de su fruto y comió, y también dio un
poco a su marido que estaba con ella, y comió. Entonces fueron abiertos
los ojos de ambos, y conocieron que estaban desnudos. Y cosieron hojas de
higuera y se hicieron taparrabos.

Génesis 3:1–7

El relato de Génesis continúa relatando cómo el enemigo-serpiente

tergiversó a Dios, sugiriendo que Dios deseaba limitar la libertad humana
al no permitir que los humanos se volvieran como Dios. Ahora soy muy
consciente de que la sugerencia bíblica aquí de que existe no solo una
inteligencia extraterrestre sino también una inteligencia no humana
malévola en el universo frecuentemente atrae el ridículo. Sin embargo,
encuentro que cuando los astrónomos sugieren que la galaxia está repleta
de todo tipo de vida extraterrestre, muchas personas lo aceptan sin
pestañear. Por lo tanto, parecería que el problema es que la gente no
puede imaginar que un documento tan antiguo como la Biblia pueda saber
algo sobre estas cosas, y probablemente tengan razón, si el naturalismo
es cierto. Pero ese es precisamente el punto en cuestión aquí: “En el
principio, Dios creó los cielos y la tierra” es la primera acción en la
gran metanarrativa bíblica, que constituye un desafío frontal a ese mismo
naturalismo.

Además, como veremos más adelante, muchos defensores de AGI creen que
habrá otros tipos de inteligencias en el futuro a las que los seres
humanos podrían estar sujetos. Si los humanos eventualmente serán capaces
de crear inteligencias superiores a ellos mismos, y la vida
extraterrestre ya existe como muchos piensan, ciertamente no hay una
razón a priori aparte del prejuicio para rechazar la introducción bíblica
de un extraterrestre inteligente. C. S. Lewis lo expresa de esta manera:

Es imposible en este punto no recordar cierta historia sagrada que,

aunque nunca incluida en los credos, ha sido ampliamente creída en la
Iglesia y parece estar implícita en varias declaraciones dominicales,
paulinas y joánicas: me refiero a la historia de que el hombre no fue la
primera criatura en rebelarse contra el Creador, sino que algún ser más
antiguo y más poderoso se volvió apóstata hace mucho tiempo y ahora es el
emperador de las tinieblas y (significativamente) el Señor de este mundo.
. .
Me parece, por lo tanto, una suposición razonable, que algún gran poder
creado ya había estado obrando para mal en el universo material, o en el
sistema solar, o, al menos, en el planeta Tierra, antes de que el hombre
apareciera en escena: y que cuando el hombre cayó, alguien en verdad lo
había tentado. . . Si existe tal poder, como yo mismo creo, bien puede
haber corrompido la creación animal antes de que apareciera el hombre.1

Al menos deberíamos observar que al presentar un ser extraterrestre

maligno que engañó a los humanos, la Biblia no culpa por completo a la
humanidad por lo que sucedió posteriormente. Se nos dice que esta
criatura “era más astuta que cualquier otra bestia del campo que Jehová
Dios había hecho”. Resulta ser muy diferente a las demás criaturas: es
astuto y puede hablar. Involucra a Eva en una conversación sobre el
significado de comer del árbol prohibido del conocimiento del bien y del
mal. Primero cuestiona la prohibición: “¿Dios realmente dijo: ‘No comerás
de ningún árbol en el jardín’?” Eva responde, bastante inexactamente,
diciendo que Dios ha prohibido incluso tocar el árbol, y mucho menos
comerlo. La serpiente responde negando rotundamente: “Ciertamente no
morirás”. A esto añade: “Dios sabe que cuando comáis de él, se os abrirán
los ojos, y seréis como Dios, sabiendo el bien y el mal”.

La serpiente se las arregla así, mediante una tortuosa manipulación de la

verdad a medias y una sutil apelación a su interés racional por la
comida, su sentido estético y su deseo de perspicacia y satisfacción,
todas ellas maravillosas capacidades dadas por Dios, para abrir una
brecha entre ella y su Creador. El poder de persuasión de la serpiente es
tal que Eva toma el fruto prohibido y se lo ofrece a Adán, y ambos comen.
En ese momento abrasador, descubren que la iluminación recibida está
lejos de lo que pensaban que deseaban. En lugar de encontrar la vida,
comienzan a experimentar la muerte, como Dios había dicho que harían. No
mueren inmediatamente en el sentido físico. Ese efecto de su acción se
producirá inevitablemente a su debido tiempo.

La vida humana, como aprendemos en Génesis 2, tiene muchos aspectos; su

nivel más bajo es la vida física, a la que hay que añadir aquellas otras
cosas que hacen que la vida sea vida: el entorno estético, el trabajo,
las relaciones humanas y la relación con Dios. La muerte humana,
entonces, supondrá el destejido de todo esto. Primero significará la
muerte de la comunión con Dios, y el primer resultado de esta muerte es
un patético intento de esconderse de Dios en el jardín. La ruptura mortal
de la comunión con Dios conducirá entonces inexorablemente a todos los
demás niveles de muerte: muerte estética, muerte de las relaciones
humanas, etc., hasta llegar al nivel más bajo: la muerte física que
convierte nuestros cuerpos en moléculas de polvo.

Los progenitores de la humanidad descubrieron demasiado tarde que el

conocimiento del bien y del mal que se obtiene al rechazar a Dios y hacer
el mal no es el tipo de conocimiento que deseas tener. En lugar de
felicidad, se sumergieron en un mundo fracturado lleno de tristeza y
desesperación.

Este evento trascendental, a menudo llamado la Caída, sucedió cuando los

seres humanos comienzan a pensar en sí mismos como algo más que una
imagen de Dios y desean ser un dios: “seréis como Dios”. En una palabra,
Homo deus. Haríamos bien en sospechar del concepto Homo deus; después de
todo, ¡fue sugerido por primera vez por una serpiente diabólica! John
Gray dice que el propio Yuval Noah Harari es una de las pocas personas
que se dan cuenta de que el transhumanismo es un intento de
autodeificación humana. el mal al mundo. Por lo tanto, no deberíamos
sorprendernos demasiado cuando el mal surge en tantas representaciones
del futuro.

La moralidad humana, entonces, se definió originalmente en términos de

obediencia o desobediencia a la palabra de Dios. Solo tiene significado
en la medida en que los humanos pudieran entender lo que Dios dijo y
tuvieran la capacidad de elegir entre obedecer o desobedecer. Esto, si es
cierto, como creo que es, es de crucial importancia para la evaluación
ética de la IA en el mundo contemporáneo. Génesis aquí afirma que la
ética no es relativista, ni evolucionó horizontalmente a través de
procesos evolutivos sociales, como afirman muchos naturalistas, aunque la
sociedad claramente juega un papel en cierto nivel, pero fue trascendente
en su origen. Parte de la imagen de Dios se ve en el hecho de que los
humanos son seres morales.

Las convicciones morales están, por lo tanto, hasta cierto punto

arraigadas. Es un hecho observable que si observa culturas de cualquier
tipo en todo el mundo, encontrará elementos morales comunes como el
respeto por la verdad, la familia, la propiedad y la tribu, y, de hecho,
otras personas, así como la represión del asesinato. mentir, robar y
engañar.

Sin embargo, cuando se trata del valor último de un ser humano y cuáles
son las reglas básicas, por ejemplo, para modificarlo genética y
tecnológicamente, nuestro enfoque variará, a veces mucho, según creamos
que la vida humana tiene el valor trascendente de haber sido creados a la
imagen de Dios, o si pensamos que es simplemente fango sofisticado y
estamos de acuerdo con Richard Dawkins cuando dice que vivimos en un
mundo en el que no hay justicia, “sin propósito, ni mal ni bien, ” un
mundo en el que “el ADN simplemente es y bailamos con su música”. 3 En
este nivel, la ética resulta ser dependiente de la visión del mundo.

Sin embargo, vale la pena señalar que no son solo los teístas quienes
reconocen la fuente bíblica de muchos de los principios y valores éticos
que esperamos se incorporen en la sociedad civilizada. De hecho, el
destacado intelectual ateo alemán Jürgen Habermas ha advertido claramente
sobre los peligros de un cambio en nuestra base moral de una base moral
judeocristiana a la posmoderna:

El igualitarismo universalista, del que brotaron los ideales de libertad

y vida colectiva solidaria, la conducta autónoma de vida y emancipación,
la moral individual de la conciencia, los derechos humanos y la
democracia, es herencia directa de la ética judaica de la justicia y de
la ética cristiana. de amor. Este legado, sustancialmente inalterado, ha
sido objeto de continua apropiación y reinterpretación crítica. Hasta el
día de hoy, no hay alternativa a ella. Y a la luz de los desafíos
actuales de una constelación posnacional, seguimos aprovechando la
esencia de este patrimonio. Todo lo demás es solo charla posmoderna
ociosa.4
Si no hay “alternativa”, entonces al menos no deberíamos tener miedo de
aplicar ese legado bíblico seminal a, por ejemplo, las cuestiones de
derechos humanos que plantea el tipo de sociedad de vigilancia de IA
hacia la cual algunas sociedades parecen moverse muy rápidamente.

La desobediencia que infectó a la raza humana desde el principio fue una

rebelión orgullosa del espíritu humano contra el Dios que lo creó. Cuando
tomaron el fruto prohibido, experimentaron vergüenza, inquietud y
alejamiento de Dios. No eran simplemente seres conscientes; ahora tenían
conciencia. El hombre y la mujer que habían disfrutado del gozo y la
amistad de Dios ahora sintieron que Dios se había convertido en su
enemigo, y huyeron para esconderse de él.

Los humanos hemos estado huyendo desde entonces, un vuelo que lleva
dentro todas las semillas de la distopía. Ha acechado en el corazón
humano la sospecha de que Dios, si es que existe, es innatamente hostil
hacia nosotros. Él no desea nuestra felicidad, bienestar o incluso una
existencia prolongada. La historia humana muestra que hemos usado nuestra
autonomía para salirnos de control. Eso es exactamente lo que impulsa los
temores en torno a la IA. ¿Y si nuestras creaciones se salen de control?
¿Hará un Homo deus superinteligente con el resto de nosotros lo que le
hemos hecho a Dios? La filósofa y teórica política Hannah Arendt vio el
transhumanismo como “una rebelión contra la existencia humana tal como ha
sido dada, un regalo gratuito de la nada (hablando secularmente), que
desea cambiar, por así decirlo, por algo que él mismo ha hecho”. 5

Algunas personas tienen miedo cuando tratan de imaginar el tipo de

criaturas en las que algún día nos convertiremos. Paula Boddington
escribe:

Porque si vemos el relato de Génesis de la Caída del hombre como un

presagio de los temores sobre los robots, entonces Génesis aborda
exactamente el problema, exactamente por las razones correctas: es una
preocupación sobre la autonomía en sí misma: ¿qué podrían hacer los
robots si no podemos controlarlos? ellos completamente? ¿Se adherirá al
mismo sistema de valores que nosotros? ¿Decidirán desobedecernos? ¿Cuál
será nuestra relación con nuestras creaciones? . . . Podemos agradecer al
relato hebreo de Génesis por advertirnos hace miles y miles de años.6

Nick Bostrom dice: “No podemos asumir alegremente que una

superinteligencia compartirá necesariamente cualquiera de los valores
finales asociados estereotípicamente con la sabiduría y el desarrollo
intelectual en los humanos: curiosidad científica, preocupación benévola
por los demás, . . . la renuncia a la codicia material, el gusto por la
cultura refinada o por los placeres simples de la vida, la humildad y el
desinterés, etcétera.”7 No podemos suponer que 2084 no será peor que Un
mundo feliz de Huxley o 1984 de Orwell. En fin, es fácil suponer que la
IA mejorará a los seres humanos, pero puede que no sea necesariamente
así.

Como hemos visto, Yuval Harari describe AGI como desvincular la

inteligencia de la conciencia. La declaración de Bostrom indica que AGI
también puede desvincularse de la conciencia. Sin embargo, es muy
probable que haga cosas que tengan ramificaciones éticas, y o bien está
controlado por humanos que le proporcionan sus conceptos éticos (y quién
sabe cuáles pueden ser) o toma el control de sí mismo de forma
completamente imprevisible y potencialmente horrible, incluso. terminal,
consecuencias para la humanidad. Si este último es el caso, entonces el
fabricante del sistema sigue siendo responsable de los desastres que
ocasiona de la misma manera que el fabricante de un piloto automático es
responsable de un accidente causado por ese piloto automático después de
haberle dado el control de un aeronave.

Eso es lo crucial. Si los programadores éticos están informados por una

ética relativista o sesgada, lo mismo se verá reflejado en sus productos.
Por esa razón, es sin duda importante que aquellos con convicciones
éticas trascendentes tengan un asiento en la mesa de ética cuando se
discutan los problemas potenciales de la IA.

Por supuesto, es difícil discutir los valores éticos en relación con una
superinteligencia, ya que no hay hechos sino solo una plétora de
escenarios hipotéticos muy diferentes. Algunas personas esperan que si
nuestro enfoque de la superinteligencia es a través de la mejora del
cerebro humano, entonces la superinteligencia resultante puede compartir
valores humanos comunes. Sin embargo, no debemos permitir que los
escenarios aterradores nos desconecten del hecho de que en su mayoría son
especulaciones. Tampoco debemos dejar que nos olviden de agradecer los
buenos avances tecnológicos.

Eso me da la oportunidad de decir que mi compromiso con la cosmovisión

bíblica, lejos de convertirme en un ludita frente a la tecnología, me
hace estar profundamente agradecido a Dios por los desarrollos que traen
esperanza a las personas en este mundo dañado que de otro modo tendrían
ninguno: dar oído a los sordos, vista a los ciegos, miembros a los sin
miembros; erradicar enfermedades mortales; y beneficiarse de una multitud
de otras cosas que representan un trabajo magnífico en el espíritu de un
Creador que ha hecho a los humanos a su imagen para que sean creativos
ellos mismos.

IA APLICADA A LA MORAL

Hemos visto que la IA, como cualquier tecnología nueva, solo que quizás
más, trae consigo toda una nueva serie de consideraciones morales que
pueden parecer fácilmente insuperables.8 Porque los sistemas informáticos
de IA no tienen conciencia, por lo que la moralidad de cualquier decisión
que tomen será reflejan la moralidad de los programadores de
computadoras, y ahí es donde comienzan las dificultades. ¿Cómo podemos
estar seguros de que los programadores incorporarán una moralidad
benévola y humana? Rosalind Picard, directora del Affective Computing
Group del MIT, lo expresa sucintamente: “Cuanto mayor sea la libertad de
una máquina, más necesitará estándares morales”.9

El politólogo y autor de El fin de la historia, Francis Fukuyama,

considera que el transhumanismo es “la idea más peligrosa del mundo”, ya
que corre el riesgo de afectar los derechos humanos.10 Su razón es que la
democracia liberal depende del hecho de que todos los humanos comparten
un “indefinido” Factor X” en el que se basan su igualdad de dignidad y
derechos.11 El teme que el uso de tecnologías de mejora podría destruir
el Factor X. De hecho, me gustaría decir que el Factor X en realidad se
ha definido: está de Dios. Fukuyama escribe:

Nadie sabe qué posibilidades tecnológicas surgirán para la

automodificación humana. Pero ya podemos ver la agitación de los deseos
prometeicos en la forma en que recetamos medicamentos para alterar el
comportamiento y la personalidad de nuestros hijos. El movimiento
ecologista nos ha enseñado humildad y respeto por la integridad de la
naturaleza no humana. Necesitamos una humildad similar con respecto a
nuestra naturaleza humana. Si no lo desarrollamos pronto, podemos invitar
sin darnos cuenta a los transhumanistas a desfigurar a la humanidad con
sus topadoras genéticas y sus centros comerciales psicotrópicos.12

Hemos visto que uno de los objetivos declarados del transhumanismo no es

simplemente mejorar, sino cambiar la naturaleza humana, como lo implica
la palabra misma. Para muchos de nosotros, esto plantea profundas
preocupaciones éticas y teológicas.

Sin embargo, las preguntas morales no llegan primero cuando se logran

algunos de los objetivos de los transhumanistas. Muchos sistemas que ya
funcionan o están a punto de ponerse en funcionamiento plantean problemas
éticos inmediatos. Por ejemplo, los vehículos autónomos son el caso
obvio. Deben programarse para evitar golpear obstáculos y causar daños.
Pero, ¿en qué principios morales se basarán las elecciones involucradas,
especialmente en el caso de dilemas morales? ¿Debería programarse un
automóvil autónomo para evitar que un niño cruce la calle si la
consecuencia es que inevitablemente choca contra una cola de autobús de
muchos adultos? ¿Hay alguna posibilidad de lograr algún tipo de consenso
aquí?

Estas son preguntas reales, no solo para cristianos, sino para personas
de todos los puntos de vista. Al tratar de responderlas, inevitablemente
nos encontraremos con la opinión generalizada de que la moralidad es
subjetiva y relativa y, por lo tanto, no hay esperanza de progresar aquí.
Sin embargo, si la moralidad, si nuestras ideas sobre el bien y el mal,
son puramente subjetivas, deberíamos abandonar cualquier idea de progreso
(o retroceso) moral, no solo en la historia de las naciones, sino en la
vida de cada individuo. El mismo concepto de progreso moral implica un
estándar moral externo mediante el cual no sólo se mide que un estado
moral actual es diferente de uno anterior, sino también para pronunciarse
que es “mejor” que el anterior. Sin ese estándar, ¿cómo podría uno decir
que el estado moral de una cultura en la que el canibalismo se considera
un crimen abominable es “mejor” que el de una sociedad en la que es una
práctica culinaria aceptable?

El naturalismo lo niega. Por ejemplo, Yuval Harari afirma: “Tanto

Hammurabi como los Padres Fundadores de Estados Unidos imaginaron una
realidad gobernada por principios de justicia universales e inmutables,
como la igualdad o la jerarquía. Sin embargo, el único lugar donde
existen tales principios universales es en la imaginación fértil de
Sapiens, y en los mitos que inventan y se cuentan unos a otros. Estos
principios no tienen validez objetiva.”13
Sin embargo, los relativistas tienden a argumentar que, dado que, según
ellos, no existen absolutos morales, ni aciertos ni errores objetivos,
nadie debería tratar de imponer sus puntos de vista morales a otras
personas. Pero al argumentar así, refutan su propia teoría. La palabra
debería implica un deber moral. Están diciendo, en efecto, que debido a
que no hay principios objetivos universales, hay un principio moral
universal vinculante para todos los objetivistas y todos los demás, a
saber, que nadie debe imponer sus puntos de vista morales a otras
personas. Al decir esto, el relativismo refuta su propio principio
básico.

El relativismo subjetivo moral no es habitable. Cuando se trata de los

asuntos prácticos de la vida diaria, un filósofo subjetivista objetará
enérgicamente si su teoría se pone en práctica en su desventaja. Si el
director de su banco tiene la idea de que no existe la justicia objetiva
y trata de estafar al filósofo con 2.000 libras esterlinas, el filósofo
ciertamente no tolerará el sentido de valores subjetivista y "determinado
culturalmente" del director.

El hecho es, como señaló C. S. Lewis, que nuestro comportamiento

cotidiano revela que creemos en un estándar común que está fuera de
nosotros. Eso lo demuestra el hecho de que, desde la infancia, nos
dedicamos a criticar a los demás y excusarnos ante ellos: esperamos que
los demás acepten nuestros juicios morales. Desde la perspectiva de
Génesis, esto es precisamente lo que cabría esperar si los seres humanos
fueran creados a la imagen de Dios como seres morales y, por lo tanto,
programados para la moralidad.

Por extraño que parezca, la IA puede respaldar este punto de vista.

Piense en una de las aplicaciones de IA muy exitosas en medicina que
hemos mencionado: el diagnóstico preciso de una enfermedad en particular
a partir del aprendizaje de una gran base de datos de rayos X. Supongamos
ahora que tuviéramos que construir una enorme base de datos de decisiones
morales tomadas por seres humanos y aplicarles el aprendizaje automático.
Muchas de esas decisiones, si no la mayoría, estarían sesgadas de una
forma u otra, y tendríamos que incorporar métodos para reconocer el
sesgo. Sin embargo, como dice Lianna Brinded en un artículo para Quartz:

Esto es más fácil dicho que hecho. El sesgo humano en la contratación ha

sido bien documentado, con estudios que muestran que incluso con CV
idénticos, es más probable que los hombres sean llamados para una
entrevista, y los solicitantes no blancos que “blanquean” sus currículos
también reciben más llamadas.

Pero, por supuesto, la IA tampoco es inmune a los sesgos en la

contratación. Sabemos que, en todas las industrias, las mujeres y las
minorías étnicas son quemadas regularmente por algoritmos, desde
encontrar un trabajo hasta obtener atención médica. Y con la mayor
adopción de IA y automatización, esto solo empeorará.14

Entonces, ¿cómo le enseñas justicia a una computadora o la programas para

superar los prejuicios raciales o de género? Solo será posible si los
programadores saben qué son estas cosas y son capaces de presentarlas en
una forma que una máquina pueda procesar. Si las cosas salen mal porque
el sistema amplifica el sesgo en lugar de eliminarlo, no podemos culpar a
una máquina sin conciencia. Solo un ser moral, el programador humano,
puede y debe ser culpado.

Claramente, este tema es central, pero, sin embargo, sería fascinante

aplicar la IA de esta manera a una gigantesca base de datos de opciones
morales de colaboración colectiva para ver qué puntos en común surgieron.
En otras palabras, aplicar la IA a la toma de decisiones morales como una
ayuda para saber qué moralidad debe programarse en los diversos tipos de
sistemas en desarrollo. Por supuesto, esto corre el riesgo de determinar
la moralidad de una manera utilitaria por mayoría de votos, lo cual, como
muestra la historia, no siempre es lo más sensato.

LA BÚSQUEDA DE LA INMORTALIDAD

Había un segundo árbol especial en el Jardín del Edén: el árbol de la

vida. Uno de los resultados de que los humanos tomaran el fruto del árbol
del conocimiento del bien y del mal fue que perdieron su acceso al árbol
de la vida. Esto implica que los seres humanos no eran intrínsecamente
inmortales tal como fueron creados. Para la continuación de la vida
física, dependían de comer regularmente un alimento en particular, el
fruto del árbol de la vida. Su retiro después de la Caída significó una
muerte física inevitable, aunque no inmediata. Uno no puede dejar de
preguntarse si la búsqueda legendaria del elixir de la vida en el mundo
antiguo y la búsqueda actual de la inmortalidad basada en el silicio
tienen sus raíces en última instancia en esta historia antigua.

Eso parecería significar que la afirmación de Yuval Harari de que la

muerte ahora es un "problema meramente técnico" está fuera de lugar.
¿Podría Génesis dar a entender que la inmortalidad física en el sentido
de una vida potencialmente interminable en la tierra estará para siempre
más allá de nuestro alcance intelectual, de modo que nunca, como sugieren
Ray Kurzweil y Stephen Hawking, seremos capaces de descargar el contenido
de nuestro cerebro en silicio y así? hacernos inmortales? Tendremos más
que decir acerca de la inmortalidad más adelante.

EL SUEÑO HUMANISTA

Yuval Harari, aunque a veces parece ser optimista, ve una gran amenaza
para los intentos de realizar el sueño de la inmortalidad y la felicidad
divina. Él dice que este sueño en realidad no es más que las aspiraciones
tradicionales del humanismo liberal, una visión que define de la
siguiente manera:

La Historia Liberal dice que si liberalizamos y globalizamos nuestros

sistemas políticos y económicos, produciremos el paraíso en la tierra, o
al menos paz y prosperidad para todos. Según esta historia, aceptada, con
ligeras variaciones, tanto por George W. Bush como por Barack Obama, la
humanidad marcha inevitablemente hacia una sociedad global de libre
mercado y política democrática.15

Harari ve esta visión como la mejor opción disponible, sin embargo,

piensa que es defectuosa y que incluso puede contener las semillas de su
propia destrucción. Pasa la última parte de su libro Homo Deus
argumentando que “intentar realizar este sueño humanista socavará sus
cimientos, al desencadenar nuevas tecnologías poshumanistas. . . Si todo
el universo está vinculado a la experiencia humana, ¿qué sucederá una vez
que la experiencia humana se convierta en otro producto diseñable, que en
esencia no sea diferente de cualquier otro artículo en el
supermercado?”16

Uno de los fundamentos a los que se refiere es la creencia humanista

liberal en el libre albedrío humano que, como acabamos de ver, es un
pilar central del relato del Génesis. Una de sus razones para pensar esto
es que, al igual que muchos ateos contemporáneos, niega el libre
albedrío, sosteniendo que “existe solo en las historias imaginarias que
los humanos hemos inventado”.17 Sostiene que el libre albedrío es una
invención de teólogos y que es bastante fácil ver que es falso: “Los
humanos toman decisiones, pero nunca son elecciones independientes. Cada
elección depende de muchas condiciones biológicas, sociales y personales
que no puedes determinar por ti mismo. Puedo elegir qué comer, con quién
casarme y por quién votar, pero estas elecciones están determinadas en
parte por mis genes, mi bioquímica, mi género, mis antecedentes
familiares, mi cultura nacional, etc., y yo no elegí qué genes o familia
tener”. 18 Piensa que “el último clavo en el ataúd de la libertad lo
proporciona la teoría de la evolución”, 19 pero no es lo suficientemente
radical como para cuestionar la capacidad de la evolución para hacerlo, o
incluso decirnos qué es esa afirmación. podría significar.

Harari continúa: “Dudar del libre albedrío no es solo un ejercicio

filosófico. Tiene implicaciones prácticas. Si los organismos carecen de
libre albedrío, implica que podemos manipular e incluso controlar sus
deseos usando drogas, ingeniería genética o estimulación cerebral
directa.”20 En otras palabras, negar el libre albedrío elimina las
barreras a la experimentación humana en interés de AGI. También elimina
cualquier base significativa para la ética y así elimina todas las
barreras morales. Sin embargo, el hecho bastante obvio de que hay muchas
influencias involucradas en la elección humana no descarta el hecho de
que hay suficiente libertad para que la moralidad tenga sentido donde en
ausencia de esa libertad no lo tendría. Esto muestra cuán importante es
que recuperemos la enseñanza bíblica sobre este tema. En mi libro
Determinados a creer,21 expongo los argumentos a favor de la existencia
del libre albedrío y sus implicaciones para el estatus moral de los seres
humanos.

El segundo fundamento del humanismo liberal (y también, dicho sea de

paso, una enseñanza bíblica22) que Harari considera delirante es el
concepto de que cada uno de nosotros es un individuo. El relato del
Génesis lo deja claro por la dignidad que se nos confiere como individuos
al afirmar que estamos hechos a imagen de Dios. Sin embargo, Harari, como
muchos otros, niega esta dignidad en nombre de la biología, abriendo así
la puerta a que el individuo pierda su importancia en las vastas bases de
datos que son el alimento de la IA.

Hemos dicho que millones de nosotros estamos voluntariamente

comprometidos a cargar información cada vez más detallada sobre nosotros
mismos en la web en tal medida que Facebook o Google, por ejemplo, bien
pueden terminar sabiendo mucho más sobre nosotros de lo que nos conocemos
a nosotros mismos. Casi sin darnos cuenta, ya estamos abdicando de
nuestras decisiones a los sistemas de inteligencia artificial que saben
más que nosotros sobre prácticamente todo sobre nosotros: nuestras
preferencias; nuestros hábitos; nuestros trabajos; Nuestros Contactos;
nuestros viajes; lo que comemos, vestimos, leemos, vemos, creemos;
nuestra salud, tanto física como emocional, y nuestras finanzas.
Consultamos la web sobre la mayoría de las cosas, e inevitablemente
comenzaremos a permitir que la web tome nuestras decisiones por nosotros.

El peligro es que, como individuos, perdamos todo nuestro significado en

la vorágine incesante del flujo de datos. Esto significará el final de lo
que Harari llama la religión humanista que está diseñada para permitir a
los humanos crear significado en un universo que en realidad no tiene
significado. Harari tiene palabras sombrías para decir: “Eventualmente,
podemos llegar a un punto en el que será imposible desconectarnos de esta
red que todo lo sabe, incluso por un momento. La desconexión significará
la muerte.”23

Esta red incluirá lo que se denomina "Internet de las cosas" que conecta
todos los sensores físicos en nuestros dispositivos, hogares, automóviles
y el medio ambiente, y los conecta a los propios seres humanos. Hay
muchos ejemplos trágicos de jóvenes que están tan desesperados por ser
aceptados en las redes sociales que cuando sus supuestos “amigos” los
abandonan, o cuando son víctimas de acoso cibernético, sienten que no les
queda nada por lo que vivir y se suicidan. Las estadísticas son
deprimentes: “El uso de dispositivos electrónicos por parte de los
adolescentes, incluidos los teléfonos inteligentes, durante al menos
cinco horas diarias se duplicó con creces, del 8 % en 2009 al 19 % en
2015. Estos adolescentes tenían un 70 % más de probabilidades de tener
pensamientos o acciones suicidas que aquellos que informaron una hora de
uso diario”.24 Sí, la desconexión incluso de un aspecto de la “red que
todo lo sabe”, las redes sociales, puede significar la muerte.

El comentario final de Harari en un artículo de 2018 para The Guardian

titulado "El mito de la libertad" es una lectura interesante ya que
piensa, por un lado, que la democracia liberal es defectuosa, pero, por
otro lado, la defiende contra lo que él llama " fantasías religiosas y
nacionalistas”:

¿Cómo funciona la democracia liberal en una era en la que los gobiernos y

las corporaciones pueden piratear a los humanos? ¿Qué queda de las
creencias de que “el votante sabe más” y “el cliente siempre tiene la
razón”? ¿Cómo vives cuando te das cuenta de que eres un animal hackeable,
que tu corazón podría ser un agente del gobierno, que tu amígdala podría
estar trabajando para Putin y que el siguiente pensamiento que surge en
tu mente bien podría ser el resultado de algún algoritmo? que te conoce
mejor de lo que te conoces a ti mismo? Estas son las preguntas más
interesantes que enfrenta ahora la humanidad.25

Me sorprende que Harari piense que estas preguntas no solo son

importantes sino las más importantes. Porque no hay nada nuevo aquí. La
gente ha estado hackeando y utilizando sus técnicas de ventas y marketing
para influir en nuestras amígdalas mucho antes de que apareciera la IA.26
¿Qué pasa con las preguntas mucho más importantes de por qué estamos
aquí; hacia dónde nos dirigimos; ¿Cómo podemos reducir la pobreza, la
soledad, la enfermedad y la creciente depresión y desesperación en
nuestra sociedad, y promover el crecimiento, el aprendizaje, la
generosidad y la conexión humana?

¿Podría haber una forma alternativa de avanzar en la que pudiéramos

involucrarnos que nos diera respuestas a esas preguntas? En la primera
página de su libro Homo Deus, Yuval Harari escribe: “Animo a todos
nosotros, independientemente de nuestras creencias, a cuestionar las
narrativas básicas de nuestro mundo, a conectar los desarrollos pasados
con las preocupaciones actuales y a no tener miedo a los temas
controvertidos. .”27

Siguiendo este estímulo, deseo cuestionar su narrativa y presentar una

que es completamente diferente, mucho más radical y con muchas más
probabilidades de ser cierta, ya que está fuertemente basada en evidencia
y no es una de las "construcciones sociales cambiantes" o "fantasías
nostálgicas". de nacionalismo o religión” señala Harari.28 Además, está
llena de esperanza.

NOTAS

1. C. S. Lewis, The Problem of Pain (1940; repr., Nueva York: Macmillan,

1962), 133–35.

2. John Gray, Seven Types of Atheism (Nueva York: Farrar, Straus and
Giroux, 2018), 68.

3. Richard Dawkins, River out of Eden: A Darwinian View of Life (Nueva

York: Basic, 1995), 133.

4. Jürgen Habermas, Time of Transitions (Nueva York: Polity, 2006), 150–

51.

5. Hannah Arendt, La condición humana (Chicago: University of Chicago

Press, 1958), 2–3.

6. Paula Boddington, “Myth and the EU Study on Civil Law Rules in

Robotics”, Ética para la inteligencia artificial, 12 de enero de 2017,
www.cs.ox.ac.uk/efai/2017/01/12/myth-and- el-estudio-de-la-ue-sobre-
normas-de-derecho-civil-en-robótica.

7. Nick Bostrom, Superinteligencia (Oxford: Oxford University Press,

2014), 115–16. ¡Tenga en cuenta que muchos de estos están en nuestra
lista de Génesis!

8. Como referencia general en esta área, véase David Gooding y John

Lennox, Doing What's Right: Whose System of Ethics Is Good Enough? libro
4 en The Quest for Reality and Significance (Belfast: Myrtlefield, 2018).

9. Rosalind Picard, Computación afectiva (Cambridge, MA: MIT Press,

1997), 134.
10. Véase Michael Cook, “¿Es el transhumanismo realmente la idea más
peligrosa del mundo?” Mercatornet, 20 de julio de 2016,
www.mercatornet.com/articles/view/is-transhumanism-really-the-worlds-
most-dangerous-idea/18394; véase también Francis Fukuyama, “Las ideas más
peligrosas del mundo: el transhumanismo”, Foreign Policy 144, no. 1
(septiembre de 2004).

11. Véase Francis Fukuyama, Our Posthuman Future: Consequences of the

Biotechnology Revolution (Nueva York: Farrar, Straus and Giroux, 2002),
149–51.

12. Francis Fukuyama, “Special Report: Transhumanism”, FP, 23 de octubre

de 2009, https://foreignpolicy.com/2009/10/23/transhumanism.

13. Yuval Noah Harari, Sapiens (Nueva York: HarperCollins, 2015), 108.

14. Lianna Brinded, “How to Prevent Human Bias from Infecting AI”,
Quartz, 20 de marzo de 2018, https://qz.com/1232285/ad-week-europe-2018-
risk-and-rewards-of-ai- y-uso-de-aprendizaje-máquina-para-eliminar-
sesgo/.

15. Yuval Noah Harari, “¿El ascenso de Trump significa el fin del
liberalismo?” New Yorker, 7 de octubre de 2016,
www.newyorker.com/business/currency/does-trumps-rise-mean-liberalisms-
end.

16. Yuval Noah Harari, Homo Deus (Nueva York: HarperCollins, 2017), 279.

17. Harari, Homo Deus, 285.

18. Yuval Noah Harari, “Yuval Noah Harari: El mito de la libertad”, The
Guardian, 14 de septiembre de 2018,
www.theguardian.com/books/2018/sep/14/yuval-noah-harari-the-new-threat-
a-la-democracia-liberal.

19. Harari, Homo Deus, 285.

20. Harari, Homo Deus, 288.

21. John C. Lennox, ¿Decidido a creer? La soberanía de Dios, la libertad,

la fe y la responsabilidad humana (Oxford: Lion, 2017).

22. No es irrazonable argumentar que la cosmovisión bíblica presenta un

verdadero humanismo en el sentido de que al sostener que los humanos
están hechos a la imagen de Dios, les da un valor mucho más alto que la
filosofía humanista (ateísta) en la que se cree ampliamente hoy. .

23. Harari, Homo Deus, 349.

24. Associated Press, “Rise in Teen Suicide Connected to Social Media

Popularity: Study”, New York Post, 14 de noviembre de 2017,
https://nypost.com/2017/11/14/rise-in-teen-suicide-connected -al-estudio-
de-popularidad-en-las-redes-sociales.
25. Harari, "Yuval Noah Harari: El mito de la libertad".

26. Véase Robert B. Cialdini, Influence: The Psychology of Persuasion

(Nueva York: HarperCollins, 1993).

27. Harari, Homo Deus, cita al principio del libro.

28. Patrick Freyne, “Yuval Noah Harari: 'Solo se necesita un tonto para
iniciar una guerra'”, The Irish Times, 30 de agosto de 2018,
www.irishtimes.com/culture/books/yuval-noah-harari-it-takes -solo-un-
tonto-para-comenzar-una-guerra-1.3610304.

CAPÍTULO DIEZ

EL VERDADERO HOMO DEUS

La búsqueda de mejorar a los humanos, crear superinteligencia y

divinidad, es muy antigua y, en su forma contemporánea, disfrazada con el
lenguaje de la tecnología informática avanzada, muy atractiva. El
proyecto suena como la culminación de miles de millones de años de
desarrollo, inicialmente ciego y natural y finalmente dirigido por la
mente humana a la que dieron lugar esos procesos evolutivos.

Sin embargo, en el fondo, ofrece una narrativa defectuosa que no es fiel

al pasado ni a la naturaleza de la realidad. De hecho, su narrativa es lo
contrario de lo que realmente es el caso. La superinteligencia y la
divinidad no son los productos finales de la trayectoria de la historia
del ingenio humano. Si hay un Dios que creó y sostiene el universo y que
nos hizo a su imagen, entonces siempre ha existido una superinteligencia,
el mismo Dios. Él no es un producto final. El es el Productor.

LA PERSPECTIVA BÍBLICA SOBRE LA SUPERINTELIGENCIA

A la luz de lo que muchos ahora están preparados para creer sobre el

transhumanismo y AGI, seguramente no es descabellado pedir que al menos
escuchemos la perspectiva bíblica sobre la superinteligencia y la
comparemos con otros escenarios que se ofrecen. Me entristecería que mis
lectores escépticos, agnósticos o ateos se desconectaran en este punto.
No es que me debas nada, pero he pasado mucho tiempo tratando de entender
lo que escribes, y espero que a tu vez estés interesado en escuchar cómo
interactúa mi punto de vista con el tuyo.

Como hemos visto, parece haber todavía poca evidencia, si es que hay
alguna, o incluso un consenso de creencia de que alguna vez se alcanzará
el AGI. En cambio, hay mucha evidencia y una convicción generalizada de
que Jesucristo es tanto hombre como Dios (Homo + Deus). Esta es, por
supuesto, una afirmación asombrosa. De ser cierto, implica de inmediato
que no tenemos que esperar algún tipo de fusión de la vida humana y la
tecnología para llegar a un tipo diferente de ser con poderes hasta ahora
sin precedentes. Tal superinteligencia humana ya existe. Esta es, de
hecho, la afirmación central del cristianismo resumida en una declaración
del Evangelio de Juan sobre el Verbo: “El Verbo se hizo carne y habitó
entre nosotros” (Juan 1:14). Es una afirmación desvergonzadamente
sobrenatural que la Palabra, que es Dios y nunca llegó a ser, llegó a ser
humana. La búsqueda incierta para permitir que los humanos se conviertan
en dioses palidece hasta la insignificancia con esta verdadera narrativa
que fluye exactamente en la dirección opuesta: el hecho asombroso de que
Dios ya se ha convertido en hombre.

LA MUERTE FÍSICA NO ES SIMPLEMENTE UN PROBLEMA TÉCNICO: EL SIGNIFICADO DE

LA RESURRECCIÓN DE CRISTO

Una de las pruebas más importantes de la veracidad de la afirmación de

que Dios se hizo humano consiste en cuestionar la afirmación de Yuval
Harari de que la muerte física es simplemente un problema técnico que
dará paso al avance médico en los próximos cien años. No tan. La muerte
humana es mucho más que un problema técnico. Es inevitable como resultado
de la rebelión inicial de los humanos contra Dios (la Caída) y la
consiguiente remoción por parte de Dios del árbol de la vida. Eso hace
que sea poco probable que Harari, o cualquier otra persona, encuentre ese
árbol, por mucho que lo intente.

En todo caso, el mensaje cristiano es que la muerte física ya ha sido

vencida en el sentido de que Jesús resucitó de entre los muertos. Su
resurrección no fue el resultado de tecnología médica avanzada o
ingeniería biológica, sino de la acción directa del poder divino de Dios.
El universo no es un sistema cerrado de causa y efecto. Es un sistema
abierto, creado por un Dios que puede y se involucra en su
funcionamiento, a veces de formas espectaculares y especiales para llamar
nuestra atención sobre su existencia, poder y, de hecho, cuidado.

Puedo entender bien a un lector escéptico que se resista a la idea misma

de una resurrección, aunque confieso que me resulta extraño que algunos
que lo hacen parezcan no tener dificultad en creer que la muerte algún
día será superada por la tecnología. Sea como fuere, es importante decir
en esta etapa que los cristianos afirman que Jesús resucitó físicamente
de entre los muertos porque está respaldado por una fuerte evidencia,
tanto objetiva en términos de historia como subjetiva en términos de
experiencia.

No es sorprendente que esa evidencia no pueda reducirse a fragmentos de

sonido. Requeriría varios capítulos para hacerle justicia, y dado que he
repasado las principales líneas de evidencia de la resurrección de Cristo
en los dos últimos capítulos de mi libro Gunning for God,1 no sería
apropiado reproducirlas aquí. Baste decir que uno de los más destacados
historiadores contemporáneos y expertos en el Nuevo Testamento, N. T.
Wright, concluye que “el historiador, de cualquier creencia, no tiene
otra opción que afirmar tanto la tumba vacía como los 'encuentros' con
Jesús como 'eventos históricos' . . . Considero que esta conclusión
pertenece al mismo tipo de categoría, de una probabilidad histórica tan
alta como para ser virtualmente cierta, como la muerte de Augusto en el
14 d. C. o la caída de Jerusalén en el 70 d. C.

Sin embargo, el mensaje cristiano no se detiene con la resurrección de

Cristo de entre los muertos. Más bien, ahí es donde comienza. Porque la
resurrección de Cristo tiene una gran implicación para nosotros en el
presente: que los humanos podamos compartir su vida resucitada. Esto es
algo mucho más grande que una actualización humana que involucre IA. Es,
de hecho, la respuesta de Dios a la burla de la serpiente que lanzó todo
el proyecto humano del Homo deus en primer lugar: “Seréis como Dios”.
Porque como ya hemos indicado, una de las principales consecuencias de la
tentación y caída de la humanidad es que, en lo profundo de la psique
humana, está incrustada la idea de que Dios, si lo hay, está contra
nosotros los seres humanos, contra nuestro ascenso en el escala del ser,
contra las actualizaciones, contra el conocimiento y todo lo que está
asociado con el cumplimiento del potencial humano para prosperar. Y
debido a que Dios está en contra de nosotros, necesitamos arrebatarnos a
la divinidad cuando tengamos la oportunidad.

Esto no es verdad; de hecho, para ser franco, es la mentira de todas las

mentiras, y millones de personas han caído en la trampa. Porque lejos de
estar contra nosotros, Dios quiere compartir con nosotros no solo su
imagen, como lo hizo en la creación, sino su vida, para que podamos
convertirnos no solo en sus criaturas, sino en sus hijos e hijas. Esto
tiene todo el potencial de una mejora real.

EL TRIUNFO DE LA HUMANIDAD PREDICIDO

En aquellos días lejanos en el momento de la rebelión humana inicial,

Dios prometió un camino de salvación de los efectos destructivos de esa
rebelión y la alienación entre los humanos y Dios que trajo consigo. A la
serpiente que había tentado a los primeros humanos, Dios le dijo: “Pondré
enemistad entre ti y la mujer, y entre tu simiente y la simiente suya; él
te herirá en la cabeza, y tú le herirás en el calcañar” (Génesis 3:15).

Esto no es simplemente decir que Dios finalmente triunfará; está diciendo

que la humanidad finalmente triunfará. Este es el comienzo de lo que bien
podría llamarse “el Proyecto Semilla”, siendo semilla otro término para
“descendencia”. Eventualmente, Dios traería al mundo a un ser humano en
particular, Jesucristo, quien sería simultáneamente la simiente de la
mujer (verdaderamente humana) y el Hijo de Dios (verdaderamente Dios). Él
es el verdadero Homo Deus, no una amalgama de vida biológica humana y
tecnología (otra creación humana), no un hombre que había sido deificado
como un emperador romano, sino algo en una categoría completamente
diferente: la Deidad encarnada en el hombre, el Dios Hombre. ,
Jesucristo. Él es quien finalmente triunfará.

El proceso histórico divinamente guiado que lo trajo al mundo se extendió

a lo largo de muchos siglos debido a las lecciones preparatorias que la
humanidad necesitaba aprender. Involucró una secuencia de seres humanos
individuales que son de gran interés por derecho propio en términos de lo
que aprendieron de Dios y lo que nos han transmitido. Para nombrar solo
algunos: Adán, Abraham, Isaac, Jacob, Judá, David, María y, finalmente,
Jesús.

A medida que ese proceso siguió su curso, las predicciones sobre esta
"semilla" especial se volvieron cada vez más detalladas en su enfoque. En
este punto, un lector escéptico puede sentirse inclinado a decir: "¿Pero
seguro que no te tomas ese tipo de cosas en serio?" Lo hago, pero no
porque haya olvidado mi educación científica y descendido a la
irracionalidad. De hecho, si hay un Dios que ha creado este universo y lo
ha sostenido desde entonces, no es del todo inverosímil pensar que su
relación con el tiempo no es la misma que la nuestra, que tiene una
perspectiva de conocimiento global sobre la historia y que es capaz de
involucrarse causalmente en el desarrollo de los acontecimientos.

La otra razón para tomar en serio la profecía bíblica es su singularidad

como fenómeno histórico. Hay mucho de esto cuyo cumplimiento se puede
precisar, y no se necesita mucha perspicacia estadística para darse
cuenta de la extrema improbabilidad previa de que tantas predicciones a
largo plazo se cumplan con tanta precisión, especialmente si se asume una
cosmovisión naturalista como la de Yuval Harari: “Así como las personas
nunca fueron creadas, tampoco, según la ciencia de la biología, hay un
'Creador' que las 'dote' de algo. Solo hay un proceso evolutivo ciego,
desprovisto de cualquier propósito, que conduce al nacimiento de los
individuos”. 3 De hecho, la profecía bíblica cumplida proporciona una
fuerte evidencia en contra de las creencias de Harari y de la verdad del
cristianismo, por lo que daremos algunos ejemplos.

Después de todo, cualquier consideración de AGI implica hacer

predicciones sobre el futuro, y dado que vamos a ver tales predicciones
sobre nuestro futuro humano y compararlas con el material bíblico, es
importante que tengamos una idea de la confiabilidad de la Biblia. a ese
respecto. La afirmación cristiana es que la Biblia ha estado haciendo
predicciones a lo largo de los siglos, cuyos cumplimientos pueden
verificarse con la narrativa que se desarrolla de la Biblia y los eventos
históricos.

Comenzando con la descendencia o simiente de la mujer, Dios le dice a

Abraham: “Bendeciré a los que te bendijeren, y a los que te maldijeren,
maldeciré; y en ti serán benditas todas las familias de la tierra”
(Génesis 12:3 NVI). Su cumplimiento final fue anunciado por el apóstol
Pedro en los primeros días de la iglesia cristiana: “Sois herederos de
los profetas y del pacto que Dios hizo con vuestros padres. Él le dijo a
Abraham: "En tu simiente serán benditas todas las familias de la tierra.
Cuando Dios levantó a su siervo, lo envió primero a ti para bendecirte y
hacer que cada uno de ustedes se vuelva de sus malos caminos" (Hechos
3:25– 26 NVI).

Tomó muchos siglos llegar allí, y en el camino obtenemos indicios de lo

que será algún día. La promesa a Abraham ciertamente no se cumplió por
completo en Isaac, pero Isaac llevó la promesa a su hijo Jacob, y uno de
los hijos de Jacob, José, salvó al imperio egipcio y a los países vecinos
de la hambruna. Esta fue una gran bendición para las naciones, pero aun
así solo fue un cumplimiento parcial de la promesa. Siglos más tarde,
Dios le habló al rey David de Israel a través del profeta Natán:

Cuando se cumplan tus días y te acuestes con tus padres, levantaré tu

descendencia después de ti, que saldrá de tu vientre, y estableceré su
reino. El edificará casa a mi nombre, y yo afirmaré el trono de su reino
para siempre. Yo seré para él un padre, y él será para mí un hijo. Cuando
cometa iniquidad, lo castigaré con vara de hombres, con azotes de hijos
de hombres, pero mi misericordia no se apartará de él, como la quité de
Saúl, a quien repudí de delante de vosotros. Y tu casa y tu reino serán
asegurados para siempre delante de mí. Tu trono será establecido para
siempre.
2 Samuel 7:12–16

Parte de esta promesa a David se cumplió en su hijo Salomón. Pero la

promesa de un trono establecido para siempre no lo fue. Ese cumplimiento
vino con el mensaje del ángel a María: “Concebirás y darás a luz un hijo,
y llamarás su nombre Jesús. El será grande y será llamado Hijo del
Altísimo. El Señor Dios le dará el trono de David su padre, y reinará
sobre la descendencia de Jacob para siempre; su reino no tendrá fin”
(Lucas 1:31–33 NVI).

Estos textos nos introducen a una característica muy común e importante

de la profecía bíblica: el cumplimiento a corto y largo plazo. Salomón
fue el cumplimiento a corto plazo de la promesa al rey David. Su reinado,
inicialmente glorioso, se vio empañado por un comportamiento imprudente
por el cual Dios tuvo que disciplinarlo. Jesucristo es el cumplimiento a
largo plazo.

En el milenio entre David y Cristo, la idea de la simiente se transformó

en la del Ungido, el Mesías. Muchos profetas mantuvieron viva la
expectativa de su venida al dar más y más detalles a medida que se
acercaba el tiempo de la venida de Cristo al mundo.

Por ejemplo, Isaías (ca. 700 a. C.) predijo que el Mesías tendría un
precursor:

Una voz de uno llamando:

“En el desierto preparaos

el camino del SEÑOR;

hacer recto en el desierto

una calzada para nuestro Dios.

Todo valle se levantará,

todo monte y collado abatido;

el terreno áspero se nivelará,

los lugares escabrosos una llanura.”

Isaías 40:3–4 NVI

Y cuando Juan el Bautista llegó siete siglos después y se le pidió que se

identificara ante las autoridades judías, respondió con las palabras de
Isaías: “Soy la voz del que clama en el desierto: 'Enderezad el camino
del Señor'”. (Juan 1:23 NVI).

Miqueas (que vivió aproximadamente al mismo tiempo que Isaías) dijo que
el próximo gobernante nacería en Belén: “Pero tú, Belén Efrata, aunque
eres pequeña entre las familias de Judá, de ti me saldrá uno que será
gobernante sobre Israel, cuyos orígenes son desde muy antiguo, desde los
tiempos antiguos” (Miqueas 5:2 NVI; debemos notar la insinuación del
origen divino del gobernante prometido en la última cláusula). Esta
profecía que especifica el lugar de nacimiento del Mesías fue aceptada
por las autoridades en el momento del nacimiento de Jesús, como vemos en
su respuesta a una pregunta que les dirigió el rey Herodes:

Cuando reunió a todos los principales sacerdotes y maestros de la ley del

pueblo, les preguntó dónde había de nacer el Mesías. “En Belén de Judea”,
respondieron, “porque esto es lo que ha escrito el profeta:

“Pero tú, Belén, en la tierra de Judá,

no sois los más pequeños entre los gobernantes de Judá;

porque de ti saldrá un gobernante

quien pastoreará a mi pueblo Israel.’”

Mateo 2:4–6 NVI

Isaías también predijo el nacimiento de un niño singularmente especial

que se llamaría Emanuel – “Dios con nosotros”: “Por tanto, el Señor mismo
os dará señal: La virgen concebirá y dará a luz un hijo, y lo llamará
Emanuel” (Isaías 7:14 NVI). Esa profecía se cumplió unos siete siglos
después cuando un ángel le dijo a la virgen María: “El Espíritu Santo
vendrá sobre ti, y el poder del Altísimo te cubrirá con su sombra. Así
que el Santo que ha de nacer será llamado Hijo de Dios” (Lucas 1:35 NVI).
La palabra hebrea traducida como “virgen” en la profecía de Isaías es
almah, que significa mujer joven; sin embargo, la traducción de Lucas es
la palabra griega para “virgen”. Ahora bien, Lucas era muy consciente de
que esta palabra probablemente ofendería a aquellos de sus lectores que
eran judíos conservadores y, por lo tanto, no la habría usado a menos que
creyera que era una descripción verdadera de María.

El profeta Zacarías (ca. 520 a. C.) incluso especificó la manera en que

el Mesías vendría más tarde a Jerusalén como rey: “¡Alégrate mucho, hija
de Sion! ¡Grita, Hija Jerusalén! Mira, tu rey viene a ti, justo y
victorioso, humilde y montado en un asno, en un pollino hijo de asna”
(Zacarías 9:9 NVI). Jesús cumplió deliberadamente esta profecía en su
último viaje a Jerusalén:

Cuando se acercaron a Jerusalén y llegaron a Betfagé, al monte de los

Olivos, entonces Jesús envió a dos discípulos, diciéndoles: Id a la aldea
que está delante de vosotros, y enseguida encontraréis un asno atado y un
pollino con ella. Desátalos y tráemelos. Si alguien os dijere algo,
diréis: El Señor los necesita, y él los enviará de inmediato. Esto
sucedió para que se cumpliera lo dicho por el profeta, cuando dijo:

“Di a la hija de Sión:

He aquí, tu rey viene a ti,

humilde, y montado en un burro,

sobre un pollino, hijo de bestia de carga.’”

Los discípulos fueron e hicieron como Jesús les había mandado. Trajeron
el asna y el pollino, y les pusieron sus mantos, y él se sentó sobre
ellos. La mayor parte de la multitud tendió sus mantos en el camino, y
otros cortaron ramas de los árboles y las tendieron en el camino. Y las
multitudes que iban delante de él y que le seguían gritaban: “¡Hosanna al
Hijo de David! ¡Bendito el que viene en el nombre del Señor! ¡Hosanna en
lo más alto!" Y cuando entró en Jerusalén, toda la ciudad se alborotó,
diciendo: ¿Quién es éste? Y la multitud decía: Este es el profeta Jesús,
de Nazaret de Galilea.

Mateo 21:1–11

Una de las predicciones mesiánicas más importantes es la famosa profecía

del “Siervo sufriente” de Isaías (Isaías 53). Nos dice que el Mesías,
cuando viniera, sería despreciado y rechazado y sufriría como sacrificio
por el pecado:

Pero él fue traspasado por nuestras transgresiones;

fue molido por nuestras iniquidades;

sobre él fue el castigo que nos trajo la paz,

y con sus heridas somos curados.

Todos nosotros nos descarriamos como ovejas;

nos hemos apartado – cada uno – por su camino;

y Jehová ha puesto sobre él

la iniquidad de todos nosotros.

Isaías 53:5–6

Este pasaje se cita seis veces en el Nuevo Testamento: Mateo 8:14–17;

Juan 12:37–41; Lucas 22:35–38; Hechos 8:26–35; Romanos 10:11–21; y 1
Pedro 2:19–25. Lucas 22 es de particular importancia, ya que allí Jesús
cita Isaías 53:12 hablando de sí mismo. Es difícil para nosotros resistir
la abrumadora impresión de que este texto de Isaías constituye una
descripción vívida y precisa del rechazo, el sufrimiento, la muerte y, de
hecho, la resurrección (versículo 12) de Jesús.

Sin embargo, para los primeros discípulos lo difícil fue aceptar el hecho
de que Jesús sería rechazado y asesinado. Eso fue porque el entendimiento
judío de las profecías en ese momento era que el Mesías vendría como un
rey poderoso y los liberaría de la opresión del poder de ocupación
romano. Que el Mesías fuera rechazado y sufriera era una contradicción en
los términos para el pueblo judío por la razón obvia de que un Mesías
muerto sería inútil en una lucha por el poder.
Así, cuando Jesús dijo que iba a ser crucificado en Jerusalén, los
discípulos protestaron. Y cuando vieron que realmente iba a suceder, lo
abandonaron. Ese no era un programa de eventos en el que deseaban
comprar. Eran incapaces de comprender por qué Jesús necesitaba sufrir, ya
que esperaban que el Mesías le diera a la nación su libertad política y,
en parte como consecuencia de esto, no lograron identificar al Mesías con
el Siervo Sufriente de Isaías.

El hecho es que nosotros, los humanos, necesitamos ser salvados de

nuestros pecados mucho más de lo que necesitamos la libertad política o
la mejora. Los programas de educación y mejoras tecnológicas o médicas
nunca tratarán adecuadamente el fracaso moral porque la raíz de ese
fracaso es una alienación fundamental de Dios. Cristo se ofrece a lidiar
con esa alienación ofreciéndonos la salvación basada en su muerte en la
cruz por nuestros pecados y en su resurrección.

Pero la salvación no se confiere automáticamente. Para recibirlo, debemos

tener un cambio radical de mente. Es decir, debemos arrepentirnos
personalmente del desorden que hemos hecho de nuestra propia vida y la de
otras personas.4 Debemos alejarnos del pecado y, como un acto de nuestra
voluntad y corazón, confiar en Cristo como Salvador y Señor: “A todos los
que a los que creen en su nombre lo recibió, les dio potestad de ser
hechos hijos de Dios” (Juan 1:12).

El proyecto transhumanista Homo deus podría verse como una parodia de

esta enseñanza cristiana. Nacemos como criaturas de Dios. Tenemos que
convertirnos en hijos de Dios confiando en Cristo. El proyecto Homo deus
busca actualizarnos; Dios nos da nueva vida. Cristo mismo describe esta
vida como vida eterna, la vida de Dios en nosotros, intocable por la
muerte. Estamos conectados con otros creyentes por el hecho de que
compartimos una vida común y la expresamos en comunión viva y cara a cara
en comunidades llamadas iglesias, en la medida de nuestras posibilidades.

Ahora, la conexión tecnológica a través de correo electrónico, Facebook,

WhatsApp, etc. claramente ha sido un gran consuelo y ayuda para las
personas que no tienen movilidad, están enfermas, encerradas o viven en
comunidades remotas. Sin embargo, lo triste es que, para muchas personas
sin discapacidad, el aumento de la conectividad tecnológica ha ido de la
mano con una disminución en el tiempo real que pasan hablando entre ellos
y haciendo cosas juntos. Así, la soledad puede, para algunos, ser
aliviada, al menos parcialmente, con conexión técnica, mientras que para
otros, es exactamente lo contrario.

Lo que Dios ofrece es una actualización real, de hecho espectacular, y es

creíble, ya que, en contraste con las actualizaciones esperadas de IA, no
se concentra simplemente en las mejoras tecnológicas, sino en el lado
moral y espiritual del carácter humano. Dicho de otra manera, los
escenarios post-humanos tienden a ser utópicos casi por definición y,
como bien sabemos, el pensamiento utópico ha llevado en el pasado, no a
un paraíso prometido en la tierra, sino a una violencia indescriptible, a
la guerra y a las muertes. de millones La razón de esto es que las
promesas de Utopía están inevitablemente condenadas si se hacen sin
ningún programa realista para lidiar con la pecaminosidad de la
naturaleza humana y sin señalar a las personas una fuente de poder
interior que les ayude a navegar por las complejidades de la vida.

Por el contrario, el cristianismo sí conoce tal poder, y el brillante

historiador antiguo Lucas nos habla sobre el advenimiento de ese poder en
Pentecostés en los primeros capítulos de su libro de los Hechos.5

Durante cuarenta días después de la resurrección, Jesús se reunió con sus

discípulos, presentándoles evidencia convincente de que estaba vivo
después de haber estado muerto. Durante ese tiempo, les enseñó acerca de
su reino, y finalmente les ordenó ir a Jerusalén y esperar que el
Espíritu Santo viniera de él para capacitarlos para ser sus testigos
hasta los confines de la tierra.

Es comprensible que estuvieran muy interesados en lo que Jesús pretendía

hacer a continuación. Querían saber si, ahora que había conquistado la
muerte, iba a usar este poder para expulsar al poder de ocupación romano
y asumir el gobierno como el Rey Mesías. Su respuesta fue un claro no. Él
no iba a restaurar el reino de Israel en ese momento. Algún día lo haría;
después de todo, era una expectativa bíblica clave que el Mesías hiciera
precisamente eso, pero todavía no. Además, no les iba a decir cuándo
sucedería ese evento. Su tarea previa inmediata no era especular sobre el
futuro sino ser sus testigos en todo el mundo. Estaba a punto de irse y
regresar al cielo, de donde había venido originalmente.

Lucas nos dice que cuando Jesús dijo esto, se elevó a los cielos y luego
una nube lo recibió y lo ocultó de la vista de ellos. Miraron,
incrédulos, al cielo, pero se les informó de inmediato que uno de los
propósitos de la ascensión era demostrarles no solo que él regresaría,
sino cómo regresaría. Lo habían visto irse a otro mundo visible y
físicamente; algún día volvería a este mundo exactamente de la misma
manera, física y visiblemente.

Hacemos una pausa para contrastar esto con la esperanza de AGI de que
algún día podamos cargar el contenido de nuestras mentes en silicio y así
"vivir" para siempre. La mente de Jesús no fue cargada en silicio;
ascendió corporalmente al cielo. Esta afirmación choca frontalmente con
el naturalismo ateo y terrenal dominante de la academia occidental que
enseña que este mundo es todo lo que hay; no hay otro mundo al que uno
pueda ascender. Pero como he argumentado repetidamente en otros lugares,
el naturalismo no es verdadero y, contrariamente a la opinión
generalizada, no está respaldado por la ciencia, sino que más bien la
socava.6 Las promesas de AGI están firmemente arraigadas en este mundo y,
en ese sentido, son parroquiales y pequeño comparado con las alucinantes
implicaciones de la resurrección y ascensión de Jesús.

NOTAS

1. John C. Lennox, Gunning for God: Why the New Atheists Are Missing the
Target (Oxford: Lion, 2011).

2. N. T. Wright, La resurrección del Hijo de Dios (Minneapolis: Fortress,

2003), 709–10.
3. Yuval Noah Harari, Sapiens (Nueva York: HarperCollins, 2015), 109.

4. Es decir, confesar a Dios que lo que hemos hecho está mal y expresar
el deseo de cambiar, con su ayuda, nuestras actitudes y conductas para
cumplir con sus normas.

5. Véase Hechos 1:1–11; 2:1–47.

6. Vea mi Gunning for God y ¿Puede la ciencia explicarlo todo? (Epsom,

Surrey: Buen libro, 2019).

CAPÍTULO ONCE

CHOQUE FUTURO: EL REGRESO DEL HOMBRE QUE ES DIOS

Antes de su muerte, Jesús les dijo a sus discípulos que se iba, pero que
un día regresaría por ellos para llevarlos a un lugar que les iba a
preparar en la presencia de su Padre (Juan 14:1–4). Inicialmente no
entendieron de qué estaba hablando, pero con su resurrección y ascensión,
todo se volvió mucho más claro.

LA ENSEÑANZA DE CRISTO SOBRE EL FUTURO

Con la muerte y resurrección de Jesús, el gran proyecto de Dios para la

redención del mundo dio un gran paso adelante como lo anunció el apóstol
Pedro en su segundo gran sermón registrado en el libro de los Hechos.
Pedro y Juan sanaron a un cojo en la puerta del templo, y esto atrajo a
una gran multitud. Pedro luego explicó públicamente el significado del
milagro, poniéndolo en el contexto de lo que había estado sucediendo en
Jerusalén en los días anteriores. Pedro acusa directamente a la multitud
de matar al “Autor de la vida” (Hechos 3:15) y, sin embargo, los apela al
darles una salida de su terrible situación:

“Y ahora, hermanos, sé que habéis actuado por ignorancia, como también

vuestros gobernantes. Pero lo que Dios predijo por boca de todos los
profetas, que su Cristo sufriría, así lo cumplió. Arrepentíos, pues, y
convertíos, para que sean borrados vuestros pecados, para que vengan de
la presencia del Señor tiempos de refrigerio, y él envíe al Cristo que os
ha sido designado, Jesús, a quien el cielo debe recibir hasta el tiempo
de la restauración. todas las cosas acerca de las cuales Dios habló por
boca de sus santos profetas hace mucho tiempo.”

Hechos 3:17–21

Fue una acusación devastadora para aquellos que asesinaron a Jesús, pero
también fue una oferta de gracia de salvación para aquellos dispuestos a
arrepentirse y confiar en él. Pedro responde a la pregunta tácita (¿Dónde
está Jesús, entonces?) señalando que se había ido al cielo y permanecería
allí hasta que ocurriera el próximo gran paso en el programa de Dios: la
restauración que se desencadenará con el regreso de Jesús.

Lamentablemente, la cara pública del cristianismo se ha vuelto tan

insípida y diluida que la vibrante esperanza central del regreso de
Cristo que debería estar en su corazón se ha perdido casi por completo, o
ha sido relegada a la franja lunática de los ingenuos traficantes de
profecías. Se ignora la advertencia de C. S. Lewis: “No intenten diluir
el cristianismo. No debe haber pretensiones de que puedes tenerlo sin lo
sobrenatural. Por lo que puedo ver, el cristianismo es precisamente la
única religión de la que no se puede separar lo milagroso. Debes
argumentar francamente a favor del sobrenaturalismo desde el principio.”1

Inevitablemente, una de las consecuencias del rechazo de la Ilustración a

lo sobrenatural fue que, como dice David Bosch: "Quedaba poco espacio
para el 'gran evento escatológico que los cristianos habían esperado
durante mucho tiempo, a saber, la Segunda Venida'. La creencia en el
regreso de Cristo en las nubes fue reemplazada por la idea del reino de
Dios en el mundo que se introduciría paso a paso a través de labores
exitosas en el esfuerzo misionero en el exterior y mediante la creación
de una sociedad igualitaria en casa.”2

Detrás de este tipo de pensamiento se encuentra la noción de progreso que

marcó la Ilustración y los grandes avances que se dieron en la ciencia,
la tecnología y la industria que trajeron tanta riqueza a Europa. Reinaba
un optimismo desenfrenado en el potencial humano, y un mundo nuevo y
feliz estaba a la vuelta de la esquina. Pero la utopía marxista imaginada
que surgiría del funcionamiento de las leyes inexorables de la historia
se convirtió en una pesadilla de carnicería humana y costó la vida de
millones. No sólo el marxismo, por supuesto. El nacionalismo extremo de
diferentes tipos ha producido resultados similares. La historia ha
enseñado la dura lección: no hay camino al paraíso que pase por alto el
problema del pecado humano.

Sin embargo, el conocido psicólogo de Harvard, Stephen Pinker, piensa que

la violencia está disminuyendo, específicamente como resultado del
pensamiento de la Ilustración, una opinión que John Gray, un profesor
británico de historia del pensamiento europeo, se apresura a refutar en
su reseña del libro de Pinker. Los mejores ángeles de nuestra
naturaleza.3 En su reseña titulada “Los delirios de paz de Stephen
Pinker”, Gray escribe:

Al igual que otros partidarios de los “valores de la Ilustración”, Pinker

prefiere ignorar el hecho de que muchos pensadores de la Ilustración han
sido doctrinariamente antiliberales, mientras que muchos han favorecido
el uso a gran escala de la violencia política. . .

La idea de que se puede construir un nuevo mundo a través de la

aplicación racional de la fuerza es peculiarmente moderna, animando ideas
de guerra revolucionaria y terror pedagógico que aparecen en una
tradición influyente del pensamiento de la Ilustración radical.4

La palabra Utopía significa “no lugar”5 y es, irónicamente, muy apropiada

en este contexto. Hasta ahora, todos los intentos de realizar la Utopía
han fracasado porque los visionarios que intentaron crear tal estado no
tomaron en cuenta el hecho de que la naturaleza humana está gravemente
defectuosa como resultado de la entrada del pecado y la alienación en el
mundo en la Caída. No vieron, como señalamos anteriormente, que los
humanos necesitan ahorrar mucho más de lo que necesitan mejorar. Los
visionarios utópicos no tenían ningún mensaje de salvación, ninguna
conexión con un poder divino capaz de cambiar la forma de ser de los
seres humanos. Como resultado, el siglo XX fue el más sangriento de la
historia.

Pinker cree que la violencia disminuirá. Gray cree que no, y en esto está
en línea con la enseñanza bíblica. Jesús mismo emitió advertencias sobre
eventos futuros que son una parte tan importante de su enseñanza como lo
es el Sermón del Monte. Habló del riesgo de engaño por parte de
impostores y falsos profetas que, en medio de una marea creciente de
guerras, hambrunas y terremotos, descarriarán a muchos. Todo esto llegará
a un clímax hacia el final:

“Entonces aparecerá en el cielo la señal del Hijo del Hombre, y entonces

todas las tribus de la tierra harán duelo, y verán al Hijo del Hombre
viniendo sobre las nubes del cielo con poder y gran gloria. Y enviará a
sus ángeles con gran voz de trompeta, y juntarán a sus escogidos de los
cuatro vientos, desde un extremo del cielo hasta el otro.”

Mateo 24:30–31

Jesús dijo estas cosas hace 2000 años, y el tiempo intermedio se ha

caracterizado por “guerras y rumores de guerras” (Mateo 24:6). Pero según
Jesús, estas cosas no son evidencia del fin; él dice explícitamente que
tales cosas sucederán, pero el fin aún no es. El fin de la historia tal
como la conocemos no ocurrirá hasta que sucedan ciertas cosas específicas
que culminarán en el regreso catastrófico de Cristo para gobernar.

Es de vital importancia que los que somos cristianos no nos avergoncemos

del regreso de Cristo, ya que él mismo lo convirtió en un eje central de
su enseñanza. No solo enseñó a sus discípulos en privado que volvería; lo
convirtió en un punto clave en su juicio cuando se le preguntó sobre su
identidad:

De nuevo el sumo sacerdote le preguntó: "¿Eres tú el Cristo, el Hijo del

Bendito?" Y Jesús dijo: “Yo soy, y veréis al Hijo del Hombre sentado a la
diestra del Poder, y viniendo con las nubes del cielo”. Y el sumo
sacerdote rasgó sus vestiduras y dijo: “¿Qué más testigos necesitamos?
Habéis oído su blasfemia. ¿Cuál es tu decisión?" Y todos lo condenaron
como merecedor de muerte.

Marcos 14:61–64

El sumo sacerdote consideró blasfema la respuesta de Jesús porque él y

toda la corte entendieron que Jesús estaba citando un famoso pasaje del
libro del profeta Daniel que se refería a un divino Hijo del Hombre que
vendría sobre las nubes del cielo y se le daría universal autoridad y
poder para reinar para siempre:

“Vi en las visiones nocturnas,

y he aquí, con las nubes del cielo

vino uno como un hijo de hombre,

y vino al Anciano de Días

y fue presentado ante él.

Y a él se le dio dominio

y gloria y un reino,

que todos los pueblos, naciones y lenguas

debe servirle;

su dominio es un dominio eterno,

que no pasará,

y su reino uno

eso no será destruido.”

Daniel 7:13–14

El regreso de Cristo no es una idea periférica inventada por exaltados en

sectas marginales callejeras. Es evidente, por lo ocurrido en el juicio
de Jesús, que fue crucificado precisamente porque pretendía ser el
augusto Hijo del Hombre que, según el profeta Daniel, vendría un día
sobre las nubes del cielo para asumir el dominio universal6. debido a que
su regreso es una parte esencial de la esperanza que le ofreció al mundo,
no es sorprendente que el Nuevo Testamento tenga mucho que decir al
respecto.

LA VERDADERA SOLUCIÓN AL “PROBLEMA TÉCNICO” DE LA MUERTE FÍSICA DE YUVAL

HARARI

Dios finalmente se ocupará de la muerte física, pero no resolviéndola por

medios tecnológicos, como sugiere Yuval Harari. En primer lugar, al
resucitar a Jesús de entre los muertos, Dios ha demostrado que la muerte
física no es insuperable. El Nuevo Testamento dice que Dios “ha destruido
la muerte y ha sacado a luz la vida y la inmortalidad por el evangelio”
(2 Timoteo 1:10 NVI). La muerte no va a tener la última palabra. La
resurrección corporal de Cristo no es más que el comienzo de la
restauración del género humano y de toda la creación, que tendrá lugar a
su regreso.

Además, por su muerte y resurrección, Cristo libera del miedo a la muerte

a todos los que confían en él:

Así que, puesto que los hijos [es decir, los discípulos de Jesús]
participaron de carne y sangre, él también participó de las mismas cosas,
para destruir por medio de la muerte al que tiene el imperio de la
muerte, esto es, al diablo, y librar a todos aquellos que por temor a la
muerte estaban sujetos a esclavitud de por vida.

Hebreos 2:14–15
Debemos tener cuidado de entender exactamente lo que dice este pasaje. No
está afirmando que aquellos que confían en Cristo no experimentarán temor
o la aparición de enfermedades, dolores severos y la angustia física del
proceso de la muerte. El miedo a estas cosas es una acción refleja
natural y automática de nuestra constitución humana, parte de los
mecanismos de conservación incorporados en nuestros cuerpos, de modo que
la propia naturaleza lucha contra la muerte.

La gente tiene miedo a la muerte por dos razones opuestas. En primer

lugar, algunos temen que no haya nada después de la muerte. Por lo tanto,
esta vida presente es todo lo que hay, y así, en lugar de perder la vida
física, algunas personas comprometerán la lealtad a Dios, a la verdad, a
la fe, al honor, a los principios, y hasta descenderán a la cobardía
vergonzosa, cualquier cosa por salvar la vida física. vida. El miedo a la
muerte los mantiene en esclavitud moral.

En segundo lugar, otras personas temen a la muerte, no porque piensen que

no hay nada después de la muerte, sino porque temen que haya demasiado
después de la muerte para su gusto, es decir, un Juicio Final con
consecuencias eternas.

La muerte y la resurrección física de Cristo como un ser humano real se

combinan para liberar a los creyentes de ambos temores. En primer lugar,
los libera de una sensación de desesperanza ante la muerte de un ser
querido al informarles que su ser querido, ahora “ausente del cuerpo”
está “presente con el Señor” (2 Corintios 5:8 RV), o como el mismo Señor
lo expresó: “conmigo en el paraíso” (Lc 23,43). Es también el secreto de
la valentía de los mártires cristianos que están dispuestos a morir antes
que negar a Cristo.

La muerte de Cristo también libera a quienes confían en él del segundo

tipo de temor. Tienen la seguridad de Dios de que Cristo, por su muerte
sacrificial, pagó en su totalidad el castigo por sus pecados.7 La muerte
física viene solo una vez, y el Juicio viene después de la muerte. Para
los creyentes, la muerte de Cristo expía sus pecados, es decir, cubre
todos sus pecados de los que el Juicio podría tomar conocimiento. En
consecuencia, a los creyentes se les da la siguiente magnífica seguridad:
“Así como está establecido que el hombre muera una sola vez, y después el
juicio, así también Cristo, habiendo sido ofrecido una vez para llevar
los pecados de muchos, aparecerá la segunda vez, no para hacer frente al
pecado, sino para salvar a los que le esperan ansiosamente” (Hebreos
9:27–28). Y Cristo, quien será él mismo el Juez final (Juan 5:22),
declara: “De cierto, de cierto os digo: el que oye mi palabra y cree al
que me envió, tiene vida eterna. no viene a juicio, sino que ha pasado de
muerte a vida” (Juan 5:24).

Y ahora viene la solución a uno de los problemas clave de Harari del

siglo XXI: conquistar la muerte física. Sin embargo, la muerte no será
superada por los avances médicos. La buena noticia es que la resurrección
corporal de Cristo infunde en todos los que creen en él la esperanza
segura y cierta de su propia resurrección corporal final. Para
transmitirnos esta espectacular verdad, Pablo se refiere a la propia
resurrección de Cristo como las primicias de una gran cosecha por venir
(1 Corintios 15:20). Así como las primeras cosechas de frutos prometen
más frutos por venir, así la resurrección de Jesús anuncia una gran
cosecha que tendrá lugar en la segunda venida de Cristo: una resurrección
de todas las personas de todos los siglos que son de Cristo. Los que
hayan muerto antes de esa Venida resucitarán; aquellos que aún estén
vivos en esa Venida serán transformados sin morir. A todos se les darán
cuerpos como el glorioso cuerpo resucitado de Cristo (1 Corintios 15:50–
57; Filipenses 3:20).

Esto significa para los creyentes, como sucedió con Cristo, que habrá una
encarnación física después de la muerte. Un aspecto interesante de esto
en vista del intento de hacer vida a base de silicio es la insinuación en
el Nuevo Testamento de que el cuerpo resucitado de Jesús no era
exactamente el mismo que el cuerpo que fue sepultado. Tenía nuevas
propiedades: podía atravesar puertas cerradas, por ejemplo, de modo que,
en cierto modo, parecía pertenecer a una dimensión diferente.

En 1 Corintios 15, Pablo contrasta el cuerpo natural con el cuerpo

espiritual resucitado. Un cuerpo espiritual no significa un cuerpo hecho
en algún sentido de espíritu más de lo que un motor de gasolina significa
un motor hecho de gasolina. Jesús les dijo a sus discípulos que no era
espíritu: “Un espíritu no tiene carne ni huesos, como veis que yo tengo”
(Lucas 24:39). Si ponemos esto junto a la declaración de Pablo de que “la
carne y la sangre” no heredarán el (futuro) reino de los cielos, entonces
vemos que él está indicando que hay una diferencia física entre el cuerpo
humano tal como es ahora y lo que será un día. estarán. Mi existencia
continua como yo está garantizada, pero no dependerá del desarrollo de la
tecnología para cargar los contenidos de mi cerebro en silicio.8

Algunas personas piensan que la idea de la resurrección corporal es

absurda, ya que cuando morimos, los átomos de nuestro cuerpo se dispersan
y pasan a formar parte de la vegetación circundante, por lo que bien
pueden pasar a formar parte posteriormente de otros animales e incluso de
otros humanos. Entonces, argumentan, ¿cómo puede tener sentido hablar de
una resurrección corporal de los muertos? Pero esta objeción parece pasar
por alto ciertos hechos importantes.

Para empezar, es cierto que al morir los átomos de nuestro cuerpo se

dispersan. Pero, por supuesto, no tenemos que esperar hasta la muerte
para que esto suceda. Las células (y por lo tanto los átomos) de nuestro
cuerpo cambian y se dispersan constantemente. Ninguna de las células
presentes ahora en mi cuerpo estaba presente en mi cuerpo hace diez años
(excepto, quizás, ciertas células especializadas en el cerebro). Sin
embargo, a pesar de este constante cambio y reemplazo de átomos y
células, ya pesar del envejecimiento, la identidad formal de mi cuerpo
sigue siendo reconociblemente la misma. Una clara prueba de ello es el
hecho de que las huellas dactilares de una persona (que son exclusivas de
esa persona) siguen siendo las mismas durante toda su vida (aparte, por
supuesto, de las cicatrices o mutilaciones). Este hecho, demostrado por
primera vez por Sir Francis Galton en 1888, juega un papel decisivo en la
identificación de los culpables. Se podrían decir cosas similares sobre
la identificación mediante el ADN.
La codificación compleja, y cualquier otra cosa que sea responsable de
mantener la identidad de un cuerpo a lo largo de su tiempo en la tierra,
es conocida por Dios para cada ser humano que haya vivido alguna vez. En
la futura resurrección, Dios, quien, después de todo, creó la materia en
primer lugar, no tendrá dificultades para cualquier sustancia en la que
se exprese la identidad corporal única de cada persona. El resultado será
que cada creyente individual tendrá un cuerpo como el glorioso cuerpo
resucitado de Cristo (y por lo tanto con capacidades y glorias que
nuestros cuerpos actuales no tienen). Pero cada persona será
individualmente identificable a través de la forma única de su cuerpo
resucitado como la misma persona que fue identificable por su cuerpo aquí
en la tierra:

Así como hemos llevado la imagen del hombre del polvo, también llevaremos
la imagen del hombre del cielo.

Os digo esto, hermanos: la carne y la sangre no pueden heredar el reino

de Dios, ni lo perecedero hereda lo incorruptible. ¡Mirad! Te digo un
misterio. No todos dormiremos, pero todos seremos transformados, en un
momento, en un abrir y cerrar de ojos, a la final trompeta. Porque se
tocará la trompeta, y los muertos serán resucitados incorruptibles, y
nosotros seremos transformados. . . Este cuerpo mortal debe revestirse de
inmortalidad.

1 Corintios 15:49–53

La deducción que a cada creyente individual se le enseña a hacer a partir

de la certeza de la resurrección corporal es que la vida en este cuerpo
presente en este mundo vale la pena vivirla al máximo de sus energías,
habilidades y circunstancias, a pesar de todos los dolores y sufrimientos
de la vida, vejez y eventual muerte: “Por lo tanto . . . estad firmes,
constantes, creciendo en la obra del Señor siempre, sabiendo que vuestro
trabajo en el Señor no es en vano” (1 Corintios 15:58). Esto significa
que, aunque nuestros cuerpos aquí en la tierra, heredados como son de una
raza caída, están sujetos a la decadencia y la muerte, lo que cada
persona hace en el cuerpo es eternamente significativo.

Como otro ejemplo, podríamos considerar al apóstol Pablo cuando visitó

Tesalónica y predicó allí durante unas tres semanas, no mucho tiempo. Sin
embargo, como les recordó en una carta que escribió posteriormente,
durante esa breve visita les contó a los tesalonicenses acerca de la
venida de Cristo con considerable detalle. De hecho, su conversión al
cristianismo fue descrita por algunos de la siguiente manera:

Porque ellos mismos cuentan de nosotros la acogida que tuvimos entre

vosotros, y cómo os convertisteis de los ídolos a Dios para servir al
Dios vivo y verdadero, y esperar de los cielos a su Hijo, al cual
resucitó de entre los muertos, a Jesús que nos libra. nosotros de la ira
venidera.

1 Tesalonicenses 1:9–10

De hecho, al final de cada capítulo de su carta, Pablo anima a los

creyentes a vivir su vida a la luz de la futura venida de Cristo. Esto,
junto con algunas de las parábolas de Jesús que enfatizan lo inesperado y
repentino de su venida – “El Hijo del Hombre viene a la hora que no
pensáis” (Mateo 24:44) y la declaración de Cristo en Apocalipsis: “
Ciertamente vengo pronto” (22:20) – ha llevado erróneamente a algunas
personas a pensar que Jesús indujo a los primeros cristianos a esperar su
regreso casi de inmediato, y cuando esto no resultó ser el caso, la
esperanza de tal regreso se desvaneció en el fondo. Sin embargo, el mismo
Jesús, en Mateo 24, había advertido que la escala de tiempo sería más
larga que corta. La razón de esta aparente paradoja no es difícil de
buscar: enfatizar solo una escala de tiempo larga podría llevar a
algunos, como sugieren algunas de las parábolas, a pensar: “mi amo se va
a alejar por mucho tiempo” (versículo 48 NVI), y que por lo tanto su
comportamiento no importaba.

La resolución de la paradoja es seguramente esta: todos nos movemos hacia

el regreso de Cristo a dos "velocidades": la velocidad de la historia de
la tierra y la velocidad con la que nos acercamos a la muerte. Jesús y
sus apóstoles no estaban engañando cuando animaban a los creyentes a
vivir como si Cristo pudiera regresar en cualquier momento, ya que esta
es la única manera de vivir que permitirá que nuestra expectativa de su
venida tenga el efecto moral y espiritual que debe tener en nosotros. .
Si muero hoy, el tiempo de la venida de Cristo medido en años DC es
irrelevante para mí.

Sin embargo, era inevitable en esos primeros días, cuando los creyentes
comenzaban a morir y no había señales del regreso de Cristo, que se
hicieran preguntas sobre ellos. En respuesta, al final de su primera
carta a los Tesalonicenses, Pablo tranquiliza a los creyentes vivos:

Pero no queremos, hermanos, que ignoréis acerca de los que duermen, para
que no os entristezcáis como los demás que no tienen esperanza. Porque si
creemos que Jesús murió y resucitó, así también traerá Dios con Jesús a
los que durmieron. Por esto os anunciamos por palabra del Señor, que
nosotros los que vivimos, los que quedamos hasta la venida del Señor, no
precederemos a los que durmieron. Porque el Señor mismo con voz de mando,
con voz de arcángel, y con trompeta de Dios, descenderá del cielo. Y los
muertos en Cristo resucitarán primero. Entonces nosotros los que estemos
vivos, los que hayamos quedado, seremos arrebatados juntamente con ellos
en las nubes para recibir al Señor en el aire, y así estaremos siempre
con el Señor. Por eso aliéntense los unos a los otros con estas palabras.

1 Tesalonicenses 4:13–18

Pablo esperaba que los cristianos que habían perdido a sus seres queridos
se afligiran, pero no de la misma manera que las personas que no tenían
esperanza. Para cortar sus lágrimas, les da más detalles sobre lo que
significará el regreso de Cristo tanto para sus seres queridos que han
partido como para ellos mismos. El propio entendimiento de Pablo de la
muerte era estar "ausente del cuerpo" y "presente con el Señor" (2
Corintios 5:8 RV), y su gran esperanza expresada aquí es que un día todos
los creyentes estarán con el Señor, y algunos ¡de ellos ni siquiera
experimentarán la muerte física en absoluto! Esto va mucho más allá de
cualquier cosa con la que la IA pueda siquiera soñar.
La IA bien puede hacer muchos avances buenos y útiles que mejorarán la
suerte de la humanidad. Sin embargo, no importa cuál sea la promesa, la
afirmación central del cristianismo es que el futuro es mucho más grande
que cualquier cosa que AI o AGI puedan prometer, ya que algo
infinitamente más grande que cualquiera de ellos ya ha sucedido en
nuestro planeta: Dios, quien es responsable de la existencia del universo
y sus leyes y la arquitectura de la mente humana, el Logos divino que
estaba en el principio, se ha codificado a sí mismo en la humanidad: la
Palabra se hizo carne y habitó entre nosotros. Esto no es inteligencia
artificial; esto es inteligencia real, mucho más allá de cualquier cosa
concebible, y mucho menos construible, por los humanos.

Y el hecho de que Dios se hizo humano es la mayor evidencia de la

singularidad de los seres humanos y del compromiso de Dios con la
humanidad encarnada. Se demuestra que los seres humanos, versión
original, son únicos precisamente porque Dios pudo convertirse en uno y
lo hizo. Y aquellos de nosotros que lo hemos recibido, un día, a su
regreso, seremos gloriosamente “mejorados” para ser como él y compartir
las maravillas del mundo venidero eterno.

Este fue el plan desde el principio, y tiene implicaciones para el cielo

nuevo y la tierra nueva. Y dado que esta nueva creación tiene una
dimensión física, ¿qué se nos permitiría crear en el camino de la
tecnología celestial?

Todo esto significa que los cristianos (y de hecho otros) deben pensar
mucho sobre las implicaciones de estas doctrinas cristianas fundamentales
de la resurrección y el regreso de Cristo para la IA y la carrera para
crear el Homo deus. Porque si la enseñanza cristiana es verdadera, la
carrera para conquistar la muerte como un problema técnico resultará en
última instancia inútil, aunque la tecnología desarrollada en el camino
puede ayudar a aliviar la vejez y resolver muchos problemas médicos
pendientes. Sin embargo, los humanos no fueron creados para vivir
indefinidamente en este planeta. Es posible algo mucho más grande que
hace que el esquema de Yuval Harari parezca bastante insignificante.

PERSPECTIVAS BÍBLICAS SOBRE EL ADVENIMIENTO DE UNA PERSONA QUE AFIRMA SER

HOMO DEUS

Veamos ahora lo que la Biblia tiene que decir acerca de lo que sucederá
en este planeta en el futuro. John Gray recoge un comentario de Yuval
Harari de que el Homo deus se parecerá a los dioses griegos y concluye:
“Los humanos bien pueden usar la ciencia para convertirse en algo
parecido a los dioses tal como se los han imaginado. Pero ningún Ser
Supremo aparecerá en escena. En cambio, habrá muchos dioses diferentes,
cada uno de ellos una parodia de los seres humanos que alguna vez
existieron.”9

Gray, que por lo demás tiene muchas cosas valiosas que decir, se equivoca
aquí. Según la narración bíblica, la historia está conduciendo a la
aparición de un Ser Supremo, uno que ya estuvo aquí y que, cuando estuvo
aquí, prometió volver. Ese hecho era, como hemos visto, parte fundamental
de la enseñanza cristiana. También tiene importantes implicaciones para
el mundo, como vemos en la segunda carta que Pablo escribió a la iglesia
de Tesalónica. Aparentemente habían aparecido en esa ciudad falsos
maestros que estaban pervirtiendo el mensaje cristiano al infectarlo con
ideas erróneas como afirmar que Cristo ya había regresado. No solo eso,
sino que la iglesia resistía valientemente contra la intensificación de
la persecución (2 Tesalonicenses 1:4). Al enterarse de este desarrollo,
Pablo les escribió una vez más.

Al leer lo que dijo, debemos tener en cuenta lo que mencionamos

anteriormente de que, según el libro de los Hechos, Pablo pasó solo tres
semanas más o menos en Tesalónica, pero sintió que era importante para
los que se convertían al cristianismo en ese corto tiempo. saber sobre el
futuro con bastante detalle. Esto es lo que escribió:

En cuanto a la venida de nuestro Señor Jesucristo y nuestra reunión con

él, os rogamos, hermanos, que no os turbéis ni os alarméis pronto, ni por
un espíritu, ni por una palabra hablada, ni por una carta que parezca
nuestra. , en el sentido de que ha llegado el día del Señor. Que nadie te
engañe de ninguna manera. Porque no llegará ese día sin que antes venga
la rebelión, y se manifieste el hombre de iniquidad, el hijo de
perdición, el cual se opone y se ensalza contra todo lo que se llama dios
u objeto de adoración, de modo que se sienta en el templo de Dios,
proclamándose Dios. ¿No os acordáis que cuando aún estaba con vosotros os
decía estas cosas? Y tú sabes lo que lo detiene ahora para que se
manifieste en su tiempo. Porque el misterio de la iniquidad ya está
obrando. Sólo el que ahora lo retiene, lo hará hasta que se haya quitado
de en medio. Y entonces se manifestará el inicuo, a quien el Señor Jesús
matará con el aliento de su boca y reducirá a nada con la apariencia de
su venida. La venida del inicuo es por obra de Satanás con gran poder y
señales y prodigios mentirosos, y con todo engaño de iniquidad para los
que se pierden, por cuanto rehusaron amar la verdad para ser salvos.

2 Tesalonicenses 2:1–10

Pablo les recuerda que en su primera visita les había explicado

cuidadosamente que Cristo no regresaría hasta que sucedieran ciertas
cosas, cosas que serían tan visibles públicamente, llamativas y obvias
que no necesitarías que te las contaran. Recordemos que Jesús mismo dijo
esto en el Discurso del Monte de los Olivos en Mateo 24, advirtiéndonos
que muchos llegarían diciendo que ellos eran el Cristo pero que no
debemos escucharlos ya que el verdadero Cristo regresará en
circunstancias que serán espectacularmente obvias. No obstante, parecería
que en Tesalónica habían aparecido falsos maestros que inquietaban a los
creyentes al contradecir las enseñanzas de Cristo y sugerir que el Día
del Juicio ya había llegado.

Tal enseñanza errónea hizo la vida aún más difícil para los cristianos
que sufrían persecución en ese momento. Pablo se apresuró a asegurarles
que aunque el Día del Juicio aún no había llegado, algún día lo haría, y
de tal manera que pondría fin a los poderes perseguidores.

El detonante de los hechos que Pablo menciona aquí es una rebelión y la

aparición de una persona descrita como el “hombre de iniquidad” (2
Tesalonicenses 2:3), cuya característica principal es la oposición a los
dioses en cualquier forma o forma, quien sin embargo proclama mismo para
ser Dios. Una vez más, nadie dejará de reconocer este desarrollo ya que,
como nos dice Pablo, este líder tiránico será energizado por el poder
satánico y podrá engañar a la gente con prodigios mentirosos. El clímax
llegará cuando el Cristo que regresa irrumpa en escena y lo destruya con
su aparición. Claramente, nada de esta escala había sucedido todavía en
los días de Pablo, y claramente no ha sucedido posteriormente. Su
intensidad y dimensiones globales aseguran que cuando suceda, todo el
mundo será muy consciente de ello.

Este escenario está tan lejos como podría estar de la visión de que la
enseñanza cristiana impregnará gradualmente el planeta hasta que reine la
paz. No, Pablo dice que habrá una intervención sobrenatural cataclísmica
de Dios que pondrá fin a un régimen de máxima maldad. La pregunta es:
¿Cómo sabemos si este escenario apocalíptico es cierto o no?

Pablo dice que una de las formas en que los tesalonicenses podían saber
que esto sucedería es que las semillas del pensamiento que conduciría a
ello ya eran visibles en la cultura romana de la época: “Porque el
misterio de la iniquidad ya está obrando. ” (2 Tesalonicenses 2:7). Pablo
claramente no se refiere a la anarquía en el sentido de la ausencia de la
ley civil: Roma era famosa por sus leyes, y hasta el día de hoy, algunas
de esas leyes forman la base de la ley europea. Pablo, como muestra el
contexto, está hablando de anarquía espiritual, la blasfemia de los seres
humanos que afirman ser divinos, como lo habían hecho muchos reyes en el
pasado y como ya lo estaban haciendo algunos de los emperadores romanos
en ese momento. Los cristianos que se negaban a reconocer esto a menudo
eran perseguidos y asesinados.

Ya hemos visto que la idea de Homo deus tiene sus raíces en el Génesis.
Eso, sin embargo, es solo el comienzo de la narración del esfuerzo humano
por jugar a Dios o ser Dios. De vez en cuando en el registro del Antiguo
Testamento asoma la cabeza: leemos de emperadores como el babilónico
Nabucodonosor (Daniel 3) y el griego Antíoco Epífanes (Daniel 11:21–32),
quienes se arrogaron poderes divinos para sí mismos, este último usando
esos poderes para justificar la violencia.

Los emperadores romanos gobernantes asumieron honores divinos. Por

ejemplo, Julio César era considerado un dios, Divus Julius, y en tiempos
posteriores del Nuevo Testamento, ese elemento en el Culto Imperial
condujo a períodos de persecución para los cristianos que valientemente
pagaron con sus vidas por negarse a inclinarse y adorar al emperador como
un Homo deus.

En todo momento, al parecer, los esfuerzos de la humanidad por alcanzar

la divinidad se han asociado con una arrogancia desmesurada y un sentido
de superioridad que, lejos de lograr algo sobrehumano, ha producido algo
terriblemente infrahumano y bestial. Cuanto más intentan elevarse, más se
hunden en un pantano de violencia y tiranía, como quedó terriblemente
demostrado en el siglo XX. Hannah Arendt, quien escribió uno de los
primeros libros sobre el totalitarismo, Los orígenes del totalitarismo
(publicado en 1951), estaba convencida de que el totalitarismo tenía sus
raíces en un utopismo basado en el rechazo de Dios y la deificación del
hombre. Ella escribió perspicazmente:
Lo que une a estos hombres es una creencia firme y sincera en la
omnipotencia humana. Su cinismo moral, su creencia de que todo está
permitido, descansa en la sólida convicción de que todo es posible. . .
Al tratar de crear un cielo perverso en la tierra, los sistemas
totalitarios no reconocen límites ni en su conducta ni en sus
aspiraciones. Toman la escalofriante advertencia de Dostoievski de que
“si Dios no existe, todo está permitido” y la institucionalizan en el
Partido. Desde allí hay una corta distancia hasta los asesinatos en masa
y el terror endémico del totalitarismo: desde Auschwitz y Treblinka en la
Alemania nazi, hasta la prisión de Lubyanka y el gulag de Perm-36 en la
Unión Soviética, hasta el Gran Salto Adelante y la Revolución Cultural de
la China comunista. . . Los campos de concentración y exterminio de los
regímenes totalitarios sirven como laboratorios en los que se verifica la
creencia fundamental del totalitarismo de que todo es posible.10

Según Paul, la misma sombra oscura se cierne sobre el futuro de la

humanidad. Es muy probable que la horrible visión totalitaria que Pablo
describe en su segunda carta a los cristianos de Tesalónica se
caracterice por leyes civiles rígidas y opresivas, pero a nivel
espiritual, es en esencia una rebelión sin ley contra el Dios
Todopoderoso; de ahí la descripción, “el hombre de la anarquía.” Pablo
les dijo a los tesalonicenses que lo que sucederá en el futuro es la
cosecha inevitable del intento de deificar a los humanos que ya era
visible en su cultura romana en ese momento.

Por lo tanto, no debería sorprendernos que se desarrolle en el futuro a

escala mundial. Y mientras observamos los acontecimientos en China,
tampoco nos sorprenderá verlo asociado con el control social totalitario.
Lamentablemente, no es difícil imaginar que ese programa se implemente en
todo el mundo. Tal y como va la política mundial, no es imposible pensar
que el poder se concentrará en manos de cada vez menos personas, por lo
que bien podríamos imaginar la existencia de un estado-mundo en el futuro
controlado por una sola persona con autoridad extraordinaria: un Homo
deus cuyos poderes de gobierno y engaño se derivan de la más siniestra de
todas las inteligencias sobrehumanas: el mismo diablo.

Es el hecho de que la idea del Homo deus impregna la historia lo que hace
que el escenario bíblico sea más que plausible. Por supuesto, contradice
la idea generalizada de que los seres humanos son básicamente buenos y
están mejorando todo el tiempo para que eventualmente se elimine el mal
comportamiento y uno de los escenarios más humanos y benévolos de Max
Tegmark tendrá más probabilidades de caracterizar el futuro: Dios
Protector, Dictador benévolo o utopía igualitaria.11 Eso parece una
ilusión a la luz del material bíblico y de la experiencia del siglo XX.
Curiosamente, también parece una ilusión a la luz de la aleccionadora
conclusión de Yuval Harari a Sapiens:

Además, a pesar de las cosas asombrosas que los humanos son capaces de
hacer, seguimos inseguros de nuestros objetivos y parecemos estar tan
descontentos como siempre. Hemos avanzado de canoas a galeras a barcos de
vapor a transbordadores espaciales, pero nadie sabe a dónde vamos. Somos
más poderosos que nunca, pero tenemos muy poca idea de qué hacer con todo
ese poder. Peor aún, los humanos parecen ser más irresponsables que
nunca. Dioses hechos a sí mismos con solo las leyes de la física para
hacernos compañía, no somos responsables ante nadie. En consecuencia,
estamos causando estragos en nuestros compañeros animales y en el
ecosistema circundante, buscando poco más que nuestra propia comodidad y
diversión, pero nunca encontrando satisfacción.

¿Hay algo más peligroso que dioses insatisfechos e irresponsables que no

saben lo que quieren?12

NOTAS

1. C. S. Lewis, Dios en el banquillo: ensayos sobre teología y ética

(Grand Rapids: Eerdmans, 2014), 99.

2. David J. Bosch, Misión transformadora: cambios de paradigma en la

teología de la misión (Maryknoll, NY: Orbis, 2011), 328.

3. Stephen Pinker, Los mejores ángeles de nuestra naturaleza: por qué ha

disminuido la violencia (Nueva York: Penguin, 2012).

4. John Gray, "Best of 2012: Stephen Pinker's Delusions of Peace", ABC

Religion & Ethics, 20 de enero de 2013, www.abc.net.au/religion/best-of-
2012-stephen-pinkers-delusions-of- paz/10100056.

5. Del griego ou = “no” y topos = “lugar”. El homófono Eutopia (del

griego Eu = “bueno”) significa un “buen lugar”, y los dos a menudo se
confunden. En 1872, Samuel Butler publicó su novela, una sátira de la
sociedad victoriana, llamada Erewhon, que es (casi) "ninguna parte"
escrito al revés. El país ficticio de Erewhon al principio parece una
utopía, pero resulta que no es así.

6. Debemos notar cuán a menudo se mencionan las nubes del cielo en

relación con el regreso de Cristo: será una venida literal y visible.

7. Muchas personas encuentran difícil la idea del sufrimiento vicario. He

escrito sobre esto en Gunning for God (Oxford: Lion, 2011), 145–64.

8. Aquí hay una discusión: si alguna vez fuera posible tal carga, ¿el
resultado sería reconociblemente yo? Véase David J. Chalmers, El carácter
de la conciencia (Oxford: Oxford University Press, 2010).

9. John Gray, Seven Types of Atheism (Nueva York: Farrar, Straus and
Giroux, 2018), 70.

10. Hannah Arendt, Los orígenes del totalitarismo (1951; repr., Londres:
Penguin, 2017), 387, 437.

11. Consulte "Resumen de 12 escenarios posteriores a la IA", Future of

Life Institute, https://futureoflife.org/ai-aftermath-scenarios.

12. Yuval Noah Harari, Sapiens (Nueva York: HarperCollins, 2015), 415–16.

CAPÍTULO DOCE

HOMO DEUS EN EL LIBRO DEL APOCALIPSIS

El último libro del Nuevo Testamento, escrito en su mayor parte hace
2.000 años, describe un futuro Homo deus que incorpora las
características tanto del “hombre del desafuero” de Pablo como del
Prometeo de Tegmark. En las visiones de Apocalipsis 12–13, se nos
presenta el espectáculo extremadamente vívido de una bestia horrible con
siete cabezas y diez cuernos a quien el diablo Satanás (representado como
una serpiente y un dragón) le da un poder inmenso y una autoridad
mundial. Esta bestia se convierte en un objeto blasfemo de adoración para
el mundo entero, al igual que el diablo que la empodera.

Inmediatamente reconocemos múltiples paralelos con la descripción del

hombre del pecado en 2 Tesalonicenses, de modo que Apocalipsis respalda
con imágenes y metáforas lo que Pablo dice en prosa sencilla. Porque la
metáfora, como C. S. Lewis se esfuerza por señalar, siempre se usa para
representar algo real, no algo irreal. Decir “mi corazón está roto” es
usar una metáfora para describir una experiencia emocional muy real y
dolorosa, no algo imaginario.

Aquí en Apocalipsis, la metáfora de una bestia se usa evidentemente para

describir un estado hostil muy real, como cualquier persona con un
conocimiento rudimentario de la narración bíblica no tendría dificultad
en reconocer. Después de todo, siglos antes, el profeta Daniel había
usado imágenes de bestias salvajes para describir varios tipos de
imperios y sus líderes. Y los primeros lectores del libro de Apocalipsis
no habrían tenido dificultad en reconocer un estado que se comportaba
como una bestia, ya que en realidad vivían en uno: el Imperio Romano.
Recibieron el mensaje alto y claro, y cualquier lector que lo tomara en
serio se daría cuenta de que, aunque las imágenes se aplicaban a ciertos
aspectos del comportamiento del Imperio Romano, había, como veremos, otro
más profundo, y muy plausible. aplicación al estado del mundo en el
futuro que conduce al regreso de Cristo.

Por lo tanto, antes de descartar estas visiones como fantasía

apocalíptica, los lectores deben prestar especial atención al siguiente
extracto del libro de Apocalipsis para poder hacer un intento informado
de usar su imaginación para comprender lo que las imágenes pretenden
transmitir:

Y vi subir del mar una bestia con diez cuernos y siete cabezas, con diez
diademas en sus cuernos y nombres de blasfemia en sus cabezas. Y la
bestia que vi era semejante a un leopardo; sus pies eran como los de un
oso, y su boca como la boca de un león. Y a ella el dragón le dio su
poder y su trono y gran autoridad. Una de sus cabezas parecía tener una
herida mortal, pero su herida mortal fue sanada, y toda la tierra se
maravilló mientras seguían a la bestia. Y adoraron al dragón, porque
había dado su autoridad a la bestia, y adoraron a la bestia, diciendo:
¿Quién como la bestia, y quién podrá luchar contra ella?

Y se le dio a la bestia una boca que hablaba palabras altivas y

blasfemas, y se le permitió ejercer autoridad durante cuarenta y dos
meses. Abrió su boca para proferir blasfemias contra Dios, blasfemando su
nombre y su morada, es decir, los que moran en el cielo. También se
permitía hacer la guerra a los santos y conquistarlos. Y le fue dada
autoridad sobre toda tribu y pueblo y lengua y nación, y todos los
moradores de la tierra la adorarán, todos aquellos cuyo nombre no está
escrito antes de la fundación del mundo en el libro de la vida del
Cordero que fue inmolado.

Apocalipsis 13:1–8

Notamos inmediatamente las marcadas similitudes entre esta descripción de

la bestia y la del hombre de pecado contra Dios en 2 Tesalonicenses.
También vemos que la autoridad global y violentamente mantenida de esta
“bestia” se establece a través de la curación de una “herida mortal” en
una de sus cabezas. Aunque no podemos decir con precisión a qué se
refiere esto, suena como una parodia de los eventos centrales de la
muerte y resurrección de Cristo que establecen su autoridad como Mesías e
Hijo de Dios.

También notamos que aunque se le permite a esta horrible bestia arrasar

con la comunidad cristiana, su ejercicio del poder está estrictamente
limitado. El escenario ahora se vuelve más complejo con la llegada de
otra “bestia”:

Entonces vi otra bestia que salía de la tierra. Tenía dos cuernos como de
cordero y hablaba como un dragón. Ejerce toda la autoridad de la primera
bestia en su presencia y hace que la tierra y sus habitantes adoren a la
primera bestia, cuya herida mortal fue sanada. Hace grandes señales,
incluso haciendo descender fuego del cielo a la tierra delante de la
gente, y por las señales que se le permite obrar en presencia de la
bestia, engaña a los que moran en la tierra, diciéndoles que hagan una
imagen para la bestia que fue herida a espada y vivió. Y se le permitió
dar aliento a la imagen de la bestia, para que la imagen de la bestia aun
hablara y pudiera hacer que aquellos que no adoraran la imagen de la
bestia fueran muertos. También hace que todos, pequeños y grandes, ricos
y pobres, libres y esclavos, sean marcados en la mano derecha o en la
frente, para que nadie pueda comprar ni vender a menos que tenga la
marca, es decir, el nombre de la bestia o el número de su nombre. Esto
requiere sabiduría: el que tiene entendimiento, calcule el número de la
bestia, porque es número de hombre, y su número es 666.

Apocalipsis 13:11–18

Apocalipsis 13:15 describe a esta segunda bestia ordenando la

construcción de una imagen de la primera bestia a la que se le da
aliento, lo que resulta en engaño y control mundial. Todos los que
rehúsan inclinarse y reconocer la autoridad de la bestia son asesinados.
El control social es absoluto, ya que la libertad de comprar y vender
está determinada por el uso de algún tipo de marca, un chip implantado,
un brazalete de Tegmark o similar, que determinará si una persona es
considerada socialmente aceptable o no, análoga a tener un cierto número
de puntos de seguridad social en el sistema de vigilancia algorítmica
chino en evolución.

En este sentido, uno piensa naturalmente en el objetivo de los defensores

de AGI de hacer vida artificial y cargar los contenidos de las mentes en
silicio. Si bien no sabemos exactamente qué tiene en mente Apocalipsis
aquí, posiblemente podría ser la creación de algún tipo de "vida" que sea
tan sofisticada e impresionante que el mundo sea engañado y oprimido por
ella. Es decir, podría representar alguna realización parcial de AGI. Por
supuesto, el uso de la palabra imagen no necesariamente debe evocar en
nuestra mente algún tipo de imagen primitiva de piedra o madera. En cada
etapa de la historia, los seres humanos han creado imágenes y se han
inclinado para adorar las creaciones de sus propias manos y mentes y han
soñado con dar vida de alguna manera a sus creaciones, como en la
historia del folclore judío de la creación de Golem a partir de materia
inanimada. . Tal vez, en cierto sentido, algún día lo harán.

Es importante señalar que los ídolos eran, y siguen siendo, cosas en las
que la gente confiaba en lugar de cosas que amaban. A menudo temían a sus
ídolos. “Adoración” significaba más una aceptación de una autoridad
superior, un “inclinarse” ante esa autoridad, en lugar de transmitir
algún sentimiento de afecto o devoción positiva. A lo largo de la
historia del Antiguo Testamento, hasta el exilio en Babilonia, el pueblo
de Israel se comprometía constantemente con las prácticas idólatras de
sus vecinos paganos, y los profetas les recordaban constantemente el
absurdo trágico de tal compromiso. Aquí está uno de los dichos más
famosos del profeta Isaías sobre el tema cuando se burla de la ingenuidad
del antiguo fabricante de ídolos que crea un dios de madera con un árbol
que acaba de talar:

La mitad de la leña quema en el fuego;

sobre ella prepara su comida,

él asa su carne y come hasta saciarse.

También se calienta y dice:

“¡Ay! Soy cálido; Veo el fuego.

Del resto hace un dios, su ídolo;

se inclina ante él y lo adora.

Le reza y dice:

"¡Sálvame! ¡Eres mi Dios!"

Isaías 44:16–17 NVI

Isaías acumula sarcasmo: lo absurdo de hacer un dios, ya sea de hierro o

de madera, la increíble ceguera de tomar madera y usar una parte de ella
para hacer un fuego para cocinar y moldear la otra parte en forma humana
e inclinarse ante ella. . Los Salmos también señalan que, aunque la
imagen pueda tener forma humana, es inútil porque no puede reproducir
ninguna función humana:

Los ídolos de las naciones son plata y oro,

hecho por manos humanas.

Tienen boca, pero no pueden hablar,

ojos, pero no puede ver.

Tienen oídos, pero no pueden oír,

ni hay aliento en sus bocas.

Los que los hacen serán como ellos,

y también todos los que confían en ellos.

Salmo 135:15–18 NVI

Está claro que el libro de Apocalipsis está hablando de algo muy

diferente a este tipo de idolatría cruda cuando describe una imagen a la
que se le da aliento y habla. Esto parece mucho más "humano" que las
imágenes primitivas antiguas, y bien podría sugerir algo así como un
robot humanoide ingeniosamente diseñado equipado con una IA muy avanzada,
incluso AGI. El hecho de que toda la tierra adore a la bestia a causa de
la imagen no es un adorno trivial. Conseguir la atención de todo el mundo
sería un logro sin precedentes, tristemente creíble por la existencia de
redes globales de comunicación visual en Internet y la televisión.

Este escenario inevitablemente plantea la pregunta: ¿Hasta dónde

permitirá Dios que lleguen los humanos? De acuerdo con la narración
bíblica, Dios intervino en el primer proyecto Homo deus en Génesis 3.
Intervino una vez más en el posterior en Babel, donde los humanos
hicieron un intento concertado de usar sus habilidades intelectuales y
tecnológicas para construir una torre que llegaría a cielo – otro síntoma
del egoísmo que alimenta al Homo deus. Según la narración bíblica, Dios
intervendrá en el futuro para poner fin a la rebelión humana. Sin
embargo, ¿es igualmente posible que no intervenga en el punto en el que
más podríamos esperarlo sobre la base de las intervenciones anteriores
que acabamos de mencionar?

Lo que da lugar a esa posibilidad es el hecho de que Apocalipsis 13 pone

un énfasis considerable en lo que se les permite hacer a las diversas
bestias. Esto está en línea con la enseñanza teológica de que Dios tiene
el control en última instancia y nada sucede fuera de su voluntad
permisiva.1 A la primera bestia se le permite ejercer autoridad durante
cuarenta y dos meses y se le permite hacer la guerra contra los santos y
conquistarlos. A la segunda bestia se le permite realizar señales
engañosas. Además, está permitido dar aliento a la imagen de la bestia.

El lenguaje aquí es una reminiscencia del usado en Génesis: “Entonces

Jehová Dios formó al hombre del polvo de la tierra, y sopló en su nariz
aliento de vida, y fue el hombre un ser viviente” (Génesis 2:7). ¿Esto
indica que a los humanos se les permitirá crear algo muy parecido a la
vida, si no algún tipo de vida en sí? Si ese es el caso, el peligro es
que si estamos erróneamente convencidos de que Dios intervendrá antes de
que se llegue a tal etapa, el engaño para nosotros cuando suceda puede
ser aún mayor.
Notamos además que esta imagen “viva” puede causar la muerte selectiva de
aquellos que no adoran a la bestia. Eso implica que, sea lo que sea, es
capaz de reconocer ese “comportamiento antisocial recalcitrante”
(¿reconocimiento facial?), determinar su actitud hacia la bestia
(¿vigilancia social?), y ponerlos, o hacer que los pongan, a muerte.
Todos estos son procesos muy complejos de implementar a nivel mundial.
Entonces, ¿implica esto AGI a un nivel que puede simular un tipo de
conciencia, o es una versión mejorada del tipo (inconsciente) de sistemas
de IA que se usan hoy en día?

Si es así, este texto en Apocalipsis representa una advertencia oportuna

para todos los habitantes de la tierra que es de particular relevancia
para esta generación tecnológicamente avanzada y para aquellos que la
siguen. Sería un error grave, si no fatal, si, habiendo leído este
escenario bíblico, pensamos que estamos tratando con fantasías infantiles
que son fácilmente reconocibles y expuestas. No somos. Estamos lidiando
con la posibilidad de una tiranía global demasiado real con control
social en su centro, un estado de vigilancia totalitario como se concibió
en el escenario Prometheus de Tegmark que es inquietantemente similar al
que se está desarrollando y probando activamente en China hoy. Lo que es
obvio y muy inquietante es que las personas “adoran” fácilmente tales
sistemas, es decir, se inclinan ante ellos y aceptan su autoridad,
sacrificando su libertad en aras de una supuesta seguridad. De hecho, en
cierto sentido, todos estamos haciendo esto al entregar cada vez más
nuestras decisiones a la IA y dejar que determine cada vez más muchos
aspectos de nuestra vida cotidiana.

Ahora preguntamos: ¿Qué representa la bestia en Apocalipsis 13? En

sentido general, la respuesta no es difícil, ya que se dice que esta
bestia tiene el control de la economía mundial. Hace que todos sean
marcados en la mano derecha o en la frente para que nadie pueda comprar o
vender a menos que tenga la marca que es el nombre de la bestia o el
número de su nombre (piense en el brazalete de seguridad de Prometeo).
Pero, ¿representa un cuerpo colectivo como un gobierno mundial o un
estado que se comporta de manera bestial, o representa a un individuo? El
texto mismo indica que la bestia es un individuo, de hecho, un individuo
humano. Apocalipsis 13:18 dice: “el que tenga entendimiento, calcule el
número de la bestia, porque es número de hombre, y su número es 666”.

Se ha prestado mucha atención, de hecho demasiada atención, al número 666

que aparece aquí. Evidentemente, se trata de una guematria.2 Ha habido un
sinfín de conjeturas sobre quién será este poderoso líder. Tal
especulación parece ser evidentemente infructuosa. Si tenemos que
adivinar de quién se trata, vamos a estar equivocados, ya que el contexto
ya nos ha informado que el "hombre de iniquidad" será revelado por el
poder satánico. Cuando aparezca esta potencia mundial, no habrá necesidad
de adivinar quién es.

Decodificar la gematria 666 será una simple comprobación retrospectiva,

no un profundo enigma. Porque este pasaje no se ocupa de responder a la
pregunta de quién es la bestia, sino, como se afirma explícitamente, qué
es. Es, dice Juan, “el número de un hombre”. Es decir, la bestia es un
símbolo; la realidad detrás de ese símbolo es un hombre. La bestia que es
energizada por la serpiente es un ser humano que afirma ser deidad y, por
lo tanto, se ajusta a la descripción de Homo deus. La rebelión contra
Dios que comenzó en Génesis alcanzará, por lo tanto, un clímax en un
temible proyecto Homo deus del que Harari, entre otros, parece no saber
nada.

Deducimos que tiene sentido pensar que tanto 2 Tesalonicenses como

Apocalipsis hablan del mismo líder mundial inmensamente poderoso, anti-
dios e inspirado por el diablo que en un tiempo futuro reclamará honores
divinos y engañará al mundo con falsas maravillas y que será destruida
cataclísmicamente por el regreso de Cristo en poder y gran gloria. Aquí
está la descripción de ese evento trascendental como se describe en
Apocalipsis:

Entonces vi el cielo abierto, y he aquí, ¡un caballo blanco! El que está

sentado en él se llama Fiel y Verdadero, y con justicia juzga y hace la
guerra. Sus ojos son como una llama de fuego, y en su cabeza hay muchas
diademas, y tiene un nombre escrito que nadie conoce sino él mismo. Está
vestido con una túnica teñida en sangre, y el nombre con el que es
llamado es La Palabra de Dios. Y los ejércitos del cielo, vestidos de
lino fino, blanco y puro, lo seguían en caballos blancos. De su boca sale
una espada afilada para herir con ella a las naciones, y él las regirá
con vara de hierro. Él pisará el lagar del vino del furor de la ira de
Dios Todopoderoso. En su manto y en su muslo tiene escrito un nombre, Rey
de reyes y Señor de señores. . .

Y vi a la bestia ya los reyes de la tierra con sus ejércitos reunidos

para hacer guerra contra el que estaba sentado sobre el caballo y contra
su ejército. Y la bestia fue capturada, y con ella el falso profeta que
en su presencia había hecho las señales con las cuales engañaba a los que
habían recibido la marca de la bestia ya los que adoraban su imagen.
Estos dos fueron arrojados vivos al lago de fuego que arde con azufre.

Apocalipsis 19:11–16, 19–20

UN ESCENARIO FUTURO NOTABLE PREDICHO EN UNA VISIÓN ANTIGUA

Para tener una mayor perspectiva sobre esto, recordamos que las imágenes
utilizadas en el libro de Apocalipsis tienen sus raíces en el capítulo 7
del libro de Daniel. Antes de continuar, le pediría al lector que lea ese
capítulo en su totalidad para obtener la amplitud de la visión de Daniel.

Recopilando algunos de los puntos principales de esta visión, vemos:

• Hay una bestia inmensamente poderosa (la cuarta bestia) con diez
cuernos, y un cuerno pequeño que habla grandes palabras.

• La bestia hace guerra contra los santos y prevalece.

• El Hijo del Hombre viene sobre las nubes del cielo.

• La corte celestial juzga a la bestia y la destruye.

• Los santos reciben el reino.

Note las muchas características que la bestia de Daniel tiene en común
con la bestia de Apocalipsis:

• Tiene diez cuernos que se dice que son diez reyes (Daniel 7:24, cf.
Apocalipsis 17:12).

• Pronuncia palabras altivas.

• Hace la guerra a los santos y prevalece.

• Su autoridad es limitada – Daniel: “tiempo, tiempos y medio tiempo”

(7:25), es decir, tres tiempos y medio; Apocalipsis: “42 meses” (13:5),
es decir, tres años y medio.

• La bestia en Apocalipsis combina características de las primeras tres

bestias en la visión de Daniel: era como un leopardo, sus pies como los
de un oso y su boca como la de un león (Apocalipsis 13:2).

Las similitudes son notables. Además, la bestia de Daniel es juzgada en

el contexto de la venida del Hijo del Hombre sobre las nubes del cielo.
La bestia en Apocalipsis es destruida por la venida del cielo a la tierra
del Jinete del Caballo Blanco, de quien se dice que es la Palabra de
Dios, Rey de reyes y Señor de señores.3 Seguramente no es fantasioso
sugerir que Daniel y Apocalipsis están describiendo lo mismo, en un
lenguaje muy similar y altamente simbólico, y lo que están describiendo
se presenta para nosotros, como hemos visto, en el lenguaje claro y no
simbólico de 2 Tesalonicenses 2, donde Pablo está escribiendo sobre la
destrucción del hombre de pecado por la venida de Cristo.

Jugar a ser Dios siempre ha sido una tentación para los líderes
poderosos. Como hemos visto, Pablo señaló en su día que “el misterio de
la iniquidad ya está en acción” (2 Tesalonicenses 2:7). Pablo se estaba
refiriendo a la iniquidad espiritual: ese desafío a Dios que caracterizó
a los emperadores romanos (y a muchos antes de ellos), quienes se
consideraban dioses y exigían que se los adorara. Esto resuena con un
detalle adicional en la descripción de la cuarta bestia en Daniel 7:
“[Él] pensará en cambiar los tiempos y la ley; y serán entregados en su
mano por un tiempo, tiempos y la mitad de un tiempo” (Daniel 7:25).
Daniel ya había experimentado un choque entre la ley de su Dios y una ley
del estado que había sido elaborada por malvados corredores de poder que
querían deshacerse de él (Daniel 6).

Esta visión dice que la experiencia de Daniel en esa ocasión no será la

última de su tipo. De hecho, lo peor está por venir. Darío prohibió la
adoración a Dios por un mes. Bajo la cuarta bestia, la prohibición durará
mucho más: tres veces y media, lo que generalmente se entiende como tres
años y medio. Es más, esta bestia pensará en “cambiar los tiempos”, es
decir, los tiempos establecidos de las fiestas y ceremonias que la nación
de Israel celebra como parte de su adoración a Dios.

Por lo tanto, la cuarta bestia puede verse como la manifestación final de

la rebelión humana contra Dios. Tanto 2 Tesalonicenses como Apocalipsis
señalan que el hombre-bestia que reclama la divinidad está energizado por
el poder oscuro de Satanás y es un maestro del engaño. De acuerdo con la
naturaleza progresiva de la revelación profética bíblica, esta
información no está contenida en la descripción de Daniel. De hecho, el
relato de Apocalipsis es más detallado que el de Daniel en varios otros
aspectos. Nos dice además que la bestia tenía siete cabezas, e introduce
una segunda bestia que “ejerce toda la autoridad de la primera bestia en
presencia de ella, y hace que la tierra y sus habitantes adoren a la
primera bestia. . . Engaña a los moradores de la tierra” (Apocalipsis
13:12, 14). También se nos dice: “los diez cuernos . . . son diez reyes
que aún no han recibido potestad real, pero han de recibir potestad como
reyes por una hora, juntamente con la bestia. Estos son de una sola
mente, y entregan su poder y autoridad a la bestia. Harán guerra contra
el Cordero, y el Cordero los vencerá” (Apocalipsis 17:12–14).

Así como encontramos con la profecía de la semilla (Génesis 3:15), cuanto

más nos acercamos al tiempo del cumplimiento, más detalles se nos dan. Si
ponemos todo junto, surge una imagen de un arreglo político
extraordinario en el que diez reyes o líderes ceden su autoridad a un
líder de inmenso poder y autoridad. La implicación es que, quienesquiera
que sean estos diez líderes, existen simultáneamente y, ya sea
voluntariamente o por la fuerza, entregan las riendas de su poder a un
solo dictador: el hombre de la anarquía. Dado que parece tener poder
sobre todo el planeta, lo que aquí se contempla es nada menos que un
gobierno mundial.4

¿GOBIERNO MUNDIAL?

Nunca hemos visto algo así en la historia, pero está lejos de ser una
idea descabellada e irracional. En tiempos recientes, las naciones han
sentido la necesidad de formar organizaciones internacionales, como las
Naciones Unidas, para ayudar a mantener un equilibrio de poder, vigilar
el mundo y mantener la paz. Sin embargo, la ONU ha tenido un historial
mixto, y algunos líderes muy influyentes han sugerido, y aún lo hacen,
que la única solución real a los problemas políticos y sociales del mundo
es un gobierno internacional. Después de la Segunda Guerra Mundial,
Albert Einstein escribió: “Se debe crear un gobierno mundial que sea
capaz de resolver los conflictos entre las naciones por decisión
judicial. Este gobierno debe basarse en una constitución bien definida
que sea aprobada por los gobiernos y las naciones y que le dé la
disposición exclusiva de las armas ofensivas.”5

En el mundo globalizado de hoy, un gobierno mundial es una noción

completamente plausible. Tenemos tribunales de derecho internacional, y
en Europa todos somos conscientes de un avance constante hacia cada vez
menos independencia y un control cada vez más centralizado. Para muchos,
eso parece allanar el camino hacia unos Estados Unidos de Europa. En el
Financial Times del 8 de diciembre de 2008, Gideon Rachman escribió:
“Nunca he creído que haya un complot secreto de las Naciones Unidas para
apoderarse de Estados Unidos. Nunca he visto helicópteros negros
sobrevolando el cielo de Montana. Pero, por primera vez en mi vida, creo
que la formación de algún tipo de gobierno mundial es plausible.”6

Un gobierno mundial implicaría mucho más que la cooperación entre

naciones. Sería una entidad con características de estado, respaldada por
un cuerpo de leyes. La Unión Europea ya ha establecido un gobierno
continental para veintisiete países, que podría ser un modelo. La UE
tiene un tribunal supremo, una moneda, miles de páginas de legislación,
un gran servicio civil y la capacidad de desplegar una fuerza militar, y
el deseo de construir una.

¿Podría el modelo europeo volverse global? Hay tres razones para pensar
que podría ser así. En primer lugar, es cada vez más claro que los
problemas más difíciles que enfrentan los gobiernos nacionales son de
naturaleza internacional: existe el calentamiento global, una crisis
financiera global y una “guerra global contra el terrorismo”.

En segundo lugar, podría hacerse. Las revoluciones del transporte y las

comunicaciones han reducido el mundo de modo que, como escribió Geoffrey
Blainey, un eminente historiador australiano: “Por primera vez en la
historia de la humanidad, ahora es posible algún tipo de gobierno
mundial”.7 El Sr. Blainey previó un intento de formar un gobierno mundial
en algún momento de los próximos dos siglos, que es un horizonte de
tiempo inusualmente largo para la columna de un periódico promedio.

Pero, el tercer punto, un cambio en la atmósfera política sugiere que la

gobernanza global podría llegar mucho antes que eso. La crisis financiera
y el cambio climático han empujado a los gobiernos nacionales hacia
soluciones globales, incluso en países como China y Estados Unidos, que
tradicionalmente son guardianes feroces de la soberanía nacional. Jacques
Attali, asesor del presidente Nicolas Sarkozy de Francia, argumentó: “La
gobernanza global es solo un eufemismo de gobierno global”. En lo que a
él respecta, alguna forma de gobierno global no puede llegar demasiado
pronto. El Sr. Attali creía que “el núcleo de la crisis financiera
internacional es que tenemos mercados financieros globales y no un estado
de derecho global”.8 Parece, entonces, que todo está en su lugar. Por
primera vez desde que el Homo sapiens comenzó a garabatear en las paredes
de las cuevas, existe un argumento, una oportunidad y un medio para dar
pasos serios hacia un gobierno mundial.

La idea de un gobierno mundial ha existido durante mucho tiempo. Se

refiere a la idea de toda la humanidad unida bajo una autoridad política
común. Podría decirse que no ha existido hasta ahora en la historia
humana, pero las propuestas para una autoridad política global unificada
han existido desde la antigüedad, en la ambición de reyes, papas y
emperadores y en los sueños de poetas y filósofos.

Por ejemplo, en la Edad Media, el poeta, filósofo y estadista italiano

Dante Alighieri (1265–1321) argumentó que era posible eliminar la guerra
si “toda la tierra, y todo lo que se le da a la raza humana para que la
posea, debería ser un territorio”. Monarquía: es decir, un solo
principado, que tiene un príncipe que, poseyendo todas las cosas y no
pudiendo desear nada más, mantendría a los reyes contentos dentro de los
límites de sus reinos y preservaría entre ellos la paz en la que las
ciudades pudieran descansar. 9

El filósofo alemán Immanuel Kant sostuvo que la razón sugería la

formación de “un estado internacional (civitas gentium), que
necesariamente continuaría creciendo hasta abarcar a todos los pueblos de
la tierra”. 10 Sin embargo, Kant tenía fuertes reservas sobre una
monarquía mundial. Pensó que una unión federal de estados libres e
independientes “sigue siendo preferible a una fusión de las naciones
separadas bajo un solo poder que ha anulado al resto y ha creado una
monarquía universal”. Su motivo de vacilación fue: “Porque las leyes
pierden progresivamente su impacto a medida que el gobierno aumenta su
alcance, y un despotismo desalmado, después de aplastar los gérmenes de
la bondad, finalmente caerá en la anarquía”. Kant pensó que un
“despotismo universal” terminaría “en el cementerio de la libertad”. 11

NOTAS

1. Para obtener más información sobre este tema complejo, consulte mi

artículo ¿Decidido a creer? (Oxford: León, 2017).

2. Un número que se forma sumando los números que representan las letras
del nombre de acuerdo con un esquema acordado, por ejemplo, A = 1, B = 2,
etc. Por ejemplo, un niño en el mundo antiguo podría tallar en un árbol:
"Amo a la chica cuyo número es 53", y dejaría que otros averiguaran,
mediante un proceso de prueba y error de sustitución de letras por
números, que su nombre era Julia.

3. Algunos eruditos entienden que el Hijo del Hombre “viene sobre las
nubes del cielo” (Mateo 26:64) como una referencia a la ascensión de
Cristo, cuando vino a Dios ya su trono. Sin embargo, creo que: (1) la
cita de nuestro Señor de este texto en su juicio se entiende más
naturalmente en términos de su futuro regreso a la tierra y, por lo
tanto, ser visible para aquellos que lo han rechazado, y (2) si Daniel 7
se refiere a a la ascensión, es justo preguntar: ¿Ocurrió el juicio de
Dios en la ascensión? Y si es así, ¿qué bestia fue entonces destruida?
Ver mi libro Against the Flow: The Inspiration of Daniel in an Age of
Relativism (Oxford: Monarch, 2015) sobre el tema.

4. Por lo tanto, la identificación en años anteriores con diez países

europeos estuvo muy fuera de lugar.

5. Albert Einstein, “Hacia un gobierno mundial” (1946), en Out of My

Later Years (Nueva York: Philosophical Library, 1956), 146.

6. Gideon Rachman, “And Now for a World Government”, Financial Times, 8

de diciembre de 2008, www.ft.com/content/7a03e5b6-c541-11dd-b516-
000077b07658.

7. Citado en Rachman, “And Now for a World Government”.

8. Citado en Rachman, “And Now for a World Government”.

9. Dante Alighieri, Il Convivio (El banquete), libro 4, capítulo 4, trad.

Richard H. Lansing (Biblioteca Garland de Literatura Medieval, 1990),
https://digitaldante.columbia.edu/text/library/the-convivio/book-04/#30.

10. Immanuel Kant, Perpetual Peace (1795), 105, citado en Catherine Lu,
“World Government”, en The Stanford Encyclopedia of Philosophy, ed.
Edward N. Zalta (invierno de 2016),
https://plato.stanford.edu/archives/win2016/entries/world-government,
cursiva original.

11. Kant, Paz perpetua, 113, 114; citado en Lu, “Gobierno mundial”.

CAPÍTULO TRECE

EL TIEMPO DEL FIN

Comparando a Daniel, Apocalipsis y 2 Tesalonicenses, la opresión de la

feroz cuarta bestia, el hombre del desafuero, se parece mucho al
“cementerio de la libertad” de Immanuel Kant mencionado al final del
capítulo anterior. Es por eso que el mensaje de Daniel 7 es de gran
importancia. Parecería que Daniel está diciendo que la forma final de
gobierno será un gobierno mundial de fuerza espantosa, abierta y
máximamente hostil hacia Dios.

Lo que es muy interesante es que en los libros bíblicos que acabamos de

mencionar; en las famosas distopías como We, Brave New World, 1984; y en
muchos de los escenarios contemporáneos, el poder absoluto finalmente se
concentra en las manos de un solo hombre: una bestia en Daniel, la bestia
en Apocalipsis, el hombre inicuo en Tesalonicenses, el Bienhechor en
Nosotros, el Gran Hermano en 1984, la Cabeza en Esa Horrible Fuerza,
Prometeo en Tegmark, y así sucesivamente. En Brave New World, hay diez
controladores mundiales, de los cuales solo uno, Mustapha Mond, figura en
la novela.

C. S. Lewis da una posible razón para esto en su novela That Hideous

Strength. Mark Studdock, un académico bastante crédulo y ambicioso, es
informado por un alto cargo, otro académico, Filostrato, que el siniestro
instituto científico, N.I.C.E., para el que trabaja, ha logrado mantener
vivo el cerebro de una persona muerta y ahora posee el poder para
entregar la inmortalidad física.

“Al principio, por supuesto”, dijo Filóstrato, “el poder estará confinado
a un número —un pequeño número— de hombres individuales. Los que son
escogidos para la vida eterna.”

“¿Y quieres decir”, dijo Mark, “que luego se extenderá a todos los
hombres?”

-No -dijo Filóstrato-, quiero decir que entonces se reducirá a un solo

hombre. No eres tonto, ¿verdad, mi joven amigo? Todo lo que se dice sobre
el poder del Hombre sobre la Naturaleza, el Hombre en abstracto, es solo
para la canaglia.1 Usted sabe tan bien como yo que el poder del Hombre
sobre la Naturaleza es solo el poder de algunos hombres sobre otros
hombres con la Naturaleza como instrumento. .2 No existe el Hombre, es
una palabra. Solo hay hombres. ¡No! No es el Hombre quien será
omnipotente. Es un hombre, un hombre inmortal.”3

En este punto, un clérigo renegado, Straik, se une a la conversación:

“Dios tendrá poder para dar recompensa eterna y castigo eterno”.

"¿Dios?" dijo Marcos. “¿Cómo entra Él en esto? Yo no creo en Dios.”

“Pero, amigo mío”, dijo Filóstrato, “¿se sigue que porque no hubo Dios en
el pasado, no habrá Dios también en el futuro?”

“¿No ves”, dijo Straik, “que te estamos ofreciendo la inefable gloria de

estar presente en la creación de Dios Todopoderoso? Aquí, en esta casa,
encontrarás el primer esbozo del Dios real. Es un hombre, o un ser hecho
por el hombre, quien finalmente ascenderá al trono del universo. Y
gobierne para siempre.”4

¿EL HOMO DEUS DE HARARI SE ANTICIPÓ?

Parecería que el impulso hacia la deificación de los seres humanos

conduce inevitablemente a la eventual concentración del poder en manos de
un "superhombre" que esclaviza efectivamente al resto. Las distopías
seculares sirven para aumentar la credibilidad de la bíblica.

Reitero que no tengo intención de intentar identificar el estado mundial

final o cuándo surgirá, y mucho menos quién será su líder. No lo sé, y
todavía no hemos llegado. En cualquier caso, como mencioné anteriormente,
cuando llegue el momento, no habrá necesidad de especular: será demasiado
obvio. Entonces, ¿por qué deberíamos siquiera molestarnos en pensar en
tales detalles? Por lo que sabemos, estos eventos bien pueden ocurrir en
un futuro lejano, entonces, ¿cómo pueden ser relevantes para nosotros?

Hay al menos dos respuestas a eso. Primero, cuando Pablo escribió, estos
eventos estaban veinte siglos más lejos de lo que están ahora. Sin
embargo, Pablo pensó que era importante incluso entonces hablarles a los
cristianos de Tesalónica sobre el hombre del pecado. Él da la razón:
“porque ya está en acción el misterio de la iniquidad” (2 Tesalonicenses
2:7). Es decir, el tipo de pensamiento Homo deus que eventualmente
dominaría el mundo ya estaba presagiado en lo que estaba sucediendo en
ese momento en la sociedad romana.

Pablo advierte que debemos prestar mucha atención a tales tendencias en

la historia. No son inocentes. Conducirán inexorablemente a la mayor
hostilidad hacia Dios orquestada por el estado que el mundo jamás haya
visto. Génesis nos dice que la guerra contra Dios comenzó hace mucho
tiempo, en los albores de la historia humana. Pero en el mundo
occidental, hemos vivido para ver un aumento de la hostilidad abierta no
solo hacia Dios sino también hacia la expresión pública de fe en él.

Un efecto negativo importante de la Ilustración fue la propagación de la

idea de que todo conocimiento verdadero es fáctico, libre de valores y
objetivo. En contraste con los hechos, los valores se consideraban
subjetivos, esencialmente una cuestión de gusto. Entonces creció la
convicción de que la creencia religiosa pertenecía al reino de los
valores privados más que a la verdad pública. Vincule eso con la
creciente noción de que los seres humanos son autónomos y emancipados, y
tendrá una potente receta para desterrar a Dios.

Hoy en día, los demagogos mordaces del nuevo ateo anuncian que la
ciencia, con su confianza en la razón y la evidencia, no deja lugar para
la creencia en Dios, ya que, como ellos asumen falsamente, la fe en él no
tiene base probatoria. El camino está abierto, al menos en teoría, para
que figuras prominentes en una sociedad predominantemente atea construyan
un AGI para implementar su propia agenda atea.

Con lo que sólo puedo describir como miopía culpable, los (ahora no
tanto) nuevos ateos suscitan una hostilidad innecesaria al acusar al
cristianismo de mucha crueldad y violencia. Al hacer tales acusaciones,
no toman en cuenta lo que seguramente deben saber: (1) que Jesús mismo
prohibió la violencia en su nombre, y (2) que la peor violencia de la
historia se ve en los asesinatos en masa perpetrados por ateos. regímenes
en el siglo XX.5 Pensar en eso siempre me recuerda lo que me dijo un
intelectual ruso en la década de 1990: “Pensamos que podíamos deshacernos
de Dios y conservar un valor para los seres humanos, pero descubrimos
demasiado tarde que era imposible hacerlo.” Qué valor dejará la
vigilancia social AI o AGI para los seres humanos que caen en el sistema
y qué guerras podrían generarse en la lucha por el dominio tecnológico
son otras preguntas por responder.

En su profecía, Daniel nos muestra que el intento de eliminar a Dios

eventualmente conducirá, no a la libertad, sino a una intensa opresión.
Ateos como Friedrich Nietzsche lo vieron claro: la “muerte” de Dios no
conduciría a la libertad humana sino al nihilismo ya la pérdida de todo,
incluido el sentido. Estos temas deben volver a traerse al discurso
público a la luz de lo que la IA ya es capaz de hacer.

Ya he señalado el peligro de pensar que el reino de Dios en la tierra

eventualmente se realizaría mediante la enseñanza cristiana que
impregnaría la sociedad de tal manera que el mundo y sus estructuras
gubernamentales se volverían cristianos. El “mapa” bíblico dice todo lo
contrario: el reino de Dios en su sentido exterior llegará con el regreso
sobrenatural de Cristo para llevar la tiranía global de “la bestia” a su
merecido final.

Seguramente, alguien dirá, podemos prepararnos para este tipo de cosas,

¿no es así, sin todos los detalles extraños sobre cuernos y cabezas?
Bueno, en primer lugar, las imágenes vívidas están destinadas a
transmitir una impresión de realidades muy importantes: cuernos, un
símbolo de poder, por ejemplo, y cabezas, de gobierno e intelecto. En
segundo lugar, algunos de los escenarios de AGI son igual o incluso más
extraños.

Pero dejando eso de lado, hay una segunda razón para tales predicciones
en las Escrituras. El apóstol Juan describe cómo Jesús expulsó a los
cambistas del templo en el tiempo de la Pascua en Jerusalén:

Entonces los judíos le dijeron: ¿Qué señal nos muestras para hacer estas
cosas? Jesús les respondió: Destruid este templo, y en tres días lo
levantaré. Entonces los judíos dijeron: "Se ha tardado cuarenta y seis
años en construir este templo, ¿y tú lo levantarás en tres días?" Pero
estaba hablando del templo de su cuerpo. Por tanto, cuando resucitó de
entre los muertos, sus discípulos se acordaron de que había dicho esto, y
creyeron en la Escritura y en la palabra que Jesús había dicho.
Juan 2:18–22

En el momento en que Jesús hizo esta predicción, sus discípulos no podían

entenderla. Pero cuando el evento real ocurrió algún tiempo después, lo
recordaron y fortaleció su fe en él. Justo antes de la crucifixión, para
consolar a sus discípulos, Jesús les dijo que se iba y luego les explicó
por qué: “Y ahora os lo he dicho antes de que suceda, para que cuando
suceda, creáis” (Juan 14). :29).

Estos dos ejemplos del Evangelio de Juan se refieren a eventos

específicos. La importancia de las predicciones solo se realizó en el
momento de los eventos mismos, no antes. Por lo tanto, uno esperaría que
algunos de los detalles en Daniel, Tesalonicenses y Apocalipsis solo se
entiendan en el momento de su cumplimiento. Daniel declara expresamente
que parte de su profecía quedará sellada (es decir, no será entendida)
hasta el tiempo del fin (Daniel 12:4). Por lo tanto, no podemos esperar
entender todos los detalles, una consideración que debería ayudarnos a
mantener un equilibrio entre tomar en serio las profecías y sus detalles
y comprender su esquema general sin caer en especulaciones descabelladas.

BASES PARA LA ESPERANZA ÚLTIMA

A lo largo de los siglos, Daniel 7 ha sido una fuente de verdadera

esperanza para millones de personas que han sufrido persecución y
sufrimiento a causa de su fe en Dios. Por poderosas que sean las bestias,
cuando han hecho lo peor, solo pueden matar el cuerpo, pero el mismo
Jesús dijo que no pueden destruir a la persona que eres tú:

“Y no temáis a los que matan el cuerpo pero no pueden matar el alma.

Temed más bien a aquel que puede destruir el alma y el cuerpo en el
infierno. ¿Son dos gorriones vendidos por un penique? Y ninguno de ellos
caerá a tierra aparte de vuestro Padre. Pero hasta los cabellos de
vuestra cabeza están todos contados. No temas, por lo tanto; más vales tú
que muchos pajarillos. Así que a todo el que me reconozca delante de los
hombres, yo también lo reconoceré delante de mi Padre que está en los
cielos, pero al que me niegue delante de los hombres, yo también lo
negaré delante de mi Padre que está en los cielos”.

Mateo 10:28–33

El mensaje consistente de las Escrituras es que hay otro mundo del cual
el verdadero Homo Deus, Jesucristo, el Hijo del Hombre que es el Hijo de
Dios, vendrá un día. Como humano perfecto, tomará las riendas del
gobierno de las bestias de la tierra. Habrá un juicio, donde se hará
justicia justa y se verá que se hace. La última expresión feroz de
hostilidad hacia Dios y su pueblo será destruida, y aquellos que se han
aferrado a Dios a pesar de las abrumadoras adversidades, incluso del
martirio, recibirán el reino.

Al final de su poderosa visión, Daniel registra su honesta reacción: “En

gran manera me turbaron mis pensamientos, y mi color cambió, pero guardé
el asunto en mi corazón” (Daniel 7:28). Fue una visión inquietante que lo
afectó profundamente. Por fuerte y profunda que sea nuestra fe, por real
que sea nuestra experiencia de Dios, seguimos siendo seres humanos
acosados por la fragilidad, y simplemente no podemos pensar en los
problemas que plantea esta visión sin ser sacudidos, incluso si poseemos
la fe de un hombre como Daniel.

Daniel guardó la visión en su corazón y meditó las preguntas que

surgieron de ella para él. Nosotros también deberíamos hacerlo, porque
también nosotros tenemos nuestras preguntas. E inevitablemente seremos
desafiados: ¿Cómo podemos estar tan seguros del futuro? ¿Qué pasa cuando
aquellos de nosotros que somos cristianos somos una minoría que enfrenta
la vigilancia de la IA, el control social invasivo y posiblemente un
antagonismo brutal debido a nuestra fe en Dios? Escuchemos el consejo
dado por el apóstol cristiano Pablo a su joven amigo y colaborador
Timoteo: “Acuérdate de Jesucristo, resucitado de entre los muertos,
linaje de David, tal como es anunciado en mi evangelio, por el cual
sufro, atado con cadenas como un criminal. ¡Pero la palabra de Dios no
está atada!” (2 Timoteo 2:8–9).

“Acordaos de Jesucristo, resucitado de entre los muertos. . .” Esta es la

clave de la verdadera esperanza. La muerte no es el fin: es un hecho
histórico que Jesús resucitó de entre los muertos. Años antes, Pablo les
había dicho a los pensadores de Atenas que la resurrección de Jesús era
la evidencia suprema de que Jesús sería el Juez en ese día venidero:
“Dios pasó por alto los tiempos de la ignorancia, pero ahora manda a
todos en todas partes que se arrepientan, porque ha fijado un día en el
que juzgará al mundo con justicia por un hombre a quien ha designado; y
de esto ha dado seguridad a todos al resucitarlo de entre los muertos”
(Hechos 17:30–31).

El Día del Juicio ha sido fijado. La evidencia está ahí para que todos la
consideren.6 El Juez designado, el Señor Jesucristo, ha resucitado de
entre los muertos. Con esa certeza, la confianza de Pablo fue ilimitada
hasta el final mientras se preparaba para su batalla final con la
“bestia” de su época:

Porque ya estoy siendo derramado en libación, y la hora de mi partida ha

llegado. He peleado la buena batalla, he terminado la carrera, he
guardado la fe. Por lo demás, me está guardada la corona de justicia, la
cual me dará el Señor, juez justo, en aquel día, y no sólo a mí, sino
también a todos los que aman su venida.

2 Timoteo 4:6–8

CONCLUSIÓN

La enseñanza del Nuevo Testamento sobre el futuro nos enfrenta con

algunos problemas importantes. También lo hacen algunos de los escenarios
previstos para AGI. ¿Cómo debemos reaccionar ante ellos? Esta es una
pregunta importante. Ha habido personas a lo largo de la historia que han
sentido que la única forma de responder al mal incrustado en las
estructuras gubernamentales o comerciales de este mundo es retirarse a un
gueto o monasterio privado, o intentar un derrocamiento violento.

Aunque estaba profundamente angustiado por la visión, Daniel no reaccionó

con retraimiento o violencia. Continuó sirviendo al emperador de
Babilonia y sobrevivió para servir al más alto nivel en el siguiente
imperio medo-persa. El Nuevo Testamento nos presenta el mismo equilibrio.
Escribiendo en tiempos de Nerón, Pablo dice que, por un lado, las
autoridades son instituidas por Dios; son terror no para la buena
conducta sino para la mala, y debemos respetarlos (Romanos 13:1–7). Por
otro lado, como vimos arriba, Pablo no dudó en decir que el “misterio”
que llevaría al hombre del pecado ya estaba operando en la misma sociedad
romana (2 Tesalonicenses 2:7).

Pablo es completamente realista cuando se trata de la maldad endémica

tanto en las estructuras gubernamentales como en el corazón humano y la
cosecha a la que eventualmente conducirá. Sin embargo, no insta a los
creyentes a retirarse del mundo, sino que los alienta a vivir vidas
productivas en la sociedad como ciudadanos modelo y testigos cristianos.
El miedo a la AGI no debe impedir que los creyentes contribuyan a los
aspectos positivos de la IA estrecha en beneficio de todos.

Un ejemplo sobresaliente de esto es el trabajo de Rosalind Picard en el

MIT. Ella dice que los objetivos de la investigación en inteligencia
artificial han evolucionado sutil pero profundamente. El laboratorio de
Picard trabaja en la creación de herramientas que ayuden a las
computadoras a comprender las emociones humanas en lugar de tratar de
imitarlas. Ella dice: "Hemos decidido que se trata más de construir una
mejor combinación humano-máquina que de construir una máquina en la que
tengamos suerte si nos quiere como una mascota doméstica". campo llamado
"computación afectiva", y ha utilizado sensores sofisticados para obtener
información valiosa sobre, por ejemplo, los niveles de estrés de los
niños autistas.

Y los cristianos deberían involucrarse en abordar las cuestiones éticas

que surgen cada vez más por los desarrollos tecnológicos reales e
hipotéticos en estos campos. Uno de los principales pioneros de China en
el campo de la IA, el Dr. Kai-Fu Lee, resume la situación en una
entrevista con Carmine Gallo para Forbes el 4 de octubre de 2018:

El Dr. Lee se dio cuenta de que la IA no socavará nuestro valor siempre

que dupliquemos lo que nos hace verdaderamente humanos. “La IA puede
manejar un número creciente de tareas rutinarias no personales y no
creativas”, me dijo Lee. Pero Lee dice que las habilidades que nos hacen
excepcionalmente humanos son aquellas que ninguna máquina puede replicar.
Los trabajos del futuro, dice Lee, requerirán líderes creativos,
compasivos y empáticos que sepan cómo crear confianza, formar equipos,
inspirar el servicio y comunicarse de manera efectiva.8

Todas estas virtudes tienen que ver con la forma en que las personas
piensan unas de otras. En este libro, hemos estado pensando, pensando
mucho, sobre lo que la gente piensa sobre los posibles desarrollos
tecnológicos. Pero ¿qué pasa con el pensamiento mismo? ¿Es importante no
solo que pensemos sino también cómo pensemos? Ningún relato de una
evaluación cristiana de la IA estaría completo sin un (breve) análisis de
cuál es la diferencia entre el pensamiento detrás de los proyectos Homo
deus y la forma en que Dios piensa y desea que pensemos. El hombre cree
que puede convertirse en Dios. Pero infinitamente mayor que eso es el
hecho de que Dios pensó en hacerse humano.
Los seres humanos, versión 1, creados originalmente por Dios son
(todavía) únicos, y esa singularidad y valor se demuestra por el hecho de
que el evento central en la historia es que Dios se hizo humano. De
hecho, uno de los pasajes bíblicos más famosos que describe ese evento en
el contexto de la gran metanarrativa de la historia fue escrito por Pablo
en forma de un magnífico poema. Su contenido analiza la falla fundamental
en el tipo de pensamiento Homo deus defendido por Yuval Harari y otros.
Es una exhortación a modelar nuestro pensamiento en el de Cristo:

Tened entre vosotros este sentir que es vuestro en Cristo Jesús, el cual,
siendo en forma de Dios, no estimó el ser igual a Dios como cosa a qué
aferrarse, sino que se despojó a sí mismo, tomando forma de siervo,
naciendo a semejanza de los hombres. Y estando en la condición de hombre,
se humilló a sí mismo haciéndose obediente hasta la muerte, y muerte de
cruz. Por eso Dios lo exaltó hasta lo sumo y le otorgó el nombre que es
sobre todo nombre, para que en el nombre de Jesús se doble toda rodilla
en los cielos, en la tierra y en los abismos, y toda lengua confiese que
Jesucristo es el Señor, para gloria de Dios Padre.

Filipenses 2:5–11

Hemos visto que los proyectos de Homo deus meramente humanos que hemos
considerado se originan en el orgullo humano: el deseo no solo de ser
mejor que otros humanos sino de ser como Dios. Pablo condena esta actitud
señalando al verdadero Homo Deus, Jesucristo, cuya falta de orgullo se
demuestra en que, aunque siempre fue Dios y nunca dejó de ser Dios, “no
estimó el ser igual a Dios como algo a qué aferrarse” ( v. 6). Esta es
una clara alusión a Génesis 3, la fuente de todas las fantasías del Homo
deus. Aferrarse o arrebatar la divinidad es lo que hicieron los primeros
humanos al comer el fruto prohibido. Arrebatar la divinidad es
característico de los proyectos transhumanistas.

Pero el verdadero Homo Deus no arrebató. No insistió en ser tratado como

Dios, aunque Dios, la Palabra eterna, siempre lo fue. Más bien, “se
despojó a sí mismo, tomando forma de siervo, haciéndose semejante a los
hombres” (v. 7). No sólo eso, sino que se hizo “obediente hasta la
muerte, y muerte de cruz” (v. 8). Al hacerlo, hizo un camino de regreso a
Dios desde la oscuridad y la rebelión del pecado humano.

El intento de hacer un Homo deus superinteligente no conducirá de regreso

a Dios ni conducirá a Dios, sino más bien al mayor rechazo de Dios que el
mundo jamás haya visto. No hay camino hacia un futuro glorioso que pase
por alto el problema del pecado humano, y el único que ha ofrecido una
solución viable a ese problema es Jesucristo, quien lo enfrentó de frente
en la cruz.

Y por eso, “Dios lo exaltó hasta lo sumo” (v. 9). El camino a la

verdadera gloria y exaltación implicó que Dios se hiciera humano en
Jesucristo, quien vivió, murió, resucitó y ascendió al mundo del que
originalmente vino. Estamos invitados a beneficiarnos de esa asombrosa
secuencia de eventos, pero para hacerlo, primero debemos arrepentirnos
del orgullo pecaminoso que arruinó a la humanidad en primer lugar, y
luego debemos confiar nuestras vidas a Cristo como Salvador y seguir él
como Señor.

Es este y solo este mensaje el que puede traer una verdadera esperanza al
mundo, y los que lo creemos tenemos que estar preparados para enfrentar
una granizada de oposición. Daniel y sus amigos en su día, y Jesús y sus
apóstoles en el suyo, estaban preparados para protestar contra
autoridades que usurpaban el lugar que sólo Dios debía ocupar.
Necesitaremos toda la sabiduría de lo alto que Dios pueda darnos en esta
era de IA para cumplir con la directiva de Cristo de que debemos ser sal
y luz en nuestra sociedad.9 A menudo nos hemos referido al hecho de que
vivimos en una sociedad de vigilancia. Vivamos, pues, con la miríada de
cámaras y rastreadores sobre nuestra vida de tal manera que hasta los
monitores puedan ver que hemos estado con Jesús. Después de todo,
mientras que "lo 'artificial' en la inteligencia artificial es real",10
las mejoras divinas son reales y no artificiales:

• Fase 1: “Mas a todos los que le recibieron, a los que creen en su

nombre, les dio potestad de ser hechos hijos de Dios” (Juan 1:12).

• Fase 2: “Porque se tocará la trompeta, y los muertos serán resucitados

incorruptibles, y nosotros seremos transformados. . . es necesario que
este cuerpo mortal se vista de inmortalidad” (1 Corintios 15:52–53).

Estoy escribiendo estas palabras finales en Navidad, con las magníficas

palabras del "Coro Aleluya" de Handel resonando en mis oídos: "Y Él
reinará por los siglos de los siglos". La narrativa cristiana llegará un
día a su cumplimiento, como predijo el profeta Isaías hace siglos:

Porque nos ha nacido un niño,

a nosotros se nos da un hijo;

y el principado sobre su hombro,

y su nombre será llamado

Maravilloso Consejero, Dios Fuerte,

Padre Eterno, Príncipe de Paz.

Del aumento de su gobierno y de la paz

no habrá fin,

sobre el trono de David y sobre su reino,

establecerlo y defenderlo

con justicia y con rectitud

desde ahora y para siempre.

Isaías 9:6–7
Lo maravilloso es que podemos, si lo deseamos, formar parte de esta
historia sin fin y vivir en eterna comunión con el infinitamente
inteligente y compasivo Salvador, Jesucristo el Señor. Nada artificial
puede compararse con esa realidad.

NOTAS

1. Italiano para "sinvergüenzas" o "chusma".

2. La idea expresada aquí está tomada casi textualmente de C. S. Lewis,

The Abolition of Man (1943; repr., San Francisco: HarperSanFrancisco,
2001), 55.

3. C. S. Lewis, Esa horrible fuerza (Nueva York: Scribner, 1996), 175.

4. Lewis, Esa horrible fuerza, 176.

5. Para obtener más detalles, consulte mi libro Gunning for God (Oxford:
Lion, 2011).

6. La resurrección de Cristo no se ofrece como evidencia solo para los

creyentes, ni es “creada” por la fe de los creyentes. La resurrección,
con sus consecuencias, es el acontecimiento histórico que proporciona la
base de evidencia que justifica la fe. La fe, en el sentido cristiano,
está completamente basada en la evidencia. No es una creencia ciega, como
a menudo se sugiere erróneamente.

7. Citado en Adam Higginbotham, “Welcome to Rosalind Picard’s Touchy-

Feely World of Empatic Tech”, Wired, 27 de noviembre de 2012,
www.wired.co.uk/article/emotion-machines.

8. Carmine Gallo, “Un experto global en inteligencia artificial

identifica las habilidades que necesita para prosperar en los próximos 15
años”, Forbes, 4 de octubre de 2018,
www.forbes.com/sites/carminegallo/2018/10/04/a-global- ai-expert-
identifica-las-habilidades-que-necesita-para-prosperar-en-los-próximos-
15-años.

9. Parte de este capítulo es una versión modificada de parte del capítulo

16 de mi libro Against the Flow (Londres: Monarch, 2015).

10. Este fue el título de un artículo presentado por Joseph Mellichamp en

un simposio en la Universidad de Yale en 1986 sobre el tema: "¿Es la
mente humana más que una computadora compleja?"

ÍNDICE DE ESCRITURAS

GÉNESIS

118
1:24–27, 31

119-20

1:28

133

131, 140

2:7

122, 204

2:8–9

122, 124

2:10–12

126

2:10–14

122

2:15

123, 127

2:15–17

136

2:16–17

122

2:18–25

122

2:19–20

122, 130

203, 226

3:1–7
137

3:15

161, 209

4:21–22

122

122

122

9:1–13

118-19

12:3

163

2 SAMUEL

7:12–16

163–64

SALMOS

135:15–18

202

ISAÍAS

7:14

166

9:6–7

228–29

40:3–4

164–65

44:16–17
201–2

53:5–6

167–68

53:12

168

DANIEL

191

209

207, 209, 214n. 3, 215, 221

7:13–14

178

7:24

208

7:25

208, 209

7:28

222

11:21–32

191

12:4

220

MIQUEAS

5:2

165
ZACARÍAS

9:9

166

MATEO

2:4–6

165–66

8:14–17

168

10:28

125

10:28–33

221

21:1–11

166–67

24

185, 189

24:6

177

24:30–31

176–77

24:44

184

24:48

185

26:64

213n. 3

MARCOS
14:61–64

177

LUCAS

1:31–33

164

1:35

166

22:35–38

168

23:43

180

24:39

182

JUAN

1:1, 3

39

1:12

169, 228

1:14

158

1:23

165

2:18–22

220

5:22

181

5:24
181

12: 37–41

168

14:1–4

173

14:29

220

HECHOS

3:15

174

3:17–21

174

3:25–26

163

8:26–35

168

17:30–31

223

ROMANOS

10:11–21

168

13:1–7

224

1 CORINTIOS

15

181

15:20
181

15:49–53

183

15:50–57

181

15:52–53

228

15:58

184

2 CORINTIOS

5:8

180, 186

FILIPENSES

2:5–11

226

2:6

226

2:7

227

2:8

227

2:9

227

3:20

181

1 TESALONICENSES

1:9–10
184

4:13–18

185–86

2 TESALONICENSES

1:4

188

208

2:1–10

189

2:3

190

2:7

191, 208, 217, 224

3:10

128

2 TIMOTEO

1:10

179

2:8–9

222

4:6–8

223

HEBREO

2:14–15

179

9:27–28
180–81

1 PEDRO

2:19–25

168

REVELACIÓN

12–13

197

13

203, 205

13:1–8

198–99

13:2

208

13:5

208

13:11–18

199–200

13:12, 14

209–10

13:15

200

13:18

205

17:12

208

17:12–14

210
19:11–16, 19–20

206–7

22:20

185

ÍNDICE GENERAL

Abolición del hombre, The (Lewis), 90, 92, 109

publicidad, uso de inteligencia artificial en, 59–60

sentido estético, de los humanos, 122, 124–25, 140

computación afectiva, 224

Era del capitalismo de vigilancia, El (Zuboff), 68

Alexa, 55, 68

algoritmos, 19–20, 21–22, 24–25

Alighieri, Dante, 212-13

AlphaGo, 19, 101

alfa cero, 101

Divirtiéndonos hasta la muerte (Cartero), 12

motor analítico, el, 18

Antíoco Epífanes, 191

Arendt, Hannah, 143, 192

Inteligencia artificial general (AGI)

en contraste con la mejora de los seres humanos, 50, 51

y desvinculando la inteligencia de la conciencia, 119, 120, 121, 144,

171, 201

definición de, 13, 44–45, 46, 51, 119, 120

como déspota, 14, 47–48, 109

como un dios, 14, 109

como búsqueda de poder, 90, 105

escenarios de dominación mundial por, 105–11, 219

inteligencia artificial (IA) en astronomía, 23

y vehículos autónomos, 23, 59, 74–76, 84, 146–47

y armas autónomas, 23, 74–76, 77, 84

conciencia como barra para, 125, 126, 131

definición de, 16–17, 55

en China, 68–72

y puntuación de crédito, 73

y asistentes digitales, 55, 68

educación de los estudiantes en, 54

y tecnología de detección de emociones, 69–71

preocupaciones éticas con. Ver preocupaciones éticas

y tecnología de reconocimiento facial, 23, 69, 70–71

general. Ver inteligencia artificial general (AGI)

y la industria de seguros, 73

y pérdida de empleo, 64–66

uso de la aplicación de la ley de, 73

limitaciones de, 21, 24–25, 26–27, 50, 60, 61

uso médico de, 22–23, 55–58, 103–4, 132, 148

y moralidad, 145–49

estrecho, 24, 58

preocupaciones de privacidad con, 24, 66–74

y control social, 23, 24, 69–72

ejemplos específicos de, 22–23

Principios de IA de Asilomar, the, 76–78

astronomía, inteligencia artificial en, 23

ateísmo, 15, 27n. 3, 88, 98, 114, 115

Attali, Jacques, 212

autómatas, 17

vehículos autónomos, 23, 59, 74–76, 84, 146–47

armas autónomas, 23, 74–76, 77, 84

sistemas de piloto automático, 23

Babbage, Carlos, 18, 113

Barrett, Lisa Feldman, 71

Campana, David, 108

Mejores ángeles de nuestra naturaleza, The (Pinker), 84, 175

Panorama general, El (Carroll), 98

neurocirugía estereotáctica bilateral, 56–57

ingeniería biológica, 103

vigilancia general, 13

Blainey, Geoffrey, 211–12

Boddington, Paula, 143

Boden, Margarita, 101, 132–33

Bomba, la, 18

Bosch, David, 175

Bostrom, Nick, 44, 46, 98, 129, 143–44

cerebro, humano, como computadora, 98–102

interfaces cerebro-computadora (BCI), 104

Un mundo feliz (Huxley), 11–12, 73, 215

Respuestas breves a las grandes preguntas (Hawking), págs. 48–49

Breve historia del tiempo, A (Hawking), 37

Brigada, Lianna, 149

marrón, Dan

fusión de ficción y ciencia en el trabajo de, 14, 32, 33

y evolución humana futura, 15, 43–44, 45–46, 50

intención de utilizar la ciencia para refutar la religión, 15, 31, 36, 39

y origen de la vida, 29, 30, 31, 32, 33, 35, 37–38, 39, 43

y posibilidad de Dios como creador, 37–38, 39

Budziszewski, J., 110

Mayordomo, Samuel, 194n. 5

calculadora, invención de, 18, 28n. 9

Carroll, Sean, 98

Cary, Henry Francisco, 47

Chalmers, David, 125

China, uso de inteligencia artificial en, 68–72, 204

Experimento de la habitación china, 99–100

Chomsky, Noam, 48

Secretario Maxwell, James, 36

implantes cocleares, 104

tecnologías cognitivas, 24

Collins, Francisco, 39

Ley de recopilación de información sobre comunicaciones, (Alemania), 73

computadora

Azul profundo, 19, 21, 24, 101

desarrollo de, 18–19

cerebro humano como, 98–102

red neuronal, 18

conciencia, humano, 124, 125, 126–27, 131

Cope, David, 131

Copenhague (Frayn), 96–97

creación, relato bíblico de, 115–17, 118–22, 123, 124, 126, 127, 132

credit scoring, uso de inteligencia artificial en, 73

Crick, Francisco, 124–25

Crookes, Danny, 25, 26–27

criogenia, 47, 86

criónica. Ver criogenia

curioso, humanos como, 126

ciborgs, 47, 103, 112n. 18

Darwin, Carlos, 114

darwinismo, 37

El darwinismo como religión (Ruse), 37

Davies, Pablo, 34

Dawkins, Ricardo, 35, 141

muerte

desconexión como, 153, 154

como resultado de la Caída, 139, 140, 150, 159

y la resurrección de Cristo, 159, 168, 169, 170, 173, 179–81, 222, 227

como separación de Dios, 139, 140;

como problema técnico, 3, 85, 86, 88, 150, 159, 179, 187

Azul profundo, 19, 21, 24, 101

depresión, uso de inteligencia artificial en el tratamiento, 56, 58

Decidido a creer (Lennox), 152

motor de diferencia, el, 18

Mono digital, El (Shadbolt y Hampson), 96

asistentes digitales, 55, 68, 128

Dixon, Brendan, 100

ADN, complejidad de como evidencia del Dios creador, 37–38, 39

dualismo, 125

Eccles, Juan, 26
Edmonds, decano, 18

egoísmo, 203

Einstein, Alberto, 210-211

Elementos, El (Euclides), 20

tecnología de detección de emociones, 69–71

Fin de la Historia, El (Fukuyama), 145

Inglaterra, Jeremy, 31–32, 36

Código “Enigma”, el, 18

entropía, 30

epilepsia, uso de inteligencia artificial en el tratamiento, 58

Epstein, Roger, 100–101

Erewhon (Mayordomo), 194n. 5

preocupaciones éticas

y los Principios de AI de Asilomar, 76–78

con vehículos autónomos, 23, 59, 84, 146–47

con armas autónomas, 23, 74–76, 77, 84

con tecnología de reconocimiento facial, 23, 69, 70–71

e incumplimiento de los principios para el uso ético de la inteligencia

artificial, 78–79

con privacidad, 24, 66–74

con control social, 23, 24, 69–72, 105

con uso de inteligencia artificial en medicina, 57, 58, 104, 109

Algoritmo de Euclides, 19–20

Unión Europea, la, 211

Eutopía, 194n. 5

evolución, 43, 98, 102–5, 152, 162

Evolucionándonos (Enríquez y Gullans), 103

Facebook, 67, 73, 153, 169

tecnología de reconocimiento facial, 23, 69, 70–71, 204

Otoño, el, 139, 140, 143, 159, 176

hambruna, 84–85

Fedorov, Nikolái, 86–87

Voló, Antonio, 38

“espantapájaros volador”, 60

Francisco, Papa, 13

Frankenstein (Shelley), 18, 90, 106

Fraser, Giles, 89

Frayn, Michael, 96

libre albedrío, humano, 151–52

Fry, Hannah, 102

Fryer-Biggs, Zachary, 75

Fukuyama, Francisco, 145–46

futuro, el

perspectivas bíblicas sobre, 188–94

La enseñanza de Jesús sobre, 173–78

hipótesis Gaia, la, 95

Galileo, 36

Puertas, Bill, 49, 75

gematría, 205, 213n. 2

modificación genética, 45, 47, 104

Gnosticismo, 88, 89

Dios

y complejidad de la ciencia como prueba de Dios como creador, 32–33, 36,

37–38, 39–40

como creador del universo, 36, 116–17, 118, 121, 132, 138, 157, 186, 204
y muerte, 159, 179;

como eterno, 35, 116

fe en como motor de la investigación científica, 36, 40

y el proyecto Homo deus, 203;

como principal, 116, 125

y ciencia, 14–15, 114–15, 218

como superinteligencia, 157

God Delusion, El (Dawkins), 35

Gogin, Sergio, 91

Golem, el, 90, 201

Bien, I.J., 44

google, 153

Gracia, Katja, 65

Gran Diseño, El (Hawking), 37

Gris, Juan

y el ateísmo, 88

y Gnosticismo, 88, 89

y Homo deus, 188

y humanismo, 114–15.

y transhumanismo, 88, 90–91, 92, 140, 188

y violencia, 85, 92, 175–76

máximo común divisor (MCD), el, 20

Disparando por Dios (Lennox), 160

Habermas, Jürgen, 142

Haldane, Andy, 65–66

Hampson, Roger, 96

Harari, Yuval Noé

y Gran Hermano, 79

y evolución, 102–3

y el futuro, 14, 79, 85, 128, 194

y Homo deus, 188, 206

y humanismo, 150–55

e inmortalidad, 85, 86, 150, 159, 179

e inteligencia sin conciencia, 126, 144

cosmovisión naturalista de, 147, 162

y transhumanismo, 83–87, 102–3, 140

y la clase inútil, 128

y violencia, 84

Hawking, Stephen, 37, 48–49, 76, 150

Garza de Alejandría, 17

Hitler, Adolfo, 91

Homo deus

perspectivas bíblicas sobre los humanos como, 188–94

en el libro de Apocalipsis, 197–210

el egoísmo como combustible para, 203, 226

Jesucristo como verdadero, 158, 161, 221, 226, 227

Homo Deus: una breve historia del mañana (Harari), 14, 83, 151, 155

Horowitz, Michael, 74, 75

humanismo, liberal, 150–55, 156n. 22

humanos

sentido estético de, 122, 124–25, 140

relato bíblico de la creación de, 115–17, 118–22, 123, 124, 126, 127, 132

conciencia de, 124, 125, 126–27

como curioso, 126

libre albedrío de, 151–52

a imagen de Dios, 120, 121, 141, 146, 148, 152

importancia del trabajo para, 127–30, 140

facultad de idiomas de, 130–31

base material de la vida de, 122–23

sentido moral de, 136, 141, 147, 148

relaciones de, 131–33, 140

resurrección de, 86, 87, 181–83

autodeificación de, 140, 191–92, 193, 208–9, 216–17, 225, 226–27

mejora, 50, 51, 83–93, 103–4, 157

Huxley, Aldous, 11, 12

Huxley, Julián, 46

Huxley, TH, 37

ídolos, 201–2

inmortalidad, humano, 86–87, 150, 179, 216

industria, uso de inteligencia artificial en, 60

información, inmaterialidad de, 117–18

industria de seguros, uso de inteligencia artificial en, 73

Médicos Internacionales para la Prevención de la Guerra Nuclear, the, 75–

76

Internet de las Cosas, el, 22, 153

aumento de inteligencia (IA), 50

explosión de inteligencia, el, 44, 45

Ley Internacional de Comunicaciones Electrónicas (Francia), 73

Ley de facultades de investigación (Reino Unido), 73

Jesucristo

como cumplimiento de la profecía, 164–68

regreso de, 176–78, 180–81, 184–86, 194n. 6, 188–90, 206, 208, 213n. 3,
219

significado de la resurrección de, 159–61, 169, 170–71, 179, 222, 229n. 6

enseñanza sobre el futuro, 173–78

como verdadero Homo Deus, 158, 161, 221, 226, 227

y violencia, 218

pérdida de trabajo, amenaza con desarrollo de inteligencia artificial,

64–66

reclutamiento laboral, uso de inteligencia artificial en, 63–64

Julio César, 191

Kant, Emanuel, 213, 215

Kepler, Johannes, 36

Kaspárov, Garry, 19, 101

Kass, León, 89–90

Knuth, Donald, 19, 38, 113

Kurzweil, Ray, 44, 45, 116, 128, 150

facultad de lenguaje, humanos, 130–31

traductores de idiomas, uso de inteligencia artificial, en, 59

LeCun, Yann, 53 años

Lee, Kai Fu, 225

Leetaru, Kalev, 60–61

Lewis, C. S.

y concentración de poder, 216-17

y la fe como motor de la ciencia, 36

y el hombre como Dios, 216–17.

y metáfora, 197

y moral, 148

y sobrenaturalismo, 174–75
y transhumanismo, 88–89, 90, 92–93, 109, 113, 138

Vida 3.0 (Tegmark), 105

Lovelock, James, 95

aprendizaje automático, 19, 21, 23, 55, 61

Macron, Emmanuel, 96

base material, de la vida humana, 122-23

McCarthy, Juan, 16

medicina, inteligencia artificial en, 20, 22–23, 55–58, 83, 103–4, 132,
148

Mellichamp, Joseph McRae, 25–26

Miller, Stanley, 29, 30

Experimento de Miller-Urey, 30, 121

Mente y cosmos (Nagel), 115

Minsky, Marvin, 18

moralidad, inteligencia artificial y, 145–49

sentido moral, de los humanos, 136, 141, 147, 148

Moreland, J. P., 125

Almizcle, Elon, 48, 74, 76, 104

Nagel, Tomás, 115

estrecha inteligencia artificial, 24

naturalismo, 115, 119, 120, 138, 147, 171

Nabucodonosor, 191

Neuralink, 104

Nuevos ateos, 218.

“Hombre nuevo”, 91

“nuevalengua”, 13

Newton, Isaac, 36

Nietzsche, Federico, 219

1984 (Orwell), 11–12, 69, 72–73, 215

Noveno Tratado de Bridgewater (Babbage), 113–14

O'Connell, Mark, 87

“Punto Omega”, el, 87

Origen (Marrón), 14, 15, 29, 30–31, 32, 36, 37–38

Orígenes del totalitarismo, El (Arendt), 192

Orwell, Jorge, 11, 12, 13, 69, 72–73

Enfermedad de Parkinson, inteligencia artificial en el tratamiento de,

56–57

Pascual, Blaise, 18

Pearce, David, 88

Penrose, Roger, 100

Picard, Rosalinda, 57, 66, 96, 109, 113, 133, 145, 224

Pinker, Stephen, 84, 85–86, 175, 176

Plantinga, Alvin, 125

Sistema de nube policial (China), 70

Polkinghorne, John, 97, 114

Cartero, Neil, 12

preocupaciones de privacidad, con inteligencia artificial, 24, 56, 67–74

profecía, bíblico, 161–71

Purves, Libby, 68

Putin, Vladímir, 74, 95

Rachman, Gedeón, 211

Rees, Martín, 15, 47, 61, 66, 85

relaciones, humanos, 131–33, 140

Resurrección

de Cristo, 159–60, 169, 170–71, 179–81, 199, 222, 229n. 6

humano, 86, 87, 181–83, 228

Ridley, Matt, 73, 74

robots, 16, 20, 44, 47, 66, 74, 95, 99, 131–32

Ruse, Michael, 37

Sapiens: Una breve historia de la humanidad (Harari), 14, 102

Sarkozy, Nicolás, 212

Ciencias

y la cosmovisión atea, 114, 115;

y la cosmovisión cristiana, 114, 115;

complejidad de como prueba de Dios como creador, 32–33, 36, 37–38, 39–40

Dios y, 14–15, 114–15, 218

como religión, 36–37, 89

“mejoramiento científico”, 91

Searle, Juan, 99

Seldon, Antonio, 78–79

vehículos autónomos. Ver vehículos autónomos

Siete tipos de ateísmo (gris), 88

Shadbolt, Nigel, 96

Shelley, María Wollstonecraft, 18, 106

Cantante, Pedro, 85

La singularidad está cerca, El (Kurzweil), 44

Siri, 55, 68

teléfonos inteligentes, 57, 67, 87, 153

control social, 23, 24, 69–72, 107, 200, 204

alma, la, 125

superinteligencia, 157, 158, 227

Superinteligencia (Bostrom), 44
Superinteligencia y visiones del mundo (Bell), 108

sobrenaturalismo, 174–75

vigilancia, manta, 13

capitalismo de vigilancia, 67–68

comunismo de vigilancia, 68–74

Swinburne, Ricardo, 125

Tallin, Jann, 76

Tegmark, Max, 96, 105–8, 110, 118, 193, 197, 200, 204, 215

Teilhard de Chardien, Pierre, 87

Esa horrible fuerza (Lewis), 88–89, 92–93, 215, 216

control del pensamiento, 13

Ser una máquina (O'Connell), 87–88

totalitarismo, 192

Gira, James, 32–33, 36, 123

transhumanismo, 46–47, 87–93, 140, 143, 145–46

Tritsch, Danielle, 49

Trotsky, León, 91

Turing, Alan, 18, 99-100

Test de Turing, el, 18, 99

Übermensch, el, 91

Población uigur, China, 71–72

Naciones Unidas, el, 76, 210

Urey, Harold, 29

Utopía, 175, 176, 194n. 5

Valaee, Shahrokh, 56

violencia

ateos y, 218–19
y la Ilustración, 85, 175–76

Jesús y, 218

John Gray y, 85, 92, 175–76

y búsqueda de un sobrehumano, 91, 92, 191–92

Stephen Pinker y, 175, 176

pensamiento utópico y, 170, 176, 192

Wang, maya, 71, 72

Sala, Keith, 116, 130

Nosotros (Zamyatin), 73, 215

WhatsApp, 169

Cabeza blanca, Alfred North, 36

emulación de todo el cerebro, 47

trabajo, necesidad humana de, 127–30, 140

gobierno mundial, 205, 210–13, 215

Wright, NT, 160

Rayos X, uso de inteligencia artificial en, 22, 55–56, 148

Zamyatin, Yevgeny, 73

Zuboff, Shoshana, 68

Zubov, Andrey, 91

Zuckerberg, Marcos, 49, 67