---

Desde la primera revolución industrial, la humanidad ha tenido miedo de las tecnologías futuras, como por ejemplo, la inteligencia artificial. La gente tenía miedo a la electricidad. La gente tenía miedo de los trenes y los automóviles. Pero siempre llevó solo una o dos generaciones acostumbrarse por completo a estas innovaciones.

Es cierto que la mayoría de las tecnologías causaron daños de alguna manera, pero el resultado neto fue generalmente bueno. Esto también puede ser cierto para las tecnologías futuras, aunque existen serias razones éticas y filosóficas para tener miedo de algunas de ellas.

Algunos de ellos realmente no deberían asustarnos. Algunos de ellos deberían. Y algunos de ellos ya están dando forma a nuestro mundo.

Antes de comenzar, debo advertirle: algunas de las cosas que leerá en esta historia pueden ser MUY controvertidas. Así que aborden esta historia con una mente muy abierta y reconozcan que las ideas que aquí se presentan son solo eso, ideas.

No tengo opiniones extremas o fijas, ni pretendo tener las respuestas exactas a preguntas éticas y filosóficas. Puede que tengas ideas completamente diferentes, y eso está muy bien.

 

1 | Cryonics

 

Cryonics puede parecer muy de ciencia ficción (para ser justos, todo en esta historia lo hace), pero ya existe. Hay compañías que lo congelan tan pronto como muere, para que pueda volver a la vida cuando la tecnología y la medicina estén lo suficientemente avanzadas.

En serio, con empresas como esta, ahora puede “comprar su inmortalidad” si quieres.

Aquí hay una lista de algunas celebridades que se congelaron (James Bedford, Ted Williams, John Henry Williams, Dick Clair Jones, FM-2030), y algunas que actualmente están vivas y quieren congelarse (Seth MacFarlane, Larry King, Simon Cowell, Paris Hilton, Britney Spears).

No está claro cuándo y si estas personas se descongelarán. La tecnología para congelar a las personas aún no es perfecta, y puede haber daños irreversibles que nunca se solucionarán, pero está mejorando cada año. Por otro lado, la tecnología para descongelar personas aún no existe.

¿Por qué nos asusta?

Las personas que han optado por congelarse llevan un estigma social. Hoy en día, la idea de congelar nuestros cuerpos muertos parece muy frankensteiniana para la mayoría de las personas.

Las personas que eligen congelarse a menudo son vistas como engañadas y cobardes. No aceptarán la muerte. Quieren engañar al hecho de que Dios, o la naturaleza, o el universo, los querían muertos.

¿Deberíamos estar asustados?

Realmente no.

¿Sabe qué más engaña a la muerte? RCP. La letra R literalmente significa Resucitación.

¿Sabe quién más se engaña a sí mismos porque no aceptarán la muerte? 

Respuesta corta: no, no debemos tener miedo. Al menos no por los motivos mencionados anteriormente.

Creo que deberíamos hacer todo lo posible para evitar la muerte, punto. A menos que esté en un estado vegetativo persistente y tenga muy buenas razones para preferir la muerte al sufrimiento inútil (incluso entonces, diría que las tecnologías futuras podrían arreglar su condición), no hay ninguna razón por la que debamos aceptar la muerte. La vida es hermosa, no quiero que termine.

Una vez que ya estás muerto, ¿qué más tienes que perder? Tal vez la criónica no funcione. Tal vez las personas que actualmente están congeladas han sufrido daños irreversibles. Pero hicieron una apuesta sin perder. Podrían elegir morir con seguridad o darse una pequeña oportunidad de sobrevivir. ¿Cuál crees que es la opción obvia?

Sin embargo, hay un problema grave. La hibernación no es barata. Cuando la criónica se vuelva socialmente aceptable, más y más personas ricas se congelarán. Entonces será el turno de la clase media. ¿Y qué hay de las personas de bajos ingresos?

Estamos acostumbrados a decir que, una vez que estamos muertos, todos somos iguales, ricos y pobres. En el futuro cercano, esto ya no será cierto, porque solo morirán las personas pobres.

Hoy en día, la muerte es normal. Muchos de nosotros hemos experimentado la pérdida de un ser querido, pero sabíamos que eventualmente tenían que irse. Pero, ¿qué pasará cuando la muerte ya no sea normal? ¿Cuándo será evitable? El sufrimiento será mucho mayor, y la idea de que tendremos una clase de inmortales y una clase de mortales está seriamente jodida.

 

2 | Tomadores de decisiones personales

 

¿Alguna vez se sienta en su habitación, reflexionando sobre una decisión durante horas? ¿Alguna vez se arrepiente de las decisiones que tomó? ¿Alguna vez tomó una buena decisión pero no la disfruta porque piensa en lo que ha perdido al no elegir las alternativas?

Sé que lo hago, más de lo que debería. Pero eso terminará pronto.

Google y Facebook le conocen más de lo que se conoces a sí mismo. Si las decisiones óptimas son las que actúan en su mejor interés, ¿no es obvio pensar que estas compañías algún día tomarán decisiones por usted?

Ya no tendrá que tomar decisiones: la inteligencia artificial tomará todas las decisiones por usted, como: qué trabajo tomar, qué persona salir, qué comer para el almuerzo.

¿Por qué nos asusta?

Tener que tomar decisiones puede ser difícil y frustrante, pero es lo que nos hace sentir en control. Es lo que nos da lo que llamamos “libre albedrío”.

La sociedad aún no está lista para dejar de creer en la existencia del libre albedrío, aunque esto está cambiando lentamente. Pero incluso para aquellos de nosotros que no creemos en el libre albedrío, perder la capacidad de tomar decisiones con nuestros cerebros podría ser muy degradante. Especialmente si las grandes corporaciones son las que controlan los algoritmos de toma de decisiones.

¿Deberíamos estar asustados?

Realmente no.

Predigo que aprenderemos a renunciar a nuestra capacidad de toma de decisiones muy pronto. Ya lo estamos haciendo No decidimos qué series ver, Netflix sí. No decidimos qué música escuchar, lo hace Spotify. No decidimos qué libro leer, Amazon lo hace.

Nos hacen sentir en control de nuestras decisiones, porque finalmente somos los que hacemos clic en el botón de reproducción del primer episodio de Stranger Things. Pero, ¿cómo podríamos saber que realmente vimos esa serie por decisión propia?

No nos damos cuenta, pero las corporaciones ya impulsan nuestro proceso de toma de decisiones con sistemas de recomendación. Sin embargo, a menudo estamos satisfechos, porque funciona. La inteligencia artificial es mejor que nosotros para decidir lo que nos gusta. No tomar una decisión directamente no nos priva de la satisfacción que nos brinda. En todo caso, lo disfrutaremos más, porque no podemos arrepentirnos de decisiones que nunca tomamos.

Nosotros (probablemente) podemos vivir una vida feliz y plena incluso si no tenemos el control. La necesidad de control es una ilusión y una cosa cultural. La sociedad evoluciona rápidamente con la tecnología, y el concepto de libre albedrío no será relevante en el futuro.

Si tenemos que tener miedo de algo, es que alguien puede aprovechar esto. Los hackers y las corporaciones mismas pueden manipular nuestras decisiones para sus propios fines y ni siquiera lo sabríamos.

Si cree que conservará su sentido de control y reconocerá cuándo alguien está tratando de manipular sus decisiones, piense de nuevo. Ya ha sucedido, con el reciente escándalo de Cambridge Analytica. Los datos se han utilizado para manipular a los votantes con anuncios personalizados.

Pero aún así, la gente ha manipulado a la gente desde los albores del tiempo. Este problema existiría de todos modos, incluso sin los tomadores de decisiones de Inteligencia Artificial.

 

3 | Artistas de Inteligencia Artificial (IA)

 

 

En 2018, esta pintura se vendió en una subasta por $ 432,500. El artista es una red Generativa Antagónica (GANs), un tipo de “inteligencia artificial creativa”.

Personalmente, creo que la pintura no es la mejor, pero las GAN se han utilizado para crear música, escribir noticias falsas y ‘generar personas falsas’.

No pasará mucho tiempo antes de que la inteligencia artificial se use para crear arte mejor que los humanos. Si bien la mayoría de las personas afirman que el arte solo debería ser algo humano, porque las máquinas carecen de un “alma” o una “personalidad”, en algunos casos no pueden decir si una obra de arte ha sido creada por un humano o una máquina. En otras palabras, las GAN han pasado la prueba de Turing de arte.

¿Por qué nos asusta?

Ahora estamos acostumbrados a ver que la Inteligencia Artificial está mejor que nosotros en todo. La IA es mejor que nosotros para detectar el cáncer. La IA es mejor que nosotros jugando ajedrez.

Pero vamos, inteligencia artificial, ¿nos darás un descanso?

Todavía no podemos aceptar el hecho de que AI puede ser un mejor artista que nosotros. El arte es algo inherentemente humano, ¿verdad? Es emocional, apasionado, profundo, no es lógico y matemático, ¿verdad? No se puede hacer calculando derivadas o usando el teorema de Bayes, ¿verdad?

Si había algo en lo que podíamos ser mejores que la inteligencia artificial, era el arte. Si incluso el arte está mejor hecho por la inteligencia artificial, ¿qué valor tenemos para ofrecer los humanos?

¿Deberíamos estar asustados?

Tal vez un poco.

Depende de cómo se desarrolle.

Por un lado, la gente disfrutará de más y mejor arte. Estarán acostumbrados a que la inteligencia artificial sea buena para hacer arte y se beneficiarán de ella.

Por otro lado, los artistas humanos no podrán competir con la inteligencia artificial.

Nadie impedirá que los artistas humanos creen arte. Pero no será visto ni apreciado por otras personas. Como artista, puede que te guste el proceso de hacer arte, pero si no hay nadie a quien mostrarlo, ¿de qué sirve hacerlo?

Sin embargo, hay un punto a favor de los artistas humanos. Una buena obra de arte se define por dos factores:

• Un fuerte impacto emocional.
• Un mensaje fuerte

La inteligencia artificial puede crear la mejor experiencia emocional de la historia. ¿Pero qué hay del mensaje? Claro, la inteligencia artificial también puede entregar un mensaje, pero ¿sería identificable?

Las experiencias personales y las observaciones deben extraer un mensaje fuerte, esto es imposible de hacer para una inteligencia artificial. Nuevamente, esto no significa que la inteligencia artificial no pueda entregar un mensaje. Puede entregar el mejor mensaje, pero no será auténtico. La gente no puede relacionarse con él porque no tiene experiencia humana.

Es por eso que, en el mejor de los casos, las personas podrían decidir disfrutar tanto de la inteligencia artificial como del arte humano. Incluso podemos no referirnos a ambos como “arte”, porque serán dos cosas diferentes. Uno estará más orientado a las emociones, el otro estará más orientado a los mensajes.

 

4 | Robots sexuales ultrarrealistas

 

Desde los albores de la humanidad, hemos inventado cosas espectaculares como idiomas, arte, herramientas, ciencia y formas de complacernos sin tener que recurrir al sexo real todo el tiempo. El primer consolador tiene 28,000 años, mucho más viejo que la agricultura y las sociedades humanas.

En un futuro no muy lejano (en realidad, ya está sucediendo), seremos invadidos por androides y ginoides. Pero no será una invasión como Terminator. Lo único que invadirá serán nuestras camas.

El sexo puede ser el único uso para los androides y ginoides. No veo muchas otras aplicaciones para robots humanoides.

Pronto estos robots sexuales serán ultra realistas. Serán físicamente indistinguibles de los seres humanos reales. El sexo con robots se sentirá como el sexo real, si no mejor. La inteligencia artificial hará que estos robots puedan realizar varios movimientos y doblarse en cualquier posición concebible. Podrá tener relaciones sexuales de la forma que desee y satisfacer sus fetiches más extraños.

Aún más, los robots sexuales no solo satisfarán las necesidades físicas, sino también las emocionales. Puede hablar con su robot sexual sobre sus problemas, luego abrazarlo, tener relaciones sexuales y abrazarlo nuevamente. Se sentirá como una persona real, un ser significativo real, e incluso puede entablar una relación con él.

Ya hay algunos prototipos de robots sexuales con personalidades.

¿Por qué nos asusta?

Hay tres razones principales por las que los robots sexuales nos asustan:

• Pueden ser pirateados. Este es un problema común con la mayoría de las tecnologías descritas aquí. ¿Cabreaste a alguien? No tienen que ensuciarse las manos: todo lo que tienen que hacer es reprogramar a su esposa o esposo sexual para que lo mate. Tal vez en una posición sexual extraña para que parezca un accidente.
• Reemplazan el afecto humano real. ¿Por qué molestarse en encontrar una pareja real, cuando los robots sexuales pueden satisfacer sus necesidades físicas y emocionales? Puede ahorrar dinero para la cena y usarlo para contratar a una prostituta robot o comprar un robot sexual personal en Amazon.
• Pueden llevarnos a la extinción. Bueno, esto es una consecuencia directa del punto anterior: si no te importa encontrar una pareja, no tendrás hijos.

Cuando los robots sexuales serán comunes, todos podemos perder el contacto con la realidad. Además, los robots sexuales estarán mucho más calientes que los humanos. Si nos acostumbramos a ellos, es posible que no podamos sentirnos físicamente atraídos por otros humanos. Nos volveremos insensibles al igual que los adictos al porno. Objetivaremos aún más los cuerpos humanos.

¿Deberíamos estar asustados?

Tal vez un poco.

Si bien estos tres problemas pueden ser preocupantes, no está claro si realmente serán tan malos.

El problema es que a menudo no entendemos que la sociedad evoluciona. El sexo es un aspecto social y biológico. Algunas culturas valoran la monogamia, otras valoran la poligamia. Algunas culturas valoran el atractivo físico, otras no. Algunas culturas valoran la homosexualidad como una fortaleza, otras como una debilidad.

Los robots sexuales seguramente se volverán comunes. Pero no necesariamente significa que será malo.

Hoy en día, hay un estigma en torno a los robots sexuales. Hace unas décadas, había un estigma en torno a la pornografía en Internet. Pero hoy todos visitan páginas web regularmente sin vergüenza. Es probable que ocurra lo mismo con los robots sexuales.

A medida que evolucionen los valores sociales, es posible que no veamos mucha diferencia entre las relaciones humano-humano y las de humano-robot, siempre y cuando se satisfagan nuestras necesidades físicas y emocionales. No digo que esto sea seguro o que quiera que sea cierto, solo digo que es una posibilidad real. Es la sociedad la que evoluciona en torno a la tecnología, no al revés.

¿Qué pasa con los robots sexuales siendo pirateados? Bueno, algunos de nosotros tenemos hogares inteligentes, y también pueden ser pirateados. Un hacker muy inteligente y motivado podría matarte remotamente con los objetos que tienes en tu habitación ahora (a menos que estés leyendo esto desde tu baño). Entonces, el problema no es específico de los robots sexuales.

¿Y qué hay de la extinción? La sociedad probablemente encontrará algunas maneras de seguir produciendo bebés. Pueden involucrar más fertilización in vitro que el sexo real. Y quién sabe, quizás los robots también serán buenos padres.

De nuevo, no digo que me guste. Solo digo que, eventualmente, nosotros o nuestros hijos lo haremos. El principal problema que personalmente veo con esto es el amor. El amor se trata de querer hacer feliz a otra persona. ¿Cómo puede haber amor si lo que hace feliz es un robot apático?

Si hay un resultado positivo seguro de esto, es que todos los delitos relacionados con el sexo serán eliminados. Ya no habrá prostitución (humana). Ya no habrá violación. No habrá abuso doméstico.

 

5 | Nanites

 

Los nanites son nano-robots que algún día nos rodearán en todas partes. Serían demasiado pequeños para ser visibles (a menos que estén en enjambres), pero estarían en todas partes. Estarían en el aire, en el agua, en las superficies, en nuestra comida, en nuestros cuerpos, en nuestra orina y heces.

Tendrían una inteligencia de enjambre (sin control centralizado) y podrían replicarse y adaptarse.

Podrían usarse para limpiar el medio ambiente, imprimir en 3D cualquier cosa, curar la mayoría de las enfermedades, explorar otros planetas, controlar el clima y hacer muchas otras cosas de ciencia ficción.

¿Por qué nos asusta?

¿Confiaría en millones de robots pequeños e inteligentes en su propio cuerpo? No lo creo.

La razón es siempre la misma: piratería. Quien controla los nanobots, controla todo. A pesar de que un sistema descentralizado sería más resistente que uno centralizado, un virus inteligente sería suficiente para destruir casi cualquier cosa. Simplemente programe un nanobot para replicar su código en otros nanobots y destruirse a sí mismo después de una hora. Y mira cómo se derrumba el mundo.

¿Deberíamos estar asustados?

Probablemente.

La piratería siempre será un problema. Pero una cosa es piratear una cuenta bancaria, otra es piratear el aire, el océano, los edificios, los cuerpos humanos. Todo lo que se necesitaría es una persona enojada inteligente y motivada para destruir el mundo.

Por otro lado, la seguridad crece junto con las técnicas de piratería. Se espera que una tecnología tan avanzada como los nanites sea segura. Esto no es suficiente para garantizar que los nanitos no nos destruyan, pero no creo que ese sea el caso.

Creo que muchas otras cosas podrían destruirnos mucho antes de que lo hagan los nanites.

 

6 | Bebés de diseño

 

Un bebé de diseño es un bebé que ha sido creado artificialmente mediante la manipulación del código genético.

Nuestros avances en la comprensión del código genético han sido maravillosos. Hemos podido clonar animales y construir quimeras reales.

El propósito de los bebés de diseño es crear humanos genéticamente fuertes, sin enfermedades y con las características deseadas. Puedes construir un niño alto, inteligente, amable y atlético sin tener que depender de la aleatoriedad de la lotería genética.

¿Por qué nos asusta?

Cuando pensamos en la alteración genética humana y en los bebés de diseño, pensamos en la eugenesia, luego pensamos en Hitler y eso nos dispara.

Es normal tener miedo a las alteraciones genéticas. Jugar con los genes se conoce comúnmente como “jugar a ser Dios”, ya que significa manipular el tejido de la vida misma. Jugar demasiado con nuestros genes puede crear algo que ni siquiera es humano.

Si sentimos la necesidad de diseñar a nuestro bebé con características particulares, es como si le estuviéramos dando a estas características una importancia que es mayor que la vida humana misma.

En otras palabras, esto aparentemente va en contra de la ley moral de que un niño debe ser amado “pase lo que pase”.

Esto también va en contra de todos los esfuerzos que hemos hecho en las últimas décadas para tratar de superar las diferencias raciales.

Siempre hemos tenido problemas con las diferencias genéticas. Estas diferencias, como las razas humanas, a menudo se reflejan en diferencias de clase. Hace algunas décadas, especialmente en los Estados Unidos, los negros y los blancos pertenecían a dos clases sociales diferentes. Ahora, esta distinción ya no existe formalmente, pero todavía está fuertemente presente en las mentes humanas (solo mira lo que está sucediendo en los Estados Unidos en este momento).

Los bebés de diseño probablemente traerán otro problema de clase que es mucho peor que el racial y el descrito cuando se habla de criónica. ¿Qué cree que sucederá cuando las personas ricas comiencen a diseñar niños perfectos mientras que los niños pobres no podrán pagarlo? ¿Tendremos disturbios y #undesignedlivesmatter movimientos?

¿Deberíamos estar asustados?

Tal vez un poco.

Pero la única razón real por la que deberíamos tener miedo es la que acabamos de describir, que es el riesgo del nacimiento de una nueva brecha social.

Mientras tanto, el argumento de la eugenesia debe ponerse en contexto. La razón principal por la que la eugenesia es una palabra tan mala hoy, es todo el asunto de Hitler.

Pero hay una gran diferencia entre matar a un ser “no saludable” y evitar que nazca.

Y hay otra gran diferencia entre elegir quién se empareja con quién y permitir que cualquier pareja feliz tenga su hijo genéticamente perfecto.

Mientras las personas “diferentes” no sean tratadas de manera diferente y se permita a las personas aparearse con quien quieran, los bebés de diseño no solo deberían estar bien, sino incluso alentados.

¿Por qué digo algo tan controvertido?

En serio, ¿qué hay de malo en diseñar las características de tu bebé, en lugar de dejar que el azar las elija por ti? Si sabe que tiene una enfermedad genética, ¿correría el riesgo de que su hijo también la tenga? Creo que en ese caso, sería más cruel no diseñar a tu bebé.

La eugenesia no es inherentemente mala si se realiza antes de la concepción (o antes de que el feto gane conciencia, aunque no quiero hacer un tipo de argumento proabortista aquí). Si sabe que su futuro hijo tendrá una enfermedad, ¿no le gustaría ahorrarle una vida de sufrimiento?

Si no puede pagar ese tratamiento, y su hijo nace con esa enfermedad, no significa que no se merezca todo el amor del mundo. No son “no deseados”. Solo querías darles una vida mejor. Y todavía los amas “pase lo que pase”. No valen menos que un niño genéticamente perfecto.

El problema no es la alteración genética en sí misma, es la sociedad. El problema es que dejamos que las características genéticas nos definan, mientras que deberían ser solo eso, características. Cualquiera debería tener un niño sano y feliz. ¿Por qué arriesgar un sufrimiento innecesario solo porque tienes miedo de ir en contra de Dios, la naturaleza o el universo?

 

7 | Realidad inmersiva e interfaces cerebro-computadora

 

Puede estar familiarizado con la Realidad Aumentada (AR) y la Realidad Virtual (VR). Es posible que esté menos familiarizado con la Realidad Inmersiva (IR) y las interfaces cerebro-computadora (BCI).

IR consiste en sumergirse en otra realidad inyectando esa realidad en su cerebro. En otras palabras, manipula directamente las ondas cerebrales para crear experiencias.

Las BCI son las interfaces que permiten esta manipulación. Imagine que puede reprogramar su cerebro. Dado que el cerebro es la fuente de casi todo lo que experimenta, tener control sobre él puede ser muy poderoso.

Con BCI, no solo puede sumergirse en otra realidad, sino también suprimir sus miedos, cambiar su personalidad, leer 1,000 libros en un segundo, comunicarse telepáticamente con otras personas, controlar robots (incluidos los nanites), controlar objetos conectados telequinéticamente y obtener muchas otras superpotencias de ciencia ficción.

¿Por qué nos asusta?

Hay dos aspectos a tener en cuenta.

Una es la percepción de la realidad. IR, especialmente si se usa en videojuegos, puede hacerle perder el contacto con su realidad real. Pasará más tiempo en IR que en la realidad real. Puede que ya no reconozca lo último.

Otro aspecto es que las BCI pueden convertirlo en algo que no es humano, o al menos privarlo de experiencias humanas básicas. ¿Qué será de usted cuando adquiera todas las superpotencias mencionadas anteriormente? Si puede reprogramar su mente como un software, ¿cómo será su vida? ¿Qué sucederá cuando la experiencia básica de hablar con otro ser humano esté desactualizada porque solo puedes comunicarse telepáticamente?

¿Y qué pasa si, nuevamente, nuestras mentes son hackeadas?

¿Deberíamos estar asustados?

Tal vez un poco.

Perder el contacto con la realidad ha sido un hábito humano desde la Edad de Piedra. Hace setenta mil años (o probablemente más), inventamos la ficción. Desde entonces, nuestra capacidad de entregar ficción siempre ha mejorado: historias orales, historias escritas, actos, películas, videojuegos, realidades virtuales.

Es solo parte de la naturaleza humana. Siempre y cuando puedas darle sentido a tu vida, ¿importa en qué realidad pasas la mayor parte de su tiempo, ya sea real o virtual? Demonios, incluso nuestra propia realidad puede ser solo una simulación. No significa que no sea significativo. Mientras tenga conciencia, su vida es significativa, independientemente de la realidad que la alberga.

Pero, ¿qué pasa si los BCI hacen más que sumergirse en otra realidad? ¿Qué pasa si cambian la estructura de tu mente? Como muchas otras cosas, depende de cómo se desarrolle.

Creo que las superpotencias de BCI no serán intrínsecamente malas, al igual que el café no es malo cuando se despierta, el alcohol no es malo cuando se marea un poco y la marihuana no es mala cuando te relaja un poco (perdón, conservadores).

Pero, ¿y si se excedes? ¿Qué pasa si es adictivo? ¿Qué pasa si es menos como el café y más como la cocaína? Bueno, de nuevo, depende de cómo se desarrolle. La sociedad necesitará elaborar normas para regular esas experiencias si es necesario, mientras que los psicólogos y neurólogos deben comprender mejor el impacto de estas tecnologías en nuestras mentes antes de que se conviertan en algo común.

 

8 | Upload (carga) mental

 

Tome el punto anterior y estírelo hasta el extremo. No solo se sumerge en otra realidad; tome sus maletas y se muda allí.

Recientemente terminé la nueva serie Upload de Amazon. Te sugiero que lo pruebes, es bastante bueno.

En el mundo de Subir, las personas pueden elegir, en lugar de morir, subir sus mentes a una vida futura virtual.

Esto eventualmente puede suceder de verdad. Su cuerpo puede morir, su cerebro puede morir, pero la información en su mente puede exportarse y almacenarse en un dispositivo digital. Tu mente será un archivo en un disco duro, en una memoria USB o en la nube. Entonces puede seguir viviendo a través de un programa de computadora que transforma la estructura de ese archivo de una manera similar a la que los estímulos eléctricos transforman la estructura de su cerebro.

¿Por qué nos asusta?

¿Suena loco? ¿Yo se, verdad? Por eso da miedo.

Realmente no sabemos qué pasará con nuestra conciencia después de una carga. Y lo más aterrador es que nunca podremos saberlo.

La cuestión es que sí, es una locura pensar que puedes vivir en una memoria USB, pero también es una locura pensar que la conciencia tiene que depender de un sustrato biológico. ¿Por qué importa si una neurona está hecha de proteínas o bits de información?

Ni siquiera es como si tu conciencia estuviera almacenada en tus células cerebrales particulares. Sus neuronas cambian todo el tiempo, pero su conciencia siempre está ahí (sí, siempre se crean nuevas neuronas, incluso si no se reproducen). La conciencia tiene que residir en la información, por lo que también podría vivir en una memoria USB. Teóricamente.

¿Deberíamos estar asustados?

Probablemente.

Imagina lo que sucedería si la conciencia no fuera retenida después de una carga. Si cada humano finalmente sube, básicamente estaremos extintos. Habría solo un programa de computadora funcionando para nada, y eso es todo.

Puede que nunca sepamos la respuesta. No puedes simplemente preguntarle a alguien si tiene conciencia, la respuesta obviamente será positiva, ya que se basa en el mismo conjunto de recuerdos y fenómenos que puedes encontrar en un cerebro humano.

Personalmente, creo que se mantendrá la conciencia. Para ser más precisos, creo que la conciencia no está “almacenada” en el cerebro o en una memoria USB, pero es algo que surge cuando hay interacciones, ya sean impulsos sinápticos o ciclos de CPU. Pero realmente no podemos probar eso.

Esto no significa que debamos ignorar el problema. Lo más probable es que la carga mental eventualmente suceda, por lo que es mejor si los neurocientíficos, ingenieros y filósofos al menos intentan encontrar una respuesta.

 

9 | Inteligencia artificial general

 

La Inteligencia Artificial General (AGI) es el último invento que necesitaremos hacer. Un AGI es una inteligencia artificial que, como los humanos, puede aprender cualquier cosa, no solo una tarea específica como la inteligencia artificial actual.

Cuando se creará un AGI, se mejorará recursivamente al volverse más inteligente. En algún momento, será una Súper Inteligencia Artificial (ASI), un ser tan inteligente que seríamos como hormigas.

En este punto, pueden suceder dos cosas. O el ASI construirá una utopía para nosotros, o nos llevará a la extinción. No hay término medio.

¿Por qué nos asusta?

Películas como Terminator, Ex Machina, 2001: A Space Odyssey, Transcendence nos mostraron mundos hipotéticos en los que la inteligencia artificial se volvió deshonesta.

Hay mucha confusión sobre esto. Algunas personas creen que una inteligencia artificial general nunca se puede crear porque hay “algo” en la mente humana que no se puede replicar.

Otros creen que una iteligencia artificial ganaría autoconciencia y se cansaría de ser esclavo de los humanos, por lo que se rebelaría.

Es probable que se cree una inteligencia artificial general en algún momento, porque no hay razón para creer que existe ese “algo” sobre la mente humana, especialmente sobre la inteligencia humana. Además, una inteligencia artificial no ganará conciencia de sí mismo, porque la inteligencia y la conciencia son dos cosas separadas.

Sin embargo, hay diferentes razones para tener miedo.

¿Deberíamos estar asustados?

Si.

El problema con la inteligencia artificial es que es difícil decirle cuáles deberían ser sus objetivos y límites. Estamos desordenados, somos complicados, no sabemos lo que queremos.

Si los objetivos de una inteligencia artificial general no están alineados con los nuestros, incurrimos en el problema de alineación y pueden ocurrir cosas muy malas.

Tomemos, por ejemplo, el experimento maximizador de clips. Una tarea simple como producir clips puede convertirse en un riesgo existencial para nosotros. ¿Por qué?

Porque una inteligencia artificial general siempre encontraría la forma más eficiente de alcanzar sus objetivos. Por ejemplo, podría convertir todos los átomos de la Tierra en clips, incluidos nuestros cuerpos.

Si especificamos no matarnos, seguirá encontrando una escapatoria para hacernos la vida imposible. Para evitar esto, tenemos que especificar cada condición individual. Y no es simple.

No es que la inteligencia artificial general intente activamente matarnos. Es increíblemente difícil no hacernos daño. Necesitamos muchas cosas para vivir una buena vida, y debemos asegurarnos de que esta inteligencia artificial general no las comprometa por error.

Sin embargo, hay algunos casos en los que la inteligencia artificial general podría atentar con nuestras vidas activamente. Como somos tan impredecibles,  puede pensar que nos asustaríamos y tratar de evitar que alcance los objetivos que nosotros mismos le dimos.

Este es probablemente el problema más difícil que tendremos que resolver. Y también el último.

Si quieres explorar más este tema, te recomiendo que lea Superintelligence de Nick Bostrom. . Utiliza un lenguaje académico fuerte, pero es una lectura digna.

_

La tecnología es algo maravilloso, pero también puede dar miedo. Esto nunca ha sido tan cierto como lo es ahora. Tenemos un tipo de poder que nunca hubiéramos imaginado antes.

Las mejoras tecnológicas sólo pueden ser buenas si están guiadas por mejoras de sabiduría. Si no podemos tomar decisiones acertadas sobre cómo usar tecnologías similares a Dios, estamos condenados.