Sobreviviendo a la IA

Por Calum Chace

Este es el siglo de las dos singularidades: la singularidad económica (desempleo tecnológico) y la singularidad tecnológica (la explosión de la inteligencia). Ambas presentan enormes oportunidades y enormes desafíos. Si las manejamos con éxito, nuestro futuro como especie será más que maravilloso. Si fallamos, podría ser miserable, y quizás breve. El impulsor es la inteligencia artificial (IA), la tecnología más poderosa de la humanidad. El software que resuelve problemas y convierte los datos en valiosa información ya ha revolucionado nuestras vidas, y la revolución se está acelerando. En 2015, la inteligencia artificial ocupaba las primeras planas, y con justa razón. Se está acercando a un punto de inflexión en el que las máquinas pueden realizar mejor que nosotros muchas tareas que antes se consideraban exclusivamente humanas. Los sistemas de aprendizaje profundo están a punto de reconocer imágenes y comprender el lenguaje natural mejor que los humanos. El argumento de este libro es que debemos monitorear los cambios que están ocurriendo y adoptar políticas que fomenten los mejores resultados posibles. La gama de posibles resultados es amplia, desde los terribles hasta los maravillosos, y no están predeterminados. Serán seleccionados en parte por suerte, en parte por su propia lógica interna, pero en parte también por las políticas adoptadas en todos los niveles de la sociedad. La automatización y la superinteligencia son los dos desarrollos que ya podemos prever causarán grandes impactos. La automatización podría conducir a una singularidad económica y la evolución a un tipo de economía completamente diferente. Si nos equivocamos, una élite podría poseer los medios de producción y reprimir al resto de nosotros en un autoritario régimen tecnológico distópico. Si lo hacemos bien, podríamos disfrutar de una economía de abundancia radical, donde nadie tiene que trabajar para ganarse la vida, y todos somos libres para divertirnos, expandir nuestras mentes y desarrollar nuestras facultades al máximo. La llegada de la superinteligencia, si ocurre y cuando lo haga, representará una singularidad tecnológica, que será el evento más significativo en la historia de la humanidad, sin excepción. Descubrir cómo sobrevivir es el desafío más importante que enfrenta la humanidad en esta y la próxima generación. Si evitamos los peligros, la vida mejorará en formas que están literalmente más allá de nuestra imaginación. Una superinteligencia que mejorara recursivamente su propia arquitectura y expandiera sus capacidades podría resolver de manera muy plausible casi cualquier problema humano que se pueda imaginar. La muerte podría volverse opcional y podríamos disfrutar de vidas de dicha y emoción constantes. Si nos equivocamos, podría significar la extinción. Debido a la enormidad de ese riesgo, la mayor parte de este libro aborda la superinteligencia: la probabilidad de que llegue y de que sea beneficiosa.

• Idioma: Español
• Editorial: Calum Chace
• Fecha de lanzamiento: 20 ago 2021
• ISBN: 9781667410487

Vista previa del libro

Sobreviviendo a la IA

Calum Chace

––––––––

Traducido por Tomas Ibarra Cervantes 

Sobreviviendo a la IA

Escrito por Calum Chace

Copyright © 2021 Calum Chace

Todos los derechos reservados

Distribuido por Babelcube, Inc.

www.babelcube.com

Traducido por Tomas Ibarra Cervantes

Diseño de portada © 2021 Rachel Lawston / Tomas Ibarra

Babelcube Books y Babelcube son marcas registradas de Babelcube Inc.

Sobreviviendo a la IA

La promesa y el peligro de la Inteligencia Artificial

––––––––

Por Calum Chace

Tercera Edición

Contenido

Prefacio a la tercera edición

Comentarios de Sobreviviendo a la IA

Sobre el Autor

Introducción

Primera parte La IA en la actualidad

1  ¿Qué es la Inteligencia Artificial?

2  Breve historia de la IA

3  El Big Bang: aprendizaje automático

4  La IA está en todas partes

5  Los gigantes tecnológicos y más allá

6  ¿Qué tan buena es la IA de nuestros días?

7  Ética de la IA

Segunda parte El futuro de la IA

8  Un día cualquiera...

9  Conversión de información en conocimiento - a diferentes velocidades

10  El corto plazo: Amigos y Autos

11  Tecnologías relacionadas

12  Disrupción

13  Curvas exponenciales

14  No es la cuarta revolución industrial

15  Singularidad

Tercera parte IAG y superinteligencia

16  ¿Podemos crear una inteligencia artificial general?

17  Cómo crear una IAG

18  ¿Cuándo llegará la primera IAG?

19  De la IAG a la superinteligencia

20  ¿Nos gustará?

21  Garantizar que la superinteligencia sea amigable

22  Resumen, conclusiones, recomendaciones

Agradecimientos

Notas finales

Prefacio a la tercera edición

––––––––

Esta edición estaba casi completa cuando el mundo fue transformado por la COVID-19. Es demasiado pronto para conocer los impactos duraderos de esta espantosa enfermedad y las extraordinarias medidas que se han tomado para combatirla. Sin duda, el virus y sus secuelas contradecirán algunos de los comentarios de este libro, y con el beneficio de la retrospectiva, algunos de ellos podrían parecer una soberana tontería. Ser sobrepasado por los acontecimientos es un riesgo inevitable al escribir sobre el futuro, aunque rara vez sucede tan rápido o tan dramáticamente como en este caso.

Todavía no sabemos si la recuperación económica del virus y las medidas que se tomarán para contrarrestarlo tendrán forma de V, U o L. Eso estará determinado por el tiempo que las economías del mundo tengan que permanecer bloqueadas total o parcialmente, y por la sabiduría y habilidad de sus líderes.

Si la recuperación tiene forma de V, las repercusiones duraderas pueden ser sutiles en lugar de pronunciadas. Si la recuperación tiene forma de U y la depresión económica es prolongada, es probable que el mundo salga muy transformado, y las sugerencias y especulaciones de este libro podrían necesitar una revisión más radical. Tendrán que esperar hasta la cuarta edición.

Pase lo que pase, habrá cicatrices. Ya han muerto muchas personas y muchas más lo harán. Cada muerte es una tragedia y deja a su paso a familiares y amigos en duelo. Las empresas cerrarán y se perderán puestos de trabajo. Mucha riqueza se desvanecerá y las personas que antes disfrutaban de cómodos ingresos se encontrarán en problemas financieros.

Los cambios a corto plazo son imposibles de predecir. ¿Dejará la gente de darse la mano en las reuniones? ¿Retrocederá la ola populista a medida que la gente exija un gobierno más honesto y competente, o prosperará, a medida que el miedo les impulse hacia el nacionalismo o hacia otras soluciones simplistas? ¿Se intensificará la reacción contra las grandes empresas tecnológicas o nuestra mayor dependencia de Internet nos volverá más amables con ellas? ¿Continuará la búsqueda de un propósito corporativo más amplio que el valor para los accionistas, o llegará a ser visto como una indulgencia inasequible por parte de los CEO como en los días de auge del 2019?

A largo plazo, podemos estar seguros de algunas cosas. Personas de todo el mundo se han visto obligadas no solo a experimentar con el trabajo a distancia y las reuniones remotas, sino también a mejorar en ello. Sorprendentemente, muchas de ellas lo han encontrado muy conveniente, sobre todo por todo el tiempo que ahorra. Seguramente retornarán las reuniones grupales, familiares y de amigos, las conferencias y otros eventos, pero habrá un aumento de conversaciones individuales mediante videoconferencia. La automatización de las entregas y de los almacenes se acelerará, aunque la tecnología sigue siendo la mayor barrera para su adopción. Habrá una proliferación de nuevas empresas digitales, incubadas por personas que encuentran soluciones en línea a problemas que nunca supieron que tenían. Y la mayor competencia demostrada por los gobiernos de Asia (que algunos de sus homólogos de Occidente), bien puede acelerar la transición en el equilibrio de poder global.

Hay un par de cosas que deberían suceder como consecuencia del brote de COVID-19. Primero: debemos prepararnos mejor para el próximo. Este no debería habernos sorprendido. Bill Gates nos lo advirtió con cinco años de anticipación. Hollywood hizo una película bastante buena al respecto (Contagio), así como muchas malas. No fue un cisne negro.

Segundo: debemos comprender mejor el asombroso poder del crecimiento exponencial. Tuvimos una prueba de su poder en las crecientes tasas de mortalidad durante la fase inicial del contagio. El crecimiento exponencial está impulsando otros cambios en nuestras vidas, y si lo entendemos bien, los manejaremos mucho mejor.

Comentarios de Sobreviviendo a la IA

––––––––

Una revisión sobria y fácil de leer de los riesgos y oportunidades que enfrentará la humanidad a partir de la IA.

Jaan Tallinn, cofundador de Skype; cofundador de CSER y FLI

Comprender la IA, su potencial y sus peligros, se perfila como uno de los grandes desafíos de las próximas décadas y esta es una guía invaluable para cualquiera que esté interesado, confundido, entusiasmado o asustado.

David Shukman, editor científico de la BBC

A medida que la inteligencia artificial impulsa el ritmo de la automatización cada vez más rápido, es oportuno que consideremos en detalle cómo podría provocar un cambio aún más profundo en nuestras vidas: cómo una verdadera inteligencia artificial general podría superar ampliamente nuestras capacidades en todas las actividades. Las oportunidades y los desafíos de este escenario son intimidantes para que la humanidad los contemple, y ni se diga para que los maneje en nuestro beneficio. Últimamente hemos visto un incremento en el volumen de análisis académicos de este tema; Chace lo aumenta de manera impresionante con este análisis de alta calidad para una audiencia más general.

Aubrey de Grey - CSO de la Fundación de Investigación SENS; ex investigador de la IA

Calum Chace proporciona un resumen claro, simple y estimulante de las posiciones e ideas clave con respecto al futuro de la Inteligencia Artificial General y sus riesgos potenciales. Para el principiante que busca una introducción imparcial y no técnica a las diversas perspectivas que se están discutiendo con respecto a estos temas tan controvertidos, el libro de Chace proporciona un excelente punto de partida en la literatura. Es raro ver un libro sobre el posible fin del mundo que sea divertido de leer sin caer en el sensacionalismo o la simplificación excesiva.

Ben Goertzel, presidente de Novemente LLC

Calum Chace es un mensajero clarividente de los riesgos y recompensas de la inteligencia artificial. En Sobreviviendo a la IA, ha identificado los problemas esenciales y los ha desarrollado con perspicacia e ingenio, de modo que el encuadre mismo de las preguntas ayude a nuestra búsqueda de respuestas. El sensato equilibrio de Chace entre el potencia beneficio de la IA así como de sus peligros hace que Sobreviviendo a la IA sea un excelente manual para cualquier persona interesada en lo que está sucediendo, cómo llegamos aquí y hacia dónde nos dirigimos.

Kenneth Cukier, coautor de Big Data: A Revolution that Transforms How We Work, Live and Think

Si no estás pensando en la IA, no estás pensando. Todas las empresas deben evaluar el potencial disruptivo de las actuales capacidades de la IA; todo responsable de la formulación de políticas debería planear la combinación de alta productividad y disrupción radical del empleo; y todas las personas deben ser conscientes de que nos adentramos en un camino nebuloso hacia tecnologías poderosas y omnipresentes. Sobreviviendo a la IA combina una base esencial en el estado del arte con un estudio de escenarios que serán discutidos con igual vigor en cócteles y coloquios académicos.

Chris Meyer, autor de Blur, It's Alive y Standing on the Sun.

La aparición del libro de Calum Chace es de considerable satisfacción personal para mí, porque significa que el nivel de conciencia social del surgimiento de las máquinas súper inteligentes (que yo llamo intelectos artificiales) finalmente ha alcanzado la tercera fase, que llamo generalización. (Fase cero = inconciencia, fase uno = intelectuales predicando en el desierto, fase dos = grupos de acción, fase tres = generalización, fase cuatro = política).

Como integrante del puñado de personas de los 80 en la fase uno, he estado muy solo. Que el libro de Chace explique lo que llamo el debate sobre el dominio de las especies a una audiencia masiva, devela que la humanidad se encuentra ahora en la fase tres. La claridad realista del estilo de Chace ayudará a llevar a la humanidad a lo que podría ser una fase cuatro muy violenta, como una película Trascendence, de la vida real.

Si quiere sobrevivir a esta cuarta fase en las próximas décadas y prepararse para ella, no puede darse el lujo de NO leer el libro de Chace.

Prof. Dr. Hugo de Garis - autor de The Artilect War, ex director del Artificial Brain Lab, Universidad de Xiamen, China

Se prevé que los avances en IA afecten el progreso en todas las demás áreas en las próximas décadas. Si esta dinámica conduce al desarrollo de una IA fuerte antes de que termine el siglo, entonces, en palabras de un líder del sector, sería el mayor evento en la historia de la humanidad. Por lo tanto, ahora es el momento perfecto para la discusión reflexiva de los desafíos y oportunidades que presenta Chace.

Sobreviviendo a la IA es una introducción excepcional, bien investigada y equilibrada a un tema complejo y controvertido, vamos, una lectura obligada.

Seán Ó hÉigeartaigh, Director Ejecutivo, Centro para el Estudio del Riesgo Existencial, Cambridge

Sobreviviendo a la IA está bien escrito, presenta prácticamente todos los hechos e información básicos sin especulaciones excesivas.

Randal Koene - fundador de carboncopies.org

Sobreviviendo a la IA es una introducción extremadamente clara, imparcial y actualizada al debate sobre la inteligencia artificial y lo que significará para el futuro de la humanidad.

Dan Goldman, profesor, Grupo de redes y sistemas inteligentes, Imperial College

Una buena descripción general de muchos de los problemas que rodean a la potencialmente súper poderosa IA.

Dr. Stuart Armstrong, Future of Humanity Institute

En Sobreviviendo a la IA, Calum Chace proporciona una guía maravillosamente accesible a la controversial espiral que rodea la discusión de lo que probablemente será el evento más importante en la historia de la humanidad: el surgimiento de la superinteligencia artificial. En todo momento, Sobreviviendo a la IA es claro y conciso, lo que permite a quienes se acercan al tema por primera vez comprender por qué muchos de los pensadores más destacados de la actualidad se han sentido obligados a hablar públicamente al respecto.

David Wood - Presidente, London Futurists

La inteligencia artificial es la tecnología más importante de nuestra era. El desempleo tecnológico podría obligarnos a adoptar una estructura económica completamente nueva, y la creación de una superinteligencia sería el mayor evento en la historia de la humanidad. Sobreviviendo a la IA es una magistral introducción a todo esto.

Brad Feld, cofundador de Techstars

Hoy en día, hay un gran debate sobre los beneficios y los peligros de la superinteligencia de las máquinas. Pero entre los escritos complejos y, a veces, esotéricos de los teóricos y académicos de la IA como Nick Bostrom, y los populares pronósticos de Elon Musk, Bill Gates y Stephen Hawking, existe una especie de laguna. Sobreviviendo a la IA de Calum Chace llena ese vacío a la perfección. Proporciona una guía compacta pero rigurosa de los principales argumentos y problemas en el área. Un excelente recurso para aquellos que son nuevos en este tema.

John Danaher, Instituto de Ética y Tecnologías Emergentes (IEET)

Calum Chace acierta con una nota de claridad y equilibrio en el importante y, a menudo, divisivo diálogo en torno a los beneficios y peligros potenciales de la inteligencia artificial. Es un debate que debemos tener y Calum es una guía accesible y útil.

Ben Medlock - cofundador de Swiftkey

Comentarios de Artificial Intelligence and the Two Singularities

––––––––

Investigado a fondo y persuasivo. El principal argumento de Chace parece ser correcto: debemos prepararnos ahora para la singularidad económica o enfrentar una seria alteración de nuestra civilización".

Stuart Russell, Universidad de California, Berkeley

Una guía brillantemente lúcida sobre el estado actual de la IA. No se trata de una alarma distópica, sino de una llamada de atención para empezar a pensar en cómo afrontar la situación: una guía entretenida y reflexiva.

Mark Mardell, presentador, BBC Radio Four

Provocador y oportuno: una discusión muy legible y bien informada sobre los posibles cambios económicos en los que deberíamos pensar detenidamente.

Margaret Boden, Universidad de Sussex

Calum Chace, un pensador y narrador extraordinario, presenta un relato completo pero fácil de digerir de las cuestiones más apremiantes que rodean a la IA.

Irakli Beridze, Centro de Inteligencia Artificial y Robótica, Naciones Unidas (UNICRI)

Este libro proporciona un recurso valioso que describe la historia de la IA y sus capacidades actuales. Chace explora a fondo el asombroso potencial de la IA, pero sabiamente solicita una planificación proactiva que garantice un desenlace positivo.

Ray Eitel-Porter, Accenture

Este es el libro que desearía haber escrito. Proporciona una excelente introducción a la IA y nos desafía a todos a participar de manera proactiva en la conversación que debemos tener sobre nuestro futuro.

Shamus Rae, director de disrupción digital, KPMG

Esta es una guía completa para cualquiera que desee comprender la IA y su impacto en nuestro futuro. Como siempre, Calum sintetiza complejos conceptos técnicos y filosóficos y los vuelve maravillosamente accesibles.

Daniel Hulme, CEO de Satalia

Recomiendo encarecidamente que lea "AI and the Two Singularities". El estilo es muy claro y entretenido, y el conocimiento de Calum en esa área es verdaderamente notable.

Simon Thorpe, director, Toulouse Mind & Brain Institute

Sobre el Autor

––––––––

Calum Chace es un celebérrimo autor de libros de ficción y no ficción, enfocados en el tema de la inteligencia artificial. Es ponente habitual sobre inteligencia artificial y las tecnologías relacionadas, y tiene un blog sobre el tema en www.pandoras-brain.com.

Antes de convertirse en escritor a tiempo completo, Calum ejerció una carrera de 30 años en periodismo y negocios, en la que fue mercadólogo, asesor de estrategia y CEO.

Hace mucho tiempo, Calum estudió filosofía en la Universidad de Oxford, donde descubrió que la ciencia ficción que había estado leyendo desde niño es en realidad filosofía disfrazada.

––––––––

También por Calum Chace

Stories From 2045 (editor y colaborador)

Artificial Intelligence and the Two Singularities

Our Jobless Future

La Singularidad Económica

Pandora’s Brain

The Internet Startup Bible (coautor)

The Internet Consumer Bible (coautor)

Para Julia y Alex

SOBREVIVIENDO A LA IA, 3a edición

Un libro de Three Cs

ISBN 978-0-9932116-3-8

Primera edición publicada en 2015 por Three Cs

Segunda edición publicada en 2018 por Three Cs

Tercera edición publicada en 2020 por Three Cs

Copyright © Calum Chace 2015, 2018, 2020

Diseño de portada e interior © Rachel Lawston

Lawston Design, www.lawstondesign.com

Fotografía © iStockphoto.com y Shutterstock.com

Reservados todos los derechos

El derecho de Calum Chace a ser considerado el autor de este trabajo ha sido afirmado por él de conformidad con la Ley de Derechos de Autor, Diseño y Patentes de 1988.

Introducción

––––––––

La inteligencia artificial (IA) es la tecnología más poderosa de la humanidad. Y sigue incrementando su poder a un ritmo exponencial.

Para la mayoría de nosotros, la manifestación más obvia de la IA en la actualidad es el teléfono inteligente. Ahora, lo damos por sentado, pero muchos de nosotros estamos pegados a ellos como uña y carne pues ponen todo el conocimiento del mundo a nuestro alcance. No son solo un lujo para las personas en los países desarrollados: brindan sistemas de pago inteligentes, educación e información de mercado que permiten a las personas en los mercados emergentes competir y participar en el mundo moderno.

Su evolución ofrece una analogía intrigante para el desarrollo de la IA en el futuro. Hace treinta años, nadie sugería que tendríamos IA poderosas en nuestros bolsillos en forma de teléfonos, pero ahora que ha sucedido parece algo obvio. También es completamente lógico. Somos animales muy sociales. Debido a que tenemos un lenguaje, podemos comunicar ideas, sugerencias e instrucciones complicadas; podemos trabajar en grandes equipos y organizarnos, producir excedentes económicos, desarrollar tecnologías. Es gracias a nuestra incomparable habilidad para comunicarnos que controlamos el destino de este planeta y de todas las especies que lo habitan. No fue ni pudo haber sido predicho de antemano, pero en retrospectiva, ¿qué podría ser más lógico que nuestra tecnología más poderosa, la IA, se volviera disponible para la mayoría de nosotros en forma de dispositivo de comunicación?

Hace treinta años, no sabíamos cómo se desarrollaría el mercado de la telefonía móvil. Hoy en día, no sabemos cómo evolucionará la disrupción digital que transformará a tantas industrias en los próximos treinta años. No sabemos con certeza si el desempleo tecnológico será el resultado de la automatización del trabajo por parte de la IA, o si la automatización facilitará la creación de nuevos puestos de trabajo como lo ha hecho desde mucho antes del inicio de la revolución industrial. ¿Cuál será el equivalente al fenómeno de los teléfonos inteligentes para la disrupción digital y la automatización? Lo más probable es que sea algo diferente de lo que la mayoría de la gente hoy espera, pero visto en retrospectiva, parecerá completamente natural y predecible.

Hacer pronósticos es arriesgado, en especial si es sobre el futuro, pero este libro describirá una serie de desafíos formidables que nos presentará la IA, junto con sus enormes beneficios. Argumentará que debemos vigilar con sumo cuidado los cambios que están ocurriendo y que debemos desarrollar una gama de opciones de políticas que nos aseguren los mejores resultados posibles. La gama de posibles resultados es amplia, desde los terribles hasta los maravillosos, y no están predeterminados. Serán seleccionados en parte al azar, en parte por su propia lógica interna, pero en parte también por las políticas adoptadas en todos los niveles de la sociedad.

Las personas deben prepararse para ser lo más flexibles posible para enfrentar los desafíos de un mundo que cambia rápidamente. Las organizaciones deben intentar anticipar los cambios más relevantes para ellas y adaptar sus estrategias y tácticas en consecuencia. Los gobiernos deben elaborar regulaciones que fomenten los mejores resultados y rechacen los peores. Hasta cierto punto, también deben desplegar los enormes recursos financieros y humanos a su disposición, aunque dada la incertidumbre sobre los desarrollos futuros que prevalecerán en todas las etapas, deben ser cautelosos al respecto.

La automatización y la superinteligencia son las dos fuerzas que ya podemos anticipar causarán grandes impactos. Muchas personas siguen siendo escépticas sobre una o ambas y, por supuesto, nadie sabe con certeza cómo se desarrollarán. Pero sería muy imprudente ignorarlas.

La automatización podría conducir a lo que yo llamo una singularidad económica. Singularidad es un término tomado de las matemáticas y la física, y significa un punto donde una variable se vuelve infinita y, como resultado, las leyes conocidas dejan de funcionar.[i] Una singularidad económica podría llevar a una élite a poseer los medios de producción y reprimir al resto de nosotros en un autoritario régimen tecnológico distópico. O podría conducir a una economía de abundancia radical, donde nadie tenga