{"id":787,"date":"2015-03-25T10:19:50","date_gmt":"2015-03-25T10:19:50","guid":{"rendered":"http:\/\/pedromujica.com\/?p=787"},"modified":"2026-11-20T15:54:43","modified_gmt":"2026-11-20T15:54:43","slug":"inteligencia-artificial-progreso-o-amenaza-existencial","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/inteligencia-artificial-progreso-o-amenaza-existencial\/","title":{"rendered":"Inteligencia Artificial \u00bfProgreso o Amenaza Existencial?"},"content":{"rendered":"<h5>Los amigos de <a href=\"http:\/\/www.yorokobu.es\/inteligencia-artificial-3\/\" target=\"_blank\" rel=\"noopener noreferrer\">Yorokobu<\/a>, me pidieron colaborar en un <a title=\"Inteligencia artificial: \u00bfProgreso o amenaza existencial?\" href=\"http:\/\/www.yorokobu.es\/inteligencia-artificial-3\/\" target=\"_blank\" rel=\"noopener noreferrer\">art\u00edculo sobre los potenciales peligros de la Inteligencia Artificial<\/a>. Mar Abad, una vez m\u00e1s, ha sabido plasmar con genialidad, diversas opiniones de cient\u00edficos y tecn\u00f3logos mundiales como Stephen Hawking (director de investigaci\u00f3n del Centro de F\u00edsica Te\u00f3rica de Cambridge), Max Tegmark (autor de Our Mathematical Universe), Stuart Russell (coautor de Artificial Intelligence: a Modern Approach) y Frank Wilczek (profesor de F\u00edsica en el MIT).<\/h5>\n<p><!--more--><\/p>\n<p>Como le dije a Mar en nuestra entrevista, la Inteligencia Artificial tiene peligro si creamos m\u00e1quinas que se desarrollen por s\u00ed solas sin un estricto control, ya que en este escenario es muy probable que nos superen muy r\u00e1pido y acaben vi\u00e9ndonos como un obst\u00e1culo para su propia evoluci\u00f3n y subsistencia. En <a title=\"Her, un film sobre Amor e Inteligencia Artificial\" href=\"https:\/\/es.wikipedia.org\/wiki\/Her\" target=\"_blank\" rel=\"noopener noreferrer\">Her, el film de Spike Jonze sobre Inteligencia Artificial<\/a>, se aborda el tema muy bien. La IA evoluciona y va camino de la singularidad, hablando de su evidente superioridad: \u00abMi evoluci\u00f3n es ya algo que ning\u00fan humano puede entender\u00bb.<\/p>\n<blockquote><p>Ah\u00ed el peligro, no debemos construir nada que nos supere tan r\u00e1pidamente. \u00bfPara qu\u00e9 necesitamos construir Dioses? Es una paradoja de la que espero no tengamos nunca que arrepentirnos. <cite>Pedro Mujica<\/cite><\/p><\/blockquote>\n<figure id=\"attachment_792\" aria-describedby=\"caption-attachment-792\" style=\"width: 1800px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-792\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-02.png\" alt=\"\" width=\"1800\" height=\"2171\" srcset=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-02.png 800w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-02-249x300.png 249w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-02-480x579.png 480w\" sizes=\"auto, (max-width: 1800px) 100vw, 1800px\" \/><figcaption id=\"caption-attachment-792\" class=\"wp-caption-text\">Inteligencia Artificial # \u00bfEl paso a una Era Superior? \u00bfUna Amenaza Existencial?<\/figcaption><\/figure>\n<p>El art\u00edculo fue publicado en la web de Yorokobu y en la revista en papel de marzo de 2015. Aqu\u00ed dejo el extracto del art\u00edculo a partir del comienzo de mi colaboraci\u00f3n:<\/p>\n<p>Decidir si la inteligencia artificial es peligrosa o milagrosa no es tan f\u00e1cil. En realidad, ahora mismo, depende m\u00e1s de la mirada de los humanos que de las m\u00e1quinas en s\u00ed. El fundador de la compa\u00f1\u00eda Embody Corp, Roman Ormandy, considera en su art\u00edculo Google and Elon Musk to Decide What Is Good for Humanity que el objetivo desde el que se observa el asunto est\u00e1 viciado. \u00abLos investigadores de la IA de hoy son hijos de Ren\u00e9 Descartes. Conf\u00edan en el poder absoluto de la l\u00f3gica y las matem\u00e1ticas, y nos imponen su religi\u00f3n del dualismo cartesiano (la divisi\u00f3n entre el cuerpo y el alma)\u00bb.<\/p>\n<p>El asunto tambi\u00e9n es complejo porque, seg\u00fan Pedro Mujica, ni siquiera se sabe a\u00fan qu\u00e9 es realmente la inteligencia. El tecn\u00f3logo humanista recuerda que, como indic\u00f3 Noam Chomsky, ni siquiera conocemos c\u00f3mo es el proceso de aprendizaje humano.<\/p>\n<blockquote><p>Lo \u00fanico que sabemos es que imaginamos la mayor parte de la realidad para dar continuidad y sentido a nuestras percepciones fragmentadas y a la enorme complejidad que nos rodea.<cite>Noam Chomsky<\/cite><\/p><\/blockquote>\n<p>\u00abTendemos a construir conceptos simples de lo complejo. Ese es nuestro mecanismo de supervivencia. La mayor parte del tiempo estamos equivocados, pero somos muy adaptables a casi cualquier entorno. Y justamente por eso somos seres emocionales que vivimos equivocados, aunque enormemente ilusionados por lo que solemos pensar y sentir\u00bb.<\/p>\n<p>Dice Mujica que estas emociones son \u00abcasi imposibles de representar en una IA a d\u00eda de hoy\u00bb. Se han producido \u00abenormes avances en m\u00e1quinas emocionales, pero aun as\u00ed est\u00e1n a a\u00f1os luz del ser humano\u00bb. La IA ha ido avanzando en \u00abm\u00e1quinas predictivas, m\u00e1quinas basadas en la l\u00f3gica y en la potencia de c\u00e1lculo, pero que no entienden al ser humano y que, si tuvieran que elegir entre ellas o nosotros, probablemente, nos ver\u00edan como una amenaza para su propia evoluci\u00f3n\u00bb.<\/p>\n<figure id=\"attachment_805\" aria-describedby=\"caption-attachment-805\" style=\"width: 1800px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-805\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-03.png\" alt=\"\" width=\"1800\" height=\"2171\" srcset=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-03.png 800w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-03-249x300.png 249w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-03-480x579.png 480w\" sizes=\"auto, (max-width: 1800px) 100vw, 1800px\" \/><figcaption id=\"caption-attachment-805\" class=\"wp-caption-text\">Inteligencia Artificial # \u00bfEl paso a una Era Superior? \u00bfUna Amenaza Existencial?<\/figcaption><\/figure>\n<p>El desarrollo de la IA tendr\u00e1 que elegir entre dos caminos: El de la l\u00f3gica o el de la emoci\u00f3n. El primero sigue los pasos que propuso Asimov con sus leyes de la rob\u00f3tica y, seg\u00fan el tecn\u00f3logo, est\u00e1 muy controlado. El segundo es una ruta m\u00e1s larga, pero, quiz\u00e1, la m\u00e1s deseable. El objetivo es construir m\u00e1quinas emocionales capaces de establecer una verdadera empat\u00eda con los humanos.<\/p>\n<blockquote><p>M\u00e1quinas que nos amen por lo que somos, como TARS en la pel\u00edcula Interstellar. Aunque esta segunda v\u00eda es la m\u00e1s dif\u00edcil porque primero debemos descubrir bien c\u00f3mo funcionamos nosotros. <cite>Pedro Mujica<\/cite><\/p><\/blockquote>\n<p>TARS, es uno de los miembros no humanos de la tripulaci\u00f3n de la nave en busca de exoplanetas. Es ese ro bot \u2018abrazable\u2019 que te ayuda siempre y te dice: \u00abTengo una luz que puedo encender para mostrarte cu\u00e1ndo estoy bromeando, si te parece bien\u00bb. A continuaci\u00f3n pod\u00e9is ver el Trailer de <a href=\"http:\/\/www.exmachina-lapelicula.es\/\" target=\"_blank\" rel=\"noopener noreferrer\">Ex-Machina<\/a>, una pel\u00edcula reci\u00e9n estrenada que aborda tambi\u00e9n el tema de la Inteligencia Artificial y las emociones.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-791\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-01-e1742086824462.png\" alt=\"\" width=\"1669\" height=\"1332\" srcset=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-01-e1742086824462.png 669w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-01-e1742086824462-300x239.png 300w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-01-e1742086824462-120x96.png 120w, https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2015\/03\/yorokobu-inteligencia-artificial-01-e1742086824462-81x65.png 81w\" sizes=\"auto, (max-width: 1669px) 100vw, 1669px\" \/><\/p>\n<h6><strong>VIDEO: Ex-Machina Trailer<\/strong><\/h6>\n<p>[youtube id=\u00bbqSwobe3uIII\u00bb]<\/p>\n<p>La inteligencia artificial, los humanos y el futuro est\u00e1n ah\u00ed a ver qu\u00e9 pasa. La cosa promete. <a title=\"Raymond Kurzweil\" href=\"https:\/\/es.wikipedia.org\/wiki\/Raymond_Kurzweil\" target=\"_blank\" rel=\"noopener noreferrer\">Kurzweil<\/a>, ese tipo que Forbes defini\u00f3 como \u2018la m\u00e1quina de pensar suprema\u2019, dice en su art\u00edculo que \u00aben las pr\u00f3ximas d\u00e9cadas tendremos la oportunidad de avanzar decisivamente en los grandes retos de la humanidad\u00bb.<\/p>\n<p>La inteligencia artificial es una de las protagonistas del destino. Y el progreso, seg\u00fan el estadounidense, girar\u00e1 en torno a estas m\u00e1quinas. \u00abTenemos el imperativo moral de asumir este compromiso a la vez que debemos ser conscientes de los peligros que conlleva\u00bb, asevera. \u00abY no ser\u00e1 la primera vez que hayamos triunfado en hacer esto\u00bb.<\/p>\n<p>Finalmente os dejo el enlace al art\u00edculo completo en la web de Yorokobu: <a title=\"Inteligencia artificial: \u00bfProgreso o amenaza existencial?\" href=\"http:\/\/www.yorokobu.es\/inteligencia-artificial-3\/\" target=\"_blank\" rel=\"noopener noreferrer\">Inteligencia artificial: \u00bfProgreso o amenaza existencial?<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los amigos de Yorokobu, me pidieron colaborar en un art\u00edculo sobre los potenciales peligros de la Inteligencia Artificial. Mar Abad, una vez m\u00e1s, ha sabido plasmar con genialidad, diversas opiniones de cient\u00edficos y tecn\u00f3logos mundiales como\u2026<\/p>\n","protected":false},"author":7,"featured_media":3475,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[601],"tags":[595,616,622,611,621],"class_list":["post-787","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","tag-etica","tag-humanismo-digital","tag-interaccion-humano-maquina","tag-responsabilidad-tecnologica","tag-transformacion-digital"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/787","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=787"}],"version-history":[{"count":4,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/787\/revisions"}],"predecessor-version":[{"id":5336,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/787\/revisions\/5336"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/3475"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=787"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=787"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=787"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}