![\"\"](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/Chapter1.png?w=167\")
<\/figure>\nGroser\u00edas en Internet, insultos y otros desacuerdos no tan peque\u00f1os que alteran el mundo<\/strong><\/p>\n La IA es sexy,<\/strong>\u00a0la IA es guay. La IA est\u00e1 afianzando la desigualdad, trastornando el mercado laboral y destrozando la educaci\u00f3n. La IA es una atracci\u00f3n de parque tem\u00e1tico, la IA es\u00a0un truco de magia.\u00a0<\/strong>La IA es nuestro \u00faltimo invento, la IA es una obligaci\u00f3n moral. La IA es la palabra de moda de la d\u00e9cada, la IA es jerga de marketing de 1955. La IA se parece a los humanos, la IA es extraterrestre. La IA es superinteligente y es m\u00e1s tonta que una mata de habas. El auge de la IA impulsar\u00e1 la econom\u00eda, pero la burbuja de la IA est\u00e1 a punto de estallar. La IA aumentar\u00e1 la abundancia y permitir\u00e1 a la humanidad florecer al m\u00e1ximo en el universo. La IA nos matar\u00e1 a todos\u2026<\/p>\n \u00bfDe qu\u00e9 demonios habla todo el mundo?<\/p>\n La\u00a0inteligencia artificial<\/strong>\u00a0es la tecnolog\u00eda m\u00e1s candente de nuestro tiempo.\u00a0Pero\u2026 \u00bfqu\u00e9 es?<\/strong>\u00a0Parece una pregunta est\u00fapida, pero nunca ha sido tan urgente. La respuesta es breve:\u00a0La IA es un t\u00e9rmino que engloba un conjunto de tecnolog\u00edas que hacen que los ordenadores hagan cosas que se considera que requieren inteligencia cuando las hacen las personas.<\/strong>\u00a0Pensemos en reconocer caras, entender el habla, conducir coches, escribir frases, responder preguntas o crear im\u00e1genes. Pero incluso esa definici\u00f3n contiene multitud de cosas.<\/p>\n Y ah\u00ed est\u00e1 el problema. \u00bfQu\u00e9 significa que las m\u00e1quinas entiendan el habla o escriban una frase? \u00bfQu\u00e9 tipo de tareas podr\u00edamos pedirles? \u00bfY hasta qu\u00e9 punto deber\u00edamos confiar en que las m\u00e1quinas las hagan?<\/p>\n A medida que esta tecnolog\u00eda pasa del prototipo al producto cada vez m\u00e1s deprisa, se han convertido en preguntas para todos nosotros. Pero, atenci\u00f3n:\u00a0spoiler<\/em>, no tengo las respuestas. Ni siquiera puedo decirte qu\u00e9 es la IA.\u00a0La gente que la hace tampoco lo sabe,<\/strong>\u00a0en realidad. “Este tipo de preguntas son lo bastante importantes como para que todo el mundo sienta que puede opinar”, responde\u00a0Chris Olah,<\/strong>\u00a0cient\u00edfico jefe del laboratorio de la empresa de inteligencia artificial Anthropic, con sede en San Francisco. “Tambi\u00e9n creo que puedes discutir sobre esto todo lo que quieras y no hay pruebas que te contradigan ahora mismo”.<\/p>\n Pero si est\u00e1s dispuesto a abrocharte el cintur\u00f3n y venir a dar una vuelta, puedo contarte\u00a0por qu\u00e9 nadie lo sabe realmente,\u00a0<\/strong>por qu\u00e9 todo el mundo parece estar en desacuerdo y por qu\u00e9 har\u00edas bien en estar preocupado por ello.<\/p>\n Empecemos con una broma de mal gusto:<\/p>\n En 2022, a mitad del primer episodio de\u00a0Mystery AI Hype Theater 3000<\/em><\/a>, un podcast en el que las c\u00e1usticas copresentadoras\u00a0Alex Hanna<\/strong>\u00a0y\u00a0Emily Bender<\/strong>\u00a0se divierten clavando “las agujas m\u00e1s afiladas” en algunas de las vacas sagradas m\u00e1s infladas de Silicon Valley, se dedican a ridiculizar una publicaci\u00f3n de 12.500 palabras de\u00a0Blaise Ag\u00fcera y Arcas<\/strong>, vicepresidente de ingenier\u00eda de Google, titulada\u00a0\u00bfPueden las m\u00e1quinas aprender a comportarse?<\/em><\/a>. Ag\u00fcera y Arcas defiende que la IA puede entender conceptos de forma an\u00e1loga a como los entienden los humanos, como los valores morales. En resumen, que quiz\u00e1 se pueda ense\u00f1ar a las m\u00e1quinas a comportarse.<\/p>\n <\/p>\n Hanna y Bender\u00a0no est\u00e1n de acuerdo.<\/strong>\u00a0Deciden sustituir el t\u00e9rmino “inteligencia artificial” por\u00a0“matem\u00e1ticas matem\u00e1ticas”,<\/strong>\u00a0es decir, muchas, muchas matem\u00e1ticas. Con ese irreverente cambio pretenden derrumbar lo que consideran grandilocuencia y antropomorfismo en el texto referido. Muy pronto, Hanna, soci\u00f3loga y directora de investigaci\u00f3n del Distributed AI Research Institute, y Bender, ling\u00fcista computacional de la Universidad de Washington (y c\u00e9lebre cr\u00edtica en Internet de las exageraciones de la industria tecnol\u00f3gica), abren un abismo entre lo que Ag\u00fcera y Arcas quieren decir y c\u00f3mo eligen o\u00edrlo.<\/p>\n “\u00bfC\u00f3mo deben ser moralmente responsables las IA, sus creadores y sus usuarios?”, se preguntan Ag\u00fcera y Arcas.<\/p>\n “\u00bfQu\u00e9 responsabilidad moral deben tener las matem\u00e1ticas?”, se pregunta Bender.<\/p>\n “Aqu\u00ed hay un error de categor\u00eda”, a\u00f1ade. Hanna y Bender no s\u00f3lo rechazan lo que dice Ag\u00fcera y Arcas, sino que afirman que\u00a0no tiene sentido.<\/strong>\u00a0“\u00bfPodemos parar esto de hablar de ‘la IA’ o ‘las IAs’ como si fueran individuos?”, pide Bender.<\/p>\n <\/p>\n Podr\u00eda parecer que hablan de cosas distintas, pero no es as\u00ed. Ambas partes hablan de los\u00a0grandes modelos ling\u00fc\u00edsticos (LLM, por sus siglas en ingl\u00e9s)<\/strong>, la tecnolog\u00eda que est\u00e1 detr\u00e1s del actual auge de la IA. Lo que ocurre es que la forma de hablar de IA est\u00e1 m\u00e1s polarizada que nunca. En mayo, el consejero delegado de OpenAI,\u00a0Sam Altman<\/strong>, se brome\u00f3 con la\u00a0\u00faltima actualizaci\u00f3n de GPT-4<\/a>, el modelo insignia de su empresa,\u00a0tuiteando<\/a>: “A m\u00ed me parece magia”.<\/p>\n Hay mucho camino\u00a0entre las matem\u00e1ticas y la magia.<\/strong><\/p>\n<\/div>\n La IA tiene ac\u00f3litos, que creen firmemente en el poder actual de la tecnolog\u00eda y en sus inevitables mejoras futuras. Dicen que\u00a0la inteligencia artificial general<\/a>\u00a0est\u00e1 a la vista y que\u00a0la superinteligencia<\/a>\u00a0viene detr\u00e1s. Y tambi\u00e9n tiene herejes, que desprecian estas afirmaciones y las tachan de galimat\u00edas m\u00edstico.<\/p>\n La narrativa popular est\u00e1 formada por un\u00a0pante\u00f3n<\/strong>\u00a0de grandes nombres, desde los jefes de marketing de las grandes tecnol\u00f3gicas, como\u00a0Sundar Pichai<\/strong>\u00a0y\u00a0Satya Nadella<\/strong>, hasta los l\u00edderes de la industria, como\u00a0Elon Musk\u00a0<\/strong>y\u00a0Altman<\/strong>, pasando por inform\u00e1ticos famosos, como\u00a0Geoffrey Hinton<\/strong><\/a>.<\/strong>\u00a0A veces, estos promotores y catastrofistas son la misma cosa, y nos dicen que la\u00a0tecnolog\u00eda es tan buena que es mala<\/a>.<\/p>\n Al mismo tiempo que se ha disparado la publicidad sobre la IA, ha surgido un grupo de presi\u00f3n que se opone a ella, dispuesto a rebatir sus ambiciosas y a menudo descabelladas afirmaciones. En esta direcci\u00f3n se sit\u00faan una serie de investigadores, como\u00a0Hanna<\/strong>\u00a0y\u00a0Bender<\/strong>, y tambi\u00e9n cr\u00edticos declarados de la industria, como el influyente inform\u00e1tico y exmiembro de Google\u00a0Timnit Gebru<\/strong>\u00a0y el cient\u00edfico cognitivo de la Universidad de Nueva York\u00a0Gary Marcus<\/strong>. Todos ellos con un coro de seguidores discutiendo entre ellos.<\/p>\n En resumen, la IA ha llegado a significar todo para todo el mundo, dividiendo el campo en bandos. Y da la sensaci\u00f3n de que cada bando habla sobre todo para intentar quitar la raz\u00f3n al otro.<\/p>\n Puede que todo esto te parezca una tonter\u00eda o un fastidio. Pero, dado el poder y la complejidad de estas tecnolog\u00edas \u2014que ya se utilizan para determinar cu\u00e1nto pagamos de seguro, c\u00f3mo buscamos informaci\u00f3n, c\u00f3mo hacemos nuestro trabajo, etc.\u2014, ya es hora de que al menos nos pongamos de acuerdo sobre de qu\u00e9 estamos hablando.<\/p>\n Sin embargo, en todas las conversaciones que he mantenido con personas que est\u00e1n a la vanguardia de esta tecnolog\u00eda, nadie me ha dado una respuesta clara sobre qu\u00e9 es exactamente lo que est\u00e1n construyendo. (Nota al margen:<\/strong>\u00a0este art\u00edculo se centra en el debate sobre la IA en EE UU y Europa, en gran medida, porque muchos de los laboratorios de IA mejor financiados y m\u00e1s avanzados est\u00e1n all\u00ed. Pero, por supuesto, tambi\u00e9n se est\u00e1n llevando a cabo importantes investigaciones en otros lugares, en pa\u00edses con sus propias y variadas perspectivas sobre la IA, especialmente en China). En parte, se debe al ritmo de desarrollo. Pero la ciencia tambi\u00e9n est\u00e1 muy abierta. Los LLM actuales\u00a0pueden hacer cosas asombrosas<\/a>. Lo que ocurre es que este campo no logra ponerse de acuerdo sobre\u00a0lo que realmente ocurre bajo el cap\u00f3<\/a>.<\/p>\n Estos modelos est\u00e1n entrenados para\u00a0completar frases.<\/strong>\u00a0Parecen capaces de hacer muchas m\u00e1s cosas: desde resolver problemas matem\u00e1ticos de bachillerato hasta escribir c\u00f3digo inform\u00e1tico, aprobar ex\u00e1menes de Derecho o componer poemas. Cuando una persona hace estas cosas, lo tomamos como un signo de inteligencia. \u00bfY cu\u00e1ndo lo hace un ordenador? \u00bfEs suficiente la apariencia de inteligencia?<\/p>\n Estas cuestiones est\u00e1n en el centro de lo que entendemos por “inteligencia artificial”, un t\u00e9rmino sobre el que se lleva discutiendo d\u00e9cadas. Pero el discurso en torno a la IA se ha vuelto m\u00e1s enconado con el auge de los LLM que pueden imitar la forma en que hablamos y escribimos con un realismo emocionante\/escalofriante (t\u00e1chese lo que no proceda).<\/p>\n Hemos construido m\u00e1quinas con un comportamiento similar al humano, pero no hemos abandonado el h\u00e1bito de\u00a0imaginar una mente humana detr\u00e1s de ellas.<\/strong>\u00a0Esto conduce a evaluaciones exageradas de lo que la IA puede hacer; endurece las reacciones viscerales hasta convertirlas en posturas dogm\u00e1ticas, y participa en las guerras culturales m\u00e1s amplias\u00a0entre tecnooptimistas y tecnoesc\u00e9pticos.<\/strong><\/p>\n A este caldo de cultivo de la incertidumbre hay que a\u00f1adir un mont\u00f3n de bagaje cultural, desde la ciencia ficci\u00f3n con la que apuesto a que crecieron muchos miembros del sector hasta ideolog\u00edas mucho m\u00e1s malignas que influyen en nuestra forma de pensar sobre el futuro. Dada esta embriagadora mezcla, las discusiones sobre la IA ya no son simplemente acad\u00e9micas (y quiz\u00e1 nunca lo hayan sido).\u00a0La IA enciende las pasiones de la gente<\/strong>\u00a0y hace que personas hechas y derechas se insulten.<\/p>\n <\/p>\n <\/p>\n “Ahora mismo no se est\u00e1 en un lugar intelectualmente sano”, dice\u00a0Gary Marcus<\/strong>\u00a0sobre este debate. Durante a\u00f1os, Marcus ha se\u00f1alado los defectos y limitaciones del aprendizaje profundo, la tecnolog\u00eda que lanz\u00f3 la IA a la corriente dominante, impulsando todo, desde los LLM hasta el reconocimiento de im\u00e1genes y los coches autoconducidos. Su libro de 2001\u00a0La mente algebraica\u00a0<\/em>sosten\u00eda que las redes neuronales, la base sobre la que se construye el aprendizaje profundo, son incapaces de razonar por s\u00ed mismas. (Lo obviaremos por ahora, pero volver\u00e9 sobre ello m\u00e1s adelante y veremos hasta qu\u00e9 punto importa una palabra como “razonamiento” en una frase como esta).<\/p>\n Marcus dice que ha intentado que Hinton \u2014que el a\u00f1o pasado hizo\u00a0p\u00fablicos<\/a>\u00a0sus temores existenciales sobre la tecnolog\u00eda que ayud\u00f3 a inventar\u2014 participe en un debate adecuado sobre la calidad real de los LLM. “No quiere hacerlo”, dice Marcus. “Me llama tonto”. (Habiendo hablado con Hinton sobre Marcus en el pasado, puedo confirmarlo: “Est\u00e1 claro que ChatGPT entiende las redes neuronales mejor que \u00e9l”, me dijo Hinton el a\u00f1o pasado). Marcus tambi\u00e9n provoc\u00f3 ira cuando escribi\u00f3 un\u00a0ensayo<\/a>\u00a0titulado\u00a0El aprendizaje profundo est\u00e1 chocando contra un muro<\/em>. Altman le respondi\u00f3 con un\u00a0tuit<\/a>: “Dame la confianza de un esc\u00e9ptico del aprendizaje profundo mediocre”.<\/p>\n Al mismo tiempo, el hecho de hacerse o\u00edr a convertido a Marcus en su propia marca y le ha valido una invitaci\u00f3n para sentarse junto a Altman y declarar el a\u00f1o pasado ante el comit\u00e9 de supervisi\u00f3n de la IA del Senado de Estados Unidos.<\/p>\n Y por eso\u00a0todas estas peleas importan m\u00e1s que las rencillas habituales de Internet<\/strong>. Claro, hay grandes egos y enormes sumas de dinero en juego. Pero m\u00e1s que eso, estas disputas importan cuando los jefes de Estado y los legisladores convocan a los l\u00edderes de la industria y a los cient\u00edficos de opini\u00f3n para que expliquen qu\u00e9 es esta tecnolog\u00eda y qu\u00e9 puede hacer (y lo asustados que deber\u00edamos estar). Importan cuando esta tecnolog\u00eda se incorpora al software que utilizamos a diario, desde los motores de b\u00fasqueda a las aplicaciones de procesamiento de textos o los asistentes del tel\u00e9fono. La IA no va a desaparecer. Pero si no sabemos lo que nos venden, \u00bfqui\u00e9n es el incauto?<\/p>\n “Es dif\u00edcil pensar en otra tecnolog\u00eda en la historia sobre la que se pueda tener un debate as\u00ed: un debate\u00a0sobre si est\u00e1 en todas partes o en ninguna<\/strong>“, escriben\u00a0Stephen Cave<\/strong>\u00a0y\u00a0Kanta Dihal<\/strong>\u00a0en\u00a0Imagining AI<\/em>, una colecci\u00f3n de ensayos de 2023 sobre c\u00f3mo las diferentes creencias culturales dan forma a las opiniones de la gente sobre la inteligencia artificial. “Que se pueda mantener sobre la IA es un testimonio de su cualidad m\u00edtica”.<\/p>\n Por encima de todo, la IA es una idea, un ideal conformado tanto por visiones del mundo y tropos de ciencia ficci\u00f3n como por las matem\u00e1ticas y la inform\u00e1tica. Averiguar de qu\u00e9 estamos hablando cuando hablamos de IA aclarar\u00e1 muchas cosas. No nos pondremos de acuerdo, pero llegar a un acuerdo sobre lo que\u00a0es\u00a0<\/em>la IA ser\u00eda un buen punto de partida para empezar a hablar de lo que\u00a0deber\u00eda ser<\/em>.<\/p>\n \u00bfPor qu\u00e9 se pelean todos?<\/strong><\/p>\n A finales de 2022, poco despu\u00e9s de que OpenAI lanzara\u00a0ChatGPT<\/a>, empez\u00f3 a circular por Internet un nuevo meme que captaba la rareza de esta tecnolog\u00eda mejor que ninguna otra cosa. En\u00a0la mayor\u00eda de las versiones<\/a>, un monstruo lovecraftiano llamado Shoggoth, todo tent\u00e1culos y globos oculares, sostiene un emoji de cara sonriente como si quisiera ocultar su verdadera naturaleza. ChatGPT se presenta como humano y accesible en su juego de palabras conversacional, pero\u00a0tras esa fachada se esconden complejidades y horrores insondables<\/strong>. (“Era una cosa terrible e indescriptible, m\u00e1s grande que cualquier tren subterr\u00e1neo: un conglomerado informe de burbujas protoplasm\u00e1ticas”, escribi\u00f3\u00a0H.P. Lovecraft<\/strong>\u00a0sobre el Shoggoth en su novela de 1936\u00a0En las monta\u00f1as de la locura<\/em>).<\/p>\n Durante a\u00f1os, uno de los\u00a0referentes\u00a0<\/a>m\u00e1s conocidos<\/a>\u00a0de la IA en la cultura pop fue\u00a0Terminator<\/em>, afirma\u00a0Kanta Dihal<\/strong>. Pero al poner ChatGPT en l\u00ednea de forma gratuita, OpenAI ofreci\u00f3 a millones de personas una experiencia de primera mano de algo diferente. “La IA siempre ha sido un concepto muy vago que puede expandirse infinitamente para abarcar todo tipo de ideas”, afirma. Pero ChatGPT hizo tangibles esas ideas: “De repente, todo el mundo tiene algo concreto a lo que referirse”. \u00bfQu\u00e9 es la IA? Para millones de personas la respuesta ahora es ChatGPT.<\/p>\n La industria de la IA est\u00e1 vendiendo mucho esa cara sonriente. F\u00edjese en c\u00f3mo\u00a0The Daily Show\u00a0<\/em>se burl\u00f3 recientemente del bombo publicitario expresado por los l\u00edderes del sector. El vicepresidente de Silicon Valley,\u00a0Marc Andreessen<\/strong>: “Esto tiene el potencial de hacer la vida mucho mejor… Creo que, sinceramente, es una apuesta segura”. Altman: “Odio parecer un ut\u00f3pico de la tecnolog\u00eda, pero el aumento de la calidad de vida que puede ofrecer la IA es extraordinario.” Pichai: “La IA es la tecnolog\u00eda m\u00e1s relevante en la que est\u00e1 trabajando la humanidad. M\u00e1s relevante que el fuego”.<\/p>\n Jon Stewart<\/strong>\u00a0[c\u00f3mico y actor estadounidense en el programa ‘The Daily Show’ que presenta]: “\u00a1S\u00ed, y un carajo como el fuego!”<\/p>\n![\"Portada](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/2118926341c55099d292efd50d891bc8b5170f56-580x580-1.webp?w=580\")
<\/figure>\n![\"Alex](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/Heads_AlexHanna.png?w=867\")
<\/p>\n![\"Emily](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/Heads_EmilyBender2.png?w=867\")
![\"\"](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/border-human.png?w=3000\")
<\/figure>\n![\"\"](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/Chapter2.png\")
<\/figure>\n![\"Monstruo](\"https:\/\/wp.technologyreview.com\/wp-content\/uploads\/2024\/07\/shoggoth-meme.jpg?w=868\")
<\/figure>\n