{"id":12075,"date":"2023-03-31T08:17:52","date_gmt":"2023-03-31T11:17:52","guid":{"rendered":"https:\/\/www.fie.undef.edu.ar\/ceptm\/?p=12075"},"modified":"2023-03-31T08:17:52","modified_gmt":"2023-03-31T11:17:52","slug":"elon-musk-y-miles-de-expertos-pidieron-hacer-una-pausa-en-los-avances-de-la-inteligencia-artificial-durante-6-meses","status":"publish","type":"post","link":"https:\/\/www.fie.undef.edu.ar\/ceptm\/?p=12075","title":{"rendered":"Elon Musk y miles de expertos pidieron hacer una pausa en los avances de la Inteligencia Artificial durante 6 meses"},"content":{"rendered":"

Ahora, grandes referentes de la tecnolog\u00eda se unieron en un pedido difundido por el sitio Future of life que se titul\u00f3 Carta abierta FLI: Pausar los experimentos gigantes de la IA. All\u00ed solicitaron que \u201clos laboratorios\u00a0suspendan\u00a0de inmediato y\u00a0al menos durante seis meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4.<\/p>\n

\n

El mundo crece y cambia a pasos agigantados. La tecnolog\u00eda ocupa un lugar central en el mundo y si bien se celebran sus logros, tambi\u00e9n genera gran preocupaci\u00f3n<\/strong>. Ahora, varias personalidades destacadas del rubro se unieron en una causa com\u00fan y firmaron una carta con un contundente pedido<\/strong>: frenar el avance de la Inteligencia Artificial<\/strong>. Uno de los nombres destacados que figura en la lista de los que apoy\u00f3 la medida fue Elon Musk<\/strong><\/a>.<\/p>\n

Seg\u00fan indic\u00f3 CNBC<\/em><\/a>, durante la Cumbre del Gobierno Mundial en Dubai, Emiratos \u00c1rabes Unidos, realizada en febrero, el magnate sostuvo que \u201cuno de los mayores riesgos para el futuro de la civilizaci\u00f3n<\/a> es la IA (Inteligencia Artificial)\u201d. A su vez, a\u00f1adi\u00f3: \u201cEs positivo o negativo y tiene una gran promesa, una gran capacidad\u201d<\/strong>. Sin embargo, tambi\u00e9n remarc\u00f3 que \u201ccon eso viene un gran peligro\u201d.<\/p>\n

\"\"
Elon Musk fue uno de los tantos expertos que pidieron por la “pausa” en la IA. (Foto: Archivo)<\/figcaption><\/figure>\n

Ahora, grandes referentes de la tecnolog\u00eda se unieron <\/strong>en un pedido difundido por el sitio Future of life <\/em><\/a>que se titul\u00f3 Carta abierta FLI: Pausar los experimentos gigantes de la IA<\/em>. All\u00ed solicitaron que \u201clos laboratorios pausen de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4<\/strong>\u2033.<\/p>\n

Una de las cosas m\u00e1s llamativas fueron los importantes nombres que se encontraron en la lista de los firmantes, que ya son m\u00e1s de 1100<\/strong>. Adem\u00e1s de Musk, tambi\u00e9n est\u00e1n Yoshua Bengio, Stuart Russell, el cofundador de Apple Steve Wozniak, Yuval Noah Hariri, Andrew Yang, Connor Leahy y Emad Mostaque.<\/p>\n

La clave del pedido est\u00e1 en la preocupaci\u00f3n que genera el desarrollo de sistemas de IA con inteligencia humana-competitiva<\/strong>, centralmente en los riesgos que puedan provocar en la sociedad y humanidad, puesto que consideran no tiene ni planificaci\u00f3n, ni gesti\u00f3n<\/a>. \u201cHacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses <\/strong>el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4\u2033, precisaron en la carta que se public\u00f3 en Futurelife.org<\/em><\/a>.<\/em><\/p>\n

\u201cLos sistemas de IA<\/a> con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad<\/strong>, como lo demuestra una extensa investigaci\u00f3n y lo reconocen los principales laboratorios de IA. Como se establece en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podr\u00eda representar un cambio profundo en la historia de la vida en la Tierra<\/strong>, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificaci\u00f3n y gesti\u00f3n no est\u00e1 ocurriendo, a pesar de que en los \u00faltimos meses los laboratorios de IA entraron en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez m\u00e1s poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable<\/strong>\u201d, sumaron.<\/p>\n

\"\"
Elon Musk, Steve Wozniak y otros especialistas pidieron una que “pausen de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4″Shutterstock<\/figcaption><\/figure>\n

\u201cLos sistemas de IA contempor\u00e1neos ahora se est\u00e1n volviendo competitivos<\/strong> para los humanos en tareas generales y debemos preguntarnos: \u00bfDeber\u00edamos dejar que las m\u00e1quinas inunden nuestros canales de informaci\u00f3n con propaganda y falsedad? <\/strong>\u00bfDeber\u00edamos automatizar todos los trabajos, incluidos los de cumplimiento? \u00bfDeber\u00edamos desarrollar mentes no humanas que eventualmente podr\u00edan superarnos en n\u00famero, ser m\u00e1s inteligentes, obsoletas y reemplazarnos? \u00bfDeber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n? Tales decisiones no deben delegarse en l\u00edderes tecnol\u00f3gicos no elegidos\u201d, precisaron.<\/p>\n

En la misma l\u00ednea, sostuvieron: \u201cLos sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos ser\u00e1n positivos <\/strong>y sus riesgos ser\u00e1n manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema<\/strong>. La declaraci\u00f3n reciente de OpenAI con respecto a la inteligencia general artificial establece que \u2018en alg\u00fan momento, puede ser importante obtener una revisi\u00f3n independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos m\u00e1s avanzados para acordar limitar la tasa de crecimiento de la computaci\u00f3n utilizada para crear nuevos modelos\u2019. Estamos de acuerdo. Ese punto es ahora\u201d.<\/p>\n

\"\"
Un grupo de expertos pidi\u00f3 hacer una “pausa” en el avance de la inteligencia artificial.<\/figcaption><\/figure>\n

En otro fragmento del texto, hicieron el pedido puntual: \u201cHacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4<\/strong>. Esta pausa debe ser p\u00fablica y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar r\u00e1pidamente, los gobiernos deber\u00edan intervenir e instituir una moratoria\u201d.<\/p>\n

\u201cLos laboratorios de IA y los expertos independientes deber\u00edan aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el dise\u00f1o y desarrollo avanzados de IA que son rigurosamente auditados y supervisados por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros m\u00e1s all\u00e1 de toda duda razonable. Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atr\u00e1s de la carrera peligrosa hacia modelos de caja negra<\/strong> impredecibles cada vez m\u00e1s grandes, con capacidades emergentes\u201d, argumentaron.<\/p>\n

\u201cLa investigaci\u00f3n y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes<\/strong> y de \u00faltima generaci\u00f3n de hoy en d\u00eda sean m\u00e1s precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales\u201d, a\u00f1adieron.<\/p>\n

\"\"
En la petici\u00f3n publicada en el sitio futureoflife.org, reclaman una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IAPhonlamai Photo – Shutterstock.<\/figcaption><\/figure>\n

\u201cParalelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar dr\u00e1sticamente el desarrollo de sistemas s\u00f3lidos de gobierno de IA. Estos deben incluir como m\u00ednimo autoridades reguladoras nuevas y capaces dedicadas a la IA<\/strong>; supervisi\u00f3n y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sint\u00e9ticas y rastrear modelos; un s\u00f3lido ecosistema de auditor\u00eda y certificaci\u00f3n; responsabilidad por da\u00f1os causados por IA; financiaci\u00f3n p\u00fablica s\u00f3lida para la investigaci\u00f3n t\u00e9cnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dram\u00e1ticas perturbaciones econ\u00f3micas y pol\u00edticas (especialmente en la democracia) que provocar\u00e1 la IA<\/strong>\u201d, detallaron en el texto.<\/p>\n

Para cerrar, manifestaron: \u201cLa humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido \u00e9xito en la creaci\u00f3n de poderosos sistemas de IA, ahora podemos disfrutar de un \u2018verano de IA\u2019 <\/strong>en el que cosechamos las recompensas, dise\u00f1amos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad hizo una pausa en otras tecnolog\u00edas con efectos potencialmente catastr\u00f3ficos en la sociedad<\/strong>. Podemos hacerlo aqu\u00ed. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados\u201d.<\/p>\n

Fuente:<\/strong> https:\/\/www.lanacion.com.ar<\/em><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Ahora, grandes referentes de la tecnolog\u00eda se unieron en un pedido difundido por el sitio Future of life que se titul\u00f3 Carta abierta FLI: Pausar… <\/p>\n","protected":false},"author":1,"featured_media":12076,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[2,23],"tags":[],"_links":{"self":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts\/12075"}],"collection":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12075"}],"version-history":[{"count":1,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts\/12075\/revisions"}],"predecessor-version":[{"id":12081,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts\/12075\/revisions\/12081"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/media\/12076"}],"wp:attachment":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12075"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12075"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12075"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}