{"id":4457,"date":"2019-09-19T15:03:07","date_gmt":"2019-09-19T18:03:07","guid":{"rendered":"https:\/\/www.nachodelatorre.com.ar\/mosconi\/?p=4457"},"modified":"2019-09-19T15:03:07","modified_gmt":"2019-09-19T18:03:07","slug":"automatizacion-y-robotica-un-desafio-etico-y-de-seguridad","status":"publish","type":"post","link":"https:\/\/www.fie.undef.edu.ar\/ceptm\/?p=4457","title":{"rendered":"Automatizaci\u00f3n y rob\u00f3tica. Un desaf\u00edo \u00e9tico y de seguridad"},"content":{"rendered":"
<\/div>\n
La tecnolog\u00eda no s\u00f3lo est\u00e1 cambiando completamente la forma en la que los seres humanos se comunican. Desde hace tiempo, ej\u00e9rcitos de todo el mundo se encuentran volcados en la fabricaci\u00f3n de armas que funcionan de forma aut\u00f3noma\u2026.Hasta que punto deber\u00edan estar bajo control humano?, Quien decide? . El transporte mar\u00edtimo, \u00a0a\u00e9reo y terrestre se automatiza , los problemas de la llamada industria 4.0 se ponen de manifiesto, los ej\u00e9rcitos deben reaccionar ante las armas hipers\u00f3nicas.<\/div>\n

<\/p>\n

\"SeaLa tecnolog\u00eda no s\u00f3lo est\u00e1 cambiando completamente la forma en la que los seres humanos se comunican. Desde hace tiempo, ej\u00e9rcitos de todo el mundo se encuentran volcados en la fabricaci\u00f3n de\u00a0armas que funcionan de forma totalmente aut\u00f3noma<\/strong>. Sin necesidad de que haya una persona monitorizando su funcionamiento. Sin embargo, \u00bfqu\u00e9 nos garantiza que estas nuevas armas no van a\u00a0cometer un error<\/strong>\u00a0y, en un momento dado, asesinaran a miles de civiles?. Lo cierto es que, seg\u00fan la ingeniera inform\u00e1tica irlandesa\u00a0Laura Dolan<\/strong>, absolutamente nada.<\/p>\n

\u00ab(Este tipo de armamento) podr\u00eda provocar accidentes a gran escala al comenzar a actuar de forma inadecuada. Es por ello, que cualquier dispositivo armament\u00edstico deber\u00eda estar sujeto a control humano. De lo contrario, deber\u00edan ser prohibidos, porque resultan demasiado impredecibles y peligrosos\u00bb, ha apuntado la cient\u00edfica en declaraciones al medio brit\u00e1nico \u00ab\u00a0The Guardian<\/a>\u00bb.<\/p>\n

Dolan habla con conocimiento de causa. La ingeniera pas\u00f3 varios a\u00f1os trabajando para Google, y desde 2017 lo hizo, seg\u00fan afirma, dentro del\u00a0Proyecto Maven<\/strong>. Un plan, creado por el Departamento de Defensa de Estados Unidos, con el objetivo de reclutar a empresas expertas en inteligencia artificial para emplear su\u00a0tecnolog\u00eda de reconocimiento por imagen en zonas de guerra<\/strong>; como Irak, Siria o Afganist\u00e1n.<\/p>\n

Te\u00f3ricamente, gracias a los avances en Inteligencia Artificial, los dispositivos aut\u00f3nomos del ej\u00e9rcito norteamericano ser\u00edan capaces de reconocer a sus objetivos y atacarlos, por lo que no habr\u00eda necesidad de que una persona tuviese que estar vigilando su actividad. Algo que, como apunta la ingeniera,\u00a0supone un grave riesgo<\/strong>, ya que nadie garantiza, por ejemplo, que una m\u00e1quina no pueda confundir en un momento dado \u00aba un combatiente de 18 a\u00f1os de un joven de 18 a\u00f1os que est\u00e1 cazando\u00bb.<\/p>\n

\u00abLas armas totalmente aut\u00f3nomas podr\u00edan decidir qui\u00e9n vive y qui\u00e9n muere sin necesidad de que un ser humano intervenga; algo que supone un gran aprieto moral. Como m\u00e1quinas, carecen de caracter\u00edsticas humanas, como la compasi\u00f3n, que son necesarias a la hora para tomar decisiones \u00e9ticas complejas\u00bb, explican desde el grupo\u00a0Campaign to Stop Killer Robots<\/a>, al que pertenece Dolan.<\/p>\n

Google da marcha atr\u00e1s<\/strong><\/p>\n

La participaci\u00f3n de la firma de Google en este proyecto levant\u00f3 ampollas entre sus trabajadores. Tanto, que enviaron una carta al director ejecutivo de la compa\u00f1\u00eda,\u00a0Sundar Pichai<\/strong>, a modo de queja. Algunos, como Dolan, fueron m\u00e1s all\u00e1 y tomaron la determinaci\u00f3n de\u00a0abandonar la compa\u00f1\u00eda<\/strong>: \u00abAunque no particip\u00e9 directamente en acelerar el reconocimiento de video, me di cuenta de que era parte de la cadena de asesinatos;\u00a0que esto conducir\u00eda en \u00faltima instancia a que m\u00e1s personas fuesen atacadas y asesinadas por el ej\u00e9rcito de Estados Unidos en lugares como Afganist\u00e1n\u00bb.<\/p>\n

\u00abAunque no particip\u00e9 directamente en acelerar el reconocimiento de video, me di cuenta de que era parte de la cadena de asesinatos;\u00a0que esto conducir\u00eda en \u00faltima instancia a que m\u00e1s personas fuesen atacadas y asesinadas por el ej\u00e9rcito de Estados Unidos en lugares como Afganist\u00e1n\u00bb<\/span><\/figure>\n

Debido a la fuerte oposici\u00f3n de sus empleados, Google termin\u00f3 optando por\u00a0dar marcha atr\u00e1s\u00a0<\/strong>y dejar que el contrato de colaboraci\u00f3n que la ataba al proyecto del ej\u00e9rcito estadounidense se extinguiese. \u00abSiempre hemos dicho que esto fue un contrato de 18 meses, por lo que terminar\u00e1 en marzo de 2019. Despu\u00e9s de esto,\u00a0no seguiremos en el Proyecto Maven\u00bb, recalc\u00f3 en junio de 2018 Diane Greene, consejera delegada de Google Cloud.<\/p>\n

El ej\u00e9rcito de Estados Unidos, por su parte, es consciente de la impopularidad del Proyecto Maven. Debido a ello,\u00a0inform\u00f3<\/a>\u00a0hace pocos d\u00edas de que est\u00e1 buscando un\u00a0experto en \u00e9tica\u00a0<\/strong>que ayude a utilizar el armamento aut\u00f3nomo de forma correcta. \u00abEstamos pensando profundamente acerca del uso \u00e9tico, seguro y legal de la inteligencia artificial\u00bb, afirm\u00f3 en rueda de prensa\u00a0Jack Shanahan<\/strong>, director del Centro de Inteligencia Artificial del Departamento de Defensa de EE. UU.<\/p>\n

Shanahan, a su vez, llam\u00f3 la atenci\u00f3n acerca de que otros pa\u00edses como China o Rusia no est\u00e9n mostrando ninguna preocupaci\u00f3n sobre los peligros existentes detr\u00e1s de este tipo de armamento. Sin embargo,\u00a0se mostr\u00f3 terminantemente en contra de la prohibici\u00f3n<\/strong>: \u00abser\u00eda contraproducente prohibir por completo cosas en las que las personas ni siquieran entienden por completo a lo que se refieren cuando dicen “proh\u00edbe esto”\u00bb. Por el contrario, espera que su adopci\u00f3n se acelere lo m\u00e1ximo posible.<\/p>\n

Falta de control<\/strong><\/p>\n

Como ocurre con tantas otras cosas, hasta el momento no existe una legislaci\u00f3n que regule, o prohiba, el empleo de armamento militar aut\u00f3nomo.\u00a0La ONU lleva a\u00f1os tratando de dar soluci\u00f3n a este problema<\/strong>. Sin embargo, por el momento los avances son escasos. \u00ab(Estas armas) son pol\u00edticamente inadmisibles, moralmente reprobables y deber\u00edan estar prohibidas por el derecho internacional\u00bb, se\u00f1al\u00f3 en un escrito el secretario general de Naciones Unidas,\u00a0Ant\u00f3nio Guterres<\/strong>, durante la reuni\u00f3n del pasado mes de marzo, en Ginebra, de un grupo de expertos gubernamentales de la organizaci\u00f3n en el \u00e1mbito de los sistemas de armas aut\u00f3nomas.<\/p>\n

La ONU ha levantado la voz ya en varias ocasiones acerca de los peligros que esconde este tipo de armamento. Sin embargo, como hemos expresa, pa\u00edses como Estados Unidos, Rusia, Israel, China o Reino Unido, que est\u00e1n trabajando en el desarrollo de este tipo de tecnolog\u00eda, se muestran tremendamente reacias\u00a0respecto a un posible acuerdo internacional<\/strong>\u00a0de prohibici\u00f3n. Algo de lo que numerosas asociaciones llevan a\u00f1os quej\u00e1ndose.<\/p>\n

\u00abA\u00fan no es tarde para cambiar de rumbo. La prohibici\u00f3n de los sistemas de armas totalmente aut\u00f3nomos podr\u00eda impedir algunos escenarios realmente dist\u00f3picos, como una nueva carrera de armas de alta tecnolog\u00eda entre superpotencias mundiales que provocar\u00eda que las armas aut\u00f3nomas proliferaran de forma generalizada\u00bb, se\u00f1ala Rasha Abdul Rahim, investigadora sobre inteligencia artificial y derechos humanos de Amnist\u00eda Internacional.<\/p>\n

\u00abHasta que no haya robots matando gente no sabr\u00e1n c\u00f3mo reaccionar, porque lo ven como algo et\u00e9reo, algo que simplemente podr\u00eda no suceder\u00bb<\/span><\/figure>\n

Desde otros grupos, como \u00abCampaign to Stop Killer Robots\u00bb, apuntan que es imprescindible que los estados reconozcan los potenciales peligros que esconde este tipo de armamento, el cual, sostienen firmemente, debe ser prohibido. A su vez, hacen un llamamiento para que empresas, como Google, no colaboren en la elaboraci\u00f3n de este tipo de sistemas.<\/p>\n

Importantes personalidades del mundo de la tecnolog\u00eda, como\u00a0Elon Musk<\/a>, tambi\u00e9n han alzado su voz contra el empleo de este tipo de tecnolog\u00eda. El consejero delegado de\u00a0Tesla<\/strong>\u00a0no se ha cortado a la hora de manifestar en varias ocasiones la necesidad de que las armas aut\u00f3nomas sean prohibidas. \u00abHasta que no haya robots matando gente no sabr\u00e1n c\u00f3mo reaccionar, porque lo ven como algo et\u00e9reo, algo que simplemente podr\u00eda no suceder\u00bb, expres\u00f3 Musk hace dos a\u00f1os en una conferencia junto a pol\u00edticos estadounidense.<\/p>\n

Fuente:\u00a0<\/strong>https:\/\/www.abc.es<\/a><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

La tecnolog\u00eda no s\u00f3lo est\u00e1 cambiando completamente la forma en la que los seres humanos se comunican. Desde hace tiempo, ej\u00e9rcitos de todo el mundo… <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[37,29],"tags":[],"_links":{"self":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts\/4457"}],"collection":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4457"}],"version-history":[{"count":0,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=\/wp\/v2\/posts\/4457\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4457"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4457"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.fie.undef.edu.ar\/ceptm\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4457"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}