La ciberseguridad\u00a0y la\u00a0inteligencia artificial\u00a0guardan una estrecha relaci\u00f3n. Primero, las t\u00e9cnicas de inteligencia artificial (IA) pueden utilizarse para mejorar la ciberseguridad y resiliencia de productos, servicios, sistemas y, por ende, de las empresas y la sociedad (enfoque de defensa). Segundo, la IA est\u00e1 empezando a ser utilizada por cibercriminales y otro tipo de ciberatacantes para poner en riesgo la ciberseguridad y perpetrar diferentes tipos de ataques y generar noticias falsas (enfoque de ataque). Finalmente, los sistemas de IA son, a su vez, susceptibles de sufrir ciberataques.<\/p>\n
Tema<\/strong><\/p>\n La inteligencia artificial y la ciberseguridad pueden utilizarse tanto para reforzarse como para deteriorarse mutuamente.<\/p>\n Resumen<\/strong><\/p>\n La ciberseguridad<\/a> y la inteligencia artificial<\/a> guardan una estrecha relaci\u00f3n. Primero, las t\u00e9cnicas de inteligencia artificial (IA) pueden utilizarse para mejorar la ciberseguridad y resiliencia de productos, servicios, sistemas y, por ende, de las empresas y la sociedad (enfoque de defensa). Segundo, la IA est\u00e1 empezando a ser utilizada por cibercriminales y otro tipo de ciberatacantes para poner en riesgo la ciberseguridad y perpetrar diferentes tipos de ataques y generar noticias falsas (enfoque de ataque). Finalmente, los sistemas de IA son, a su vez, susceptibles de sufrir ciberataques, por lo que se deben desarrollar sistemas de IA seguros, que preserven la privacidad, en los que podamos confiar y que sean aceptados por sus usuarios (enfoque de confianza). Dada la interacci\u00f3n entre ambas, es necesario que las Estrategias de Ciberseguridad, de Inteligencia Artificial y de I+D+i se coordinen para crear t\u00e9cnicas, m\u00e9todos y herramientas que faciliten el dise\u00f1o, desarrollo, validaci\u00f3n y despliegue de sistemas basados en la IA con un enfoque multicriterio que considere la ciberseguridad del dato, del modelo y del resultado.<\/p>\n An\u00e1lisis<\/strong><\/p>\n En 1950 Alan Turing defin\u00eda las condiciones que deb\u00eda cumplir una m\u00e1quina para poder considerarla inteligente, pero fue realmente en 1956 cuando John McCarthy acu\u00f1\u00f3 el t\u00e9rmino inteligencia artificial<\/em> (IA) para referirse a m\u00e1quinas que ejecutasen tareas caracter\u00edsticas de la inteligencia humana y resolviesen problemas y lograsen objetivos de una forma similar a como lo hac\u00edan las personas.<\/p>\n Aunque las investigaciones en IA continuaron durante la d\u00e9cada de 1970 y parte de la de 1980, pocos quer\u00edan invertir su dinero en una tecnolog\u00eda que no estaba ofreciendo resultados palpables. Fue en 1996, el d\u00eda en que el ordenador Deep Blue de IBM se impuso en una partida de ajedrez al entonces campe\u00f3n del mundo Kasp\u00e1rov, cuando se comenz\u00f3 a ver que la IA ofrec\u00eda posibilidades de aplicaci\u00f3n pr\u00e1ctica. Ya en 2012 se empez\u00f3 a hablar de deep learning<\/em> al crear Google, un sistema capaz de identificar gatos en im\u00e1genes, y en 2015 AlphaGo se convirti\u00f3 en la primera m\u00e1quina en ganar a un jugador profesional del juego chino go.<\/p>\n Precisamente el mayor conocimiento sobre el funcionamiento del cerebro adquirido en los \u00faltimos a\u00f1os, junto con los avances en microelectr\u00f3nica, el aumento de la potencia de computaci\u00f3n, as\u00ed como la posibilidad de acceder a grandes cantidades de datos y la conexi\u00f3n ubicua entre sistemas, han posibilitado los grandes avances en IA que se est\u00e1n dando actualmente. Esto ha motivado que la IA sea uno de los t\u00e9rminos m\u00e1s utilizados en la actualidad, hasta generar la impresi\u00f3n de que un sistema que no haga uso de la IA en alguna de sus variantes<\/a> (machine learning<\/em>, deep learning<\/em>\u2026) no pueda considerarse un sistema relevante1<\/sup><\/a>.<\/p>\n La IA ofrece m\u00faltiples posibilidades de aplicaci\u00f3n2<\/sup><\/a> y, sin embargo, no dejan de surgir noticias referentes a decisiones err\u00f3neas tomadas por sistemas de IA o sobre conclusiones a las que han llegado sistemas de IA cuyo proceso de obtenci\u00f3n es ininteligible para los humanos3<\/sup><\/a>. Esto demuestra que dichos sistemas de IA no han sido dise\u00f1ados asegurando la imparcialidad y la transparencia en la toma de decisiones. Al igual que muchas otras tecnolog\u00edas, la IA puede usarse tanto para el bien como para el mal4<\/sup><\/a>. Por este motivo, vamos a desgranar el posible buen y mal uso de la IA en el \u00e1mbito de la ciberseguridad y los peligros que puede representar su utilizaci\u00f3n si la IA no ha sido dise\u00f1ada de una forma segura.<\/p>\n Inteligencia artificial en apoyo de la ciberseguridad<\/strong><\/p>\n La IA puede utilizarse para ayudar a los profesionales de la seguridad a tratar la cada vez mayor complejidad de los sistemas modernos de IT, industria 4.0, infraestructura del Internet de las Cosas<\/a> (IoT por sus siglas en ingl\u00e9s)\u2026, as\u00ed como la ingente cantidad de datos creados por ellos, e intentar estar por delante de los ciberatacantes. La ciberseguridad se enfrenta a m\u00faltiples retos, como son la detecci\u00f3n de intrusiones, la protecci\u00f3n de la privacidad<\/a>, la defensa proactiva, la identificaci\u00f3n de comportamientos an\u00f3malos o la detecci\u00f3n de amenazas sofisticadas, pero, sobre todo, a las cambiantes amenazas que aparecen continuamente. Debido a ello, se est\u00e1n explorando m\u00e9todos basados en la IA que faciliten el an\u00e1lisis y la toma de decisiones en tiempo real para una r\u00e1pida detecci\u00f3n y reacci\u00f3n ante ciberataques. Tambi\u00e9n se est\u00e1 empleando la IA para desarrollar sistemas autoadaptables y que permitan automatizar las respuestas ante ciberamenazas.<\/p>\n Realmente, la IA puede utilizarse en todas las etapas de una seguridad integral inteligente: identificaci\u00f3n, protecci\u00f3n, detecci\u00f3n, respuesta y recuperaci\u00f3n ante incidentes; en este sentido, la ciberseguridad puede considerarse un dominio m\u00e1s de aplicaci\u00f3n de la IA, como pueden serlo el de la energ\u00eda, transporte, industria o salud. De hecho, este no es un \u00e1mbito nuevo de aplicaci\u00f3n de la IA, sino que ya lleva tiempo utiliz\u00e1ndose para desarrollar soluciones que puedan detectar y atajar ciberamenazas complejas y sofisticadas a la vez que evitar fugas de datos. Tal y como indica ENISA<\/a>, se debe seguir investigando la utilizaci\u00f3n de IA en la inteligencia de ciberamenazas (cyber threat intelligence<\/em>, CTI) para reducir el n\u00famero de pasos manuales en los an\u00e1lisis realizados y validar dichos an\u00e1lisis, esto es, apoyando la CTI a lo largo de todo el ciclo de vida de la gesti\u00f3n y mitigaci\u00f3n de los riesgos de seguridad5<\/sup><\/a>.<\/p>\n En la actual situaci\u00f3n de pandemia debida al COVID-19<\/a>, lo que se ha observado es la gran capacidad que han mostrado los cibercriminales para adaptarse r\u00e1pidamente al nuevo contexto vulnerable de teletrabajo aprovechando las conexiones a internet de los hogares para acceder a datos y sistemas de la empresa. Los cibercriminales han personalizado los vectores de ataque con m\u00e9todos avanzados de robo de credenciales, ataques de phishing<\/em> muy orientados, sofisticados ataques de ingenier\u00eda social y t\u00e9cnicas avanzadas de ocultaci\u00f3n de malware<\/em>, entre otros. En la medida en que estas t\u00e9cnicas se vayan combinando cada vez m\u00e1s con la IA, los ataques ser\u00e1n m\u00e1s dif\u00edciles de detectar y tendr\u00e1n un mayor \u00e9xito, seg\u00fan el citado informe de ENISA.<\/p>\n La utilizaci\u00f3n de la IA por parte de los ciberatacantes<\/strong><\/p>\n La IA ya se est\u00e1 utilizando en aplicaciones del mercado para conocer los patrones de comportamiento de usuarios y dise\u00f1ar campa\u00f1as comerciales utilizando software<\/em> de IA a disposici\u00f3n de todo el mundo, por lo que ser\u00eda muy ingenuo pensar que los cibercriminales no lo est\u00e9n utilizando tambi\u00e9n, en el caso m\u00e1s sencillo, para conocer mejor a sus v\u00edctimas e identificar el mejor momento en el que realizar una acci\u00f3n delictiva con las mayores garant\u00edas de \u00e9xito.<\/p>\n La utilizaci\u00f3n de la IA depende del perfil de los ciberatacantes, que van desde los m\u00e1s inofensivos, asociados a la cibermalicia, a los m\u00e1s peligrosos, como pueden ser los relacionados con el ciberterrorismo, el ciberespionaje o la ciberguerra. La misma variedad puede encontrarse en el nivel de sofisticaci\u00f3n y complejidad de los ciberataques, que var\u00eda mucho de unos a otros. Detr\u00e1s de los ciberataques m\u00e1s peligrosos y sofisticados susceptibles de utilizar la IA pueden estar grupos muy especializados, financiados por determinados Estados y cuyos ataques pueden estar dirigidos hacia infraestructuras cr\u00edticas de otro pa\u00eds o a generar campa\u00f1as de desinformaci\u00f3n. Si analizamos a los potenciales atacantes desde otra perspectiva, la de su forma de operar, pueden utilizar la IA tanto para explotar vulnerabilidades conocidas como para encontrar otras desconocidas o crearlas.<\/p>\n Adem\u00e1s de la utilizaci\u00f3n del uso ofensivo de la IA por parte de los ciberatacantes para conocer patrones de comportamiento de las futuras v\u00edctimas, tambi\u00e9n puede utilizarse para romper m\u00e1s r\u00e1pidamente contrase\u00f1asy captchas<\/em>, construir malware<\/em> que evite la detecci\u00f3n, esconderse donde no puedan ser encontrados, adaptarse lo antes posible a las contramedidas que puedan tomarse, as\u00ed como para la obtenci\u00f3n autom\u00e1tica de informaci\u00f3n utilizando m\u00e9todos de procesamiento del lenguaje natural (natural language processing<\/em>, NLP) y la suplantaci\u00f3n y generaci\u00f3n de audios, v\u00eddeos y textos falsos. Los atacantes tambi\u00e9n est\u00e1n utilizando redes generativas conflictivas (generative adversarial networks, GAN<\/a><\/em>)6<\/sup><\/a> para imitar patrones de tr\u00e1fico de comunicaciones normales con el objetivo de distraer la atenci\u00f3n de un ataque y encontrar y extraer datos sensibles r\u00e1pidamente7<\/sup><\/a>.<\/p>\n \u00bfSon vulnerables los sistemas de IA a los ciberataques?<\/strong><\/p>\n Los atacantes pueden utilizar sistemas de IA no s\u00f3lo para tomar sus decisiones, sino tambi\u00e9n para manipular las decisiones que toman otros. De forma simplificada, un sistema de IA no deja de ser un sistema de software<\/em> en el que se utilizan datos, modelos y algoritmos de procesamiento. En este sentido, un sistema de IA que no haya sido desarrollado con ciberseguridad desde el dise\u00f1o puede ser vulnerable a ciberataques que tengan como objetivo los datos, el modelo o el algoritmo de la IA y provocar resultados no deseados o decisiones equivocadas en el sistema. Diferentes empresas han sufrido ya ataques a sistemas comerciales de IA, como es el caso de Microsoft, que ha observado en los \u00faltimos cuatro a\u00f1os un importante incremento en este tipo de ataques8<\/sup><\/a>, o de Tesla9<\/sup><\/a>, Google10<\/sup><\/a> y Amazon11<\/sup><\/a>, por citar algunos.<\/p>\n La red de innovaci\u00f3n del proyecto SPARTA<\/a>, dentro de su programa de investigaci\u00f3n SAFAIR<\/a>, ha identificado diferentes t\u00e1cticas de ataque que pueden llevarse a cabo sobre los sistemas de IA, tanto durante la fase de entrenamiento del sistema como durante la fase de operaci\u00f3n, que se muestran en el siguiente cuadro.<\/p>\n\n\n
\n \nAcceso a los datos<\/th>\n <\/th>\n<\/tr>\n<\/tbody>\n \n Envenenamiento<\/th>\n Indirecto<\/td>\n<\/tr>\n \n Directo<\/td>\n Inyecci\u00f3n de datos<\/td>\n<\/tr>\n \n Manipulaci\u00f3n de los datos: manipulaci\u00f3n de etiquetas<\/td>\n<\/tr>\n \n Manipulaci\u00f3n de los datos: manipulaci\u00f3n de la entrada<\/td>\n<\/tr>\n \n Corrupci\u00f3n de la l\u00f3gica<\/td>\n<\/tr>\n \n Evasi\u00f3n<\/th>\n Gradiente<\/td>\n Un solo paso<\/td>\n<\/tr>\n \n Iterativo<\/td>\n<\/tr>\n \n Libre de gradiente<\/td>\n<\/tr>\n \n Oracle<\/th>\n Extracci\u00f3n<\/td>\n<\/tr>\n \n Inversi\u00f3n<\/td>\n<\/tr>\n \n Inferencia de pertenencia<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n