Hackers en la era de los sistemas de armas aut\u00f3nomos<\/strong><\/p>\n Nos gusta ver a Kallisto Shield como el\u00a0primer sistema defensivo<\/strong>\u00a0dise\u00f1ado espec\u00edficamente para\u00a0enga\u00f1ar y hackear los algoritmos de IA\/ML<\/strong>\u00a0(por\u00a0Machine Learning<\/em>) de visi\u00f3n artificial que son utilizados en la detecci\u00f3n, identificaci\u00f3n y selecci\u00f3n de activos militares por los primeros sistemas aut\u00f3nomos militares (drones aut\u00f3nomos o semiaut\u00f3nomos que localizan y realizan el guiado terminal para destruir objetivos).<\/p>\n El Pent\u00e1gono y otras fuerzas armadas de todo el mundo son muy conscientes de las limitaciones de la generaci\u00f3n actual de algoritmos de IA\/ML y de las arquitecturas existentes de visi\u00f3n artificial. Incluso si la generaci\u00f3n actual de algoritmos basados en\u00a0redes neuronales convolucionales<\/a>\u00a0y\u00a0transformadores de visi\u00f3n<\/a>\u00a0es m\u00e1s eficiente que el analista humano en la detecci\u00f3n e identificaci\u00f3n de objetos, llevar\u00e1 alg\u00fan tiempo desarrollar la pr\u00f3xima generaci\u00f3n de algoritmos de IA para la detecci\u00f3n de objetivos que sean capaces de evitar ser confundidos por “mentes humanas”:<\/p>\n \u00a0\u00a0\u00a0\u00a0Un algoritmo de aprendizaje autom\u00e1tico entrenado para reconocer ciertos veh\u00edculos en im\u00e1genes satelitales, por ejemplo, tambi\u00e9n podr\u00eda aprender a asociar el veh\u00edculo con un determinado color del paisaje circundante. Un adversario podr\u00eda enga\u00f1ar a la IA cambiando el escenario alrededor de sus veh\u00edculos. Con el acceso a los datos de entrenamiento, el adversario tambi\u00e9n podr\u00eda implantar im\u00e1genes, como un s\u00edmbolo en particular, que confundir\u00edan al algoritmo.<\/em>[1]<\/strong><\/a> Inyectar im\u00e1genes envenenadas (llam\u00e9moslas se\u00f1uelos) de forma similar a los\u00a0Ataques de Inyecci\u00f3n R\u00e1pida<\/a>\u00a0(Prompt injection Attack<\/em>), permite envenenar el entrenamiento de los algoritmos de aprendizaje autom\u00e1tico e Inteligencia artificial. Podemos llamar a este tipo de enga\u00f1o \u201cAtaque por inyecci\u00f3n de\u00a0caracter\u00edsticas<\/a>\u201d (Feature Injection Attack<\/em>). Tengamos en cuenta que no estamos considerando solo im\u00e1genes RGB, sino tambi\u00e9n im\u00e1genes recogidas por c\u00e1maras t\u00e9rmicas, IR, SAR (radar de apertura sint\u00e9tica) y cualquier otra salida de un sensor utilizado en la fusi\u00f3n de datos que alimenta a cualquier algoritmo de detecci\u00f3n de objetivos (targeting<\/em>).<\/p>\n Esta es una muy buena manera de\u00a0aumentar la clasificaci\u00f3n err\u00f3nea de los algoritmos inteligencia artificial\u00a0<\/strong>utilizados en la detecci\u00f3n de objetivos y una buena manera de\u00a0manipular y aumentar los defectos de los sistemas de inteligencia artificial<\/strong>\u00a0actuales (sobre los futuros no podemos obviamente emitir una opini\u00f3n) debido al dise\u00f1o interno de sus algoritmos.<\/p>\n Una estrategia m\u00e1s astuta es\u00a0impedir el entrenamiento de los algoritmos de IA<\/strong>\u00a0impidiendo la recopilaci\u00f3n de conjuntos de datos de entrenamiento. Podemos llamar a esta parte de la estrategia del enga\u00f1o “disimulo<\/strong>“, el hecho de tratar de ocultar tus verdaderos sentimientos, car\u00e1cter, intenciones… o\u00a0caracter\u00edsticas<\/a>. No hay que olvidar que las caracter\u00edsticas se utilizan y son el punto de partida de cualquier algoritmo de visi\u00f3n artificial.<\/p>\n Una tercera estrategia es la \u201csimulaci\u00f3n\u201d<\/strong>, el acto de mostrar una caracter\u00edstica o firma (electromagn\u00e9tica) para ofuscar la identidad, la ubicaci\u00f3n o acci\u00f3n de un activo militar, es decir, crear una situaci\u00f3n o evento que\u00a0parece real pero no lo es<\/strong>.<\/p>\n El disimulo y la simulaci\u00f3n generalmente se realizan en conjunto. Siempre se mostrar\u00e1 algo (ya sea un objetivo o una pantalla de radar en blanco) mientras que la verdadera firma estar\u00e1 oculta. Al usar ambos m\u00e9todos, podemos crear ambig\u00fcedad o duda en los sistemas del enemigo con notable eficiencia. Reconociendo que nuestro mundo contin\u00faa dirigi\u00e9ndose hacia m\u00e1s y m\u00e1s datos, los ej\u00e9rcitos deben tomar decisiones conscientes (y r\u00e1pidas en nuestra opini\u00f3n) en relaci\u00f3n a los\u00a0datos que se ponen libremente a disposici\u00f3n de los medios de adquisici\u00f3n enemigos<\/strong>\u00a0(sat\u00e9lites, drones, globos de gran altitud).<\/p>\n \u00bfDebemos permitir que los sensores de nuestros enemigos adquieran las firmas electromagn\u00e9ticas de nuestras unidades, nuestros puestos de mando y nuestros veh\u00edculos?<\/strong><\/p>\n En Kallisto AI creemos que las alteraciones f\u00edsicas, el camuflaje, la ocultaci\u00f3n y el enga\u00f1o pueden resultar \u00fatiles para derrotar las primeras aplicaciones del an\u00e1lisis de datos y la recopilaci\u00f3n de firmas impulsados por IA. Nuestro sistema Kallisto Shield:<\/p>\n Y \u00bfc\u00f3mo un sistema pr\u00e1cticamente mec\u00e1nico puede conseguir estos efectos?<\/p>\n Como efectos secundarios adicionales, Kallisto Shield puede ayudar a confundir a algunas armas enemigas (enga\u00f1o), es decir, munici\u00f3n merodeadora de gama media\/baja que utilice algoritmos de visi\u00f3n artificial (por ejemplo los Lancet rusos) para detectar, apuntar y destruir objetivos militares. Esto es debido a que aumenta la probabilidad de detectar un se\u00f1uelo usando Kallisto Shield como si fuera un veh\u00edculo real usando Kallisto Shield.<\/p>\n Nuestro objetivo es por lo tanto romper la primera etapa de la cadena de ataque o \u201c<\/strong>kill chain<\/strong><\/a><\/em>\u201d.<\/strong><\/p>\n Kallisto Shield est\u00e1 protegido por el\u00a0Tratado de Cooperaci\u00f3n en materia de Patentes<\/a>\u00a0(PCT), con solicitudes de patente nacionales presentadas en los principales mercados de defensa mundiales (en azul en el siguiente mapa) como son Europa, los Estados Unidos de Am\u00e9rica, Ucrania, China, Arabia Saudita, Australia e India. Informaci\u00f3n adicional sobre Kallisto Shield est\u00e1 disponible en la\u00a0p\u00e1gina de producto<\/a>.<\/p>\n
\n<\/em><\/p><\/blockquote>\n\n
\n
![\"\"](\"https:\/\/www.fie.undef.edu.ar\/ceptm\/wp-content\/uploads\/2024\/08\/23189.jpg\")
![\"\"](\"https:\/\/www.fie.undef.edu.ar\/ceptm\/wp-content\/uploads\/2024\/08\/31891.jpg\")