La Ley de IA se concibi\u00f3 como un proyecto de ley hist\u00f3rico, que mitigar\u00eda los perjuicios en \u00e1mbitos donde el uso de la IA supone un mayor riesgo para los derechos fundamentales. Por ejemplo, la sanidad, la educaci\u00f3n, la vigilancia de fronteras y los servicios p\u00fablicos, adem\u00e1s de prohibir los usos que supongan un “riesgo inaceptable”. La Ley de la IA crear\u00e1 una nueva\u00a0Oficina Europea de la IA\u00a0para coordinar su\u00a0cumplimiento, aplicaci\u00f3n y ejecuci\u00f3n.<\/p>\n
Est\u00e1 hecho. Se ha acabado.<\/a>\u00a0Dos a\u00f1os y medio despu\u00e9s de presentarse por primera vez, tras meses de presiones, pulso pol\u00edtico, y unas agotadoras negociaciones finales que duraron casi 40 horas, los legisladores de la UE han llegado a un acuerdo sobre la Ley de Inteligencia Artificial. Ser\u00e1 la primera Ley de IA del mundo.<\/p>\n La Ley de IA se concibi\u00f3 como un proyecto de ley hist\u00f3rico, que mitigar\u00eda los perjuicios en \u00e1mbitos donde el uso de la IA supone un mayor riesgo para los derechos fundamentales. Por ejemplo, la sanidad, la educaci\u00f3n, la vigilancia de fronteras y los servicios p\u00fablicos, adem\u00e1s de prohibir los usos que supongan un “riesgo inaceptable”.<\/p>\n Los sistemas de IA de “alto riesgo” deber\u00e1n cumplir unas estrictas normas que exijan, por ejemplo, sistemas de mitigaci\u00f3n de esos riesgos, conjuntos de datos de alta calidad, mejor documentaci\u00f3n y supervisi\u00f3n humana. Sin embargo, la gran mayor\u00eda de los usos de la IA, como los sistemas de recomendaci\u00f3n y los filtros de\u00a0spam<\/em>, tendr\u00e1n v\u00eda libre.<\/p>\n La Ley de IA es un gran acuerdo, ya que introducir\u00e1 importantes normas y mecanismos de aplicaci\u00f3n en un sector muy influyente que ahora parece el Salvaje Oeste.<\/p>\n Estas son las principales conclusiones de\u00a0MIT Technology Review<\/em>:<\/strong><\/p>\n 1. La Ley de IA introduce normas importantes y vinculantes sobre transparencia y \u00e9tica<\/strong><\/p>\n A las empresas tecnol\u00f3gicas les encanta hablar de su\u00a0compromiso con la \u00e9tica de la IA<\/a>. Pero, cuando se trata de medidas concretas, la conversaci\u00f3n se estanca. En cualquier caso, los hechos dicen m\u00e1s que las palabras. Los\u00a0equipos responsables de IA<\/a>\u00a0suelen ser los primeros en sufrir recortes durante los despidos y las empresas tecnol\u00f3gicas pueden cambiar sus pol\u00edticas \u00e9ticas en materia de IA en cualquier momento. Por ejemplo, OpenAI empez\u00f3 como un laboratorio de investigaci\u00f3n de IA “abierta” antes de cerrar el acceso p\u00fablico a su investigaci\u00f3n para conservar su ventaja competitiva, como cualquier otra\u00a0start-up<\/em>\u00a0de IA.<\/p>\n La ley cambiar\u00e1 esta situaci\u00f3n. El reglamento impone normas jur\u00eddicamente vinculantes que obligan a las empresas tecnol\u00f3gicas a\u00a0notificar a los usuarios cuando interact\u00faan con un chatbot, sistemas de categorizaci\u00f3n biom\u00e9trica o de reconocimiento de emociones<\/strong>. Tambi\u00e9n exigir\u00e1 que se etiqueten tanto los\u00a0deepfakes<\/em>\u00a0como los contenidos generados por IA, y se dise\u00f1en los sistemas de forma que puedan detectarse los medios generados por IA. Es un paso m\u00e1s all\u00e1 de los compromisos voluntarios que las principales empresas de IA contrajeron con la Casa Blanca para limitarse a\u00a0desarrollar<\/em>\u00a0herramientas de procedencia de la IA, como\u00a0las marcas de agua<\/strong><\/a>.<\/strong><\/p>\n l proyecto de ley tambi\u00e9n obligar\u00e1 a todas las organizaciones que ofrecen servicios esenciales, como seguros y banca, a realizar una evaluaci\u00f3n de impacto sobre c\u00f3mo afectar\u00e1 el uso de sistemas de IA a los derechos fundamentales de las personas.<\/p>\n 2. Las empresas de IA a\u00fan tienen mucho margen de maniobra<\/strong><\/p>\n En 2021, cuando se present\u00f3 por primera vez la Ley de IA, la poblaci\u00f3n\u00a0a\u00fan hablaba del metaverso<\/strong>. (\u00bfTe lo puedes creer?)<\/p>\n En un mundo post-ChatGPT, los legisladores consideraron que la regulaci\u00f3n deb\u00eda tener en cuenta a los denominados modelos de lenguaje, unas potentes herramientas de IA que pueden utilizarse para fines muy distintos. Esto provoc\u00f3 un intenso debate sobre qu\u00e9 tipo de modelos deber\u00edan regularse, y si esta regulaci\u00f3n podr\u00eda acabar con la innovaci\u00f3n.<\/p>\n La Ley de IA exigir\u00e1 que los modelos fundacionales y los sistemas de IA creados a partir de ellos mejoren la documentaci\u00f3n, cumplan la legislaci\u00f3n de la UE sobre derechos de autor y compartan m\u00e1s informaci\u00f3n sobre los datos con los que se ha entrenado el modelo. Y, para los modelos m\u00e1s potentes, hay requisitos adicionales. Por ejemplo, las empresas tecnol\u00f3gicas tendr\u00e1n que\u00a0informar sobre la seguridad y eficiencia energ\u00e9tica<\/strong>\u00a0de sus modelos de IA.<\/p>\n No obstante, aqu\u00ed est\u00e1 el truco. El compromiso al que han llegado los legisladores consiste en aplicar un conjunto de\u00a0normas m\u00e1s estrictas solo a los modelos de IA m\u00e1s potentes<\/strong>, en funci\u00f3n de la potencia inform\u00e1tica necesaria para entrenarlos. Y corresponder\u00e1 a las empresas evaluar si entran dentro de las normas m\u00e1s estrictas.<\/p>\n Un funcionario de la Comisi\u00f3n Europea no quiso confirmar si el l\u00edmite actual incluir\u00eda potentes modelos como\u00a0GPT-4<\/a>\u00a0de OpenAI o\u00a0Gemini<\/a>\u00a0de Google, porque\u00a0solo las propias empresas saben cu\u00e1nta potencia de c\u00e1lculo utilizaron para entrenar sus modelos<\/strong>. El funcionario s\u00ed afirm\u00f3 que, a medida que se desarrolle la tecnolog\u00eda, la UE podr\u00eda cambiar la forma de medir la potencia de los modelos de IA.<\/p>\n 3. La UE se convertir\u00e1 en la primera polic\u00eda de la IA del mundo<\/strong><\/p>\n La Ley de la IA crear\u00e1 una nueva\u00a0Oficina Europea de la IA<\/strong>\u00a0para coordinar su\u00a0cumplimiento, aplicaci\u00f3n y ejecuci\u00f3n<\/strong>. Ser\u00e1 el primer organismo mundial que aplique normas vinculantes sobre IA, y la UE espera que esto le ayude a convertirse en el\u00a0regulador tecnol\u00f3gico mundial de referencia<\/strong>. El mecanismo de gobernanza de la Ley de IA tambi\u00e9n incluye a un grupo cient\u00edfico de expertos independientes que ofrezca orientaci\u00f3n sobre los riesgos sist\u00e9micos que plantea la IA, y c\u00f3mo clasificar y probar los modelos.<\/p>\n Las multas por incumplimiento son elevadas:\u00a0del 1,5% al 7% de la facturaci\u00f3n global\u00a0<\/strong>de una empresa, dependiendo de la gravedad de la infracci\u00f3n y del tama\u00f1o de la empresa.<\/p>\n Europa tambi\u00e9n se convertir\u00e1 en uno de los primeros lugares del mundo donde los ciudadanos podr\u00e1n presentar quejas sobre los sistemas de IA y recibir explicaciones sobre c\u00f3mo estos sistemas han llegado a las conclusiones que les afectan.<\/p>\n Al ser la primera en formalizar normas en torno a la IA, la UE conserva su ventaja. Al igual que el RGPD, la Ley de IA podr\u00eda convertirse en una norma mundial. Las empresas de otros pa\u00edses que quieran hacer negocios en la segunda econom\u00eda mundial tendr\u00e1n que cumplir la ley. Las normas de la UE tambi\u00e9n van un paso m\u00e1s all\u00e1 que las introducidas por EE UU, como\u00a0la orden ejecutiva de la Casa Blanca<\/a>, ya que son vinculantes.<\/p>\n 4. La seguridad nacional siempre gana<\/strong><\/p>\n Algunos usos de la IA ahora est\u00e1n prohibidos en la UE: los sistemas de categorizaci\u00f3n biom\u00e9trica que utilizan caracter\u00edsticas m\u00e1s sensibles, el raspado no selectivo de im\u00e1genes faciales de internet o grabaciones de CCTV [circuito cerrado de televisi\u00f3n] para crear bases de datos de reconocimiento facial como\u00a0Clearview<\/strong>\u00a0AI. Adem\u00e1s, el\u00a0reconocimiento de emociones en el trabajo o las escuelas<\/strong>, el\u00a0scoring<\/em>\u00a0(puntuaci\u00f3n) social<\/a>, los sistemas de IA que manipulan el comportamiento humano, y la IA utilizada para explotar las vulnerabilidades de las personas.<\/p>\n