La IA de c\u00f3digo abierto est\u00e1 en todas partes. El problema es que nadie se pone de acuerdo sobre qu\u00e9 es realmente. Ahora puede que por fin tengamos una respuesta. La Open Source Initiative (OSI), ha publicado una nueva definici\u00f3n, que espera que ayude a los legisladores a desarrollar normativas para proteger a los consumidores de los riesgos de la IA.<\/p>\n
La IA de c\u00f3digo abierto est\u00e1 en todas partes. El problema es que nadie se pone de acuerdo\u00a0sobre qu\u00e9 es realmente<\/a>. Ahora puede que por fin tengamos una respuesta. La Open Source Initiative (OSI), el grupo de \u00e1rbitros autoproclamado de lo que significa ser de c\u00f3digo abierto, ha publicado una nueva definici\u00f3n, que espera que ayude a los legisladores a desarrollar\u00a0normativas para proteger a los consumidores de los riesgos de la IA.<\/strong><\/p>\n Aunque la OSI ha publicado mucho sobre lo que constituye una tecnolog\u00eda de c\u00f3digo abierto en otros campos, este es su primer intento de\u00a0definir el t\u00e9rmino para los modelos de IA<\/strong>. Pidi\u00f3 a un grupo de 70 personas formado por investigadores, abogados, responsables pol\u00edticos y activistas, as\u00ed como representantes de grandes empresas tecnol\u00f3gicas como Meta, Google y Amazon, que elaboraran la definici\u00f3n de partida.<\/p>\n Seg\u00fan el grupo, un sistema de IA de c\u00f3digo abierto puede\u00a0utilizarse para cualquier fin sin necesidad de obtener un permiso, y los investigadores deben poder inspeccionar sus componentes y estudiar c\u00f3mo funciona el sistema<\/strong>. Tambi\u00e9n debe ser posible modificar el sistema para cualquier fin \u2014incluido su resultado\u2014 y compartirlo con otros para que lo utilicen, con o sin modificaciones, para todo tipo de prop\u00f3sitos. Adem\u00e1s, la norma intenta definir un nivel de transparencia respecto a los datos de entrenamiento, el c\u00f3digo fuente y las ponderaciones de un modelo determinado.<\/p>\n La ausencia previa de un est\u00e1ndar de c\u00f3digo abierto planteaba un problema. Aunque sabemos que las decisiones de OpenAI y Anthropic de mantener en secreto sus modelos, conjuntos de datos y algoritmos hacen que su IA sea de c\u00f3digo cerrado, algunos expertos sostienen que\u00a0los modelos de libre acceso de Meta y Google, que cualquiera puede inspeccionar y adaptar, tampoco son realmente de c\u00f3digo abierto<\/strong>, debido a las licencias que restringen lo que los usuarios pueden hacer con los modelos y a que los conjuntos de datos de entrenamiento no se hacen p\u00fablicos.<\/p>\n Se ha contactado con Meta, Google y OpenAI para conocer su respuesta a la nueva definici\u00f3n, pero no han contestado antes de la publicaci\u00f3n. “Se sabe que\u00a0las empresas hacen un mal uso del t\u00e9rmino cuando comercializan sus modelos<\/strong>“, afirma Avijit Ghosh, investigador de pol\u00edtica aplicada de Hugging Face, una plataforma para crear y compartir modelos de IA. Describir los modelos como de c\u00f3digo abierto puede hacer que se perciban como m\u00e1s fiables, aunque los investigadores no puedan comprobar de forma independiente si realmente lo son”.<\/p>\n Ayah Bdeir, asesora principal de Mozilla y participante del proceso de la OSI, afirma que algunas partes de la definici\u00f3n de c\u00f3digo abierto fueron relativamente f\u00e1ciles de acordar, como la necesidad de revelar las ponderaciones del modelo (los par\u00e1metros que ayudan a determinar c\u00f3mo un modelo de IA genera un resultado). Otras partes de las deliberaciones fueron m\u00e1s pol\u00e9micas, sobre todo la cuesti\u00f3n de\u00a0hasta qu\u00e9 punto deben ser p\u00fablicos los datos de entrenamiento<\/strong>.<\/p>\n La falta de transparencia sobre la procedencia de los datos de entrenamiento ha dado lugar a innumerables demandas contra grandes empresas de IA, desde fabricantes de modelos ling\u00fc\u00edsticos de gran tama\u00f1o como OpenAI hasta\u00a0generadores de m\u00fasica<\/a>\u00a0como Suno, que no revelan mucho sobre sus conjuntos de entrenamiento m\u00e1s all\u00e1 de decir que contienen “informaci\u00f3n de dominio p\u00fablico”. En respuesta, algunos defensores afirman que\u00a0los modelos de c\u00f3digo abierto deber\u00edan revelar todos sus conjuntos de entrenamiento<\/strong>, una norma que, seg\u00fan Bdeir, ser\u00eda dif\u00edcil de aplicar debido a cuestiones como los derechos de autor y la propiedad de los datos.<\/p>\n En \u00faltima instancia, la nueva definici\u00f3n exige que los modelos de c\u00f3digo abierto proporcionen informaci\u00f3n sobre los datos de entrenamiento en la medida en que\u00a0“una persona experta pueda recrear un sistema sustancialmente equivalente utilizando los mismos datos o datos similares”<\/strong>. Compartir todos los conjuntos de datos de entrenamiento no es una condici\u00f3n obligatoria, pero s\u00ed que va m\u00e1s all\u00e1 de lo que hacen hoy en d\u00eda muchos modelos patentados o incluso modelos que aparentan ser de c\u00f3digo abierto. Es un compromiso.<\/p>\n “Insistir en establecer una especie de regla de oro idealista y pura que, en realidad, nadie va a cumplir, acaba siendo contraproducente”, afirma Bdeir. A\u00f1ade que la OSI est\u00e1 preparando alg\u00fan tipo de\u00a0mecanismo que se\u00f1alar\u00e1 los modelos que se describan como de c\u00f3digo abierto, pero que no se ajusten a su definici\u00f3n<\/strong>. Tambi\u00e9n tiene previsto publicar una lista de modelos de IA que s\u00ed respondan a la nueva definici\u00f3n. Aunque ninguno de ellos est\u00e1 confirmado, el pu\u00f1ado de modelos que Bdeir dijo a\u00a0MIT Technology Review<\/em>\u00a0que se espera que aparezcan son poco conocidos, como Pythia de Eleuther, OLMo de Ai2 y los modelos del colectivo de c\u00f3digo abierto LLM360.<\/p>\n