Microsoft y Google buscan la manera de sortear los temores y normas sobre privacidad para alimentar algoritmos con datos tan sensibles como los m\u00e9dicos<\/p>\n
La reciente aparici\u00f3n de una potente t\u00e9cnica de aprendizaje de m\u00e1quinas conocida como aprendizaje profundo ha hecho que los gigantes de la computaci\u00f3n como Google, Facebook y Microsoft tengan todav\u00eda m\u00e1s apetito por los datos.<\/strong> Es lo que permite que el software aprenda a hacer cosas como reconocer im\u00e1genes o entender el lenguaje (ver Esto es lo que ve un ordenador para saber lo que le est\u00e1n ense\u00f1ando<\/a><\/em>).<\/p>\n Pero muchos problemas para los que el aprendizaje profundo podr\u00eda resultar m\u00e1s \u00fatil necesitan datos que resultan dif\u00edciles de recopilar o son propiedad de organizaciones<\/strong> que no quieren compartirlos. Y como lo expres\u00f3 el CEO de Apple, Tim Cook, algunos consumidores ya est\u00e1n preocupados por ciertas empresas que “engullen” sus datos personales.<\/p>\n “Mucha gente que posee conjuntos de datos sensibles como im\u00e1genes m\u00e9dicas no los va a compartir por motivos legales o de regulaci\u00f3n”, afirma el profesor del campus tecnol\u00f3gico de la Universidad de Cornell (EEUU) Vitaly Shmatikov,<\/a> que estudia la privacidad. “De alguna manera estamos privando a esa gente de los beneficios del aprendizaje profundo<\/strong>“.<\/p>\n Shmatikov e investigadores de Microsoft y Google est\u00e1n trabajando en maneras de esquivar ese problema de privacidad. Buscan maneras de utilizar y entrenar las redes neuronales artificiales, las que emplea el aprendizaje profundo, pero sin la necesidad de engullir todo.<\/strong>\u00a0El objetivo es poder entrenar software m\u00e1s inteligente y convencer a los guardianes de datos sensibles para usar este tipo de sistemas.<\/p>\n Shmatikov y su colega Reza Shokri est\u00e1n probando lo que llaman “aprendizaje profundo conservador de la privacidad<\/a>“. Ofrece una manera beneficiarse de m\u00faltiples organizaciones -como varios hospitales- y emplear sus datos para entrenar software de aprendizaje profundo, pero sin tener que exponerse al riesgo de compartirlos.<\/p>\n Cada organizaci\u00f3n entrena algoritmos de aprendizaje profundo con sus propios datos, y entonces comparte s\u00f3lo los par\u00e1metros claves del software entrenado. <\/strong>Despu\u00e9s pueden juntarse para formar un sistema que rinde casi tan bien como si se hubiera entrenado con todos los datos de forma simult\u00e1nea.<\/p>\n La investigaci\u00f3n de la Universidad de Cornell fue financiada en parte por Google, que ha publicado un trabajo<\/a> sobre unos experimentos similares y se encuentra en negociaciones con Shmatikov acerca de sus ideas. Los investigadores de la empresa inventaron una manera de entrenar los algoritmos de aprendizaje profundo de la empresa con datos como las im\u00e1genes procedentes de smartphones, <\/em>pero sin llegar a transferirlas a la nube de Google.<\/p>\n Eso podr\u00eda facilitar que la empresa aproveche los datos m\u00e1s personales que almacenamos<\/strong> en nuestros dispositivos m\u00f3viles, escribieron. Google rehus\u00f3 facilitar un contacto para hablar sobre esa investigaci\u00f3n, pero Shmatikov cree que la empresa sigue trabajando en ella.<\/p>\n El grupo de investigaciones de criptograf\u00eda de Microsoft ha desarrollado su propia soluci\u00f3n para el problema de la privacidad del aprendizaje profundo. Invent\u00f3 una manera de utilizar software de aprendizaje profundo entrenado con datos encriptados para generar respuestas encriptadas.<\/strong> La idea es que un hospital, por ejemplo, podr\u00eda pedir a Microsoft que utilice una de esas \u201cCryptoNets<\/a>\u201d (criptoredes) para identificar im\u00e1genes de esc\u00e1ner que sugieran problemas potenciales y evitar la necesidad de exponer esas im\u00e1genes ante la empresa.<\/p>\n Los investigadores lograron esta haza\u00f1a con el uso de una t\u00e9cnica llamada cifrado homom\u00f3rfico<\/a>, que posibilita realizar operaciones matem\u00e1ticas con datos encriptados<\/strong> para generar un resultado encriptado (ver TR10: Cifrado homom\u00f3rfico<\/em><\/a>). Han probado la idea con software de aprendizaje profundo que reconoce la escritura a mano, y un sistema que calcula el riesgo de un paciente de padecer neumon\u00eda a partir de sus constantes vitales.<\/p>\n Una criptored requiere m\u00e1s potencia computacional que el software convencional de aprendizaje profundo para realizar la misma tarea. Pero una de las responsables de las investigaciones de criptograf\u00eda en Microsoft\u00a0Kristin Lauter<\/a>, dice que la diferencia es lo suficientemente peque\u00f1a para permitir que las criptoredes se vuelvan pr\u00e1cticas para aplicaciones del mundo real. “Creo que las industrias m\u00e9dicas, financieras y farmac\u00e9uticas tienen las mayores probabilidades <\/strong>de emplear este sistema primero”, afirma Lauter.<\/p>\n