Tecnología
Apple reveló cómo entrena su inteligencia artificial sin comprometer la privacidad de los usuarios
Todo el procesamiento de datos se lleva a cabo en un entorno de acceso restringido, lo que impide que los empleados de Apple puedan verlos de manera generalizada.
Apple emplea la técnica de privacidad diferencial local y la generación de datos sintéticos para entrenar su sistema de inteligencia artificial y optimizar funciones como OpenMoji y las herramientas de escritura, sin comprometer la privacidad de los usuarios.
La compañía afirma que puede recolectar información sobre las tendencias de uso de los usuarios sin que esto implique una violación de su privacidad, con el fin de mejorar su sistema Apple Intelligence. Para ello, utiliza una técnica denominada privacidad diferencial local.
Con este método, Apple asegura que puede “aprender sobre la comunidad de usuarios sin obtener información individual de los mismos”. Para lograrlo, elimina los identificadores de los datos, que luego son enviados a los servidores de Apple de manera encriptada.
En un análisis posterior, se elimina toda información que pudiera identificar a un usuario, como direcciones IP y metadatos. Los datos se agregan a los de otros usuarios que han pasado por el mismo proceso, permitiendo así la extracción de estadísticas útiles para mejorar el servicio.
Lo más leído
Ambas etapas, asegura Apple, se llevan a cabo en un entorno de acceso restringido, de manera que ni siquiera los datos ya anonimatos están disponibles de forma generalizada para los empleados de la empresa. Esta explicación se encuentra en un documento oficial que detalla el uso de la privacidad diferencial local.
Esta técnica se emplea en varias herramientas dentro de Apple Intelligence, con el objetivo de mejorarlas sin comprometer la privacidad de los usuarios. No obstante, es necesario que estos usuarios hayan habilitado previamente la opción de compartición de datos desde sus dispositivos.
Un ejemplo del uso de esta técnica es el generador de emojis Genmoji, que permite a Apple identificar “indicaciones populares y patrones de uso”. La compañía asegura que este proceso mejora la respuesta del sistema, especialmente en peticiones complejas que involucran múltiples elementos, como por ejemplo, “dinosaurio con sombrero de vaquero”.
Apple también ha adelantado que la privacidad diferencial local se aplicará a otras funciones, como Image Playground, Image Wand, Memories Creation y herramientas de escritura en Apple Intelligence, así como en Visual Intelligence.
En el caso de las funciones de texto que no se benefician directamente de esta técnica, Apple recurre a datos sintéticos que “representan las tendencias agregadas de datos reales de usuarios, sin recopilar correos electrónicos ni textos desde los dispositivos”.
“Nuestro objetivo es generar oraciones o correos electrónicos sintéticos que mantengan un tema o estilo similar al real, con el fin de mejorar nuestros modelos de resumen, sin que Apple recupere correos electrónicos de los dispositivos”, explica la compañía en su blog oficial. Al igual que con la privacidad diferencial local, esta práctica también requiere que los usuarios habiliten la opción de compartición de datos.
Ambas técnicas permiten a Apple “comprender las tendencias generales, sin necesidad de acceder a información personal específica”, lo que contribuye a la mejora continua de las funciones de Apple Intelligence.
*Con información de Europa Press
