Fatshimetrie: la nueva herramienta de inteligencia artificial de Microsoft genera preocupaciones sobre la protección de datos personales
El anuncio de la nueva función de inteligencia artificial de Microsoft, Recall para Windows, está generando cierto entusiasmo sobre su posible uso indebido por parte de personas malintencionadas. Esta nueva innovación, que se presenta como una especie de «máquina del tiempo» personal, permite a los usuarios encontrar rápidamente cualquier contenido que se haya mostrado en su pantalla, como documentos, imágenes y sitios web. A diferencia de una búsqueda tradicional de palabras clave, la herramienta captura periódicamente capturas de pantalla de la actividad del usuario y las almacena directamente en el dispositivo. Luego utiliza IA para procesar los datos y hacer que se puedan buscar.
Por ejemplo, si un usuario hubiera buscado previamente un vestido verde o el nombre de una lechería local, simplemente tendría que pedir a la función «Recuperar» para encontrar cualquier contenido relacionado con sus búsquedas anteriores.
Si bien esta forma de búsqueda semántica representa un avance significativo para la IA, llega en un momento en que la industria está evolucionando rápidamente y los reguladores gubernamentales, las empresas y los consumidores todavía están tratando de descubrir cómo utilizar esta tecnología de manera responsable.
Jen Golbeck, profesora de inteligencia artificial en la Universidad de Maryland que se especializa en privacidad, señala la posible pesadilla que esta característica podría representar si el dispositivo cayera en las manos equivocadas. Advierte que, a pesar de que los datos se almacenan localmente en el dispositivo, siguen siendo accesibles a terceros. Incluso usando el modo incógnito o limpiando su historial, los usuarios no podrán protegerse, porque la herramienta tiene acceso a todo lo que se ha mostrado en su pantalla.
La ICO, el regulador independiente de protección de datos y libertad de información del Reino Unido, está investigando actualmente la herramienta Recall para comprender las salvaguardas implementadas para salvaguardar la privacidad del usuario. La organización espera que las empresas sean transparentes sobre el uso de datos personales y las anima a procesar esta información sólo en la medida necesaria para lograr un objetivo específico.
Aunque Microsoft aún no ha respondido a las solicitudes de comentarios, el director ejecutivo Satya Nadella enfatizó que las búsquedas web deben realizarse únicamente a través del navegador web Edge de Microsoft y que las capturas de pantalla nunca salen de la computadora del usuario. Este enfoque local, según él, garantiza la protección de datos.
Algunos expertos creen que las preocupaciones sobre esta característica son exageradas, dado que los datos permanecen exclusivamente en el dispositivo y el usuario conserva el control total.. Los usuarios pueden optar por habilitar la función al configurar su dispositivo y personalizar a qué aplicaciones y sitios web puede acceder Recall. Estos controles refuerzan la idea de que la seguridad y la privacidad son el núcleo de esta función.
Sin embargo, Jen Golbeck destaca escenarios en los que esta protección podría no ser suficiente, incluso para un periodista en un país hostil, alguien que busca escapar de una relación abusiva o un individuo que busca información médica confidencial. Ella señala que estas preguntas sobre la herramienta probablemente tendrán un gran impacto en el lugar de trabajo, donde muchas actividades personales realizadas en una computadora del trabajo podrían archivarse y ser accesibles para el departamento de TI.
El desarrollo tecnológico, a pesar de sus ventajas, muchas veces se lleva a cabo sin considerar posibles usos maliciosos. Es fundamental tener en cuenta estos riesgos para garantizar la protección de los datos y la preservación de la privacidad individual.
En conclusión, aunque la función Recall de Microsoft abre nuevas posibilidades en términos de búsqueda y accesibilidad a los datos, también plantea preocupaciones legítimas sobre privacidad y seguridad. Es esencial que las empresas y los reguladores trabajen juntos para definir estándares claros para el uso de dichas tecnologías, respetando al mismo tiempo los derechos y la privacidad de los usuarios.
Leave a Reply