¿No quieres que Gmail cribe tus correos? Demasiado tarde, su IA lo hará.

Parece que la burbuja de la IA sigue inflándose, con cada vez más empresas tecnológicas buscando problemas que creen que su IA podría resolver. Google no es una excepción. Siguiendo la estela de OpenAI, Google, Microsoft y Amazon se apresuran a poner sus productos de IA en manos de los clientes. Uno de los principales impulsos de esta tendencia consiste en incorporar la IA LLM en productos ya existentes, como aplicaciones de productividad y suites ofimáticas, independientemente del interés del usuario. Incluso algunas empresas que respetan la privacidad, como DuckDuckGo, están entrando en acción con la introducción de su chat de IA DuckDuckGo. Aunque DDG deja claro que no guarda tus conversaciones con su robot y que tus datos no se utilizan para entrenar conversaciones, las grandes empresas tecnológicas no son tan transparentes a la hora de explicar cómo se utilizan tus datos.

Independientemente de si realmente querías estas funciones de inteligencia artificial, te las están ofreciendo, te guste o no. ¿Qué amenazas para tu privacidad plantea la ola de la inteligencia artificial y es realmente una buena idea concederles acceso a todos tus correos electrónicos? Hablemos de ello.

¿Qué es Google Gemini?

Originalmente llamado Bard, Gemini de Google es un chatbot de IA creado como respuesta a la explosiva popularidad de la plataforma ChatGPT de OpenAI. La frenética carrera de Google por desarrollar un producto similar a ChatGPT incluso convocó una reunión de emergencia con los fundadores Sergey Brin y Larry Page, a pesar de que ya habían dimitido como CEO en 2019. Gemini se basa en el gran modelo de lenguaje de Google, también llamado Gemini, que tiene una historia de desarrollo algo cuestionable, ya que fue entrenado en transcripciones de videos de YouTube, lo que llevó a preocupaciones de violaciones de derechos de autor. Pero esto no es suficiente: para reunir suficientes datos de entrenamiento, Google recurrió a su propia fuente masiva mundial de comunicaciones humanas. No deberíamos preguntarnos "¿cómo utilizo la IA Gemini de Google?", sino "¿cómo me utiliza Gemini a mí y a mis datos?".

Las actualizaciones de su política de privacidad muestran que Google está utilizando cualquier información disponible públicamente para entrenar al bot de escritura LLM:

"Por ejemplo, utilizamos información disponible públicamente para ayudar a entrenar los modelos de IA de Google y crear productos y funciones como Google Translate, Bard y las capacidades de IA en la nube".

Esto nos lleva a preguntarnos si tu información privada también desempeñó un papel en el entrenamiento de Gemini/Bard. El propio chatbot afirmó haber sido entrenado utilizando datos de Google Search y Gmail, aunque Google se apresuró a intentar rebatir este desliz freudiano digital.

Esta sospecha se vuelve aún más turbia tras el anuncio de Google de que introducirá nuevas funciones de IA para sus productos Google Workspace, que permitirán a los usuarios hacer que Gemini redacte correos electrónicos, resuma conversaciones y mucho más. Con todas estas funciones disponibles_gratuitamente_ en tu cuenta de Google, ¿qué ocurre realmente con tus datos si concedes a la IA acceso a tu información personal?

LLM y tu correo electrónico

En su comunicado de prensa, Google mostró una presentación de diapositivas con un prominente botón azul grande enclavado en la esquina superior de una cuenta de Gmail abierta. Con sólo pulsar un botón, el chatbot de Google puede buscar en todo tu historial de correo electrónico para crear resúmenes de conversaciones con determinados contactos, redactar respuestas automáticas e incluso crear comparaciones de precios. Esta función se ha bautizado como "Gemini Pro en Workspace Labs" y si crees que sólo la utilizarán los particulares, piénsatelo otra vez. El uso empresarial de un sistema así parecería tentador a primera vista, pero existen preocupaciones legítimas sobre su privacidad.

Personalmente, no quiero que la consulta de mi proctólogo permita a la plataforma de inteligencia artificial de Google acceder a mi información médica personal. Parece una idea de mierda. Aunque hay poca información disponible sobre cómo podrían protegerse los datos médicos de este tipo de herramientas, esto debe tenerse en cuenta antes de que los LLM se abran camino en la industria médica. También han surgido preocupaciones sobre el grado en que la información de identificación personal de los clientes se pone a disposición de la IA si este chatbot de IA comienza a ser ampliamente implementado por empresas que buscan reducir el coste de emplear a miembros del equipo de soporte o administrativo.

Consecuencias para tu privacidad en el ecosistema de Google

No hace falta que siga dando palos de ciego, pero tu privacidad no es la prioridad de Google. Los anuncios dirigidos, incluso en Gmail, el rastreo cruzado en Internet y el uso desconocido de tus datos para entrenar modelos de inteligencia artificial son sólo la punta del iceberg Google/Privacidad.

Añadir inteligencia artificial generativa a esta mezcla no pinta un cuadro mejor.