Não quer que o Gmail analise os seus e-mails? Tarde demais, a IA deles vai fazê-lo.

Parece que a bolha da IA continua a inflacionar, com cada vez mais empresas tecnológicas à procura de problemas que acreditam que a sua IA pode resolver. A Google não é diferente. Seguindo o rasto da OpenAI, a Google, a Microsoft e a Amazon estão a esforçar-se por colocar os seus produtos de IA nas mãos dos clientes. Um grande impulso desta tendência é a incorporação de LLM de IA em produtos existentes, como aplicações de produtividade e suites de escritório, independentemente do interesse do utilizador. Até mesmo algumas empresas que respeitam a privacidade, como a DuckDuckGo, estão a entrar em ação, introduzindo o seu DuckDuckGo AI Chat. Embora a DDG deixe claro que não guarda as suas conversas com o robô e que os seus dados não são utilizados para treinar conversas, as grandes empresas de tecnologia não são tão transparentes quando discutem a forma como os seus dados estão a ser utilizados.

Independentemente de o utilizador pretender ou não estas funcionalidades de IA, elas estão a ser disponibilizadas, quer o utilizador goste ou não. Que ameaças à sua privacidade são colocadas pela onda LLM e será realmente uma boa ideia conceder-lhes acesso a todos os seus e-mails? Vamos falar sobre isso!

O que é o Google Gemini?

Originalmente chamado Bard, o Gemini da Google é um chatbot de IA criado como resposta à popularidade explosiva da plataforma ChatGPT da OpenAI. A corrida frenética do Google para desenvolver um produto semelhante ao ChatGPT até convocou uma reunião de emergência com os fundadores Sergey Brin e Larry Page, apesar de eles terem renunciado ao cargo de CEO em 2019. O Gemini é construído com base no modelo de linguagem grande do Google, também chamado Gemini, que tem uma história de desenvolvimento um tanto questionável, pois foi treinado em transcrições de vídeos do YouTube, levando a preocupações com violações de direitos autorais. Mas isto não é suficiente: para reunir dados de treino suficientes, a Google recorreu à sua própria fonte global maciça de comunicações humanas. Não devíamos perguntar "como é que eu uso a IA Gemini da Google?", mas sim "como é que a Gemini me está a usar a mim e aos meus dados?"

As actualizações da sua política de privacidade mostram que a Google está a utilizar qualquer informação disponível ao público para treinar o bot de escrita LLM:

"Por exemplo, utilizamos informações disponíveis ao público para ajudar a treinar os modelos de IA da Google e a criar produtos e funcionalidades como o Google Translate, o Bard e as capacidades de IA na nuvem."

Isto levanta a questão de saber se a sua informação privada também desempenhou ou não um papel no treino do Gemini/Bard. O próprio chatbot afirmou ter sido treinado com dados da Pesquisa Google e do Gmail, embora a Google tenha sido rápida a tentar contestar este deslize digital-freudiano.

Esta suspeita torna-se ainda mais obscura depois de a Google ter anunciado que vai introduzir novas funcionalidades de IA nos seus produtos Google Workspace, o que permitirá aos utilizadores fazer com que o Gemini redija e-mails, resuma conversas e muito mais. Com todas estas funcionalidades disponíveis_gratuitamente_ na sua conta Google, o que está realmente a acontecer com os seus dados se conceder à IA acesso às suas informações pessoais?

Os LLM's e o seu correio eletrónico

No seu comunicado de imprensa, a Google mostrou uma apresentação de diapositivos com um botão azul grande e proeminente aninhado no canto superior de uma conta Gmail aberta. Com um clique num botão, o chatbot da Google pode pesquisar todo o seu histórico de correio eletrónico para criar resumos de conversas com determinados contactos, redigir respostas automáticas e até criar comparações de preços. Esta funcionalidade foi denominada "Gemini Pro no Workspace Labs" e se pensa que será utilizada apenas por pessoas privadas, pense novamente. À primeira vista, a utilização comercial de um sistema deste tipo parece aliciante, mas existem preocupações legítimas em matéria de privacidade relativamente à sua utilização.

Pessoalmente, não quero que o consultório do meu proctologista permita que a plataforma de IA da Google aceda às minhas informações médicas pessoais. Isto parece-me uma ideia de merda. Embora haja pouca informação disponível sobre a forma como os dados médicos podem ser protegidos deste tipo de ferramenta, este aspeto deve ser considerado antes de os LLM entrarem no sector médico. Também foram levantadas preocupações sobre o grau em que as informações pessoais identificáveis dos clientes estão a ser disponibilizadas à IA se este chatbot de IA começar a ser amplamente implementado por empresas que procuram reduzir o custo de empregar membros da equipa de apoio ou administrativa.

Consequências para a sua privacidade no ecossistema Google

Não preciso de continuar a bater num cavalo morto, mas a sua privacidade não é a prioridade da Google. Os anúncios direccionados, mesmo no Gmail, o rastreio entre sítios na Internet e a utilização desconhecida dos seus dados para treinar modelos de IA são apenas a ponta do icebergue Google/Privacidade.

Acrescentar a inteligência artificial generativa a esta mistura não dá uma imagem melhor.