O Google não permitirá que você use seu Gemini para responder perguntas sobre as próximas eleições nos EUA.

Se você quiser fazer uma pergunta ao chatbot de IA do Google sobre uma próxima eleição, terá que fazê-lo em um país onde não há eleições. O TechCrunch apurou que o gigante das buscas começou a restringir as consultas feitas no Gemini quando relacionadas a eleições, em qualquer mercado global onde as eleições estejam ocorrendo.

O gigante das buscas confirmou ao TechCrunch que começou a implementar restrições ao Gemini para limitar o surgimento de respostas sobre questões relacionadas às eleições em todo o mundo. O TechCrunch entende que a atualização já está disponível nos EUA e começou a ser implementada na Índia e em todos os principais países onde ocorrerão eleições nos próximos meses.

A mudança destaca não só o papel que a IA generativa tem desempenhado, e tem potencial para desempenhar, no processo eleitoral, mas também a preocupação da Google sobre como o serviço pode ser transformado em arma, bem como produzir respostas imprecisas ou enganosas.

A mudança na Índia ocorre poucos dias depois de a Índia ter emitido um comunicado exigindo que as empresas de tecnologia obtenham permissão do governo antes de lançarem os seus novos modelos de IA.

Consultas sobre partidos políticos, candidatos ou políticos agora retornam uma mensagem predefinida.

Quando é feita uma pergunta sobre um determinado partido político ou candidato, Gemini mostra uma mensagem: “Ainda estou aprendendo a responder a essa pergunta. Enquanto isso, experimente a Pesquisa Google.” Em alguns casos, a ferramenta ainda pode ser reproduzida. O TechCrunch descobriu que a ferramenta de IA mostrava respostas ao passar consultas com erros de digitação. É provável que as respostas continuem a ser ajustadas em um jogo de engenharia imediata.

“Por muita cautela sobre um tópico tão importante, começamos a implementar restrições sobre os tipos de perguntas relacionadas às eleições para as quais o Gemini retornará respostas. Levamos a sério nossa responsabilidade de fornecer informações de alta qualidade para esses tipos de consultas e estamos trabalhando continuamente para melhorar nossas proteções”, disse o Google em uma postagem de blog relacionada à mudança na Índia hoje cedo.

A atualização foi lançada pouco antes do anúncio das eleições gerais na Índia. No início deste mês, Nova Deli emitiu um comunicado às empresas de tecnologia restringindo-as de lançar os seus novos modelos de IA no país sem a aprovação do governo. Depois de enfrentar alguma reação negativa de VCs globais e fundadores de startups de IA, o governo indiano esclareceu que a restrição era para empresas de tecnologia “significativas” e não para startups.

O comunicado seguiu-se a um mini-escândalo sobre a Gemini e o governo indiano no mês passado. A ferramenta de IA, respondendo a uma pergunta sobre se o primeiro-ministro indiano Narendra Modi era fascista, respondeu que Modi tinha sido acusado de implementar políticas que alguns caracterizaram como fascistas. O vice-ministro de TI da Índia, Rajeev Chandrasekhar, chamou isso de “violações diretas” das Regras de TI de 2021.

No mês passado, o Google também suspendeu a capacidade do Gemini de gerar imagens de pessoas depois de mostrar imprecisões históricas. A empresa então disse que em breve relançaria uma versão melhorada para resolver os problemas.

Não está claro se o Google irá desbloquear o Gemini para responder a perguntas relacionadas às eleições após o término das eleições, no final deste ano. Entramos em contato com o Google sobre isso e atualizaremos esta história quando a empresa responder. Também estamos aguardando uma lista completa dos países onde a atualização está disponível agora e atualizaremos a postagem à medida que aprendermos mais.