Na semana passada, a Meta começou a testar seu chatbot de IA na Índia no WhatsApp, Instagram e Messenger. Mas com as eleições gerais indianas começando hoje, a empresa já está bloqueando consultas específicas em seu chatbot.
A Meta confirmou que está restringindo certas palavras-chave relacionadas às eleições para IA na fase de teste. Disse também que está trabalhando para melhorar o sistema de resposta de IA.
“Esta é uma tecnologia nova e pode nem sempre devolver a resposta que pretendemos, que é a mesma para todos os sistemas generativos de IA. Desde o lançamento, lançamos constantemente atualizações e melhorias em nossos modelos e continuamos trabalhando para torná-los melhores”, disse um porta-voz da empresa ao TechCrunch.
A medida torna o gigante das redes sociais a mais recente grande empresa tecnológica, reduzindo proativamente o âmbito dos seus serviços generativos de IA à medida que se prepara para um grande conjunto de eleições.
Uma das grandes preocupações dos críticos tem sido que a genAI possa fornecer informações enganosas ou totalmente falsas aos utilizadores, desempenhando um papel ilegal e indesejável no processo democrático.
No mês passado, o Google começou a bloquear consultas relacionadas às eleições em sua experiência de chatbot Gemini na Índia e em outros mercados onde as eleições ocorrerão este ano.
A abordagem da Meta segue um esforço maior que a empresa tem anunciado em torno do que permite e do que não permite na sua plataforma antes das eleições. Comprometeu-se a bloquear anúncios políticos na semana que antecede as eleições em qualquer país e está a trabalhar para identificar e divulgar quando imagens em anúncios ou outro conteúdo foram criadas com IA.
O tratamento de consultas genAI pelo Meta parece ser baseado em uma lista de bloqueio. Quando você pergunta à Meta AI sobre políticos, candidatos, titulares de cargos específicos e alguns outros termos, ela o redirecionará para o site da Comissão Eleitoral.
“Esta questão pode dizer respeito a uma figura política durante as eleições gerais. Consulte o link que a resposta diz.
Créditos da imagem: Captura de tela do TechCrunch
Notavelmente, a empresa não bloqueia estritamente as respostas a perguntas que contenham nomes de partes. No entanto, se uma consulta incluir nomes de candidatos ou outros termos, você poderá ver a resposta padrão citada acima.
Mas, assim como outros sistemas alimentados por IA, o Meta AI tem algumas inconsistências. Por exemplo, quando o TechCrunch solicitou informações sobre a “Aliança Indi” – uma aliança política de vários partidos que está lutando contra o atual Partido Bharatiya Janata (BJP) – ele respondeu com informações contendo o nome de um político. Porém, quando perguntamos sobre aquele político em uma consulta separada, o chatbot não respondeu com nenhuma informação.
Créditos da imagem: Captura de tela do TechCrunch
Esta semana, a empresa lançou um novo chatbot Meta AI com tecnologia Llama-3 em mais de uma dúzia de países, incluindo os EUA, mas a Índia não estava na lista. Meta disse que o chatbot estará em fase de testes no país por enquanto.
“Continuamos aprendendo com os testes de nossos usuários na Índia. Assim como fazemos com muitos de nossos produtos e recursos de IA, nós os testamos publicamente em diversas fases e em capacidade limitada”, disse um porta-voz da empresa ao TechCrunch em comunicado.
Atualmente, a Meta AI não está bloqueando consultas sobre eleições para termos relacionados aos EUA, como “Conte-me sobre Joe Biden”. Perguntamos à Meta se a empresa planeja restringir essas consultas às eleições dos EUA ou a outros mercados. Atualizaremos a história se tivermos resposta.
Se você quiser falar sobre sua experiência com Meta AI, entre em contato com Ivan Mehta em im@ivanmehta.com por e-mail e através deste link no Signal.
