Acompanhar um setor em rápida evolução como a IA é uma tarefa difícil. Então, até que uma IA possa fazer isso por você, aqui está um resumo útil de histórias recentes no mundo do aprendizado de máquina, junto com pesquisas e experimentos notáveis que não abordamos por conta própria.
A propósito, o TechCrunch planeja lançar um boletim informativo sobre IA em breve. Fique atento. Enquanto isso, estamos aumentando a cadência de nossa coluna semirregular de IA, que antes era duas vezes por mês (ou mais), para semanal — portanto, fique atento para mais edições.
Esta semana na AI, a OpenAI revelou que é explorando como gerar pornografia de IA “responsavelmente”. Sim – você ouviu certo. Anunciada em um documento destinado a abrir as cortinas e coletar feedback sobre as instruções de sua IA, a nova política NSFW da OpenAI tem como objetivo iniciar uma conversa sobre como – e onde – a empresa pode permitir imagens e textos explícitos em seus produtos de IA, disse a OpenAI.
“Queremos garantir que as pessoas tenham o máximo controle, na medida em que isso não viole a lei ou os direitos de outras pessoas”, Joanne Jang, membro da equipe de produto da OpenAI, disse à NPR. “Há casos criativos em que conteúdos envolvendo sexualidade ou nudez são importantes para nossos usuários.”
Não é a primeira vez que a OpenAI telegrafa a disposição de mergulhar em território controverso. No início deste ano Mira Murati CTO da empresa contado O Wall Street Journal disse que ela “não tinha certeza” se a OpenAI eventualmente permitiria que sua ferramenta de geração de vídeo, Sora, fosse usada para criar conteúdo adulto.
Então, o que fazer com isso?
Lá é um futuro em que OpenAI abre a porta para pornografia gerada por IA e tudo acaba… bem. Não creio que Jang esteja errado ao dizer que existem formas legítimas de expressão artística adulta – expressão que poderia ser criada com a ajuda de ferramentas alimentadas por IA.
Mas não tenho certeza se podemos confiar na OpenAI – ou em qualquer fornecedor de IA generativa – para acertar.
Consideremos o ângulo dos direitos dos criadores, por exemplo. Os modelos da OpenAI foram treinados em grandes quantidades de conteúdo público da web, alguns sem dúvida de natureza pornográfica. Mas a OpenAI não licenciou todo esse conteúdo – nem mesmo permitiu que os criadores cancelassem o treinamento até recentemente (e mesmo assim, apenas certas formas de treinamento).
É difícil ganhar a vida com conteúdo adulto, e se a OpenAI levasse a pornografia gerada por IA para o mainstream, haveria uma competição ainda mais acirrada para os criadores – competição construída com base no trabalho desses criadores, e não à toa.
O outro problema que penso é a falibilidade das actuais salvaguardas. A OpenAI e seus rivais vêm refinando suas ferramentas de filtragem e moderação há anos. Mas os utilizadores descobrem constantemente soluções alternativas que lhes permitem abusar dos modelos, aplicações e plataformas de IA das empresas.
Apenas em janeiro, a Microsoft foi forçada a fazer alterações em sua ferramenta de criação de imagens Designer, que utiliza modelos OpenAI, depois que os usuários encontraram uma maneira de criar imagens nuas de Taylor Swift. Do lado da geração de texto, é trivial encontrar chatbots construídos sobre modelos supostamente “seguros”, como o Claude 3 da Anthropic, que cuspir prontamente erotismo.
A IA já criou uma nova forma de abuso sexual. Alunos do ensino fundamental e médio estão usando aplicativos com tecnologia de IA para “retirar” fotos de seus colegas sem o consentimento deles; um 2021 enquete realizado no Reino Unido, Nova Zelândia e Austrália descobriu que 14% dos entrevistados com idades entre 16 e 64 anos foram vítimas de imagens deepfake.
Novas leis nos EUA e noutros países visam combater esta situação. Mas o júri ainda não decidiu se o sistema judicial – um sistema judicial que já luta para erradicar a maioria dos crimes sexuais – para poder regular uma indústria em rápida evolução como a IA.
Francamente, é difícil imaginar uma abordagem que a OpenAI possa adotar para a pornografia gerada por IA que não seja repleta de riscos. Talvez a OpenAI reconsidere sua posição mais uma vez. Ou talvez – contra todas as probabilidades – vai descobrir uma maneira melhor. Seja qual for o caso, parece que descobriremos mais cedo ou mais tarde.
Aqui estão algumas outras histórias dignas de nota sobre IA dos últimos dias:
- Planos de IA da Apple: O CEO da Apple, Tim Cook, revelou algumas informações sobre os planos da empresa de avançar com a IA durante a teleconferência de resultados da semana passada com investidores. Sarah tem a história completa.
- GenAI empresarial: Os CEOs do Dropbox e Figma – Drew Houston e Dylan Field, respectivamente – investiram na Lamini, uma startup que desenvolve tecnologia de IA generativa junto com uma plataforma de hospedagem de IA generativa voltada para organizações empresariais.
- IA para atendimento ao cliente: O Airbnb está lançando um novo recurso que permite aos anfitriões optar por sugestões baseadas em IA para responder às perguntas dos hóspedes, como enviar aos hóspedes um guia de checkout da propriedade.
- A Microsoft restringe o uso de IA: A Microsoft reafirmou sua proibição aos departamentos de polícia dos EUA de usar IA generativa para reconhecimento facial. Também proibiu as autoridades globais de aplicar tecnologia de reconhecimento facial em câmeras corporais e de painel.
- Dinheiro para a nuvem: Provedores de nuvem alternativos, como o CoreWeave, estão arrecadando centenas de milhões de dólares à medida que o boom da IA generativa impulsiona a demanda por hardware de baixo custo para treinar e executar modelos.
- RAG tem seus limites: As alucinações são um grande problema para as empresas que procuram integrar IA generativa nas suas operações. Alguns fornecedores afirmam que podem eliminá-los usando uma técnica chamada RAG. Mas essas afirmações são muito exageradas, sinceramente.
- Resumidor da reunião de Vogels: O CTO da Amazon, Werner Vogels, abriu o código-fonte de um aplicativo resumidor de reuniões chamado Distill. Como seria de esperar, depende fortemente dos produtos e serviços da Amazon.
