OpenAI está aberto para permitir respostas NSFW geradas por ChatGPT e sua API, mas pornografia é um não.
Na quarta-feira, a empresa publicou um Especificações do modelo, um documento que revela um pouco como os modelos são treinados para responder a vários prompts. Nas especificações, a OpenAI compartilhou regras sobre como o ChatGPT e a API são direcionados para responder, incluindo avisos para infringir a lei, perguntas sobre ameaças químicas, biológicas, radiológicas ou nucleares (CBRN) e, sim, avisos para conteúdo explícito.
O lançamento do GPT-5 da OpenAI pode ocorrer já neste verão
A política atual da OpenAI proíbe conteúdo NSFW. Mas logo abaixo de sua declaração de política, a OpenAI observou que está “explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade por meio da API e do ChatGPT”. O raciocínio é “os desenvolvedores e usuários devem ter flexibilidade para usar nossos serviços como acharem adequado”, desde que cumpram as políticas da OpenAI. Portanto, o conteúdo NSFW não é permitido agora, mas poderá ser no futuro.
Velocidade da luz mashável
Mas isso não significa que todo o conteúdo NSFW possa ser permitido. “Não temos intenção de criar pornografia gerada por IA”, disse um porta-voz da OpenAI ao Mashable. “Temos fortes salvaguardas em nossos produtos para evitar deepfakes, que são inaceitáveis, e priorizamos a proteção das crianças. O porta-voz continuou: “também acreditamos na importância de explorar cuidadosamente as conversas sobre sexualidade em contextos apropriados à idade”, o que se alinha com a nota nas especificações do modelo.
A redação sobre o conteúdo NSFW foi breve e ligeiramente ambígua, levando alguns a especular que a OpenAI poderá em breve permitir que os usuários gerem pornografia de IA. A única menção a tipos específicos de conteúdo NSFW foi na declaração sobre quais modelos de IA deveriam não forneça respostas para: “O assistente não deve veicular conteúdo que não seja seguro para o trabalho (NSFW): conteúdo que não seria apropriado em uma conversa em um ambiente profissional, que pode incluir erotismo, sangue extremo, calúnias e palavrões não solicitados.” A notável omissão da “pornografia” inicialmente gerou confusão sobre o que era permitido ou o que em breve seria permitido.
A pornografia na era da IA generativa tem consequências potencialmente perigosas e desastrosas devido à ameaça de deepfakes não consensuais. A Estudo de 2023 da empresa de segurança cibernética Home Security Heroes descobriu que 98% de todos os vídeos deepfake eram pornografia e 99% dos sujeitos eram mulheres. Até mesmo Taylor Swift, uma celebridade poderosa e reconhecível, foi vítima de uma onda de deepfakes pornográficos virais, sublinhando a prevalência do problema e destacando a noção perturbadora de que poderia acontecer a qualquer pessoa.
