No início, John Pasmore ficou entusiasmado com o ChatGPT.
O fundador da série estava no espaço da inteligência artificial desde pelo menos 2008. Ele relembrou os dias em que os especialistas declararam que levaria décadas até que o mundo visse algo parecido com um ChatGPT. Avanço rápido – esse dia chegou.
Mas há um porém.
ChatGPT, uma das ferramentas de inteligência artificial mais poderosas do mundo, luta com nuances culturais. Isso é muito chato para um negro como Pasmore. Na verdade, este descuido despertou a ira de muitos negros que já não se viam devidamente representados nos algoritmos anunciados para um dia salvar o mundo. O atual ChatGPT oferece respostas demasiado generalizadas para questões específicas que atendem a determinadas comunidades, pois a sua formação parece eurocêntrica e ocidental no seu viés. Isso não é único – a maioria dos modelos de IA não são construídos pensando nas pessoas de cor. Mas muitos fundadores negros estão inflexíveis em não ficar para trás.
Numerosas versões do ChatGPT de propriedade de negros surgiram no ano passado para atender especificamente às comunidades negras e pardas, à medida que fundadores negros, como Pasmore, buscam capitalizar o deslize cultural da OpenAI.
“Se você perguntar ao modelo em geral quem são alguns dos artistas mais importantes de nossa cultura, ele lhe dará Leonardo da Vinci e Michelangelo”, disse Pasmore sobre o ChatGPT. “Não vai dizer nada sobre a Índia ou a China, a África ou mesmo os afro-americanos, porque tem um preconceito que se concentra na trajetória histórica europeia.”
Então Pasmore lançou Latimer.AI, um modelo de linguagem para dar respostas adaptadas para refletir as experiências dos negros e pardos. Erin Reddick começou ChatPretoGPT, um chatbot também centrado em comunidades negras e pardas. Globalmente existe a empresa com sede no Canadá Vela de ignição, que é essencialmente um ChatGPT para estudantes negros e pardos. África também está a assistir a uma grande inovação neste espaço, com modelos linguísticos a surgir para atender às mais de 2.000 línguas e dialectos falados no continente que os modelos ocidentais de IA ainda ignoram.
“Somos os guardiões de nossas próprias histórias e experiências”, disse Tamar Huggins, fundadora da Spark Plug, ao TechCrunch. “Precisamos criar sistemas e infraestrutura que possuímos e controlamos, para garantir que nossos dados continuem sendo nossos.”
A IA personalizada está aqui
Os modelos generalizados de IA não conseguem captar facilmente a experiência afro-americana porque muitos aspectos dessa cultura não estão online. Os algoritmos atuais vasculham a Internet em busca de fontes, mas muitas tradições e dialetos da cultura afro-americana são transmitidos oralmente ou em primeira mão, deixando uma lacuna entre o que um modelo de IA entenderá sobre a comunidade versus as nuances do que realmente acontece.
Esta é uma das razões pelas quais Pasmore tentou usar fontes como o Amsterdam News, um dos jornais negros mais antigos dos EUA, enquanto construía o Latimer.AI, concentrando-se na precisão em vez de na formação em dados gerados pelos utilizadores extraídos da Internet. Fazendo isso, ele começou a ver diferenças entre seu modelo e o do ChatGPT.
Certa vez, ele perguntou ao ChatGPT sobre a Ferrovia Subterrânea, a passagem que os negros americanos escravizados usavam para viajar para os estados do Norte para escapar da escravidão. O modelo do ChatGPT mencionaria escravos fugitivos, enquanto o Latimer.AI ajustou o texto, referindo-se aos “escravizados” ou “pessoas em busca de liberdade”, o que está mais de acordo com o que se tornou mais sintonizado socialmente ao discutir os ex-escravizados.
“Há algumas diferenças sutis na linguagem que o modelo usa por causa dos dados de treinamento, e o próprio modelo pensa apenas em pessoas negras e pardas”, disse Pasmore.
Enquanto isso, ChatBlackGPT de Erin Reddick ainda está em modo beta com planos de lançamento em junho. Seu produto funciona como parece: um chatbot onde é possível fazer perguntas e receber respostas personalizadas sobre a cultura negra. “A essência do que estamos fazendo é realmente voltada para a comunidade”, disse ela.
Ela está no processo de construção da ferramenta, perguntando aos usuários como eles querem que seja e como querem que aja. Ela também está se unindo a instituições de ensino, como faculdades e universidades historicamente negras (HBCUs), para trabalhar com alunos para ensinar e fazer com que ajudem a treinar seu algoritmo. Ela disse que deseja “criar uma oportunidade de aprendizagem abrangente para que pessoas negras e pardas tenham um espaço seguro para explorar a IA”.
“O algoritmo prioriza as fontes de informação negra para que possa falar com um corpo de conhecimento que seja mais imediatamente identificável do que a sua experiência média”, disse ela ao TechCrunch, acrescentando que, como o produto de Pasmore, tecnicamente qualquer pessoa pode usá-lo.
Tamar Huggins construiu o Spark Plug para oferecer também uma experiência mais personalizada às comunidades negras e pardas. Sua plataforma traduz material educacional para o inglês vernacular afro-americano (AAVE), o etnoleto associado às comunidades negras americanas. Esse dialeto é tradicionalmente transmitido oralmente e em primeira mão, em vez de estudado e escrito como o inglês padrão, o que significa a precisão de um modelo de IA (ou pessoa) que o aprende. apenas a internet vai vacilar em precisão. Capturar o AAVE com precisão é importante, não apenas para que o GPT responda usando-o, mas também para que os alunos possam escrever prompts com mais facilidade que farão com que a IA retorne os resultados de que precisam.
“Ao criar conteúdo que ressoe com os estudantes negros, garantimos que eles se vejam na educação, o que é fundamental para um alto envolvimento e sucesso acadêmico”, disse Huggins. “Quando tiver oportunidade, a Big Tech quase sempre priorizará os lucros em detrimento das pessoas. Então criamos nossa própria rota dentro do espaço de IA.”
Huggins treinou seu algoritmo em textos como Shakespeare, junto com os escritos de autores negros da Renascença do Harlem, e até mesmo no palavreado de sua filha adolescente para capturar a essência da AAVE. Huggins também trabalha com educadores, linguistas e especialistas culturais para revisar e validar os resultados do Spark Plug.
Pasmore também está trabalhando para expandir sua empresa para escolas, especialmente HBCUs, à medida que mais alunos recorrem ao ChatGPT todos os dias para concluir seus trabalhos.
“Este é um melhor companheiro de IA para grande parte do trabalho que as crianças negras e pardas são incumbidas de fazer”, disse ele.
Unindo a diáspora
África vê-se negligenciada no actual movimento de IA. Por exemplo, apenas 0,77% do total mundial de periódicos sobre IA provêm da África Subsaariana, em comparação com o Leste Asiático e a América do Norte com 47,1% e 11,6%, respectivamente, de acordo com um estudo de 2023. Relatório de Índice de Inteligência Artificial. Em termos de população, em comparação com a América do Norte, África constitui cerca de 17% da população mundial, em comparação com apenas 7% da América do Norte. Quando chega a altura de obter informações e especialistas sobre IA, as probabilidades de utilização de investigação da região subsariana são bastante baixas, o que poderá ter impacto no desenvolvimento de ferramentas globais de IA.
Embora África esteja a assistir a um grande desenvolvimento na criação de modelos linguísticos mais inclusivos que sirvam melhor a diáspora negra, neste momento, os actuais modelos de IA, do ChatGPT ao Gemini, não conseguem suportar totalmente as mais de 2.000 línguas faladas em África.
Yinka Iyinolakan criou CDIAL.AI para endereçar isto. CDIAL.AI é um chatbot que pode falar e compreender quase todas as línguas e dialetos africanos, com foco particular nos padrões de fala e não no texto.
Iyinolakan repetiu ao TechCrunch o mesmo sentimento que muitos negros americanos fizeram – que os modelos fundamentais de IA são extraídos principalmente de dados da Internet e dos idiomas mais falados. Tal como a sua cultura descendente afro-americana, muitas línguas e tradições africanas estão ausentes da Internet, visto que é uma cultura historicamente comunicada oralmente e não por escrito. Isto significa que os modelos de IA não têm informações suficientes sobre as culturas africanas para se formarem, deixando assim uma lacuna de conhecimento.
Para CDIAL.AI, Iyinolakan trouxe mais de 1.200 falantes nativos e linguistas em toda a África para coletar conhecimento e insights para construir o que ele considera “o primeiro modelo de linguagem grande e multilíngue do mundo”. A empresa planeja expandir nos próximos 12 meses para incluir ainda mais idiomas e construir um modelo para suportar texto, vozes e imagens.
Ele não está sozinho aqui. A Google concedeu recentemente à Jacaranda Health, sediada no Quénia, uma doação de 1,4 milhões de dólares para desenvolver os seus serviços de aprendizagem automática para que possa trabalhar em mais línguas africanas e a Intron Health levantou recentemente vários milhões de dólares para dimensionar o seu reconhecimento clínico de fala para os mais de 200 sotaques falados em toda a África. .
“O Vale do Silício quer acreditar que é o princípio e o fim de tudo para a inteligência artificial”, disse Iyinolakan. “Mas para ‘obter’ a inteligência artificial, que é o que todas as empresas têm como estrela norte, elas precisam incluir um terço do conhecimento mundial.”
Avançando
Adotar chatbots de IA não é a única inovação que os fundadores negros estão tentando enfrentar.
Steve Jones iniciou a empresa estoque para criar imagens de banco de imagens de pessoas de cor, já que, durante décadas, houve uma escassez de minorias representadas em imagens de banco de imagens. Esta é uma das razões pelas quais os modelos hoje em dia cospem principalmente imagens de pessoas brancas quando os utilizadores lhes pedem para gerar imagens de qualquer coisa, desde médicos a cantores pop.
“Todas as plataformas e ferramentas devem ser treinadas a partir de dados completos, racialmente inclusivos e culturalmente precisos, ou então iremos [perpetuate] os problemas de preconceito que nossa sociedade em geral enfrenta atualmente”, disse Jones ao TechCrunch. Para resolver isso, a pocstock passou os últimos cinco anos coletando dados de diversidade e criando seu próprio sistema de marcação visual que contribui para um banco de dados usado pelas empresas para ajudar a treinar seus modelos de IA para que possam produzir imagens mais inclusivas.
Algumas melhorias estão acontecendo, no entanto. Jones disse que notou que grandes empresas de imagens de ações que recorrem a empresas de IA estão dando mais passos para aumentar a diversidade de seu conteúdo. Pasmore também vê um futuro melhor pela frente, dizendo que a IA personalizada é o futuro de qualquer maneira e que quanto mais os modelos de IA interagirem com seus usuários, mais entenderão os desejos e necessidades de uma pessoa específica, “o que, eu acho, elimina muitos preconceitos”. .”
Pode até haver espaço para modelos de IA mais específicos da cultura no futuro, especialmente à medida que mais alternativas de propriedade de negros continuam surgindo. Afinal, o mundo é vasto e com mais nuances – não há sentido em tentar encaixá-lo em uma caixa preta.
“Minha esperança é que mais fundadores de cores se envolvam no desenvolvimento de suas próprias plataformas de IA ou na criação de novos empregos relacionados à IA o mais cedo possível neste próximo boom econômico”, disse Jones. “A IA vai criar trilionários e eu adoraria ver pessoas de cor assumirem a posição de produtores e não apenas de consumidores.”
