Home Notícias Mulheres na IA: Chinasa T. Okolo pesquisa o impacto da IA ​​no...

Mulheres na IA: Chinasa T. Okolo pesquisa o impacto da IA ​​no Sul Global

Mulheres na IA: Chinasa T. Okolo pesquisa o impacto da IA ​​no Sul Global

Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch publicou uma série de entrevistas focadas em mulheres notáveis ​​​​que contribuíram para a revolução da IA. Publicaremos esses artigos ao longo do ano, à medida que o boom da IA ​​continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.

Chinasa T. Okolo é um companheiro na Brookings Instutition no programa de Estudos de Governança do Centro de Inovação Tecnológica. Antes disso, atuou no comitê de ética e impacto social que ajudou a desenvolver a Estratégia Nacional de Inteligência Artificial da Nigéria e atuou como consultora de política e ética de IA para várias organizações, incluindo a Agência de Desenvolvimento da União Africana e o Instituto de Inteligência Artificial de Quebec. Recentemente, ela recebeu um doutorado em ciência da computação pela Universidade Cornell, onde pesquisou como a IA impacta o Sul Global.

Resumidamente, como você começou na IA? O que te atraiu para a área?

Inicialmente fiz a transição para a IA porque vi como as técnicas computacionais poderiam promover a investigação biomédica e democratizar o acesso aos cuidados de saúde para comunidades marginalizadas. Durante meu último ano de graduação [at Pomona College], comecei a pesquisar com um professor de interação humano-computador, o que me expôs aos desafios do preconceito dentro da IA. Durante o meu doutoramento, fiquei interessado em compreender como estas questões afetariam as pessoas no Sul Global, que representam a maioria da população mundial e são frequentemente excluídas e sub-representadas no desenvolvimento da IA.

De qual trabalho você mais se orgulha (na área de IA)?

Estou extremamente orgulhoso do meu trabalho com a União Africana (UA) no desenvolvimento da Estratégia Continental UA-IA para África, que visa ajudar os Estados-membros da UA a prepararem-se para a adopção, desenvolvimento e governação responsáveis ​​da IA. A elaboração da estratégia demorou mais de 1,5 anos e foi divulgada no final de Fevereiro de 2024. Encontra-se agora num período de feedback aberto com o objectivo de ser formalmente adoptada pelos Estados-membros da UA no início de 2025.

Como nigeriano-americano de primeira geração que cresceu em Kansas City, MO, e não saiu dos Estados Unidos antes de estudar no exterior durante a graduação, sempre tive como objetivo centralizar minha carreira na África. Envolver-me num trabalho tão impactante tão cedo na minha carreira deixa-me entusiasmado por procurar oportunidades semelhantes para ajudar a moldar a governação global e inclusiva da IA.

Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens?

Encontrar uma comunidade com aqueles que compartilham meus valores tem sido essencial para navegar nas indústrias de tecnologia e IA dominadas pelos homens.

Tive a sorte de ver muitos avanços na IA responsável e pesquisas proeminentes expondo os danos da IA ​​sendo lideradas por acadêmicas negras como Timnit Gebru, Safiya Noble, Abeba Birhane, Ruha Benjamin, Joy Buolamwini e Deb Raji, muitas das quais eu consegui me conectar nos últimos anos.

Ver a sua liderança motivou-me a continuar o meu trabalho neste campo e mostrou-me o valor de ir “contra a corrente” para causar um impacto significativo.

Que conselho você daria às mulheres que desejam ingressar na área de IA?

Não se deixe intimidar pela falta de formação técnica. O campo da IA ​​é multidimensional e necessita de conhecimentos especializados em vários domínios. Minha pesquisa foi fortemente influenciada por sociólogos, antropólogos, cientistas cognitivos, filósofos e outros profissionais das ciências humanas e sociais.

Quais são algumas das questões mais urgentes que a IA enfrenta à medida que ela evolui?

Uma das questões mais proeminentes será melhorar a representação equitativa das culturas não-ocidentais em línguas proeminentes e modelos multimodais. A grande maioria dos modelos de IA são treinados em inglês e em dados que representam principalmente contextos ocidentais, o que deixa de fora perspectivas valiosas da maior parte do mundo.

Além disso, a corrida para a construção de modelos maiores levará a um maior esgotamento dos recursos naturais e a maiores impactos das alterações climáticas, que já afectam desproporcionalmente os países do Sul Global.

Quais são alguns problemas dos quais os usuários de IA devem estar cientes?

Um número significativo de ferramentas e sistemas de IA que foram colocados em implantação pública exageram as suas capacidades e simplesmente não funcionam. Muitas tarefas para as quais as pessoas pretendem usar IA provavelmente poderiam ser resolvidas por meio de algoritmos mais simples ou automação básica.

Além disso, a IA generativa tem a capacidade de exacerbar os danos observados em ferramentas de IA anteriores. Durante anos, vimos como estas ferramentas apresentam preconceitos e levam a tomadas de decisões prejudiciais contra comunidades vulneráveis, o que provavelmente aumentará à medida que a IA generativa crescer em escala e alcance.

No entanto, permitir que as pessoas com conhecimento compreendam as limitações da IA ​​pode ajudar a melhorar a adoção e utilização responsável destas ferramentas. Melhorar a IA e a literacia em dados do público em geral tornar-se-á fundamental à medida que as ferramentas de IA se integram rapidamente na sociedade.

Qual é a melhor maneira de construir IA com responsabilidade?

A melhor maneira de construir IA de forma responsável é criticar os casos de uso pretendidos e não intencionais dessas ferramentas. As pessoas que constroem sistemas de IA têm a responsabilidade de se opor à utilização da IA ​​em cenários prejudiciais na guerra e no policiamento e devem procurar orientação externa se a IA for apropriada para outros casos de utilização que possam visar. Dado que a IA é muitas vezes um amplificador das desigualdades sociais existentes, também é imperativo que os programadores e investigadores sejam cautelosos na forma como constroem e organizam conjuntos de dados que são utilizados para treinar modelos de IA.

Como podem os investidores promover melhor uma IA responsável?
Muitos argumentam que o crescente interesse dos investidores de risco em “lucrar” com a atual onda de IA acelerou a ascensão do “óleo de cobra de IA”, cunhado por Arvind Narayanan e Sayash Kapoor. Concordo com este sentimento e acredito que os investidores devem assumir posições de liderança, juntamente com os académicos, as partes interessadas da sociedade civil e os membros da indústria, para defender o desenvolvimento responsável da IA. Como investidor anjo, tenho visto muitas ferramentas de IA duvidosas no mercado. Os investidores também devem investir em experiência em IA para avaliar empresas e solicitar auditorias externas de ferramentas demonstradas em apresentações de argumentos de venda.

Mais alguma coisa que você deseja adicionar?

Este “verão da IA” em curso levou a uma proliferação de “especialistas em IA” que muitas vezes desvirtuam conversas importantes sobre os riscos e danos actuais da IA ​​e apresentam informações enganosas sobre as capacidades das ferramentas habilitadas para IA. Encorajo aqueles interessados ​​em aprender sobre IA a criticarem essas vozes e a procurarem fontes confiáveis ​​para aprender.

Fuente