AI for Impact ptbr 2024

Barreiras à adoção de IA para inovação social6 Eliminar a lacuna de confiança da IA e promover a colaboração são essenciais para sua aplicação bem-sucedida na inovação social. A adoção da IA na inovação social enfrenta vários desafios, cada um deles exigindo atenção para garantir uma implementação bem-sucedida e um impacto social positivo. Lacuna de confiança e viés sistêmico: a confiança na IA é essencial para sua aceita- ção. Porém, os vieses nos sistemas de IA podem aprofundar as desigualdades existentes, levando à desconfiança. Um exemplo apresentado pelo grupo de inovadores sociais que contribuíram para este relatório descreve como uma ferramenta de diag- nóstico para câncer de pele exclui manchas de pele nas mãos com base nos dados médicos disponíveis. Porém, as máculas nas mãos são um dos primeiros indicadores de câncer de pele entre os negros. Esse é um exemplo surpreendente que ilustra como a IA pode perpetuar e até aumentar os vieses. Complexidade técnica e lacuna de capa- cidades: a sofisticação da IA requer conhe- cimentos que vão além da capacidade de muitas empresas sociais. A Associação de Universidades da Orla do Pacífico (APRU - Association of Pacific Rim Universities) destaca as necessidades abran- gentes de treinamento e capacitação em seu rela- tório “AI for Social Good”.29 Organizações como a Africa TeenGeeks e a Youth for Technology Founda- tion estão lidando com isso oferecendo educação e treinamento em IA para grupos sub-representados, com o objetivo de preencher a lacuna de capacida- des e promover a diversidade em tecnologia. Intensidade de recursos: as altas deman- das de recursos da IA representam desafios, especialmente para inovadores sociais com orça- mentos limitados. Os requisitos de computação de alto desempenho e de armazenamento de dados podem tornar os projetos de IA insustentáveis para quem não tem um suporte financeiro substan- cial. Além das implicações financeiras, a pegada ambiental da IA devido à sua demanda de energia pode compensar parte do impacto positivo que os inovadores sociais estão gerando. De acordo com um estudo recente, a criação de uma única imagem por meio da IA generativa consome tanta energia quanto uma carga completa do telefone.30 Qualidade dos dados: a IA eficaz depende de dados de qualidade. Os desafios surgem quando os dados são escassos, tendenciosos ou de baixa qualidade, levando a modelos de IA imprecisos. De acordo com um estudo, o acesso aos dados é “um dos desafios mais listados para projetos de bem social”.31 Iniciativas como o Open Chat Studio da Dimagi visam criar soluções digitais equitativas e confiáveis, enfatizando a necessidade de dados imparciais e de alta qualidade. Equilíbrio entre objetivos sociais e comer - ciais: os inovadores sociais podem encon- trar uma tensão entre o crescimento da receita e o impacto, em especial quando aproveitam os ativos das comunidades (como os dados). Princí- pios como limites de lucro, participação na receita e redistribuição de lucros podem aliviar alguns desses desafios e conciliar o impacto e os objetivos econômicos. Considerações regulatórias e éticas: ga- rantir o uso ético e a conformidade regulató- ria da IA é desafiador, mas essencial. As considera- ções incluem “privacidade e vigilância, preconceito ou discriminação e o papel do julgamento huma- no”.32 Um exemplo negativo é o sistema de perfil de gerenciamento de infratores correcionais, o COMPAS. Ele tem sido criticado pelo viés racial nas avaliações de risco de reincidência. Ele destaca a importância das considerações éticas e do alinha- mento de valores sociais no desenvolvimento da IA. Acesso à tecnologia de IA: o acesso limi- tado às tecnologias de IA, em especial nos países em desenvolvimento, dificulta a inovação e a adoção da IA. Isso não inclui apenas o acesso às soluções de IA em si, mas também o hardware, o treinamento e o conhecimento necessários para avaliar e implementar esses sistemas, o que leva a altos “custos totais de propriedade” e desafios de infraestrutura. A BRCK, uma empresa africana de tecnologia, tem enfrentado problemas de conecti- vidade e fornecimento de eletricidade para imple- mentar sua solução em escolas, fazendas e centros de transporte no Quênia.33 Colaboração entre as partes interessadas: iniciativas bem-sucedidas de IA requerem a colaboração de várias partes interessadas, incluin- do inovadores, governos e comunidades atendidas. Os pesquisadores de IA da DeepMind destacaram a necessidade de alinhar os interesses das partes interessadas. 1 2 3 45 6 7 8 IA para Impacto: O Papel da Inteligência Artificial na Inovação Social 27