O Access Now renuncia ao Partnership on AI devido à falta de mudanças entre as empresas de tecnologia

A organização internacional digital e de direitos humanos Access Now renunciou em protesto ao papel de membro da Partnership on AI (PAI) por falta de mudança nas empresas associadas ao grupo ou incorporação de opiniões de organizações da sociedade civil. O PAI foi formado em setembro de 2016 por um consórcio de grandes empresas de tecnologia e gigantes corporativos como Apple, Amazon, Facebook, Google, IBM e Microsoft. Desde então, o PAI cresceu para incluir mais de 100 organizações membros, mais da metade das quais agora são grupos sem fins lucrativos, cívicos ou com foco em direitos humanos, como Data & Society e Human Rights Watch.

“Aprendemos com as conversas com nossos colegas, e o PAI nos deu a chance de contribuir para a discussão mais ampla sobre inteligência artificial em um novo fórum”, diz uma carta publicada na terça-feira. “No entanto, descobrimos que existe um papel cada vez menor para a sociedade civil desempenhar no PAI. Nós nos juntamos ao PAI esperando que seja um fórum útil para a sociedade civil causar um impacto no comportamento corporativo e estabelecer políticas baseadas em evidências e melhores práticas que irão garantir que o uso de sistemas de IA seja para o benefício das pessoas e da sociedade. Embora apoiemos o diálogo entre as partes interessadas, não descobrimos que o PAI influenciou ou mudou a atitude das empresas associadas ou as encorajou a responder ou consultar a sociedade civil de forma sistemática. ”

A Access Now também renunciou porque o grupo defende a proibição do reconhecimento facial e outras tecnologias biométricas que podem ser usadas para vigilância em massa. No início deste ano, a Partnership on AI produziu um recurso educacional sobre reconhecimento facial para formuladores de políticas e o público, mas o PAI não se posicionou sobre se a tecnologia deve ser usada. O Access Now ingressou no PAI há cerca de um ano e, na carta endereçada à equipe de liderança do PAI, os líderes do Access Now concluíram que o PAI dificilmente mudará sua postura e apoiará a proibição do reconhecimento facial.

“Os eventos deste ano, desde a crise de saúde pública até o cálculo global da justiça racial, apenas enfatizaram a urgência de abordar os riscos dessas tecnologias de uma forma significativa”, diz a carta. “À medida que mais autoridades governamentais em todo o mundo estão abertas a proibir totalmente tecnologias como o reconhecimento facial, queremos continuar a concentrar nossos esforços onde eles terão mais impacto para alcançar nossas prioridades.”

O uso de tecnologia de vigilância pelo governo tem aumentado tanto em nações democráticas quanto autoritárias nos últimos anos. O relatório Freedom of the Net de 2020 divulgado hoje pela Freedom House constatou um declínio ano após ano na liberdade na internet em muitas partes do mundo e que os governos estão usando cada vez mais o COVID-19 como desculpa para permitir a vigilância.

A American Civil Liberties Union (ACLU), a Amnistia Internacional e a Electronic Frontier Foundation (EFF) – todos membros da PAI – lideraram ou apoiaram a proibição do reconhecimento facial nas principais cidades, legislaturas estaduais e no Congresso dos EUA. Por outro lado, os membros do PAI, como Amazon e Microsoft, são alguns dos fornecedores de reconhecimento facial mais conhecidos do mundo. Durante os maiores protestos da história dos Estados Unidos em junho, a Amazon e a Microsoft anunciaram moratórias temporárias nas vendas de reconhecimento facial para a polícia nos Estados Unidos. Os esforços de reforma podem estar na agenda do próximo Congresso para tratar das questões de privacidade, preconceito racial e liberdade de expressão levantadas pelo reconhecimento facial.

Mais de dois anos após sua fundação, a PAI começou a se envolver com políticas específicas e questões éticas de IA, como defender que os governos criem vistos especiais para pesquisadores de IA. O PAI também se opôs ao uso de algoritmos em avaliações de risco pré-julgamento, como o tipo que o Bureau of Prisons federal usou no início deste ano para decidir quais prisioneiros foram libertados mais cedo devido ao COVID-19. O PAI compartilha publicamente os nomes dos membros, mas raramente compartilha os nomes de membros específicos que contribuíram para os documentos de posição política produzidos pela equipe do PAI.

Em resposta à carta de demissão da Access Now, o diretor executivo da PAI, Terah Lyons, disse à VentureBeat que a PAI trabalha em estreita colaboração com empresas de tecnologia para lidar com e ajustar seu comportamento e, esperançosamente, esse trabalho se concretizará no decorrer do próximo ano. Mas, disse ela, envolver-se em um processo de múltiplas partes interessadas e tentar chegar a um consenso entre as diversas vozes para garantir que a IA beneficie as pessoas e a sociedade pode ser desafiador e demorado.

“Definitivamente, foi uma jornada de aprendizado para nós”, disse ela. “Também é algo que leva muito tempo para ser realizado para mover a prática da indústria de maneiras significativas, e como acabamos de trabalhar no programa por dois anos como uma jovem organização sem fins lucrativos, prevejo que ainda levará algum tempo para realmente mover a agulha a esse respeito, mas acho que a boa notícia é que estabelecemos muitas bases importantes e já estamos começando a ver evidências de que pagar dividendos e algumas das escolhas incrementais que nossos membros corporativos fizeram como resultado de seu engajamento. ”

Exemplos dos tipos de mudança incremental a que ela se refere vêm de empresas como Facebook e Microsoft que participaram do desafio de detecção de deepfake, supervisionado pelo comitê diretor do PAI. Ela também apontou exemplos específicos do trabalho do PAI em justiça, responsabilidade e transparência, mas se recusou a compartilhar os nomes de empresas ou organizações específicas que participaram.

“Muito do trabalho que fizemos com eles sobre esse problema definido especificamente, eu acho que realmente influenciou como eles pensaram e lidaram internamente com os desafios que enfrentam relacionados a essas questões, além de algumas das outras empresas envolvidas”, disse ela.

Lyons disse que o PAI optou por não tomar uma posição quanto ao reconhecimento facial porque a organização sem fins lucrativos avalia cada tópico caso a caso para determinar onde o PAI pode ter melhor impacto.

“Não é necessariamente o caso que, em todas as questões, estaremos na melhor posição para tomar uma posição. Mas tentamos fazer o nosso melhor para garantir que estamos oferecendo algum tipo de serviço e valor para garantir que esses debates à medida que se desenrolam em ambientes públicos ou privados sejam o mais bem informados e baseados em evidências possíveis, e que estamos equipando e capacitando todas as nossas organizações para que realmente conversem diretamente umas com as outras sobre essas questões difíceis ”, disse ela.

Em outras questões de ética e política de IA, Lyons disse que o PAI não produziu nenhuma pesquisa ou formou um comitê diretor para tratar do papel que a IA desempenha na concentração de poder por empresas de tecnologia. Na semana passada, um subcomitê antitruste da Câmara dos Representantes concluiu uma investigação de 16 meses com um extenso relatório que concluiu que Amazon, Apple, Facebook e Google são monopólios. O relatório concluiu que o poder consolidado pelas empresas Big Tech ameaça os mercados competitivos e a democracia. Ele também diz que a inteligência artificial e a aquisição de startups em IA e campos emergentes são partes instrumentais para continuar a aumentar a vantagem competitiva das empresas de Big Tech. O PAI, no entanto, criou uma iniciativa de prosperidade compartilhada que tentará abordar como distribuir poder e riqueza de forma mais equitativa, de modo que a concentração contínua de poder por empresas de tecnologia não seja mais vista como uma inevitabilidade. O grupo de prosperidade compartilhada inclui vários pesquisadores de ética em IA e detalhados em uma postagem de blog no mês passado.

Fonte

Leave a Reply