SBPC expressa preocupações sobre o Plano Brasileiro de Inteligência Artificial (PBIA)

Publicado em 06 de agosto de 2024 às 10h26min

A Sociedade Brasileira para o Progresso da Ciência (SBPC) enviou uma carta ao Ministério da Ciência, Tecnologia e Inovação (MCTI) com observações sobre a versão mais recente do Plano Brasileiro de Inteligência Artificial (PBIA), proposta entregue ao presidente Luiz Inácio Lula da Silva no dia 31 de julho, na abertura da 5ª Conferência Nacional de Ciência, Tecnologia e Inovação (5ª CNCI), em Brasília. A SBPC parabenizou o MCTI pelo avanço na elaboração do plano, mas expressou preocupações quanto à falta de medidas para evitar o abuso da IA em dois aspectos: a substituição massiva de trabalhadores sem compensação adequada e o risco de uso discriminatório da IA na busca de perfis de criminosos.

A SBPC enfatizou a necessidade de um foco maior no impacto social, especialmente no campo da educação, no qual a IA pode comprometer o papel formador dos professores. Além disso, a instituição pleiteia a criação de uma Ouvidoria eficiente para lidar com abusos relacionados à IA e sugere melhorias na governança e no monitoramento de programas educacionais, como o Fundo de Financiamento ao Estudante do Ensino Superior (Fies) e o Programa Universidade Para Todos (Prouni).

A carta também propõe a reconsideração do nome do plano, sugerindo uma alternativa que ressoe mais com a cultura brasileira, como “Iara” ou “Uirapuru”, personagens simbólicos que poderiam melhor representar os valores de inteligência, justiça e solidariedade que a IA deve promover.

A SBPC entregou a carta ao Ministério no dia 25 de julho, quatro dias antes da aprovação final da proposta pelo Conselho Nacional de Ciência e Tecnologia (CCT), em 29/07, mas as observações da entidade não foram incluídas na versão entregue a Lula. Segundo o presidente da SBPC, Renato Janine Ribeiro, a ministra da CT&I, Luciana Santos, e o secretário-executivo do MCTI, Luís Fernandes, garantiram que as demandas da SBPC serão incluídas no PBIA.

Confira o documento na íntegra:

Observações da SBPC ao PBIA versão de 23/7/2024

A SBPC cumprimenta novamente o MCTI pelo plano, e aqui faz suas contribuições à versão final. Nossa principal preocupação é ante a falta de salvaguardas contra o abuso da IA em dois campos: 1) a provável substituição de trabalhadores pela IA, sem compensação aos mesmos e com os ganhos de produtividade obtidos por ela sendo incorporados pelo capital; 2) seu possível uso para definir perfis preconceituosos de infratores ou criminosos, assim prejudicando cidadãos inocentes.

Impacto social: riscos e ganhos. Pedimos um foco maior no impacto social, especialmente na destruição em massa de postos de trabalho, especialmente (mas não só) na educação. Sabe-se que instrumentos de ensino por IA estão crescendo, em detrimento dos professores e demais trabalhadores da área. É preciso garantir não só o emprego deles, mas sobretudo o caráter formador da educação, que é a forma por excelência de socialização dos jovens, e não apenas uma instrução para desempenho de funções automáticas.

Além disso, já que o Estado brasileiro está assumindo a liderança e o financiamento da IA em nosso País, não será justo que os ganhos devidos a ela se façam em detrimento dos trabalhadores, vindo a beneficiar apenas ou sobretudo o empregador. Dinheiro público não deve ser apropriado por uma minoria. Será preocupante, se a IA facilitar o desemprego ou o subemprego, como tem ocorrido estes anos, com a uberização da economia.

O PBIA deve, assim, estabelecer procedimentos que garantam travas contra o desemprego ou o subemprego que possam decorrer da IA. É importante que o Ministério do Trabalho e as centrais sindicais sejam ouvidos neste tocante, para evitar que a IA acabe criando problemas sociais maiores do que os que já temos.

Proteção contra Quanto à proteção do indivíduo contra o abuso da IA, ela também é essencial. Ferramentas de IA que identifiquem perfis típicos de criminosos ou de infratores correm o risco de apenas repetir os preconceitos vigentes na sociedade e no Estado, vitimando, no primeiro caso, antes de mais nada, os jovens negros do sexo masculino. É preciso evitar que, no necessário combate à ilegalidade (pela polícia, Receita e outros órgãos), se assedie o cidadão inocente.

Ouvidoria potente. Por esta razão, pleiteamos a instituição de uma Ouvidoria dinâmica e ágil, que possa apontar os abusos que ocorram, sobretudo em termos de profiling e de desemprego, e que além disso tenha os meios de intervir para rapidamente lhes pôr

No caso da Educação, a ação 43 é interessante, mas pode e deve ser expandida, especialmente para tratar da evasão (detectando-a e evitando-a) e do destino dos egressos (para calibrar as políticas na área):

Slide 39 – Ampliar a ação 43

43A. incluir acompanhamento da evasão no FIES e PROUNI, monitorando-a e identificando suas causas, de modo a evitá-la;

43B. Incluir acompanhamento dos egressos da graduação, pública e privada, bem como da pós-graduação (cruzando dados da Receita com os do MEC, sem individualizar os CPFs, é possível avaliar quanto valor cada programa agregou a seus participantes)

43C. Incluir acompanhamento dos egressos do FIES e PROUNI, para ver o resultado de tais programas (também em parceria com a Receita, mas sem individualizar os CPFs)

Nome. “IA para o Bem de Todos” é uma formulação sucinta e feliz, mas continuamos pensando que um nome de nossa cultura poderia ser mais forte, passando o atual nome para subtítulo. Uma hipótese seria Iara, mas também poderia ser algum pássaro, como o Uirapuru. Idealmente, seria um personagem ou animal que tenha o simbolismo que queremos pela IA – tanto assim que, na Estônia, escolheram uma figura mitológica com características próximas às da IA. Talvez algo que reúna agilidade, inteligência e justiça ou solidariedade.

Seguem agora outros comentários, por slide:

Slide 2 – intrinsecamente está escrito com erro de digitação

Slide 5 – alinhamento não só com a NIB, mas também com a produção de serviços e de alimentos

Slide 13 – o uso da IA na segurança pública corre o risco do profiling, que é a institucionalização do preconceito, especialmente contra jovens negros do sexo masculino – quando a polícia, por exemplo, assume um “perfil típico” de criminoso, com base em preconceitos. (Numa coincidência infeliz, a mesma Polícia Rodoviária Federal incorreu nisso, no assassinato do jovem Genivaldo em Sergipe, em 2022. Cuidado!!!)

Slide 18 – incluir a evasão dos alunos das IES privadas, especialmente quando têm financiamento do FIES (cf matéria da revista Piauí deste mês, que aponta a dimensão do problema)

Slide 47 – se o propósito é termos uma IA que fale português, seria bom explicar ou traduzir o que é sandbox (e de modo geral as palavras em inglês) Slides 47 e 48 – consta Eixo 4 no alto, mas é Eixo 5.

Finalmente, entendemos que se definirá nos próximos dias tanto o montante de investimentos previsto quanto a governança do PBIA.

São Paulo, 25 de julho de 2024

Diretoria da SBPC

Veja aqui a carta em PDF.

Jornal da Ciência

Fonte: SBPC