Governança de Ética em IA: as 9 etapas-chave para passar de zero a operacional
Ética IA Governança: o essencial em um artigo — código real, diagramas e etapas concretas, extratos de um curso de 35 lições.
Todo mundo pode aprender Ética IA Governança — desde que siga as etapas na ordem correta. Condensamos um curso completo de 35 lições em um percurso claro, com os trechos de código mais úteis.
- Introdução
- Princípios fundamentais
- Vieses algorítmicos
- Privacidade e RGPD
- Explicabilidade XAI
Por que a ética da IA agora?
Objetivos pedagógicos
Acelerador n°1: a generalização dos LLM
Em novembro de 2022, o lançamento do ChatGPT marcou um antes e um depois. Em dois meses, a ferramenta atingiu 100 milhões de usuários, um recorde absoluto para um serviço voltado ao público geral. De repente, cada funcionário, cada aluno, cada jornalista podia gerar texto, código, análises.
As consequências são múltiplas:
Acelerador n°2: a chegada do regulamento EU AI Act
Adotado em março de 2024, o Regulamento (UE) 2024/1689 — apelidado de « EU AI Act » — é a primeira lei geral sobre IA no mundo. Ele se aplica progressivamente entre 2025 e 2027.
Visão geral
Cronograma
Efeito de arrasto
A chegada de uma norma obrigatória muda tudo: não se trata mais de « fazer o melhor possível », mas de documentar, auditar, certificar.
Acelerador n°3: a pressão societal e reputacional
A mídia, as ONGs (Algorithm Watch, AI Now Institute, La Quadrature du Net), os sindicatos e os consumidores examinam os usos da IA. Um caso mal gerenciado vira escândalo em poucas horas nas redes sociais.
Exemplos recentes:
Alerta n°1: COMPAS e a justiça americana (2016)
A ONG ProPublica publica uma investigação em maio de 2016 sobre a ferramenta COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), usada por juízes americanos para estimar o risco de reincidência.
Alerta n°2: Amazon e a triagem sexista de currículos (2018)
A Reuters revela que a Amazon desenvolveu entre 2014 e 2017 uma ferramenta interna de triagem automática de currículos. O modelo, treinado com 10 anos de candidaturas passadas (majoritariamente masculinas na área de tecnologia), preferia sistematicamente os currículos de homens.
O modelo penalizava qualquer menção contendo a palavra « women’s » (women’s chess club, por exemplo) e favorecia verbos « masculinos » como « executed » ou « captured ». A Amazon abandonou o projeto.
Alerta n°3: Tay e a fragilidade dos chatbots (2016)
A Microsoft lança Tay, um chatbot no Twitter que deveria aprender « conversando ». Em menos de 24 horas, usuários mal-intencionados o treinaram a proferir discursos racistas, negacionistas e sexistas. A Microsoft retirou a ferramenta.
O custo real de um desvio de IA
Equidade (fairness)
Objetivos pedagógicos
O que é uma IA « justa »?
A palavra fairness (inglês) abrange uma realidade complexa: trata-se de garantir que um sistema não prejudique indevidamente certas pessoas em razão de um atributo protegido (sexo, origem, idade, deficiência, religião…).
No direito francês, esses atributos estão listados no artigo 225-1 do Código Penal e na lei de 27 de maio de 2008. Qualquer discriminação direta ou indireta baseada nesses critérios é proibida, mesmo quando proveniente de um algoritmo.
As 4 grandes medidas de fairness
1. Paridade demográfica (Demographic Parity)
A taxa de previsão positiva deve ser idêntica entre os grupos protegidos.
Exemplo: 30 % dos homens e 30 % das mulheres são aceitos para um crédito.
2. Igualdade de oportunidades (Equal Opportunity)
Entre as pessoas que merecem um resultado positivo, a taxa de aceitação deve ser igual entre os grupos.
Exemplo: entre os candidatos qualificados, 80 % dos homens e 80 % das mulheres são selecionados.
3. Igualdade de erros (Equalized Odds)
As taxas de falsos positivos e de falsos negativos devem ser idênticas entre os grupos.
4. Calibração
Quando o modelo prevê 70 % de risco, devem-se observar 70 % de casos reais, idêntico para todos os grupos.
A impossibilidade de Kleinberg (2017)
Esse resultado (Kleinberg, Mullainathan, Raghavan, 2017) explica por que o debate sobre o COMPAS não tem uma resposta simples: a Northpointe afirmava calibrar o modelo, a ProPublica media a desigualdade de erros. Ambas estavam certas… segundo seu próprio critério.
Como escolher sua definição?
| Contexto | Definição recomendada | Por quê |
|---|---|---|
| Recrutamento | Igualdade de oportunidades | Entre os qualificados, mesma chance de ser escolhido |
| Crédito | Calibração + paridade monitorada | Justiça individual + monitoramento de grupo |
| Justiça penal | Igualdade de erros | Presumidos inocentes protegidos |
| Saúde (triagem) | Sensibilidade por subgrupo | Não deixar de identificar casos |
| Publicidade direcionada | Paridade demográfica (conforme contexto) | Evitar segmentação discriminatória (moradia, emprego) |
Caso concreto: a regra dos 4/5 (EUA)
Nos Estados Unidos, as Uniform Guidelines on Employee Selection Procedures da EEOC estabelecem a « four-fifths rule » (1978): a taxa de seleção de um grupo protegido deve ser pelo menos igual a 80 % da taxa do grupo mais selecionado.
Casos famosos — COMPAS, Amazon, Apple Card
Objetivos pedagógicos
Caso 1: COMPAS (Northpointe / Equivant)
O sistema
COMPAS — Correctional Offender Management Profiling for Alternative Sanctions — é uma ferramenta de apoio à decisão usada desde o início dos anos 2000 por juízes americanos. Ela prevê um risco de reincidência com base em 137 perguntas respondidas pelo réu e pelo serviço de liberdade condicional.
A pontuação (1 a 10) é usada para decidir sobre liberdade condicional, valor da fiança ou duração da pena.
A investigação da ProPublica (2016)
A ProPublica analisa 7 000 pontuações na Flórida e compara com as novas prisões em dois anos. Resultados:
A defesa da Northpointe
A Northpointe responde: seu modelo é calibrado, portanto justo para cada indivíduo. O debate revela a impossibilidade de Kleinberg: não é possível ter ao mesmo tempo calibração e igualdade de erros se as taxas de base diferirem.
Os aprendizados
- Escolher e documentar sua definição de fairness antes da implantação
- A explicabilidade das pontuações deve ser publicada
- Um modelo proprietário (caixa-preta) na justiça representa um problema democrático
- Taxas de base desiguais refletem frequentemente uma desigualdade estrutural
- Auditar regularmente com um terceiro independente
Caso 2: Recrutamento na Amazon (2014-2018)
O contexto
A Amazon desenvolve desde 2014 uma ferramenta interna de triagem automática de currículos para suas vagas de tecnologia. O modelo é treinado com 10 anos de candidaturas, tendo como alvo « currículos semelhantes aos perfis contratados nos últimos 10 anos ».
O problema
Os perfis contratados eram majoritariamente masculinos (o setor de tecnologia sendo historicamente masculino). O modelo aprende, portanto, a privilegiar os homens.
Mais precisamente:
A resposta
A Amazon abandona o projeto em 2017 e nunca implantou a ferramenta « em produção ». A informação veio à tona na Reuters em 2018, tornando-se um caso de estudo mundial.
Os aprendizados
- Nunca usar o desempenho passado como alvo quando ele reproduz uma desigualdade
- Remover o sexo não basta: rastrear os proxies (vocabulário, diplomas, clubes)
- Auditar o modelo em subpopulações antes de qualquer implantação
- Envolver as funções de RH, jurídico e ética desde a concepção
- Preferir o apoio à decisão (humano no final) à triagem 100 % automática
Caso 3: Apple Card (2019)
O gatilho
Em novembro de 2019, o desenvolvedor David Heinemeier Hansson tuita: ele e a esposa compartilham as contas, mas ela recebe um limite de crédito 20 vezes inferior ao dele no novo Apple Card (emitido pelo Goldman Sachs). O tuíte viraliza.
Este artigo cobre os trechos mais úteis — o curso completo Ética IA Governança (11 capítulos, 35 lições, exercícios corrigidos e projeto final) leva você até o fim.
./acceder-au-cours-complet curso gratuito: Claude CoworkFAQ
Quanto tempo para aprender Ética IA Governança?
É preciso ter pré-requisitos?
Por onde começar concretamente?
📬 Quer receber este tipo de guia toda semana? Inscreva-se gratuitamente — código real, zero enrolação.