🤖 IA, Vieses e Ética Comportamental
Vieses algorítmicos, bolhas epistêmicas, polarização digital e o espaço humano na era da automação. Quando a máquina herda nossos preconceitos e amplifica nossas falhas cognitivas.
Módulos
Tópicos
Duração
Nível
Mapa da Trilha
Vieses Algorítmicos
Quando a IA herda nossos preconceitos. COMPAS, reconhecimento facial e contratação automatizada.
Bolhas Epistêmicas
Filtros bolha, polarização digital e como algoritmos de recomendação distorcem a realidade.
Ética e Espaço Humano
Bruzzo, erosão da agência cognitiva e o que resta de humano quando delegamos tudo à máquina.
Conteúdo detalhado
Vieses Algorítmicos: Quando a IA Herda Nossos Preconceitos
ProPublica, MIT Media Lab, Amazon · 6 tópicos
O que é
Sistemas de IA treinados em dados históricos que refletem discriminação racial, de gênero e classe. O algoritmo não "inventa" preconceito: ele o codifica matematicamente a partir de padrões presentes nos dados de treinamento.
Por que aprender
Decisões automatizadas afetam milhões de pessoas. Entender a origem do viés é o primeiro passo para mitigá-lo.
Conceitos-chave
Viés de dados, viés de seleção, discriminação algorítmica, fairness em ML.
O que é
A investigação da ProPublica (2016) revelou que o sistema COMPAS, usado na justiça dos EUA, classificava pessoas negras como alto risco de reincidência quase 2x mais do que pessoas brancas, mesmo controlando fatores criminais objetivos.
Por que aprender
O caso demonstra que vieses sociais históricos se traduzem diretamente em decisões judiciais automatizadas com consequências reais sobre liberdade.
Conceitos-chave
Risk assessment, falsos positivos diferenciais, justiça preditiva, accountability algorítmica.
O que é
Joy Buolamwini (MIT Media Lab, 2018) demonstrou que sistemas de reconhecimento facial tinham taxa de erro de até 34.7% para mulheres negras, contra menos de 1% para homens brancos. Causa: bases de treinamento dominadas por rostos brancos masculinos.
Por que aprender
Sistemas com viés facial são usados em vigilância policial, controle de fronteiras e desbloqueio de dispositivos, com impacto desproporcional sobre minorias.
Conceitos-chave
Gender Shades, viés de representação, dataset bias, interseccionalidade algorítmica.
O que é
Em 2018, a Amazon descartou uma IA de triagem de currículos que penalizava sistematicamente mulheres em vagas de engenharia. O sistema aprendeu dos dados de contratação históricos, onde engenheiros eram predominantemente homens.
Por que aprender
Mostra como ML otimiza métricas a partir de dados. Se dados de contratação favorecem homens, o algoritmo aprende que homens são "melhores candidatos".
Conceitos-chave
Viés de gênero, feedback loop, otimização cega, proxy discrimination.
O que é
Remover variáveis protegidas (raça, gênero) dos dados não basta. Outras variáveis correlacionadas (CEP, histórico educacional, nome) funcionam como proxies e reproduzem a discriminação por caminhos indiretos.
Por que aprender
A solução ingênua ("basta tirar a variável raça") falha porque a estrutura social inteira está correlacionada.
Conceitos-chave
Proxy variables, redlining digital, correlação estrutural, fairness through unawareness.
O que é
Existem múltiplas definições matemáticas de "justiça" em IA (paridade demográfica, igualdade de oportunidade, calibração). O Impossibility Theorem de Chouldechova (2017) demonstrou que algumas são matematicamente incompatíveis entre si.
Por que aprender
Não existe solução técnica neutra. Toda escolha de fairness envolve trade-offs éticos e políticos que humanos precisam decidir.
Conceitos-chave
Demographic parity, equalized odds, calibration, impossibility theorem, trade-offs éticos.
Bolhas Epistêmicas e Polarização Digital
Eli Pariser, docs Facebook · 6 tópicos
O que é
Algoritmos de recomendação maximizam engajamento. Engajamento é maximizado por emoção intensa: medo, raiva, indignação. O conteúdo que mais prende atenção não é o mais informativo, mas o mais emocionalmente provocativo.
Por que aprender
As plataformas que bilhões de pessoas usam diariamente são otimizadas para explorar vieses emocionais, não para informar.
Conceitos-chave
Engagement metrics, attention economy, outrage optimization, dopamina digital.
O que é
A personalização algorítmica cria um ambiente informacional único para cada usuário, progressivamente filtrando conteúdo divergente. O mundo que aparece no seu feed não é o mundo: é uma projeção que confirma suas visões pré-existentes.
Por que aprender
Bilhões de pessoas acreditam estar vendo "a realidade" quando na verdade veem uma versão editada algoritmicamente para maximizar engajamento.
Conceitos-chave
Filter bubble, personalização, curadoria algorítmica, ilusão de diversidade informacional.
O que é
Pesquisas sobre YouTube e documentos internos vazados do Facebook revelaram que algoritmos encaminham progressivamente para conteúdo mais extremo, porque extremismo gera mais engajamento. Dieta leva a anorexia; político moderado leva a extremismo.
Por que aprender
A radicalização não é acidental: é uma consequência previsível de otimizar para engajamento.
Conceitos-chave
Rabbit hole, radicalization pipeline, Frances Haugen, Facebook Papers, autoplay.
O que é
Três vieses amplificados: confirmação (o algoritmo mostra o que você já acredita), disponibilidade (eventos raros e emocionais dominam o feed), e efeito manada (viral = credível, apenas por ser viral).
Por que aprender
Vieses cognitivos que sempre existiram agora operam em escala industrial, amplificados por algoritmos que os transformam em infraestrutura permanente.
Conceitos-chave
Confirmation bias digital, availability cascade, social proof algorítmico, Bruzzo: viés como infraestrutura.
O que é
Propostas de mitigação: auditorias algorítmicas independentes, transparência de critérios de recomendação, defaults de diversidade informacional, e literacia digital como componente curricular obrigatório.
Por que aprender
Diagnóstico sem ação é estéril. Existem caminhos viáveis para mitigar os efeitos da polarização algorítmica.
Conceitos-chave
Algorithm auditing, explainability, nudge informacional, media literacy, regulação de plataformas.
O que é
Enquanto regulação chega (ou não), a defesa individual depende de literacia digital: entender como algoritmos operam, buscar ativamente fontes divergentes, reconhecer quando emoções estão sendo exploradas.
Por que aprender
É a aplicação prática direta: saber que existe bolha é diferente de saber como sair dela.
Conceitos-chave
Pensamento crítico digital, dieta informacional, serendipity deliberada, metacognição algorítmica.
Ética, Tecnologia e o Espaço Humano
Marcus Bruzzo, "Seremos Dados" · 6 tópicos
O que é
Marcus Bruzzo ("Seremos Dados") propõe que a questão central não é se a IA é superior ou inferior ao humano. A questão é: o que acontece com o espaço humano quando delegamos funções cognitivas, criativas e decisórias a sistemas automatizados?
Por que aprender
Reposiciona o debate de "IA vai nos substituir?" para "o que estamos escolhendo perder?"
Conceitos-chave
Espaço humano, delegação cognitiva, automação de funções criativas, Seremos Dados.
O que é
Terceirizar memória para smartphones, navegação para GPS, escrita para IA. Neuroplasticidade implica que capacidades não exercidas atrofiam. Não é metáfora: o cérebro fisicamente perde conexões que não usa.
Por que aprender
Conecta diretamente com a neuroplasticidade da Trilha 3: a mesma maleabilidade que permite aprender permite atrofiar.
Conceitos-chave
Cognitive offloading, atrofia cognitiva, efeito Google, GPS e hipocampo, neuroplasticidade inversa.
O que é
Bilhões de pessoas usando os mesmos sistemas de geração de texto, imagem e código produzem cultura homogeneizada. O oposto do excedente imaginário que Bruzzo defende como essencial ao humano.
Por que aprender
A diversidade cultural não é luxo estético: é condição para adaptabilidade, inovação e resiliência civilizacional.
Conceitos-chave
Homogeneização cultural, monocultura algorítmica, excedente imaginário, diversidade como resiliência.
O que é
Decisões críticas (crédito, saúde, justiça, emprego) delegadas a sistemas que ninguém consegue explicar ou contestar. Menos transparência, menos revisão, menos responsabilização. O poder migra de instituições auditáveis para caixas-pretas corporativas.
Por que aprender
Democracia pressupõe contestabilidade. Sistemas opacos corroem a capacidade de questionar decisões que afetam vidas.
Conceitos-chave
Black box, accountability gap, right to explanation, opacidade algorítmica, poder sem rosto.
O que é
Para Bruzzo, o que resta de humano é o inútil. Arte que não otimiza. Amor que não maximiza utilidade. Jogo sem propósito produtivo. Conversas que existem só por existir. Resistência filosófica: valorizar o que não pode ser reduzido a dado.
Por que aprender
É a resposta filosófica que integra todo o curso: do Sistema 1 ao algoritmo, o que nos define não é eficiência.
Conceitos-chave
Inutilidade como valor, resistência ao utilitarismo algorítmico, arte como exceção, amor como irredutível.
O que é
Integração de todo o curso: o Sistema 1 que decide rápido, os vieses que distorcem, a conformidade social que amplifica, a dopamina que vicia, a economia que manipula, a filosofia que questiona, e a IA que herda tudo isso em escala planetária.
Por que aprender
A visão integrada é o objetivo final: entender o sistema completo, não fragmentos isolados.
Conceitos-chave
Pensamento sistêmico, convergência tecnológica-cognitiva, futuro do comportamento humano, responsabilidade compartilhada.