🤖 IA, sesgos y ética del comportamiento
Sesgos algorítmicos, burbujas epistémicas, polarización digital y el espacio humano en la era de la automatización. Cuando la máquina hereda nuestros prejuicios y amplifica nuestros errores cognitivos.
Módulos
Temas
Duración
Nivel
Mapa de la ruta
Sesgos algorítmicos
Cuando la IA hereda nuestros prejuicios. COMPAS, reconocimiento facial y contratación automatizada.
Burbujas epistémicas
Filtros burbuja, polarización digital y cómo los algoritmos de recomendación distorsionan la realidad.
Ética y espacio humano
Bruzzo, erosión de la agencia cognitiva y lo que queda de humano cuando se lo delegamos todo a la máquina.
Contenido detallado
Sesgos algorítmicos: cuando la IA hereda nuestros prejuicios
ProPublica, MIT Media Lab, Amazon · 6 temas
Qué es
Sistemas de IA entrenados con datos históricos que reflejan discriminación racial, de género y de clase. El algoritmo no "inventa" prejuicios: los codifica matemáticamente a partir de patrones presentes en los datos de entrenamiento.
Por qué aprender
Las decisiones automatizadas afectan a millones de personas. Entender el origen del sesgo es el primer paso para mitigarlo.
Conceptos clave
Sesgo de datos, sesgo de selección, discriminación algorítmica, equidad en ML.
Qué es
La investigación de ProPublica (2016) reveló que el sistema COMPAS, utilizado en la justicia de EE. UU., clasificaba a las personas negras como de alto riesgo de reincidencia casi 2x más que a las personas blancas, incluso al controlar factores delictivos objetivos.
Por qué aprender
El caso demuestra que los sesgos sociales históricos se traducen directamente en decisiones judiciales automatizadas con consecuencias reales para la libertad.
Conceptos clave
Evaluación de riesgos, falsos positivos diferenciales, justicia predictiva, rendición de cuentas algorítmica.
Qué es
Joy Buolamwini (MIT Media Lab, 2018) demostró que los sistemas de reconocimiento facial tenían una tasa de error de hasta 34.7% para mujeres negras, frente a menos de 1% para hombres blancos. Causa: conjuntos de entrenamiento dominados por rostros de hombres blancos.
Por qué aprender
Los sistemas con sesgo facial se usan en la vigilancia policial, el control fronterizo y el desbloqueo de dispositivos, con un impacto desproporcionado sobre las minorías.
Conceptos clave
Gender Shades, sesgo de representación, sesgo de datos, interseccionalidad algorítmica.
Qué es
En 2018, Amazon descartó una IA para seleccionar currículos que penalizaba sistemáticamente a las mujeres en puestos de ingeniería. El sistema aprendió de los datos históricos de contratación, en los que los ingenieros eran predominantemente hombres.
Por qué aprender
Muestra cómo el ML optimiza métricas a partir de datos. Si los datos de contratación favorecen a los hombres, el algoritmo aprende que los hombres son «mejores candidatos».
Conceptos clave
Sesgo de género, ciclo de retroalimentación, optimización ciega, discriminación por proxy.
Qué es
Eliminar las variables protegidas (raza, género) de los datos no basta. Otras variables correlacionadas (código postal, historial educativo, nombre) funcionan como proxies y reproducen la discriminación por vías indirectas.
Por qué aprender
La solución ingenua («basta con quitar la variable raza») falla porque toda la estructura social está correlacionada.
Conceptos clave
Variables proxy, redlining digital, correlación estructural, equidad mediante la falta de conocimiento.
Qué es
Existen múltiples definiciones matemáticas de "justicia" en IA (paridad demográfica, igualdad de oportunidades, calibración). El Impossibility Theorem de Chouldechova (2017) demostró que algunas son matemáticamente incompatibles entre sí.
Por qué aprender
No existe una solución técnica neutral. Toda elección de equidad implica compromisos éticos y políticos que los humanos deben decidir.
Conceptos clave
Paridad demográfica, igualdad de oportunidades, calibración, teorema de imposibilidad, dilemas éticos.
Burbujas epistémicas y polarización digital
Eli Pariser, documentos de Facebook · 6 temas
Qué es
Los algoritmos de recomendación maximizan la interacción. La interacción se maximiza con emociones intensas: miedo, ira e indignación. El contenido que más capta la atención no es el más informativo, sino el más provocador desde el punto de vista emocional.
Por qué aprender
Las plataformas que miles de millones de personas usan a diario están optimizadas para explotar sesgos emocionales, no para informar.
Conceptos clave
Métricas de engagement, economía de la atención, optimización de la indignación, dopamina digital.
Qué es
La personalización algorítmica crea un entorno informativo único para cada usuario y filtra progresivamente el contenido divergente. El mundo que aparece en tu feed no es el mundo: es una proyección que confirma tus opiniones preexistentes.
Por qué aprender
Miles de millones de personas creen estar viendo "la realidad" cuando en verdad ven una versión editada algorítmicamente para maximizar la interacción.
Conceptos clave
Filter bubble, personalización, curaduría algorítmica, ilusión de diversidad informativa.
Qué es
Investigaciones sobre YouTube y documentos internos filtrados de Facebook revelaron que los algoritmos llevan progresivamente a contenido más extremo, porque el extremismo genera más interacción. La dieta conduce a la anorexia; un político moderado, al extremismo.
Por qué aprender
La radicalización no es accidental: es una consecuencia previsible de optimizar para generar interacción.
Conceptos clave
Rabbit hole, radicalization pipeline, Frances Haugen, Facebook Papers, autoplay.
Qué es
Tres sesgos amplificados: confirmación (el algoritmo te muestra lo que ya crees), disponibilidad (los eventos raros y emotivos dominan el feed) y efecto de arrastre (viral = creíble, solo por ser viral).
Por qué aprender
Sesgos cognitivos que siempre existieron ahora operan a escala industrial, amplificados por algoritmos que los transforman en infraestructura permanente.
Conceptos clave
Sesgo de confirmación digital, cascada de disponibilidad, prueba social algorítmica, Bruzzo: el sesgo como infraestructura.
Qué es
Propuestas de mitigación: auditorías algorítmicas independientes, transparencia en los criterios de recomendación, opciones predeterminadas para la diversidad informativa y alfabetización digital como componente curricular obligatorio.
Por qué aprender
Un diagnóstico sin acción es estéril. Hay caminos viables para mitigar los efectos de la polarización algorítmica.
Conceptos clave
Algorithm auditing, explainability, nudge informacional, alfabetización mediática, regulación de plataformas.
Qué es
Mientras la regulación llega (o no), la defensa individual depende de la alfabetización digital: entender cómo operan los algoritmos, buscar activamente fuentes diversas y reconocer cuándo están explotando tus emociones.
Por qué aprender
Es la aplicación práctica directa: saber que existe una burbuja es diferente de saber cómo salir de ella.
Conceptos clave
Pensamiento crítico digital, dieta informativa, serendipia deliberada, metacognición algorítmica.
Ética, tecnología y el espacio humano
Marcus Bruzzo, "Seremos Dados" · 6 temas
Qué es
Marcus Bruzzo ("Seremos Dados") propone que la cuestión central no es si la IA es superior o inferior al ser humano. La pregunta es: ¿qué ocurre con el espacio humano cuando delegamos funciones cognitivas, creativas y decisorias en sistemas automatizados?
Por qué aprender
Replantea el debate de «¿la IA nos va a reemplazar?» a «¿qué estamos eligiendo perder?»
Conceptos clave
Espacio humano, delegación cognitiva, automatización de funciones creativas, Seremos Datos.
Qué es
Delegar la memoria en los smartphones, la navegación en el GPS y la escritura en la IA. La neuroplasticidad implica que las capacidades que no se ejercitan se atrofian. No es una metáfora: el cerebro pierde físicamente las conexiones que no usa.
Por qué aprender
Se conecta directamente con la neuroplasticidad de la Ruta 3: la misma maleabilidad que permite aprender permite atrofiarse.
Conceptos clave
Cognitive offloading, atrofia cognitiva, efecto Google, GPS e hipocampo, neuroplasticidad inversa.
Qué es
Miles de millones de personas que usan los mismos sistemas de generación de texto, imágenes y código producen una cultura homogeneizada. Lo opuesto al excedente imaginario que Bruzzo defiende como esencial para el ser humano.
Por qué aprender
La diversidad cultural no es un lujo estético: es una condición para la adaptabilidad, la innovación y la resiliencia de la civilización.
Conceptos clave
Homogeneización cultural, monocultura algorítmica, excedente imaginario, diversidad como resiliencia.
Qué es
Decisiones críticas (crédito, salud, justicia, empleo) delegadas a sistemas que nadie puede explicar ni cuestionar. Menos transparencia, menos revisión, menos rendición de cuentas. El poder pasa de instituciones auditables a cajas negras corporativas.
Por qué aprender
La democracia presupone que se puedan cuestionar las decisiones. Los sistemas opacos erosionan la capacidad de cuestionar decisiones que afectan vidas.
Conceptos clave
Caja negra, brecha de rendición de cuentas, derecho a la explicación, opacidad algorítmica, poder sin rostro.
Qué es
Para Bruzzo, lo que queda de humano es lo inútil. Arte que no optimiza. Amor que no maximiza la utilidad. Juego sin propósito productivo. Conversaciones que existen solo por existir. Resistencia filosófica: valorar lo que no puede reducirse a datos.
Por qué aprender
Es la respuesta filosófica que integra todo el curso: del Sistema 1 al algoritmo, lo que nos define no es la eficiencia.
Conceptos clave
La inutilidad como valor, resistencia al utilitarismo algorítmico, el arte como excepción, el amor como irreductible.
Qué es
Integración de todo el curso: el Sistema 1 que decide rápido, los sesgos que distorsionan, la conformidad social que amplifica, la dopamina que genera adicción, la economía que manipula, la filosofía que cuestiona y la IA que hereda todo esto a escala planetaria.
Por qué aprender
La visión integrada es el objetivo final: entender el sistema completo, no fragmentos aislados.
Conceptos clave
Pensamiento sistémico, convergencia tecnológica-cognitiva, futuro del comportamiento humano, responsabilidad compartida.