Ética, tecnología y el espacio humano

Marcus Bruzzo, en "Seremos Dados", propone una inversión fundamental del debate sobre la inteligencia artificial. La pregunta que domina la cultura popular y buena parte de la academia ("¿la IA será más inteligente que nosotros?", "¿la IA es consciente?", "¿la IA nos reemplazará?") es, para Bruzzo, la pregunta equivocada. Da por sentado que el problema es de comparación: ser humano versus máquina. Pero la cuestión real no es de competencia. Es de espacio.

¿Qué ocurre con el espacio humano cuando delegamos progresivamente nuestras funciones cognitivas, creativas y decisorias en sistemas automatizados? No se trata de saber si la IA escribe mejor que una persona, sino de qué ocurre con la capacidad humana de escribir cuando miles de millones de personas dejan de ejercerla. No se trata de si la IA decide mejor, sino de qué ocurre con la capacidad humana de decidir cuando se tercerizan las decisiones. La tesis de Bruzzo es que el riesgo no es la superioridad de la máquina, sino la atrofia de lo humano.

La primera dimensión del riesgo identificada por Bruzzo es la erosión de la agencia cognitiva. Delegamos la memoria a los smartphones, la navegación espacial al GPS, la escritura a la IA generativa y los cálculos a las calculadoras. Cada delegación, individualmente, parece razonable: ¿por qué memorizar un número de teléfono si el dispositivo lo guarda? ¿Por qué aprender a orientarte en la ciudad si el GPS te muestra el camino? Pero el efecto acumulativo es una atrofia progresiva de las capacidades que nos constituyen como agentes cognitivos.

El fundamento neurocientífico de esta preocupación es la neuroplasticidad, estudiada en la Ruta 3 de este curso. El cerebro fortalece los circuitos que se usan y debilita los que no. Si dejamos de ejercitar la memoria espacial (porque el GPS se encarga), el hipocampo pierde volumen medible. Si dejamos de practicar la escritura argumentativa (porque la IA genera textos), los circuitos que organizan el pensamiento se debilitan. No es una metáfora: es una reorganización sináptica.

La segunda dimensión del riesgo es la erosión de la diversidad cultural. Cuando miles de millones de personas utilizan los mismos sistemas para generar texto, imágenes, música y código, la producción cultural tiende a homogeneizarse. Cada modelo de lenguaje grande (LLM) se entrenó con un corpus particular, con sesgos particulares y optimizado para patrones estadísticos particulares. Cuando ese mismo modelo genera contenido para miles de millones, produce variaciones dentro de un espacio estético limitado.

Bruzzo lo llama lo opuesto del "excedente imaginario". Históricamente, la cultura humana ha producido más formas, estilos, narrativas y modos de expresión de los que cualquier individuo podría consumir. Esa abundancia era el sustrato de la innovación: lo inesperado, lo extraño, lo que no tenía sentido inmediato. Cuando la generación pasa por un filtro algorítmico que optimiza la interacción y los patrones reconocibles, la tendencia es comprimir esa diversidad. No eliminarla de golpe, sino reducirla gradualmente, como una erosión.

La tercera dimensión es la más directamente política: la transferencia de poder de decisión a sistemas opacos. Se delegan a algoritmos cuyo funcionamiento interno no es comprensible ni para sus creadores, y mucho menos para las personas afectadas, decisiones que repercuten en vidas concretas (otorgamiento de créditos, diagnóstico de salud, sentencias judiciales, selección para empleos, acceso a beneficios sociales).

Esta opacidad reduce drásticamente la posibilidad de impugnar la decisión. Cuando un humano rechaza un crédito, el solicitante puede preguntar por qué y, en principio, argumentar contra la decisión. Cuando un algoritmo lo rechaza, la respuesta es "el modelo dijo que no". La explicación técnica (una combinación de pesos en millones de parámetros) no se puede traducir en razones que puedan impugnarse. La consecuencia es la erosión de la rendición de cuentas: nadie decide, así que nadie responde. El sistema decide, pero el sistema no es un agente moral.

Si el diagnóstico de Bruzzo es sombrío, su propuesta de resistencia es sorprendente: lo que queda de humano es lo inútil. No lo inútil como fracaso, sino lo inútil como categoría filosófica. Arte que no optimiza ninguna métrica. Amor que no maximiza la utilidad. Juego sin propósito productivo. Conversaciones que existen solo por existir. El paseo sin destino. La contemplación sin output. El silencio que no necesita ser llenado.

Esta propuesta dialoga con una larga tradición filosófica. Aristóteles consideraba la contemplación (theoria) la actividad más elevada precisamente porque era la más inútil en sentido práctico. Kant veía la experiencia estética como "finalidad sin fin". Hannah Arendt distinguía entre labor (necesidad biológica), trabajo (fabricación de objetos) y acción (actividad libre entre iguales); la acción era la dimensión propiamente humana precisamente porque no tenía utilidad instrumental. Bruzzo actualiza esta tradición para la era algorítmica: la resistencia a la colonización tecnológica de la imaginación pasa por valorar radicalmente lo que no puede reducirse a datos.

Este módulo cierra el curso "Mente, Poder y Comportamiento". Recorrimos un arco que comenzó con la mecánica de la decisión individual (Sistema 1 y 2, heurísticas, sesgos), pasó por la influencia social (conformidad, obediencia, manipulación), descendió a la infraestructura neural (neuroplasticidad, dopamina, amígdala), ascendió a los sistemas económicos que explotan estas vulnerabilidades (economía conductual, nudge, contabilidad mental), cuestionó los fundamentos filosóficos (libre albedrío, conciencia, semiótica) y llegó a la frontera actual: qué sucede cuando las máquinas heredan, amplifican y automatizan todo esto.

La respuesta de Bruzzo, y el argumento final de este curso, no es una respuesta técnica. Es una respuesta ética y existencial. Ser humano en la era de la IA no consiste en competir con la máquina en eficiencia, velocidad o escala. Nunca se trató de eso. Consiste en insistir en las dimensiones de la experiencia que no pueden reducirse a datos, optimizarse mediante algoritmos ni delegarse a sistemas. La vulnerabilidad. La ambigüedad. El error productivo. La belleza inútil. La presencia sin propósito. El encuentro con otra persona que no puede predecirse, modelarse ni replicarse.