Resumen de Salud Mental en el Capitalismo Cognitivo

## Introducción La clasificación algorítmica y la integración de la inteligencia artificial (IA) en ámbitos sociales y de atención han generado críticas relevantes. Este material explica por qué las herramientas algorítmicas no son neutrales, cómo reproducen prejuicios y qué efectos producen cuando sustituyen procesos humanos de escucha y juicio. > Definición: La clasificación algorítmica es el proceso por el cual sistemas computacionales organizan, etiquetan y priorizan información con base en reglas o modelos aprendidos de datos. ## 1. ¿Por qué los algoritmos no son neutros? ### 1.1 Origen de sesgos - Los modelos aprenden de datos históricos que contienen decisiones humanas, errores y desigualdades. - Si los datos reflejan prejuicios, el algoritmo los replicará y los amplificará. > Definición: Sesgo algorítmico es la tendencia sistemática de un modelo a favorecer o perjudicar a ciertos grupos por la naturaleza de sus datos o diseño. ### 1.2 Valoraciones ideológicas en la categorización - Las categorías usadas por los sistemas no son meramente técnicas; incorporan juicios sobre qué es relevante o valioso. - Presentar una clasificación como "objetiva" oculta esas decisiones. ## 2. Aplicaciones y consecuencias prácticas ### 2.1 Robotización del cuidado - Ejemplo práctico: Plataformas que ofrecen guías automatizadas para acompañamiento emocional en lugar de proporcionar atención humana. - Resultado: Atención superficial basada en patrones de lenguaje, no en comprensión profunda del contexto personal. ### 2.2 Monetización del acceso a la escucha - Acceso a profesionales humanos se vuelve costoso; opciones automáticas se masifican como alternativa económica. - Consecuencia: Las personas con recursos reciben intervención humana; otras, soluciones diseñadas y estandarizadas. Did you know que un algoritmo no "escucha" sentimientos sino que procesa patrones de texto o voz y asigna etiquetas según su entrenamiento? ## 3. Gestión algorítmica de la emoción ### 3.1 Optimización del ánimo - Muchos sistemas tienen como meta mejorar métricas afectivas (ej.: reducir palabras de tristeza), no comprender la experiencia. - Esto conduce a intervenciones diseñadas para modificar señales observables en lugar de atender procesos subjetivos. ### 3.2 Riesgos de la estandarización emocional - Pérdida de diversidad expresiva al premiar formas de emoción que el sistema reconoce como "deseables". - Marginalización de formas culturales o individuales de sentir que no coinciden con el patrón. ## 4. Perspectiva filosófica sobre poder y sujeción ### 4.1 Cambio en las formas de dominio - Nuevas técnicas tecnológicas permiten formas de control que se sostienen mediante la captura de datos personales y la adaptación continua de mensajes o servicios. - La sujeción se refuerza cuando las personas adoptan comportamientos que los sistemas predicen y refuerzan. > Definición: Psicopolítica (en términos generales) es el uso de técnicas que inciden sobre la mente y la subjetividad para influir en comportamientos colectivos mediante tecnología y datos. ## 5. Herramientas para analizar y cuestionar sistemas algorítmicos 1. Revisar los datos de entrenamiento: ¿qué fuentes se usaron? ¿qué ausencias hay? 2. Evaluación de impacto: ¿a quién beneficia y a quién perjudica el sistema? 3. Transparencia y trazabilidad: solicitar explicaciones sobre decisiones algorítmicas. 4. Diseños participativos: incluir a grupos afectados en la creación y validación. Fun fact: investigaciones han mostrado que sistemas de clasificación pueden repetir prejuicios de décadas pasadas si se entrenan con archivos históricos sin correcciones. ## 6. Comparación de conceptos clave | Concepto | Qué describe | Riesgo principal | |---|---:|---| | Clasificación algorítmica | Organización automática de información | Reproducción de sesgos históricos | | Robotización del cuidado | Sustitución de atención humana por sistemas | Atención superficial y estandarizada | | Optimización del ánimo | A