Título y resumen en español
Desviación algorítmica y radicalización en las sociedades de plataformas digitales: refuerzo neurocognitivo y sistemas de recomendación basados en inteligencia artificial
Autores:
Ionut Virgil Serban - University of Craiova, Romania; University of Chieti-Pescara; University "Kore", Enna; University of International Studies in Rome (IT)
Bogdan Patrut - Alexandru Ioan Cuza University of Iasi (RO)
Valer Nimineț - Vasile Alecsandri University of Bacau (RO)
Resumen
Los sistemas de recomendación impulsados por inteligencia artificial configuran cada vez más la manera en que circula la información dentro de las plataformas digitales y cómo los usuarios entran en contacto con narrativas políticas y sociales.
Como resultado, los procesos de radicalización, movilización extremista y desviación mediada digitalmente ya no pueden explicarse únicamente por la tensión social o el adoctrinamiento ideológico, sino que también deben comprenderse dentro de entornos seleccionados algorítmicamente y diseñados para maximizar la participación de los usuarios.
Esta investigación desarrolla un marco interdisciplinario que explica cómo los algoritmos de recomendación interactúan con los mecanismos neurocognitivos de recompensa para reforzar y amplificar las trayectorias de radicalización.
Integrando teoría criminológica, sociología digital y neurociencia cognitiva, el estudio se basa en la Teoría General de la Tensión, la Teoría del Aprendizaje Social y la Teoría del Actor-Red, junto con investigaciones sobre sistemas dopaminérgicos de recompensa, procesamiento de la saliencia emocional, codificación predictiva y neuroplasticidad.
Dentro de este marco, el artículo introduce el concepto de Entornos de Tensión Algorítmica (Algorithmic Strain Environments, ASE), definidos como ecosistemas mediados digitalmente en los que los sistemas de recomendación optimizados para la participación amplifican repetidamente narrativas de agravio, activación emocional y polarización identitaria mediante bucles recursivos de retroalimentación.
Para traducir estas dinámicas en señales medibles, el estudio propone cuatro indicadores analíticos: el Índice de Deriva hacia la Extremidad (Extremity Drift Index, EDI), la Puntuación de Volatilidad de la Participación (Engagement Volatility Score, EVS), la Métrica de Densidad de Homofilia (Homophily Density Metric, HDM) y la Tasa de Convergencia Narrativa (Narrative Convergence Rate, NCR).
Estos indicadores están diseñados no solo para el análisis retrospectivo, sino también para la detección temprana de trayectorias de radicalización, situando así el modelo como un marco predictivo y no meramente descriptivo.
Una simulación basada en un conjunto de datos hipotético ilustra cómo estos indicadores pueden integrarse en un enfoque cuantitativo para analizar las dinámicas de radicalización mediadas algorítmicamente.
Finalmente, el artículo examina las implicaciones de gobernanza de estos procesos dentro de marcos regulatorios emergentes, incluidos el Reglamento de Inteligencia Artificial de la Unión Europea, la Ley de Servicios Digitales, la Online Safety Act del Reino Unido y los debates regulatorios en curso en Estados Unidos.
Se propone un marco de gobernanza neuroalgorítmica que integra auditoría algorítmica, modelado del riesgo cognitivo y responsabilidad sistémica de las plataformas.
En conjunto, los hallazgos sugieren que la radicalización en las sociedades de plataformas está cada vez más condicionada por la interacción entre las vulnerabilidades cognitivas humanas y las infraestructuras algorítmicas impulsadas por la participación, lo que pone de relieve la necesidad de enfoques de gobernanza capaces de abordar tanto el diseño tecnológico como los mecanismos de refuerzo neurocognitivo.