Desde 2010, el uso de algoritmos y sistemas de big data permite a corporaciones e instituciones controlar, clasificar y excluir a personas y colectivos vulnerables en la sociedad digital. Estos modelos automatizados, presentados como neutrales, reproducen desigualdades preexistentes y amplifican discriminación social.
En el libro Armas de destrucción matemática, Cathy O’Neil analiza cómo estos sistemas afectan ámbitos fundamentales como el crédito, el empleo, la educación y los servicios públicos. Las decisiones automatizadas no solo reflejan los sesgos presentes en los datos, sino que también pueden intensificarlos, haciendo que ciertos grupos sufran exclusiones o restricciones que antes no existían.
El verdadero riesgo reside en la opacidad y falta de supervisión de estos algoritmos, que suelen funcionar con criterios de eficiencia o lucro sin evaluar las consecuencias éticas o sociales. Comprender estos procesos permite una lectura crítica del papel del big data en la sociedad contemporánea y de las dinámicas de poder que sostiene.