Desde 2010, o uso de algoritmos e sistemas de big data permite a corporacións e institucións controlar, clasificar e excluír persoas e colectivos vulnerables nas sociedades dixitais. Estes modelos automatizados, presentados como neutros, reproducen desigualdades preexistentes e amplifican discriminacións sociais.
No libro Armas de destrucción matemática, Cathy O’Neil analiza como estes sistemas afectan ámbitos fundamentais como o crédito, o emprego, a educación e os servizos públicos. As decisións automatizadas non só reflicten os sesgos presentes nos datos, senón que tamén poden intensificalos, facendo que certos grupos sufran exclusións ou restricións que antes non existían.
O verdadeiro risco reside na opacidade e na falta de supervisión destes algoritmos, que adoitan funcionar con criterios de eficiencia ou lucro sen avaliar as consecuencias éticas ou sociais. Comprender estes procesos permite unha lectura crítica do papel do big data na sociedade contemporánea e das dinámicas de poder que sostén.