El "Big Brother" de IA que vigila Sao Paulo (y que te confunde con un criminal)

En el corazón de Sao Paulo, la ciudad más rica y poblada de Brasil, la realidad ya superó a la ciencia ficción. Olvídate de Black Mirror: aquí lo que manda es Smart Sampa, el sistema de reconocimiento facial con Inteligencia Artificial más grande de América Latina.

Con 40,000 cámaras activas, este programa ha convertido a la megalópolis en un gigantesco estudio de monitoreo donde decenas de policías vigilan cada movimiento en pantallas gigantes. ¿El objetivo? Cazar fugitivos. ¿El costo? Un debate ético que está que arde.

Entre la seguridad y el libro ‘1984’

Para las autoridades, el éxito es rotundo. Orlando Morando, secretario municipal de Seguridad, presume con orgullo el “prisionómetro” (un contador de personas arrestadas) que adorna la entrada del centro de control. Según sus cifras, el sistema ya detectó a casi 3,000 fugitivos y permitió el arresto de otras 4,000 personas en flagrancia.

“Con los fugitivos que atrapó el sistema, podemos llenar siete cárceles. Ya no imagino a Sao Paulo sin Smart Sampa”, afirma Morando.

Incluso hay ciudadanos como Sonia, una jubilada de 68 años, que no oculta su entusiasmo: “Me recuerda al libro 1984; me encanta, lo apruebo 100%”. Pero, como diría el tío Ben, un gran poder conlleva una gran responsabilidad… y aquí es donde la IA empieza a fallar.

Cuando el algoritmo se equivoca (y acabas en la cárcel)

No todo es precisión quirúrgica. Informes analizados por la AFP revelan un lado oscuro: más del 8% de los arrestos del primer año fueron errores. * Confusiones de identidad: Al menos 59 personas fueron detenidas porque el sistema las confundió con alguien más.

• El caso del abuelo: Un hombre de 80 años pasó horas tras las rejas porque la IA juraba que era un violador.

• Terror en la terapia: Policías armados irrumpieron en un centro de salud mental para llevarse esposado a un paciente cuya orden de arresto ya ni siquiera estaba vigente.

La respuesta del gobierno conservador de Ricardo Nunes es simple: “Nadie quedó preso por error, fueron liberados”. Pero el trauma de ser encañonado por un algoritmo defectuoso no se quita tan fácil.

¿Seguridad pública o control civil?

Aunque se vende como la solución definitiva contra los robos de celulares (un drama real en Sao Paulo), los datos cuentan otra historia. Casi la mitad de los “fugitivos” atrapados por Smart Sampa caen por delitos tipificados como “otros”, que en realidad son deudores de pensiones alimenticias.

“Se presenta como solución al crimen, pero se usa para control civil”, advierte Amarilis Costa, directora de la red de abogados Liberdade. Además, existe la sombra del racismo algorítmico. En un país con una enorme población negra, la falta de datos raciales en los arrestos impide saber si la IA tiene prejuicios, algo que estudios internacionales han confirmado en sistemas similares.

El veredicto de la calle

Mientras el gobierno celebra una caída del 15% en los robos durante 2025, la vigilancia se expande a hospitales y edificios privados. Sao Paulo se ha convertido en el laboratorio social más grande de la región, donde la línea entre “sentirse seguro” y “ser vigilado 24/7” es cada vez más borrosa.

(Con información de AFP)