En la sociedad de consumo e información, los datos personales se han vuelto el bien más preciado y una de las formas modernas de vigilancia. Asimismo, cada vez es más difícil escapar del radar compuesto por cámaras, dispositivos de rastreos y aplicaciones, que detectan antes que nosotros nuestros gustos personales; y permiten localizarnos donde sea que vayamos.

Que los sistemas informáticos pueden fallar, no es precisamente una novedad. Si bien, cada vez nos encontramos en condiciones de producir algoritmos y dispositivos más confiables y eficaces, el margen de error continua presente. Ya hubo varios casos, en distintas ciudades del mundo, de personas arrestadas por un error de los sistemas de reconocimiento facial. Argentina tuvo un caso extremo el año pasado, cuando Guillermo Ibarrola, paso seis días injustamente arrestado por un crimen que no había cometido. El sistema de reconocimiento facial de la ciudad de Buenos Aires asoció su rostro con un caso de robo agravado cometido en 2016, en Bahía Blanca. La incredulidad de Ibarrola no convenció a los policías ya que casi fue trasladado al penal por el supuesto delito.  Si bien, el caso suscitó la debida controversia, desde el Gobierno de la Cuidad se defendieron y remarcaron que los casos en que el sistema falla, no superan el 3 por ciento.

Desde 1975 conocemos el concepto de panóptico desarrollado por el filósofo francés Michel Foucault. El panóptico es una estructura similar a una torre, que otorga la posibilidad de controlar un recinto entero; con una visión de 360 grados, sin que los observados sepan en qué momento están siendo vigilados. Si bien el concepto fue originalmente ideado por Jeremy Bentham, fue Foucault quien analizó la evolución de los sistemas penales y el castigo a lo largo de los años.

El ideal de las democracias hiper tecnologizadas, como el caso de China, parece apuntar a constituir un Estado omnipresente, que controla en todo momento a sus habitantes. De esta forma, el gigante asiático logró consolidar décadas de modernización y avances tecnológicos en métodos de videovigilancia, reconocimiento facial y rastreo que, no solo utiliza en su población, sino que exporta al mundo entero.

Mientras que los cautos consideran que, a través de la tecnología y en pos de la seguridad, estamos sacrificando nuestra privacidad; los detractores creen que en la vigilancia masiva se asientan las bases del autoritarismo y por tanto constituye, un verdadero riesgo para nuestras democracias. De forma yuxtapuesta, hay que considerar el inexorable poder de aquellas empresas con las que interactuamos todos los días ofreciéndoles nuestros datos y gustos personales. Si observamos el podio de las empresas más ricas del mundo en 2020, veremos claramente que al menos seis de ellas, trabajan con información privada y datos obtenidos en la web (hacemos referencia a Apple Inc, Microsoft, Google, Facebook, Amazon y su contraparte china, Alibaba Group). 

Mientras que los cautos consideran que, a través de la tecnología y en pos de la seguridad, estamos sacrificando nuestra privacidad; los detractores creen que en la vigilancia masiva se asientan las bases del autoritarismo y por tanto constituye, un verdadero riesgo para nuestras democracias.

Algunas de estas compañías han decidido dar batalla a la vigilancia masiva y anunciaron que no cooperarán más. Este es el caso de Amazon que, en junio de 2020, prohibió a la policía norteamericana utilizar su tecnología de reconocimiento facial durante un año. La decisión de Jeff Bezos, fue suscitada a partir de la campaña #defundthepolice, pero el interrogante es si se trata de una mera maniobra política o de una verdadera acción significativa. En semejanza con el gigante del e-commerce, IBM también anunció recientemente que se retira del negocio del reconocimiento facial. La determinación de estas empresas responde a las criticas que la inteligencia artificial ha tenido por su sesgo racista: y es que por más eficaces que sean los sistemas desarrollados, no escapan a la influencia segregacionista de los que la desarrollan, ni de los datos que la alimentan. 

Ya en diciembre del 2019, dos senadores estadounidenses denunciaban que los algoritmos utilizados en los centros de salud del país discriminaban a la población afroamericana al predecir que pacientes costarían más al sistema; relegándolos en la atención médica y alargando los tiempos de espera en las clínicas.

Quizás en un futuro no muy lejano sea posible evitar la posibilidad de error en las numerosas formas de vigilancia que nos rodean, pero aún queda responder los grandes interrogantes respecto al paradero y mercantilización de nuestros datos personales. Las ventajas de la inteligencia artificial son amplísimas y diversas, pero deben estar necesariamente acompañadas de un debate ético y un consecuente marco regulatorio. La democratización de la misma se postula como un requisito para evitar los consabidos monopolios que lideran los avances en inteligencia artificial, dominando el mercado. Por ahora, solo queda la certeza, en forma de remembranza; de lo que Orwell predijo en 1948: “es imposible escapar del Gran Hermano”.