Se ha revelado que la empresa estadounidense de tecnología de espionaje Palantir ha estado en conversaciones con el Ministerio de Justicia sobre el uso de su tecnología para calcular los “riesgos de reincidencia” de los prisioneros.
Las propuestas surgieron en correspondencia publicada bajo la Ley de Libertad de Información que mostró cómo la compañía también ha estado presionando a los nuevos ministros del gobierno del Reino Unido, incluida la canciller Rachel Reeves.
Amnistía Internacional se encuentra entre las organizaciones que expresan preocupación por el creciente papel que Palantir está intentando desempeñar después de que el año pasado se le adjudicara de forma polémica un contrato multimillonario con el NHS.
El ministro de Prisiones, James Timpson, recibió una carta tres semanas después de las elecciones generales de un ejecutivo de Palantir que decía que la empresa era una de las principales empresas de software del mundo y estaba trabajando en la vanguardia de la inteligencia artificial (IA).
Palantir había estado en conversaciones con el Ministerio de Justicia y el Servicio Penitenciario sobre cómo “el intercambio seguro de información y el análisis de datos pueden aliviar los desafíos penitenciarios y permitir una comprensión granular de la reincidencia y los riesgos asociados”, añadió el ejecutivo.
Se entiende que las discusiones, que comenzaron bajo el gobierno conservador, incluyeron propuestas de Palantir para analizar la capacidad carcelaria y utilizar datos en poder del estado para comprender las tendencias relacionadas con la reincidencia. Esto se basaría en agregar datos para identificar tendencias y actuar en consecuencia, teniendo en cuenta factores como los ingresos o los problemas de adicción.
Un portavoz de Palantir dijo: “El software avanzado que integra datos automáticamente podría proporcionar una fuente única y constantemente actualizada de verdad sobre la capacidad penitenciaria en todo el Reino Unido, ayudando a maximizar el uso de espacios penitenciarios finitos. Este tipo de solución tiene paralelos con la forma en que nuestro software apoyó el lanzamiento de la vacuna Covid-19, donde proporcionó una imagen clara y en tiempo real de la aceptación a nivel local, regional y nacional”.
Sin embargo, el director de Empresas y Derechos Humanos de Amnistía Internacional Reino Unido, Peter Frankental, ha expresado su preocupación. “Es profundamente preocupante que Palantir esté tratando de seducir al nuevo gobierno hacia un llamado mundo feliz donde los servicios públicos pueden ser administrados por robots que no rinden cuentas a expensas de nuestros derechos”, dijo. “Los trabajadores enfrentan el serio desafío de garantizar que las tecnologías digitales se utilicen de acuerdo con los derechos humanos, incluida la protección de la privacidad de las personas, el derecho a la igualdad, la no discriminación y la protección de datos.
“Los ministros deben oponerse a cualquier uso de inteligencia artificial en la justicia penal, los sistemas penitenciarios y de asistencia social que pueda llevar a que las personas sean discriminadas, atacadas injustamente y otros errores judiciales. El escándalo de Correos es una cruda advertencia de lo que puede suceder cuando las tecnologías digitales se consideran infalibles”.
Las preocupaciones sobre Palantir se han visto agravadas por el papel político desempeñado por su cofundador y presidente, Peter Thiel, un importante partidario de Donald Trump en Silicon Valley, así como patrocinador y ex empleador del vicepresidente electo, JD Vance. Thiel escribió una vez: “Ya no creo que la libertad y la democracia sean compatibles”.
Otras cartas enviadas a The Guardian revelan que el cofundador y director ejecutivo de Palentir, Alexander Karp, escribió a ministros, incluido Reeves, pidiéndoles reunirse para discutir cómo ayudar a impulsar el crecimiento y el uso de sus productos en los departamentos gubernamentales.
Karp se describe a sí mismo como un “socialista”, pero ha hablado de Palantir como un contraataque a las empresas “despertadas” y es conocido por hacer declaraciones provocativas, afirmando que la empresa creía que “Occidente es una forma superior de vivir”.
Esto se reflejó en una carta que Karp escribió al ministro de Ciencia, Peter Kyle, diciéndole: “Nuestra empresa se fundó para ayudar a fortalecer instituciones críticas en todo Occidente”.
después de la promoción del boletín
Al igual que Reeves, Karp buscó reunirse con Kyle para discutir “aprovechar la IA para brindar la próxima generación de servicios públicos basados en tecnología en todo HMG”.
Karp le dijo a Reeves que la compañía empleaba a casi 1.000 ingenieros de software en Londres, su oficina europea para IA, y anticipaba abrir pronto otra oficina en otros lugares de Gran Bretaña. Palantir escribió a otros ministros, incluido el secretario jefe del Tesoro, Darren Jones, y el ministro de Comercio, Douglas Alexander.
Kyle y Reeves no se reunieron con Palantir durante su mandato como ministros, según el gobierno, mientras que otros ministros presionados por la compañía no parecen haber respondido. Otros laboristas se han mostrado profundamente inquietos por los vínculos de la empresa con el partido, particularmente con su ala blairista.
El diputado laborista Clive Lewis dijo que le preocupaba que “grandes entidades corporativas” como Palantir estuvieran tratando de convertirse en partes integrales de la prestación de servicios públicos.
“Estamos invitando a una entidad corporativa altamente extractiva que siempre actuará primero en función de sus propios intereses, no de los que, en última instancia, serían los intereses del NHS u otros servicios públicos. Se puede seguir el camino de la ciencia ficción, pero, en última instancia, ¿dónde nos dejará?” dijo Lewis.
“Me parece que hay presión para que este gobierno laborista genere crecimiento a toda costa. Mi temor es que esto nos lleve a tomar atajos para lograr ese crecimiento a un ritmo rápido y que podamos lamentar lo que hemos hecho”.
