Simón Casal, director de cine: “Me preocupa la centralización de poder en la IA”

Han pasado nueve años desde que el realizador Simón Casal dirigió su anterior película de ficción, 'Lobos sucios', a la actual, “Justicia artificial”, que llegará a los cines españoles en septiembre. Días atrás, el filme era presentado en el Festival de Shanghái, uno de los certámenes de clase A, los más importantes del mundo y donde se incluye a Cannes, San Sebastián o Locarno, entre otros. Su paso por él allana su camino internacional para los próximos meses.

Usted defiende que la historia no es ciencia ficción.

Es un thriller político que arranca con la presidenta de España en 2028 planteando un referéndum para introducir la inteligencia artificial en la administración de Justicia y sustituir a todos los jueces y juezas del país. Poco después, una jueza de A Coruña recibe el encargo de realizar una auditoría completa al software de IA. Esa oferta coincide con el cierre de la investigación sobre la muerte de la creadora del software. A partir de ahí, empieza una investigación criminal para saber qué ha pasado mientras hay una campaña electoral por el referéndum.

¿Qué trata de comunicar con este filme?

De fondo, planteo una exploración sobre los elementos humanos que intervienen en el proceso de hacer justicia. ¿Qué importancia tienen la capacidad de emocionarnos, empatizar, intuir... a la hora de hacer justicia? Los defensores de este software defienden que la justicia es mejor si carece de elementos que pueden distorsionar las sentencias por los sesgos emocionales, ideológicos, de género, clase, raza... Es es el debate que tratamos de explorar a través de nuestra protagonista (Verónica Echegui, Ane en la serie “Intimidad). Es una persona muy perfeccionista y concentrada en su trabajo. Ella realiza un viaje por las partes más humanas y qué valor tienen a la hora de impartir justicia.

En el elenco también nos encontramos a Tamar Novas.

Tamar Novas es Brais, el exmarido de Alicia (Alba Galocha). Los dos son los creadores de la empresa de inteligencia artificial con sede en Galicia en la que también trabaja Alberto Amman.

Previo al filme, usted realizó un documental sobre el mismo tema.

Sí, fue un documental de investigación en el que viajé a diferentes países para entrevistar con jueces, filósofos e investigadores sociales y miembros de la Comisión Europea que elaboró las directrices éticas para la implementación de la inteligencia artificial en Europa. El documental especula mucho sobre el tema. Me ayudó a elaborar el guion de la película que escribí con Víctor Sierra.

¿Tiene especial temor a la inteligencia artificial en la justicia?

Estoy preocupado, desde luego, sobre todo por algunas estrategias de las empresas y por la centralización del poder. Las principales tecnológicas del mundo son americanas o chinas. Son muy pocas, unas diez, las más poderosas. Es una concentración de poder que no hemos visto en la historia de la humanidad. Sin firmas gigantescas con más poder que estados de mundo. Toman decisiones que nos afectan a todos en nuestro día a día y que ordenan nuestras vidas. Debería haber muchas inteligencias artificiales, softwares desarrollados en comunidades pequeñas para garantizar que los puntos de vista y las manera de ver la vida se respeten.

¿Ve preocupación en la ciudadanía?

Hay mucho interés alrededor de esta tecnología pero falta más preocupación sobre qué se hace con nuestros datos y cómo operan estas tecnologías en nuestra sociedad. Muchos de estos sistemas, al mismo tiempo, facilitan la vida o no hay alternativas a ellos. Debería haber más fomento de iniciativas en Galicia o a nivel europeo. Se deben desarrollar sistemas propios

¿Por cierto, echaron mano de la IA para hacer la película?

No, no generamos nada con ella pero sí utilizamos efectos especiales. Lo que intentamos conseguir en la película es meternos en el punto de vista de la inteligencia artificial en ciertas circunstancias. ¿Cómo percibe la realidad una máquina que va a enjuiciar a personas? ¿Cómo percibe una máquina que conduce por la carretera y toma decisiones en un vehículo autónomo?

La verdad es un dilema.

Estamos llenos de dudas, no sabemos cuál es la mejor decisión que se puede tomar. Este debate es lo que se plantea en el filme. En algunos pases con expertos del área judicial, hay debates encendidos porque genera mucha polémica e inquietud. Tenemos que enfrentarnos como sociedad a estas preguntas ya. Tenemos que pensar cómo queremos que se desarrolle la IA y se aplique en instituciones claves. Aplicar se va a aplicar pero cómo. Hay sesgos en la recogida de datos para entrenar la IA y en el diseño de algoritmos. Hay mucha opacidad en la manera en la que estos sistemas operan, los datos que los alimentan. Es un problema grave.

Suscríbete para seguir leyendo