Carme Artigas, sobre el caso Scarlett Johansson: "La ley europea de IA impide usar la voz sin permiso"

Carme Artigas, exsecretaria de Estado de Digitalización e Inteligencia Artificial de España, afirma en una entrevista con Efeminista que un caso de posible usurpación de la voz, como la que denunció la actriz Scarlett Johansson contra la empresa OpenAI, no puede ocurrir en Europa gracias a la ley de inteligencia artificial, la primera del mundo de este tipo y que ha sido aprobada definitivamente en mayo pasado.

"La voz es un dato personal y no se puede usar sin permiso explícito. La ley europea de inteligencia artificial obliga a los que están entrenando estos modelos a respetar el copyright (derechos de autor). Algo que es tuyo, puedes decir que no quieres que se utilice", destaca Artigas, una de las impulsoras desde la Presidencia de la UE que España ostentó en el último semestre de 2023 y quien participó activamente en la elaboración de la norma.

La empresa OpenAI, propietaria de la aplicación ChatGPT, suspendió recientemente la voz de la asistente personal Sky, que era "extrañamente parecida" a la de Johansson, después de que los abogados de la actriz enviaran dos cartas exigiendo revelar el proceso exacto de la creación.

En esta línea, Artigas pone el foco en la incorporación de la mujer en el mundo tecnológico, sobre todo ahora que la Inteligencia Artificial (IA) va a acelerar todos los procesos. “Es imprescindible, tenemos la necesidad de participar en el diseño de un mundo que aun no existe. Ahora se ve que la tecnología penaliza más a las mujeres".

"Estamos viendo los deep fakes (contenidos ultra falsos que usan IA para suplantar identidades), las mujeres son las víctimas del acoso de las redes, de la utilización de su imagen", destaca la experta.

Artigas es, desde mayo, la primera mujer española que se ha incorporado como senior fellow al centro de investigación Belfer, de Harvard Kennedy School, para hacerse cargo de la futura cátedra de Tecnología y Geopolítica.

Un senior fellow del Belfer Center es una o un profesional con más de 20 años de experiencia que tiene como misión dirigir proyectos de investigación en el entorno académico de Harvard y que refuerza las conexiones entre la teoría y la práctica para buscar soluciones a los retos de la sociedad y las políticas públicas.

Artigas también es copresidenta del Consejo Asesor de Alto Nivel de la Inteligencia Artificial de Naciones Unidas.

Diversidad e investigación

Pregunta (P): Es la primera mujer española que forma parte de esta cátedra sobre tecnología y geopolítica. ¿Qué ha buscado en usted el Belfer Center?

Respuesta ( R ) : Lo atractivo es que este grupo académico ha buscado heterogeneidad en la diversidad. En este momento, en todo el mundo, donde se plantean preguntas muy complejas que requieren soluciones muy complejas, se necesitan múltiples inteligencias.

Creo que han buscado mi visión europea, sobre todo a raíz del éxito de la ley europea de Inteligencia Artificial, la primera del mundo. También mi rol en Naciones Unidas, donde estoy trabajando para la gobernanza global; y la visión femenina.

Todo esto puede contribuir muchísimo a la visión más heterogénea que se requiere para abordar problemas a escala global [...]. Además, estamos viendo cómo la tecnología está cambiando no solo los equilibrios de poder, también los actores de ese poder; no se trata solo entre países con recursos únicos, hablamos de otros agentes como las grandes multinacionales que pueden tener más influencia en el mundo que el propio país. Y ese es el debate que abordamos en la cátedra.

Carme Artigas, ex secretaria de Estado de Digitalización e Inteligencia Artificial del Gobierno de España hasta el pasado diciembre, durante la entrevista con EFE en Madrid. EFE/ Lucia Goni

La voz de Scarlett Johansson

P : Mientras se apuesta por las mujeres para abordar la tecnología, sorprenden noticias como el supuesto uso de la voz de la actriz Scarlett Johansson sin autorización por OpenAI u observas que en casi todos los chatbot las voces son de mujer. ¿Qué hay que cambiar?

R: Hay que cambiar, sí, pero hay distintos problemas. Está el tema de la inclusividad de la tecnología.

La tecnología la ha desarrollado un grupo de personas de origen occidental, hombres y blancos. Es el mundo de Silicon Valley o el desarrollo tecnológico en China. Las mujeres no han participado del diseño de estas soluciones e, históricamente, ha habido sesgos en los datos de entrenamiento, sesgos de los modelos... Esto ocurre desde la época de los cinturones de seguridad de los vehículos. Los hombres probaban los coches, pero se morían los niños y las mujeres [en los accidentes]. También ha ocurrido con los medicamentos. La industria ha tratado de corregir esto con los denominados datos sintéticos, que representen a todos los colectivos.

Pero ahora estamos en otro nivel: ¿Cómo buscamos soluciones? Y eso debemos hacerlo teniendo toda la heterogeneidad que tiene el ser humano en todos sus aspectos, también entre el norte global y el sur global. Lo que estamos viendo es que la división digital es un juego de niños comparado con la división que puede surgir con la IA. Todas las tecnologías aportan beneficios y costes. Aquí, de lo que se trata es que beneficios y costes se repartan de forma equitativa en toda la sociedad.

La incorporación de la mujer en el mundo tecnológico es imprescindible porque tenemos una necesidad de poder participar en el diseño de un mundo que aún no existe.

La tecnología penaliza más a las mujeres. Son víctimas de, por ejemplo, acoso en las redes o mala utilización de su imagen en las redes. Son cosas difíciles de resolver, están intrínsecas en la cultura y en la sociedad.

Respecto al caso particular de Scarlett Johansson, me gusta que me lo preguntes: la ley europea de IA impide usar la voz sin permiso, que es la usurpación de la personalidad o la no protección de un dato personal.

La voz es un dato personal y no se puede usar sin permiso explícito. La ley europea de IA obliga a los que están entrenando estos modelos a respetar el copyright (derechos de autor). Algo que es tuyo, puedes decir que no quieres que se utilice.

No a la híper vigilancia

P: ¿En qué sentido la nueva ley europea puede corregir los abusos de la tecnología?

R: En primer lugar, la ley no intenta regular la tecnología per se , sino sus usos de alto riesgo. Es decir, es como si quiero regular un martillo. Un martillo se puede utilizar para colgar un cuadro y eso es inofensivo, o para matar a una persona. Y no estoy regulando el martillo, pero si utilizas el martillo para matar a una persona, vas a la cárcel. Lo que sí estamos regulando son los usos de alto riesgo de la tecnología y, ahí, Europa es muy innovadora: define una matriz de riesgo.

Y algo muy importante: por primera vez decimos al mundo cuáles son los usos prohibidos de la inteligencia artificial en Europa. Es decir, aunque algo sea técnicamente factible, no quiero que lo utilices en Europa. ¿Cuáles son los usos prohibidos? El social score (sistema para evaluar y calificar el comportamiento de las personas), el ranking social. Eso es lo que hace China, que tiene a todo el mundo parametrizado, híper vigilado. Esto existe, pero lo que no queremos en Europa es que nuestros gobiernos usen la IA para generar un estado de vigilancia permanente.

Por ejemplo, que esté en un parque jugando con mi hija y se sepa con quién estoy, dónde estoy y qué estoy haciendo... esto ocurre en otras latitudes. Tampoco queremos que se utilice el reconocimiento facial biométrico para segmentar a la sociedad. (…). Estamos poniendo todos estos límites al uso y abuso de la tecnología, que marca, no un estándar tecnológico de Europa, no un estándar legal, sino un estándar moral. Por primera vez, estamos diciendo al mundo lo que no queremos que ocurra con la IA

Una nueva etapa del ser humano

P: Por muchos límites que pongamos, nos enfrentamos a un mundo nuevo...

R: La gran pregunta es ¿qué debemos enseñar a nuestros hijos?. ¿Con qué cosas nos tenemos que formar? En un mundo donde todas las respuestas ya están hechas, lo que va a diferenciar al ser humano son las preguntas.

Y hay otro tema importante: la creatividad emocionalmente profunda. Una inteligencia generativa puede generar una canción, sí, pero esa canción no sale de un desamor. Una persona que sufre hace una canción de desamor o una canción de amor o una canción de drama… eso sale de una experiencia emocional. Eso no lo aprende una máquina; puede simular, puede emular, puede parecer empático, pero es empatía, no sale de una emoción real. Entonces, lo que nos está diciendo la tecnología es que aquello que no les hemos enseñado a nuestros hijos, que es la inteligencia emocional.

Eso va a ser lo más importante, la sociabilización, la empatía, la emoción. Cuando nosotros hemos definido al ser humano como un ser racional, eso ya no es lo que nos va a definir como ser humano, lo racional lo va a va a tomar una decisión racional, lo va a tomar un algoritmo que tiene muchísimos datos, más datos que nosotros, y va a tomar una decisión muchísimo más informada y muchísimo más objetiva. Donde el ser humano va a hacer lo diferencial en esas cosas que no son objetivas, la que tiene un conflicto de interés, un conflicto ético, un conflicto moral. Donde impones la emoción o la compasión ante la racionalidad. Y eso es lo que tenemos que desarrollar.