La gran noticia de esta semana es que Geoffrey Hinton, vicepresidente y miembro de ingeniería de Google, y pionero del aprendizaje profundo que desarrolló algunas de las técnicas más importantes en el corazón de la IA moderna, dejará la empresa después de 10 años.

Pero primero debemos hablar del consentimiento en la IA.

La semana pasada, OpenAI anunció que lanzará  un modo «incógnito»  que no guarda el historial de conversaciones de los usuarios ni lo utiliza para mejorar su modelo de lenguaje de IA ChatGPT. La nueva función permite a los usuarios desactivar el historial de chat y la capacitación y les permite exportar sus datos. Este es un paso bienvenido para dar a las personas más control sobre cómo una empresa de tecnología utiliza sus datos. 

La decisión de OpenAI de permitir que las personas opten por no participar se produce cuando la empresa está bajo  una presión cada vez mayor  por parte de los reguladores europeos de protección de datos sobre cómo utiliza y recopila datos. OpenAI tenía hasta ayer, 30 de abril, para acceder a las solicitudes de Italia de cumplir con el GDPR, el estricto régimen de protección de datos de la UE. Italia  restauró el acceso  a ChatGPT en el país después de que OpenAI introdujera un formulario de exclusión voluntaria del usuario y la capacidad de oponerse al uso de datos personales en ChatGPT. El regulador había argumentado que OpenAI ha absorbido los datos personales de las personas sin su consentimiento y no les ha dado ningún control sobre cómo se utilizan.

En una entrevista la semana pasada con mi colega Will Douglas Heaven, la directora de tecnología de OpenAI, Mira Murati, dijo que el modo de incógnito era algo en lo que la compañía había estado «dando pasos iterativos» durante un par de meses y había sido solicitado por los usuarios de ChatGPT. OpenAI dijo  a Reuters  que sus nuevas funciones de privacidad no estaban relacionadas con las investigaciones del RGPD de la UE. 

«Queremos poner a los usuarios en el asiento del conductor en lo que respecta a cómo se utilizan sus datos», afirma Murati. OpenAI dice que seguirá almacenando los datos de los usuarios durante 30 días para controlar el uso indebido y el abuso.  

Pero a pesar de lo que dice OpenAI, Daniel Leufer, analista de políticas senior del grupo de derechos digitales Access Now, considera que el GDPR (y la presión de la UE) ha jugado un papel al obligar a la empresa a cumplir con la ley. En el proceso, ha mejorado el producto para todos en todo el mundo. 

«Las buenas prácticas de protección de datos hacen que los productos sean más seguros [y] mejores [y] brindan a los usuarios un control real sobre sus datos»,  dijo  en Twitter. 

Mucha gente considera que el RGPD es un aburrimiento que sofoca la innovación. Pero como señala Leufer, la ley muestra a las empresas cómo pueden hacer mejor las cosas cuando se ven obligadas a hacerlo. También es la única herramienta que tenemos en este momento que brinda a las personas cierto control sobre su existencia digital en un mundo cada vez más automatizado. 

Otros experimentos en IA para otorgar a los usuarios más control muestran que existe una clara demanda de tales funciones. 

Desde finales del año pasado, las personas y las empresas han podido optar  por no  incluir sus imágenes en el conjunto de datos LAION de código abierto que se ha utilizado para entrenar el modelo de IA generador de imágenes Difusión Estable. 

Desde diciembre, unas 5.000 personas y varias grandes plataformas de arte e imágenes en línea, como Art Station y Shutterstock, han pedido que se eliminen más de 80 millones de imágenes del conjunto de datos, afirma Mat Dryhurst, cofundador de una organización llamada Spawning que está desarrollando el función de exclusión voluntaria. Esto significa que sus imágenes no se utilizarán en la próxima versión de Stable Diffusion. 

Dryhurst cree que las personas deberían tener derecho a saber si su trabajo se ha utilizado o no para entrenar modelos de IA, y que, para empezar, deberían poder decir si quieren ser parte del sistema.