Los sistemas de Inteligencia Artificial Generativa obligan a los legisladores mexicanos a pensar en esta tecnología en el momento de elaborar la legislación secundaria en materia de protección de datos personales, luego de la desaparición del Inai.
Durante la última celebración del Día Internacional de Protección de Datos Personales en las instalaciones del Inai, comisionados del instituto y miembros de la industria tecnológica advirtieron que es necesario contemplar las prácticas en materia de protección de datos de las empresas y los gobiernos que usan herramientas de Inteligencia Artificial.
De acuerdo con la comisionada del Inai, la reforma constitucional que extingue el Inai supone importantes retos a la hora de garantizar la protección del derecho a la protección de datos, un derecho regido por la Constitución mexicana, cuyo nuevo modelo de garantía será definido en las leyes secundarias a la recién aprobada reforma en materia de simplificación administrativa.
Blanca Lilia Ibarra, comisionada del Inai, aseguró que, ante la desaparición del instituto, nos encontramos en la antesala del nacimiento de un nuevo modelo de protección de datos, el cual debe hacer que permanezca intacto el derecho a la protección de datos personales en beneficio de todos los mexicanos.
El comisionado presidente del Inai, Adrián Alcalá, advirtió que es necesario que el nuevo modelo de garantía del derecho a la protección de datos personales cuente con los más altos estándares a nivel nacional e internacional. Añadió que, si bien en México existen leyes en materia de protección de datos que regulan al sector público y al privado, la Inteligencia Artificial es una tecnología transfronteriza por lo que un uso adecuado de ella depende de la coordinación y regulaciones internacionales, así como un enfoque global.
Regulación ante Inteligencia Artificial
Jacobo Esquenazi, estratega global de Privacidad de HP, dijo que la aplicación de principios de protección de datos personales varía en cada etapa del desarrollo de un modelo de Inteligencia Artificial.
De acuerdo con Esquenazi, existen nueve principios de protección de datos relevantes en la inteligencia artificial generativa:
Principio de licitud: Este principio establece que los datos deben ser tratados de manera legal y formal, considerando las consecuencias del procesamiento y evitando resultados injustos o sesgados. Por ejemplo, en los modelos de inteligencia artificial, las decisiones no deben tener sesgos.
Principio de limitación de la recolección de datos: El desarrollo de modelos requiere grandes volúmenes de datos, lo cual puede ser incompatible con el principio de minimización de datos. Este principio requiere reconsiderar cómo recolectar datos de manera proporcional sin afectar el propósito del modelo.
Principio de finalidad: Los datos utilizados para entrenar modelos a menudo se recolectan de fuentes públicas y privadas, pero no necesariamente con la finalidad de entrenar un modelo. Por lo tanto, debemos repensar cómo aplicar este principio en el contexto de la inteligencia artificial generativa.
Bases legales del procesamiento: En México, la ley se basa en el consentimiento y algunas excepciones. Sin embargo, en otros países existen bases legales como el interés legítimo, que podrían ser más adecuadas para desarrollar e implementar modelos.
Principio de necesidad: El barrido de datos públicos dificulta el cumplimiento del aviso de privacidad a los titulares, especialmente cuando no es viable contactar a cada uno. Esto requiere reinterpretar el principio para adaptarlo a los propósitos de los modelos generativos.
Derechos ARCO: El ejercicio de estos derechos es complejo en la inteligencia artificial generativa, ya que el desarrollador del modelo no siempre puede modificarlo directamente. Es necesario considerar opciones como filtros de resultados o el derecho a objeción.
Transparencia: Es esencial que los desarrolladores de modelos declaren de manera clara las fuentes de los datos y las consecuencias de su uso. Esto permitirá a los titulares entender cómo sus datos son procesados y ejercer sus derechos en la medida de lo posible.
Responsabilidad demostrable: Demostrar que se ha realizado un análisis de riesgos y que se han implementado mitigaciones pertinentes es crucial para garantizar un uso ético de los datos.
Flujo transfronterizo de datos: Limitar este flujo puede generar sesgos en los modelos, ya que estos reflejarán las políticas sociales y culturales de una región específica. Es necesario establecer estándares internacionales que permitan un flujo de datos controlado y legal.
La desaparición del Inai implica el surgimiento de un nuevo modelo que garantice la protección de datos personales de los mexicanos. Este nuevo modelo no solo debe atender las necesidades que hasta ahora han tenido los titulares de datos personales, sino que debe prever los retos que suponen el uso de tecnologías como la Inteligencia Artificial Generativa.