La iniciativa clasifica los algoritmos por niveles de riesgo, prohíbe la vigilancia masiva y garantiza que ninguna decisión estatal negativa dependa exclusivamente de una máquina. Buscan adoptar estándares internacionales sin generar nuevo gasto público.
En un contexto global donde las tecnologías emergentes avanzan a un ritmo vertiginoso, superando ampliamente los tiempos de la regulación, ingresó a la Legislatura de Río Negro un proyecto de ley destinado a establecer un Marco Regulatorio para el Uso Responsable de la Inteligencia Artificial (IA) en el Sector Público Provincial.
La iniciativa, impulsada por la legisladora Martina Lacour y acompañada por los parlamentarios Patricia Mc Kidd, Gabriela Picotti, Santiago Ibarrolaza y Claudio Doctorovich, apunta a un objetivo claro: aprovechar las oportunidades de automatización que ofrece la IA para mejorar la gestión estatal, pero sin poner en riesgo los derechos fundamentales de los ciudadanos.
Un enfoque basado en riesgos
Lejos de buscar un freno a la innovación tecnológica, el texto normativo propone ordenar su aplicación mediante una clasificación por niveles de riesgo: mínimo, limitado, alto e inaceptable.
El proyecto deja en claro que no es lo mismo utilizar un corrector de texto institucional que emplear un algoritmo para la asignación de un beneficio social, la contratación laboral en el Estado o el otorgamiento de turnos de salud. Para estos últimos casos, catalogados como de alto riesgo, la ley exigirá una Evaluación de Impacto Algorítmico (EIA) previa y auditorías técnicas independientes cada dos años.
Asimismo, la norma traza una línea roja con la prohibición explícita de usos que vulneren la privacidad o la dignidad. Quedan terminantemente vedados:
- La puntuación social (social scoring).
- La vigilancia masiva indiscriminada.
- El reconocimiento facial mediante la extracción masiva de fotos de redes sociales.
- La toma de decisiones sancionatorias basadas exclusivamente en análisis predictivos.
“La intervención humana debe ser real”
Uno de los ejes centrales y más innovadores del proyecto es la garantía de la supervisión humana. La iniciativa establece categóricamente que ninguna decisión administrativa que afecte negativamente a un ciudadano podrá fundarse de manera exclusiva en la recomendación de una IA.
El funcionario competente tendrá la obligación legal de verificar los datos, analizar el caso particular y fundamentar la resolución final, manteniendo siempre la potestad de apartarse del resultado arrojado por el sistema automatizado.
Para blindar la transparencia y evitar el problema de la “caja negra” en las contrataciones públicas, el Estado rionegrino no podrá adquirir sistemas a empresas privadas que impidan auditorías escudándose en el “secreto comercial”. Además, se prohíbe a las empresas proveedoras utilizar los datos de la ciudadanía rionegrina para entrenar o mejorar sus propios modelos comerciales sin una autorización expresa.
Transparencia y reglas para el empleado público
De aprobarse la ley, se creará el Registro Provincial de Sistemas de Inteligencia Artificial, de acceso público y gratuito. A través de esta plataforma, cualquier ciudadano podrá verificar qué organismos utilizan IA, con qué finalidad, qué tipo de datos procesan y qué grado de supervisión humana poseen.
En cuanto al uso cotidiano por parte de los empleados públicos, el proyecto regula el uso de la IA generativa (como redactores o asistentes de texto). Se prohíbe terminantemente ingresar datos personales o información reservada de expedientes en herramientas abiertas no autorizadas, y se exige la revisión humana obligatoria antes de enviar o publicar cualquier documento oficial generado con estas herramientas.
Sin nuevo gasto y con plazos de adaptación
Para asegurar la viabilidad económica y evitar la erogación de nuevos fondos, la iniciativa contempla que el Poder Ejecutivo designe la autoridad de aplicación dentro de un organismo técnico ya existente, vinculado a la transformación digital o la innovación. Paralelamente, se prevé la creación de un Consejo Asesor Interdisciplinario integrado por universidades y especialistas, que desempeñarán sus funciones de manera ad honorem.
Los sistemas de IA que ya se encuentren operando en las reparticiones públicas dispondrán de un plazo gradual de 180 días para registrarse y de hasta 365 días para adecuarse a las nuevas exigencias de impacto y seguridad.
Con esta propuesta, Río Negro busca posicionarse a la vanguardia legislativa en la Argentina, adoptando estándares inspirados en los principios de la OCDE, la UNESCO y la reciente y estricta regulación aprobada por la Unión Europea.
Con información de QUORUM
