El Gobierno de la Provincia de Buenos Aires ha impulsado una normativa para regular el uso de la Inteligencia Artificial (IA), estableciendo requisitos como auditorías, restricciones, registros, categorizaciones y prohibiciones. Esta medida surge tras la polémica designación de “ZARA”, un chatbot, como Directora General de Atención al Vecino en el Municipio de Zárate, encargada de gestionar reclamos y firmar documentos. Este caso generó cuestionamientos sobre los límites de la autoridad delegada en sistemas automatizados. Mediante una resolución oficial publicada en el Boletín Oficial, la administración de Axel Kicillof estableció un marco regulatorio transversal para la IA en el sector público. La normativa abarca el desarrollo, investigación, adquisición, implementación y uso de la IA en todos los organismos estatales, con el objetivo de proteger los derechos de los ciudadanos.
Según la nueva disposición, las entidades públicas que utilicen IA deberán cumplir con estándares obligatorios de seguridad, transparencia, equidad y control humano, sujetos a auditorías. Dos pilares clave son:
1. Un sistema de clasificación por riesgo, basado en el modelo de la Unión Europea.
2. Un registro obligatorio de sistemas de IA.
Clasificación por nivel de riesgo
La provincia adoptará cuatro categorías:
1. Riesgo inaceptable: Sistemas prohibidos por amenazar la seguridad, el orden democrático, los derechos fundamentales o la salud. Incluye IA para “clasificación social” o técnicas subliminales que discriminen o controlen conductas.
2. Riesgo alto: Sistemas con impacto directo en derechos individuales, como identificación biométrica o gestión de infraestructura crítica (educación, justicia, empleo). Requerirán una evaluación previa de impacto algorítmico.
3. Riesgo limitado: IA permitida con condiciones de transparencia (ej.: chatbots informativos). Los usuarios deben ser informados explícitamente al interactuar con ellos.
4. Riesgo nulo: Automatizaciones internas sin efecto directo en personas (ej.: filtros de spam), sujetas solo a buenas prácticas técnicas.
Controles y registro
La normativa exige:
– Evaluaciones de riesgo previas.
– Estrategias periódicas de gestión de riesgos.
– Almacenamiento de datos para garantizar auditorías.
– Un registro centralizado de sistemas de IA utilizados en el ámbito estatal.
Reformulación del texto en español:
La nueva regulación establece que, en casos de interacción directa con los ciudadanos, el Estado deberá informar de forma clara y previa que la respuesta proviene de un sistema automatizado, evitando así confusiones o engaños.
Además, la normativa crea un registro obligatorio de todos los sistemas de IA, el cual será gestionado por la Subsecretaría de Gobierno Digital de la Provincia de Buenos Aires.
Otro aspecto clave es la sostenibilidad ambiental. La regulación exige la implementación de medidas técnicas y administrativas para minimizar el impacto ecológico derivado del desarrollo y uso de la inteligencia artificial. Según expertos, esta iniciativa posiciona a Buenos Aires a la vanguardia del debate sobre el alto consumo energético de la IA y su huella de carbono, incorporando la regulación ambiental como uno de sus pilares fundamentales.
De este modo, el gobierno provincial, liderado por Axel Kicillof, avanza en la regulación de la IA en el ámbito estatal, estableciendo clasificaciones de riesgo, transparencia en su uso y controles ambientales, en respuesta a casos como el de Zárate, donde un chatbot asumió funciones administrativas. La protección de los derechos ciudadanos y el cuidado del medioambiente se consolidan como ejes centrales de esta nueva política.
