Los legisladores de Colorado están en proceso de reescribir una de las leyes de inteligencia artificial más observadas e intentar restablecer las normas que rigen cómo se utiliza la IA en decisiones que afectan empleos, vivienda y acceso a servicios.

La propuesta eliminaría la actual ley de IA de Colorado, SB24-205, aprobada en 2024, y la reemplazaría con nuevas normas destinadas a abordar las preocupaciones de la industria al tiempo que se sigue protegiendo a los consumidores.

“En 2024, la asamblea general promulgó el Proyecto de Ley del Senado 24-205, que creó protecciones al consumidor en interacciones con sistemas de inteligencia artificial”, se lee en el resumen del proyecto de ley.
“El proyecto de ley deroga y vuelve a promulgar esas disposiciones con nuevos requisitos con respecto al uso de tecnología de toma de decisiones automatizada en decisiones trascendentales”.

El nuevo proyecto de ley, SB26-189, limita la ley a sistemas utilizados en “decisiones trascendentales”, incluyendo empleo, educación, vivienda, préstamos, seguros, atención médica y servicios gubernamentales. Se aplica a herramientas que procesan datos personales para generar resultados como predicciones o clasificaciones que influyen en esos resultados.

La medida llega después de meses de oposición de la industria de la IA a la ley de Colorado de 2024, que exige a las empresas verificar y reducir el sesgo en decisiones como la contratación, los préstamos y la vivienda.

Las preocupaciones sobre la ley original se centraron en la cantidad de responsabilidad que impone a las empresas que desarrollan e implementan IA en el estado. En abril, la empresa de IA de Elon Musk, xAI, demandó al estado para bloquear la medida antes de que pudiera entrar en vigor. A la demanda se unió el Departamento de Justicia de EE. UU., que buscó intervenir en el caso y apoyar a xAI.

“Creo que tienen un argumento válido en términos de las cargas que la política de Colorado impondría a estas empresas”, dijo anteriormente Cody Barela, socio de Armstrong Teasdale, a Decrypt. “La carga sobre ellos, en comparación con el retraso que causa en la carrera de la IA, podría ser un argumento aún mejor”.

Según el nuevo proyecto de ley, los desarrolladores estarían obligados a proporcionar documentación que explique cómo funcionan sus sistemas, qué datos utilizan y sus limitaciones conocidas. También deberían notificar a las empresas sobre actualizaciones importantes.

Las empresas que utilicen estos sistemas tendrían que notificar a los consumidores cuando la IA esté involucrada en una decisión, explicar los resultados adversos en un lenguaje sencillo, permitir a los individuos acceder y corregir sus datos, y solicitar una revisión humana. Los desarrolladores también estarían obligados a proporcionar documentación sobre cómo funcionan sus sistemas, los datos que utilizan y sus limitaciones, y a notificar a las empresas sobre actualizaciones significativas.

Si se aprueba, el nuevo proyecto de ley entraría en vigor el 1 de enero de 2027. Este nuevo proyecto de ley llega mientras los legisladores de otros estados, incluidos Nueva York y California, están considerando reglas similares dirigidas a los sistemas de IA, y la Administración de Donald Trump busca anular las leyes estatales.