Les législateurs du Colorado s'apprêtent à réécrire l'une des lois sur l'intelligence artificielle les plus surveillées et à tenter de réinitialiser les règles régissant l'utilisation de l'IA dans les décisions affectant l'emploi, le logement et l'accès aux services.

La proposition abrogerait la loi actuelle du Colorado sur l'IA, la SB24-205, adoptée en 2024, et la remplacerait par de nouvelles règles destinées à répondre aux préoccupations de l'industrie tout en protégeant les consommateurs.

« En 2024, l'assemblée générale a promulgué le projet de loi du Sénat 24-205, qui a créé des protections pour les consommateurs dans leurs interactions avec les systèmes d'intelligence artificielle », peut-on lire dans le résumé du projet de loi.
« Le projet de loi abroge et réédicte ces dispositions avec de nouvelles exigences concernant l'utilisation de la technologie de prise de décision automatisée dans les décisions à fort impact. »

Le nouveau projet de loi, SB26-189, limite la loi aux systèmes utilisés dans les « décisions à fort impact », y compris l'emploi, l'éducation, le logement, les prêts, les assurances, les soins de santé et les services gouvernementaux. Il s'applique aux outils qui traitent les données personnelles pour générer des résultats tels que des prédictions ou des classements qui influencent ces issues.

Cette démarche intervient après des mois de résistance de l'industrie de l'IA concernant la loi du Colorado de 2024, qui exige des entreprises qu'elles vérifient et réduisent les biais dans des décisions telles que l'embauche, les prêts et le logement.

Les préoccupations concernant la loi originale portaient sur l'étendue de la responsabilité qu'elle imposait aux entreprises développant et déployant l'IA dans l'État. En avril, la société d'IA d'Elon Musk, xAI, a poursuivi l'État pour bloquer la mesure avant qu'elle ne puisse entrer en vigueur. Le ministère américain de la Justice s'est joint à la poursuite, cherchant à intervenir dans l'affaire et à soutenir xAI.

« Je pense qu'ils ont un argument valable en ce qui concerne les charges que la politique du Colorado imposerait à ces entreprises », a déclaré précédemment Cody Barela, associé chez Armstrong Teasdale à Decrypt. « Le fardeau qui leur est imposé, en comparaison du retard que cela provoque dans la course à l'IA, pourrait en fait être un meilleur argument. »

Selon le nouveau projet de loi, les développeurs seraient tenus de fournir une documentation expliquant le fonctionnement de leurs systèmes, les données qu'ils utilisent et leurs limitations connues. Ils devraient également informer les entreprises des mises à jour importantes.

Les entreprises utilisant ces systèmes devraient informer les consommateurs lorsque l'IA est impliquée dans une décision, expliquer les résultats défavorables en langage clair, permettre aux individus d'accéder à leurs données et de les corriger, et demander un examen humain. Les développeurs seraient également tenus de fournir une documentation sur le fonctionnement de leurs systèmes, les données qu'ils utilisent et leurs limitations, et d'informer les entreprises des mises à jour importantes.

S'il est adopté, le nouveau projet de loi entrerait en vigueur le 1er janvier 2027. Ce nouveau projet de loi intervient alors que des législateurs d'autres États, dont New York et la Californie, envisagent des règles similaires ciblant les systèmes d'IA, et que l'administration Donald Trump cherche à annuler les lois des États.