El Instituto Cato, de tendencia libertaria, advierte que una pausa obligatoria por parte del gobierno en el desarrollo de la inteligencia artificial podría proteger a las empresas dominantes de la competencia y retrasar la tecnología beneficiosa, justo cuando legisladores y ejecutivos de IA presionan por restricciones.
En una publicación de blog el lunes, Jennifer Huddleston, investigadora de políticas tecnológicas en el think tank, argumentó que las empresas pueden abordar peligros específicos a través de salvaguardias voluntarias y estándares compartidos sin detener el desarrollo en toda la industria.
“Una pausa obligatoria por parte del gobierno plantearía varias preocupaciones y probablemente no lograría las supuestas mejoras de seguridad”, escribió, añadiendo que las reglas gubernamentales son lentas de redactar y más lentas de cambiar. “Un marco regulatorio construido para los modelos de hoy podría obstaculizar activamente los de mañana, impidiendo lo que podrían ser respuestas mejores o más seguras”.
Huddleston reconoce los riesgos de la IA, pero advierte que las reglas diseñadas en torno a los principales desarrolladores podrían ayudarles a consolidar el poder y limitar la competencia, una forma de captura de mercado que dificultaría la competencia para las empresas más pequeñas. También argumenta que pausar el desarrollo en EE. UU. podría debilitar las defensas de ciberseguridad mientras los rivales extranjeros continúan avanzando.
Su comentario sigue a una propuesta del senador Bernie Sanders y el representante Greg Casar para pausar el desarrollo avanzado de IA hasta que se establezcan estándares federales de seguridad y prohibir permanentemente la superinteligencia artificial, mientras que el CEO de OpenAI, Sam Altman, ha respaldado un desarrollo más lento e instado a las empresas a fortalecer las salvaguardias sin esperar las reglas federales que él apoya.
“Muchas de estas llamadas van acompañadas de escenarios apocalípticos dignos de ciencia ficción sobre lo peor que podría suceder”, escribió Huddleston. “Sin embargo, una prisa por regular por miedo podría tener consecuencias negativas a largo plazo mayores que el riesgo que pretende abordar”.
El presidente y cofundador de Block, Jack Dorsey, expresó preocupaciones similares sobre la competencia en una publicación en X el lunes.
“Las empresas líderes en inteligencia artificial merecen ser escuchadas. Tienen experiencia e intereses comerciales que proteger”, escribió Dorsey. “Las reglas construidas en torno a sus recursos podrían hacer que sean las únicas capaces de participar. Una preocupación sincera por la seguridad aún puede producir una barrera de entrada”.
Dorsey dijo que favorece las versiones de código abierto que los investigadores puedan inspeccionar, modificar y probar, con evaluaciones y limitaciones conocidas publicadas para que los externos puedan desafiar las afirmaciones de seguridad de los desarrolladores.
“Apoyo el escrutinio. Me opongo a los límites a nivel de la industria negociados por los líderes actuales porque podrían excluir a las personas que podrían exponer fallas o construir alternativas”, escribió. “Preservar la ventaja comercial de una empresa no es un objetivo de seguridad”.
En su publicación, Dorsey también dijo que apoya las pruebas independientes y la aplicación públicamente responsable, incluida la retención de modelos cuando la evidencia demuestre que su lanzamiento aumentaría materialmente los riesgos catastróficos que las medidas más estrechas no pueden abordar adecuadamente.
“El cómputo puede provocar un escrutinio sin limitar el desarrollo. El examen no es un permiso de un regulador o competidor”, dijo. “No quiero requisitos de aprobación generales ni períodos de espera. Cualquier retraso impuesto por motivos de seguridad en la publicación debe justificarse por la excepción de riesgo catastrófico”.
Un análisis reciente del Atlantic Council argumenta que la presión competitiva exige estándares de seguridad de IA aplicables, mientras que la desconfianza entre EE. UU. y China complica los acuerdos internacionales. La cooperación también plantea preocupaciones antimonopolio: OpenAI ha preguntado a los legisladores si los desarrolladores rivales podrían acordar legalmente ralentizar el desarrollo.
