Por Canuto  

California busca adelantarse al gobierno federal en la supervisión de la inteligencia artificial. Una orden ejecutiva de Gavin Newsom encarga a expertos diseñar recomendaciones que podrían incluir auditorías independientes y mecanismos de apagado para modelos avanzados.
***

  • Gavin Newsom firmó una orden ejecutiva para que expertos elaboren, en dos meses, recomendaciones sobre seguridad de inteligencia artificial.
  • El plan podría exigir auditorías independientes y un interruptor de apagado para modelos de inteligencia artificial de frontera.
  • Newsom acusó a Washington de no asumir su responsabilidad regulatoria, mientras otros demócratas también piden controles más estrictos.

El gobernador de California, Gavin Newsom, emitió el viernes una orden ejecutiva destinada a reforzar la respuesta del estado frente a los riesgos potenciales de la inteligencia artificial. La medida encarga a un grupo de expertos la elaboración de recomendaciones para fortalecer las leyes de seguridad aplicables a esta tecnología, en un momento de creciente preocupación entre legisladores, investigadores y empresas del sector.

La orden llega mientras el Congreso de Estados Unidos debate cómo establecer salvaguardas para sistemas cada vez más capaces, pero muestra pocas señales de aprobar una legislación relevante antes de las elecciones de medio término de 2026. Newsom sostuvo que California no esperará a que Washington defina una respuesta y presentó la iniciativa como un intento de avanzar con urgencia, aunque con un enfoque que calificó de responsable.

Según la información publicada por CNBC, el equipo designado tendrá dos meses para preparar una guía sobre posibles cambios regulatorios. Entre las alternativas mencionadas aparecen la participación obligatoria de terceros independientes en la creación de planes de seguridad para empresas de inteligencia artificial de frontera y la exigencia de un mecanismo capaz de desactivar modelos en situaciones de emergencia.

Una respuesta estatal ante la falta de acción federal

Newsom cuestionó directamente la actitud del gobierno federal y afirmó que Washington está renunciando a su responsabilidad de proteger a los estadounidenses. En un comunicado, el gobernador describió como un fracaso la ausencia de una supervisión significativa sobre la inteligencia artificial, especialmente porque, según dijo, algunos directivos de empresas del sector también han pedido reglas para controlar los riesgos de la tecnología.

El gobernador argumentó que la velocidad de desarrollo de la inteligencia artificial hace insuficiente una espera prolongada por parte de las autoridades. Su posición coincide con la de otros demócratas que han solicitado una intervención más estricta, aunque el gobierno federal todavía no ha adoptado una estrategia legislativa amplia para responder a los temores relacionados con los modelos avanzados.

El presidente Donald Trump ha rechazado hasta ahora los llamados a regular la tecnología y ha calificado las preocupaciones sobre la seguridad de la inteligencia artificial como un engaño. Ese contraste político ha permitido que California vuelva a presentarse como un laboratorio regulatorio, con normas estatales que podrían influir en el debate nacional si otras jurisdicciones adoptan medidas parecidas.

La iniciativa no establece todavía nuevas obligaciones definitivas para las empresas, sino que abre un proceso para estudiar cómo reforzar las reglas existentes. La diferencia es relevante porque las recomendaciones del grupo de expertos deberán convertirse posteriormente en legislación o regulación concreta para producir efectos directos sobre los desarrolladores de modelos de frontera.

Auditorías y mecanismos de emergencia

Entre las propuestas señaladas por la oficina de Newsom figura la posibilidad de exigir que terceros independientes elaboren planes de seguridad para las compañías que desarrollan modelos de inteligencia artificial de frontera. La medida buscaría incorporar una revisión externa en un sector donde las propias empresas suelen diseñar, evaluar y divulgar sus protocolos de seguridad.

Otra alternativa consiste en obligar a las compañías a crear un interruptor de apagado, conocido en inglés como kill switch, que permita desactivar un modelo cuando exista una emergencia. El concepto apunta a establecer una herramienta de último recurso, aunque la orden ejecutiva no detalla quién podría activarla, bajo qué circunstancias ni cómo se evitaría que una interrupción afecte servicios legítimos.

La discusión sobre estos mecanismos refleja una preocupación más amplia: los sistemas de inteligencia artificial pueden integrarse en servicios, empresas y procesos críticos antes de que las autoridades comprendan por completo sus fallas. Por esa razón, el plan californiano pretende que la seguridad forme parte de la arquitectura y de la supervisión de los modelos, en lugar de limitarse a recomendaciones voluntarias posteriores a su lanzamiento.

California ya aprobó medidas relacionadas con la supervisión de la inteligencia artificial, incluida una ley que Newsom firmó a principios de septiembre para establecer un marco destinado a auditores independientes. La nueva orden ejecutiva se apoya en ese antecedente y busca ampliar el conjunto de herramientas con las que el estado evalúa los riesgos de los sistemas más avanzados.

El debate político sobre la inteligencia artificial

Newsom forma parte de un grupo de posibles aspirantes demócratas a la presidencia en 2028 que han defendido una regulación más agresiva de la inteligencia artificial. El gobernador no ha anunciado una campaña, pero ha reconocido que considera esa posibilidad, mientras su mandato al frente de California termina el 4 de enero.

La presión política aumentó después de que un investigador de Anthropic renunciara y publicara una advertencia sobre capacidades de la inteligencia artificial que, en su opinión, podrían llegar a amenazar la supervivencia humana. Esa publicación provocó un intenso debate en Washington y llevó a legisladores de ambos partidos a discutir con mayor urgencia las salvaguardas para los modelos avanzados.

Otros dirigentes demócratas también han presentado propuestas propias. El gobernador de Pensilvania, Josh Shapiro, pidió una supervisión de terceros para los modelos de frontera y salvaguardas más estrictas, mientras el senador Mark Kelly, demócrata de Arizona, dijo que prepara una legislación para crear un fondo financiado por empresas de inteligencia artificial destinado a respaldar a trabajadores desplazados.

El senador Cory Booker, demócrata de Nueva Jersey, instó además a Trump a convocar una sesión especial del Congreso para abordar los riesgos de la tecnología. Las iniciativas muestran que el debate ya no se limita a la seguridad técnica de los modelos, sino que también incluye empleo, responsabilidad corporativa y la capacidad de las instituciones para reaccionar antes de que aparezcan daños difíciles de revertir.

California como posible referencia nacional

La estrategia de Newsom busca consolidar el papel de California como uno de los principales centros de elaboración de políticas sobre inteligencia artificial en Estados Unidos. El estado alberga a numerosas empresas tecnológicas y, al mismo tiempo, intenta presentar sus normas como una base que podría ser adoptada en otras partes del país.

El gobernador afirmó que California ya construyó el marco regulatorio de inteligencia artificial más sólido de la nación y que sus políticas deberían convertirse en el punto de partida nacional. Esa declaración expresa una ambición política clara, pero el alcance real de la propuesta dependerá de la guía que preparen los expertos y de la respuesta de la legislatura estatal.

Las empresas de inteligencia artificial podrían enfrentar costos adicionales si las recomendaciones se convierten en requisitos obligatorios de auditoría, evaluación y respuesta ante emergencias. Para los defensores de controles más estrictos, esos costos representan una inversión necesaria para reducir riesgos; para la industria, el desafío consistirá en demostrar que las nuevas reglas no frenan la innovación ni crean obligaciones incompatibles entre estados.

El siguiente paso será la elaboración del documento dentro del plazo de dos meses establecido por la orden. Hasta entonces, California habrá definido la dirección política del proceso, pero todavía no habrá impuesto un interruptor de apagado universal ni un nuevo régimen definitivo de auditorías para todos los desarrolladores de modelos avanzados.

La orden ejecutiva coloca nuevamente la seguridad de la inteligencia artificial en el centro de la disputa entre regulación estatal y acción federal. Si Washington mantiene su actual inacción, California podría utilizar sus leyes y su influencia tecnológica para marcar el ritmo de una respuesta nacional que aún permanece sin una estructura común.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados