El amanecer de una nueva era: El presidente Biden emite una orden ejecutiva sobre la IA y sus implicaciones para la seguridad en la nube

1 de noviembre de 2023

Por Nick Graham - Arquitecto de soluciones - Sector público, Skyhigh Security

La inteligencia artificial (IA) destaca como una de las fuerzas más transformadoras de la tecnología actual. Sin embargo, muchos expertos en seguridad se encuentran en la intersección entre el potencial de la IA y el imperativo de la seguridad. Con la reciente Orden Ejecutiva del Presidente Biden sobre IA segura y fiable, nunca ha habido tanto en juego ni tantas oportunidades.

Un nuevo paradigma para la seguridad de la IA

La Orden Ejecutiva es pionera por su alcance y ambición. Establece normas rigurosas para la seguridad de la IA, centrándose en proteger a los estadounidenses de los riesgos potenciales de la IA. Las directivas clave incluyen:

• Obligación de compartir los resultados de las pruebas de seguridad: Las empresas que desarrollen potentes sistemas de IA que planteen riesgos significativos para la seguridad nacional o la salud pública estarán ahora obligadas a compartir los resultados de sus pruebas de seguridad con el gobierno estadounidense. Esta transparencia garantiza que los sistemas de IA son seguros y dignos de confianza antes de su lanzamiento público.
• Desarrollo de normas de seguridad de la IA: El Instituto Nacional de Normas y Tecnología (NIST) se encargará de establecer normas rigurosas para las pruebas de seguridad de la IA. Además, el Departamento de Seguridad Nacional creará la Junta de Seguridad y Protección de la IA, lo que supone un paso importante hacia el avance de la seguridad de la IA.
• Protección contra las amenazas posibilitadas por la IA: La orden hace hincapié en la necesidad de proteger contra el posible uso indebido de la IA en la creación de materiales biológicos peligrosos y el fraude posibilitado por la IA. También pide el desarrollo de herramientas de IA para reforzar la ciberseguridad, abordando las vulnerabilidades del software crítico.

Proteger la intimidad en la era de la IA

La capacidad de la IA para extraer y explotar datos personales es innegable. Reconociendo esto, la Orden Ejecutiva pide:

• Técnicas mejoradas de preservación de la privacidad: El énfasis se pone en acelerar el desarrollo de técnicas que permitan entrenar sistemas de IA preservando la privacidad de los datos de entrenamiento.
• Refuerzo de las directrices sobre privacidad: Se ordena a las agencias federales que evalúen sus prácticas de recopilación de datos, especialmente en lo relativo a los datos de identificación personal, y que elaboren directrices para evaluar la eficacia de las técnicas de preservación de la privacidad.

Promover la equidad, apoyar a los trabajadores y garantizar la innovación

La Orden Ejecutiva es exhaustiva, aborda los posibles sesgos de la IA, apoya a los trabajadores en una economía impulsada por la IA y promueve la innovación y la competencia. Subraya la necesidad de una orientación clara para evitar la discriminación impulsada por la IA, apoya el uso responsable de la IA en sectores como la sanidad y la educación, y cataliza la investigación en IA en todo el país.

Skyhigh SecurityPerspectiva de la UE: El camino por recorrer

Para todos nosotros en Skyhigh Security, esta Orden Ejecutiva resuena profundamente. A medida que la IA sigue configurando el panorama de la seguridad en la nube, las directrices expuestas por el presidente Biden proporcionan tanto una hoja de ruta como un reto. Estamos preparados para aprovechar el potencial de la IA al tiempo que garantizamos la máxima seguridad y fiabilidad de nuestras soluciones.

Nuestro reto a todos los profesionales de TI y responsables de seguridad: El futuro de la IA está aquí, y es nuestra responsabilidad colectiva sortear los retos que plantea y aprovechar su potencial de forma responsable. Comprométase con nosotros en Skyhigh Security mientras nos embarcamos en este viaje, garantizando que la nube siga siendo un espacio seguro para todos.