1 de novembro de 2023
Por Nick Graham - Arquiteto de soluções - Sector público, Skyhigh Security
A inteligência artificial (IA) destaca-se como uma das forças mais transformadoras da tecnologia atual. No entanto, muitos especialistas em segurança encontram-se na intersecção entre o potencial da IA e o imperativo da segurança. Com a recente Ordem Executiva do Presidente Biden sobre IA segura, protegida e fiável, os riscos nunca foram tão elevados ou as oportunidades mais profundas.
Um novo paradigma para a segurança e proteção da IA
A Ordem Executiva é inovadora no seu âmbito e ambição. Estabelece normas rigorosas para a segurança e proteção da IA, centrando-se na proteção dos americanos contra potenciais riscos da IA. As principais directivas incluem:
- Partilha obrigatória dos resultados dos testes de segurança: As empresas que desenvolvem sistemas de IA poderosos que representam riscos significativos para a segurança nacional ou para a saúde pública serão agora obrigadas a partilhar os resultados dos seus testes de segurança com o governo dos EUA. Esta transparência garante que os sistemas de IA são seguros e fiáveis antes de serem divulgados ao público.
- Desenvolvimento de normas de segurança para a IA: O Instituto Nacional de Normas e Tecnologia (NIST) está encarregado de estabelecer normas rigorosas para os testes de segurança da IA. Além disso, o Departamento de Segurança Interna irá criar o Conselho de Segurança e Proteção da IA, marcando um passo significativo para o avanço da segurança da IA.
- Proteção contra as ameaças da IA: A ordem sublinha a necessidade de proteção contra a potencial utilização indevida da IA na criação de materiais biológicos perigosos e contra a fraude baseada na IA. Apela também ao desenvolvimento de ferramentas de IA para reforçar a cibersegurança, abordando as vulnerabilidades do software crítico.
Proteger a privacidade na era da IA
A capacidade da IA para extrair e explorar dados pessoais é inegável. Reconhecendo este facto, a Ordem Executiva apela a
- Técnicas melhoradas de preservação da privacidade: A tónica é colocada na aceleração do desenvolvimento de técnicas que permitam a formação de sistemas de IA preservando a privacidade dos dados de formação.
- Reforço das orientações em matéria de privacidade: As agências federais são instruídas a avaliar as suas práticas de recolha de dados, especialmente no que diz respeito a dados pessoalmente identificáveis, e a desenvolver orientações para avaliar a eficácia das técnicas de preservação da privacidade.
Promover a equidade, apoiar os trabalhadores e garantir a inovação
O decreto executivo é abrangente, abordando potenciais preconceitos na IA, apoiando os trabalhadores numa economia impulsionada pela IA e promovendo a inovação e a concorrência. Sublinha a necessidade de uma orientação clara para evitar a discriminação baseada na IA, apoia a utilização responsável da IA em sectores como os cuidados de saúde e a educação e catalisa a investigação sobre IA em todo o país.
Skyhigh SecurityPerspetiva da Comissão Europeia: O caminho a seguir
Para todos nós em Skyhigh Security, esta Ordem Executiva ressoa profundamente. À medida que a IA continua a moldar o cenário de segurança da nuvem, as directivas estabelecidas pelo Presidente Biden fornecem um roteiro e um desafio. Estamos preparados para aproveitar o potencial da IA, garantindo a máxima segurança, proteção e fiabilidade das nossas soluções.
O nosso desafio a todos os profissionais de TI e decisores de segurança: O futuro da IA está aqui, e é nossa responsabilidade colectiva navegar pelos desafios que coloca e aproveitar o seu potencial de forma responsável. Junte-se a nós em Skyhigh Security enquanto embarcamos nesta viagem, garantindo que a nuvem continua a ser um espaço seguro e protegido para todos.
Voltar aos blogues