6 de junho de 2023
Por Tony Frum - Especialista em produtos, Skyhigh Security
Tendo crescido a saber utilizar um telefone rotativo, assisti a uma quantidade razoável de avanços tecnológicos nos meus anos. No entanto, penso que pode ser insignificante em comparação com o que os meus filhos verão nas suas vidas devido ao advento da Inteligência Artificial (IA). Os especialistas nesta área utilizam comparações exageradas como a bomba atómica e a descoberta do fogo para descrever o seu significado, e há uma boa probabilidade de não serem exageros.
Existe uma grande consternação em torno deste desenvolvimento, com alguns a apelarem a medidas de segurança, regulamentos governamentais e até a uma moratória na investigação sobre IA. No domínio da cibersegurança, existe uma grande ansiedade relativamente à utilização de ferramentas de IA como o ChatGPT e às suas implicações para a segurança dos dados. Como um fornecedor de Security Service Edge (SSE) maniacamente focado em dados, nós da Skyhigh Security somos questionados, pelo menos diariamente, sobre a forma como a perda de dados através do ChatGPT pode ser evitada. Os nossos clientes estão a ler sobre situações como o incidente de perda de dados da Samsung através do ChatGPT e querem garantir que têm os controlos certos implementados.
Apesar da novidade de ferramentas como o ChatGPT, tenho de resistir à vontade de citar o ditado do Eclesiastes: "Não há nada de novo debaixo do sol". Embora o risco específico de um modelo de IA ser treinado nos seus dados possa ser uma novidade, a logística de proteção dos seus dados contra o ChatGPT não é, na verdade, nada de novo. Isto é o que fazemos todos os dias! E, para ser franco, se tiver os controlos de segurança de dados correctos, então já deve ter as suas bases cobertas. Vamos rever brevemente os controlos aplicáveis, muitos dos quais provavelmente já tem implementados, e como podem ajudá-lo a lidar com este novo, mas não tão novo, risco.
Bloqueio por categoria/aplicação
Muitas organizações não têm apetência para os riscos colocados pelos chatbots de IA e outros serviços de IA generativa. Para estas entidades, a sua estratégia preferida é bloquear totalmente a utilização destas aplicações. A Apple juntou-se recentemente a uma lista crescente destas empresas. Mas, como digo há anos aos nossos clientes do Secure Web Gateway (SWG), "Bloquear algo é fácil. Qualquer pessoa pode fazer isso. Saber o que bloquear é a parte mais difícil". Dito isto, qualquer SWG que se preze já deve ter conhecimento destas ferramentas de IA e deve ser capaz de criar facilmente uma política para as bloquear. No momento em que este artigo foi escrito, o registo na nuvem deSkyhigh Security contém uma análise de risco completa de mais de 400 aplicações de IA, e a lista está a crescer diariamente! Cada uma delas inclui mais de 65 atributos de risco e uma lista de todos os domínios relacionados com as aplicações. Com apenas alguns cliques, estes dados ricos podem ser aproveitados nas políticas de segurança Web dos nossos clientes para controlar estas aplicações. Para os clientes que pretendem proibir a utilização de chatbots de IA, este é o "botão fácil" para eles.
Restrição de actividades específicas
Algumas organizações vêem valor em permitir a utilização de chatbots com IA, mas querem garantir que os seus dados mais críticos permanecem seguros. Atualmente, existem várias formas de esfolar este gato proverbial. Uma opção é utilizar o controlo de actividades para permitir uma aplicação baseada em IA, mas para impedir determinadas actividades, como o carregamento de ficheiros ou o envio de prompts. O SWG da Skyhigh suporta controlos de atividade para todas as mais de 35 mil aplicações no nosso registo, incluindo as mais de 400 aplicações categorizadas como IA. Mais uma vez, com apenas alguns cliques, pode impedir o carregamento de qualquer conteúdo para estas aplicações em minutos.
É claro que algumas aplicações, como o ChatGPT, podem tornar-se inúteis ao impedir actividades como o envio de perguntas. De que serve permitir a aplicação se não lhe pode fazer perguntas? Nestas situações, os clientes podem querer adotar uma abordagem mais matizada. A Samsung, por exemplo, respondeu inicialmente às suas fugas de dados limitando as solicitações do ChatGPT a 1024 bytes. Outras opções podem incluir a prevenção de carregamentos de determinados tipos de ficheiros, a limitação do acesso com base na geolocalização e muito mais. Para muitas dessas opções, é necessário um mecanismo de política da Web altamente granular. A solução SWG da Skyhigh tem, sem dúvida, o motor de políticas Web mais poderoso e granular do mercado atual, fazendo um trabalho rápido em casos de utilização como estes. Por exemplo, com uma única regra personalizada, os nossos clientes podem implementar uma política que, se um pedido a qualquer plataforma baseada em IA exceder 1024 bytes, o bloqueia. Assim, qualquer que seja a sua abordagem preferida, é provável que possamos permitir-lhe exercer esse controlo com facilidade.
Proteger os dados críticos da sua empresa
Pessoalmente, penso que a melhor abordagem envolve a consciencialização dos dados. No mundo atual baseado na nuvem, as organizações já devem ter uma boa noção dos dados que precisam de proteger e devem aplicar uma política para evitar que esses dados sejam enviados para qualquer aplicação externa que não seja sancionada e devidamente protegida pela organização. Neste aspeto, o ChatGPT não é realmente diferente de uma conta pessoal do Dropbox. A sua organização pode permitir e tolerar a utilização da Dropbox pessoal, mas também deve garantir que os seus dados mais críticos não são enviados para esta aplicação não sancionada e não segura. Da mesma forma, as organizações com programas de segurança de dados maduros provavelmente já terão uma política para evitar que os dados confidenciais sejam exfiltrados para qualquer aplicação não sancionada, o que deve naturalmente estender-se a aplicações como o ChatGPT. Os clientes do Skyhigh Security já estão à frente da curva nesta área, uma vez que já estão a utilizar um motor Data Loss Prevention (DLP) maduro e altamente avançado com capacidades robustas, tais como Exact Data Match (EDM), Indexed Data Matching (IDM), Optical Character Recognition (OCR) e muito mais.
Um desenvolvimento recente da OpenAI que traz esperança adicional é um novo controlo para desativar os históricos de conversação do ChatGPT e o treino dessas conversações. Com o simples toque de um botão na interface do utilizador, os utilizadores podem indicar que não querem que os seus dados sejam armazenados e que não devem ser utilizados para treinar o ChatGPT. Os utilizadores terão de ativar manualmente esta opção, que está desactivada por predefinição, mas que oferece uma camada extra de segurança para evitar que o modelo ChatGPT seja treinado com dados potencialmente sensíveis. Skyhigh Security já testou uma política na nossa solução SWG que obriga a ativar esta nova opção para qualquer dispositivo gerido que passe pelo nosso proxy, independentemente da conta em que o utilizador tenha iniciado sessão.
Sancionar o serviço
A OpenAI também anunciou planos para uma subscrição do ChatGPT Business no futuro. Com esta nova opção de subscrição, as organizações poderão criar contas empresariais para os seus utilizadores e gerir centralmente a forma como os seus dados são tratados. Isto poderia, potencialmente, colocar em ação várias outras capacidades da plataforma Skyhigh Security SSE. A primeira é aquilo a que chamamos "restrições de inquilino", que lhe permite permitir logins apenas para o seu inquilino sancionado, ou instância, de uma aplicação, bloqueando contas pessoais e de terceiros. Isto será fundamental se as organizações quiserem seguir o caminho do ChatGPT Business para aplicar políticas de tratamento de dados em toda a empresa. Isso seria inútil se não pudesse impedir os utilizadores de iniciarem sessão em contas ChatGPT pessoais não controladas.
Skyhigh SecurityA equipa de engenharia da OpenAI já realizou com êxito uma prova de conceito interagindo com as APIs da OpenAI para examinar os ficheiros carregados para a plataforma OpenAI utilizando a parte cloud access security broker (CASB) da nossa carteira. Embora as APIs da OpenAI ainda não suportem todos os casos de utilização, continuaremos a procurar oportunidades para procurar e remediar dados sensíveis em inquilinos empresariais num processo fora de banda, utilizando as nossas capacidades da API CASB.
Da mesma forma, se o ChatGPT oferecer a possibilidade de utilizar o single sign-on (SSO) de um fornecedor de identidade de terceiros, então a tecnologia CASB da Skyhigh Securitypoderá trazer valor. Ao ligar-se ao processo de transferência SAML entre o ChatGPT e um fornecedor de identidade de terceiros, o CASB pode entrar em linha com qualquer dispositivo no mundo que se autentique no seu inquilino do ChatGPT e efetuar o controlo de acesso ao dispositivo. Dessa forma, podemos restringir o acesso ao ChatGPT da sua organização para que apenas dispositivos confiáveis tenham acesso. Não foi confirmado, até o momento, que a OpenAI planeja oferecer SSO, mas é altamente provável, pois essa é uma abordagem comum para autenticação e gerenciamento de contas.
Para os meus colegas em Skyhigh Security, o que acabámos de discutir parecerá um breve resumo das nossas conversas diárias com os clientes. É isto que fazemos. Os chatbots com IA, e especificamente o ChatGPT, podem trazer uma nova reviravolta ao risco de perda de dados, mas para os profissionais de segurança de dados continua a ser o mesmo trabalho que requer as mesmas ferramentas e com os mesmos riscos. É provável que já esteja preparado com muitas destas ferramentas, mas se achar que os seus controlos de segurança são insuficientes, dê-nos a oportunidade de lhe mostrar como podemos ajudar. Esta é a nossa área de trabalho, porque protegemos os dados dos nossos clientes todos os dias.
Para saber mais sobre a forma como Skyhigh Security o pode ajudar, contacte-nos hoje mesmo.
Voltar aos blogues