ChatGPT: Amico o nemico?

24 febbraio 2023

Di Rodman Ramezanian - Global Cloud Threat Lead, Skyhigh Security

A meno che non abbia vissuto sotto una roccia, sicuramente avrà già letto o sentito parlare di ChatGPT. Questo chatbot guidato dall'intelligenza artificiale ha suscitato l'interesse di milioni di utenti attivi al giorno, alimentando ogni sorta di idee e casi d'uso diversi: dalla scrittura di saggi per progetti scolastici, alla composizione di documenti tecnici aziendali, fino all'omaggio a rapper scomparsi come Tupac Shakur con rime fittizie sulla sicurezza informatica (altamente consigliato per un po' di divertimento), e tutto il resto.

Sembra che le possibilità con ChatGPT siano illimitate.

L'uso dell'Intelligenza Artificiale (AI) nella cybersecurity non è esattamente una novità; i prodotti di sicurezza sfruttano l'AI e il Machine Learning (ML) da anni. Ad esempio, l'AI/ML è oggi comunemente utilizzata per analizzare il traffico e i dati in tempo reale, in definitiva per identificare attività anomale prima che si trasformino in violazioni della sicurezza. Innovazioni come queste sono estremamente gradite quando possono offrire ai team di sicurezza una visione anticipata di potenziali indicatori di compromissione.

Implicazioni

Nonostante i vantaggi che l'AI e il ML hanno apportato al regno della cybersecurity, la ChatGPT rappresenta un nuovo livello di rischio potenziale. Mentre molti strumenti guidati dall'AI si sono concentrati sul rilevamento e sulla prevenzione di attività sospette, la ChatGPT ha la capacità di assistere attivamente gli attori delle minacce nei loro sforzi per attaccare i sistemi.

Lo dimostrerò con un esempio. ChatGPT non scriverebbe in realtà un'e-mail di phishing con tutto ciò di cui avrei ipoteticamente bisogno per lanciare un attacco (vedi sotto - sembra esserci un filtro etico rudimentale).

Tuttavia, scriverebbe un modello di e-mail innocuo relativo a un evento lavorativo fittizio, che potrebbe essere armato con pochissimo sforzo per scopi di phishing (sotto).

Ora, si potrebbe sostenere che gli attori malintenzionati già automatizzano gli attacchi e sfruttano alcune forme di modelli AI/ML per ottenere le loro efficienze contorte. Seguendo questa stessa linea di pensiero, tuttavia, ChatGPT potrebbe essere visto come una sorta di regalo per loro. Potrebbe facilmente ampliare i loro orizzonti, consentendo loro di generare enormi quantità di attacchi unici, lanciando così attacchi coordinati e mirati su vasta scala.

In occasione del nostro recente evento Skyhigh Sales Kick-Off a Las Vegas, il nostro CEO, Gee Rittenhouse, ha condiviso un esempio straziante di come uno studente di quarta elementare potrebbe tecnicamente ora utilizzare ChatGPT a scopo didattico per formulare un attacco di buffer overflow per un browser web comunemente utilizzato.

Pensando per un attimo a un quadro più ampio: ciò significa che non stiamo solo cercando di contrastare gli hacker altamente qualificati che conoscono bene gli exploit e le vulnerabilità più sofisticate; potenzialmente ora potremmo anche affrontare un esercito molto più numeroso di principianti, di giovani e, in pratica, di qualsiasi utente curioso del web che può raggiungere chat.openai.com

D'altro canto, ChatGPT potrebbe essere utilizzato per aiutare le organizzazioni a proteggere meglio i loro sistemi?

Non c'è dubbio che la potenza e la capacità di ChatGPT potrebbero essere sfruttate per generare enormi quantità di dati: facilitare gli stress-test del sistema, eseguire test di fuzzing contro gli sviluppi del software e forse anche simulare attori malintenzionati per le esercitazioni tabletop di risposta agli incidenti.

Cibo per la mente

Se da un lato la ChatGPT può essere utilizzata per rafforzare le nostre difese, dall'altro può essere sfruttata da attori malintenzionati per condurre attacchi in modo più semplice ed efficace, come dimostrano gli esempi precedenti. È quindi essenziale che i professionisti della sicurezza rimangano vigili e si tengano aggiornati sugli ultimi sviluppi dell'IA e su come possa essere utilizzata nel campo della cybersecurity.

Ciò significa non solo essere consapevoli dei potenziali vantaggi di questi strumenti, ma anche essere preparati a difendersi dal loro potenziale abuso. Come per ogni tecnologia, è fondamentale comprendere i rischi e adottare misure per mitigarli.

Skyhigh SecurityIl Cloud Registry di Microsoft offre una visione completa basata sui rischi di oltre 30.000 servizi SaaS, PaaS e IaaS - e ChatGPT è solo uno di questi.

All'interno di questo Registro Cloud, Skyhigh Security calcola e assegna a ciascun servizio cloud un rating CloudTrust che indica la sua idoneità aziendale, utilizzando una media ponderata di 55 Attributi di rischio sviluppati con la Cloud Security Alliance (CSA). Questi attributi coprono le categorie Dati, Utente/Dispositivo, Servizio, Business, Legale e Cyber. Normalizza il risultato in un valore compreso tra 1 e 9. Le aziende utilizzano il rating CloudTrust come parte della definizione delle politiche di governance del cloud.

In qualità di professionista della sicurezza, una volta identificati i rischi associati a un determinato servizio/entità, in definitiva dovrebbe porsi tre domande:

• Qualcuno dei nostri utenti ha visitato/utilizzato questo sito? Se sì, quanti? E chi esattamente?
• Qualche parte della nostra infrastruttura web e cloud ha avuto accesso a questo servizio?
• E se una delle prime due domande dà come risultato un "sì", quanti dati sono stati scambiati tra la sua organizzazione e quel servizio?

Una volta che sa con cosa ha a che fare, può intraprendere le azioni appropriate per proteggere i suoi dispositivi, il web e gli ambienti cloud.

Analizzando la telemetria globale di Skyhigh Security, vediamo che tra il novembre 2022 e il febbraio 2023:

Quando si trova di fronte a un motore di intelligenza artificiale avanzato e all'avanguardia, liberamente disponibile sul web, questo è il tipo di visibilità, approfondimento e controllo di cui ha bisogno per l'intero ambiente.

Conclusione

La ChatGPT è ancora agli inizi e ci sono già molte questioni morali da considerare con il suo utilizzo.

Non è difficile immaginare un futuro in cui i chatbot AI avanzati rendono la nostra vita più facile e il nostro lavoro migliore. Tuttavia, non è nemmeno impossibile che gli hacker possano avere il sopravvento sull'utilizzo di ChatGPT in modo più efficace per scopi nefasti.

In definitiva, però, nella nostra lotta per far pendere la bilancia della difesa informatica a nostro favore, se qualcosa come ChatGPT può aiutare i cattivi attori in qualsiasi modo, forma o modo, merita la nostra attenzione e preoccupazione!

Scopra le soluzioni di protezione di Skyhigh Securitye richieda una dimostrazione per rendersene conto di persona.