22 Maggio 2023 895 parole, 4 lettura minima

Shadow GPT: definizione, rischi, esempi e statistiche

Di Pierre-Nicolas Schwab Dottorato di ricerca in marketing, direttore di IntoTheMinds
Il termine “Shadow GPT” si riferisce all’utilizzo di ChatGPT o di altre IA generative in un contesto professionale senza la previa approvazione della gerarchia. I dipendenti trasmettono inconsapevolmente dati potenzialmente sensibili a terzi utilizzando tali strumenti. Le ricerche mostrano che […]

Il termine “Shadow GPT” si riferisce all’utilizzo di ChatGPT o di altre IA generative in un contesto professionale senza la previa approvazione della gerarchia. I dipendenti trasmettono inconsapevolmente dati potenzialmente sensibili a terzi utilizzando tali strumenti. Le ricerche mostrano che il 30% dei dipendenti si trova in questa situazione con problemi di sicurezza.

Contatta l’agenzia di sondaggi IntoTheMinds

Shadow GPT: 7 statistiche da ricordare

  • Il 71% dei francesi conosce le IA generative come ChatGPT di OpenAI e Bing di Microsoft.
  • Il 44% degli intervistati utilizza queste IA in contesti personali e professionali.
  • Il 68% degli utenti di IA generativa all’interno dell’azienda necessita ancora dell’approvazione del proprio supervisore.
  • Il 50% delle aziende statunitensi afferma che sta aggiornando le proprie politiche interne per disciplinare l’uso di ChatGPT e porre fine a Shadow GPT
  • Il 70% degli intervistati in un’altra ricerca Microsoft afferma che delegherebbe volentieri attività ripetitive all’IA.
  • Il 45% dei giovani di età compresa tra 18 e 24 anni afferma di utilizzare l’intelligenza artificiale, rispetto al 18% delle persone di età superiore ai 35 anni.
  • Il 72% dei francesi ritiene di aver bisogno di maggiori conoscenze per utilizzare l’IA generativa.

Introduzione

Il termine Shadow GPT fa eco al termine “Shadow IT”, che si riferisce al software non preventivamente approvato dal reparto IT dell’azienda. I dipendenti dello Shadow GPT utilizzano strumenti di IA generativa come ChatGPT per scopi aziendali senza la preventiva approvazione della propria azienda. Recenti ricerche dimostrano che questa pratica è in realtà molto più diffusa di quanto si possa immaginare, ma mette a rischio i dati riservati dell’azienda.


Shadow GPT dipendenti

Shadow GPT: quasi 1/3 dei dipendenti attualmente interessati

Una ricerca di aprile 2023 rivela che il 71% dei francesi conosce le IA generative, come ChatGPT di OpenAI e Bing di Microsoft (la cui modalità di “creazione” è basata su GPT4). Dalla ricerca è emerso anche che il 44% degli intervistati utilizza queste IA a livello personale e professionale. Di questi, il 68% lo fa senza informare i propri superiori. In altre parole, quasi il 30% dei dipendenti francesi utilizza l’IA generativa senza la preventiva autorizzazione dei propri manager.

In un’altra ricerca condotta da Microsoft, il 70% delle persone intervistate ha dichiarato di essere d’accordo nel delegare i propri compiti ripetitivi all’IA, che potrebbe risparmiare fino a due giorni di lavoro


I rischi di Shadow GPT

I rischi di Shadow GPT

Abbiamo già menzionato i rischi della ChatGPT. In parole povere, si tratta di rischi legati alla fuga di dati riservati. Questi rischi sono inerenti a tutti i servizi gratuiti su Internet. Se sono gratuiti, i vostri dati vengono utilizzati come moneta corrente.

Statoil era stata ingannata già nel 2017 con l’uso di Deepl (che utilizza i vostri dati per addestrare i suoi algoritmi, vedi sotto), e nel 2023 è stata Samsung a cadere nella trappola di ChatGPT. I suoi dipendenti hanno utilizzato ChatGPT 3 volte e hanno trasmesso dati strettamente riservati a OpenAI. Questi dati riguardano, in particolare, il codice sorgente dei suoi chip elettronici.

Questi rischi hanno portato alcune aziende a vietare l’uso di ChatGPT. A partire da Samsung che renderà disponibile uno strumento interno, tra cui JPMorgan Chase, Amazon, Verizon e Accenture. Tutte queste aziende hanno in comune il fatto di lavorare con una grande quantità di dati proprietari da cui traggono un vantaggio competitivo. L’utilizzo di ChatGPT, e in generale di tutti gli strumenti algoritmici che propongono una versione gratuita, consiste nel trasferimento dei dati dell’utente a scopo di formazione. Sebbene lo scambio di buona volontà sia comprensibile (un servizio gratuito in cambio di dati), solo alcuni utenti sono consapevoli di questo trasferimento. Nel caso di ChatGPT, la mancanza di consenso ha portato addirittura il governo italiano a bandire ChatGPT dal territorio. Una decisione violenta e improvvisa, ma che ha avuto il merito di mettere in luce tutti i difetti di OpenAI.


Shadow GPT Particolare attenzione

Particolare attenzione per i dipendenti più giovani

La ricerca mostra un divario generazionale nell’adozione dell’IA, con il 45% dei giovani tra i 18 e i 24 anni che la utilizzano, rispetto al 18% di coloro che hanno più di 35 anni. Solo moderatamente sorprendente è il fatto che il 72% dei francesi ritiene di aver bisogno di maggiori conoscenze per utilizzare queste tecnologie.

Questo divario deve far capire alle aziende che i rischi non sono equamente distribuiti tra i dipendenti. Alcuni sono più “a rischio” di altri e gli sforzi di sensibilizzazione dovranno quindi essere fatti in modo differenziato a seconda del target.


Shadow GPT rischi

La maggior parte delle aziende non misurano i rischi

Shadow GPT non nasce con cattive intenzioni. I dipendenti sono curiosi di sperimentare questo nuovo strumento, e questo va a loro merito. La parte di sperimentazione è essenziale per comprenderne l’utilità e, come ha spiegato il ricercatore del MIT Ethan Mollick, sono necessarie almeno 4 ore di lavoro su questi strumenti per iniziare a comprenderli. Perché è proprio qui che sta il problema: la mancanza di informazioni e di trasparenza.

Le aziende, invece, sono state colte di sorpresa. Quasi il 50% delle aziende statunitensi intervistate in un sondaggio del marzo 2023 stava rivedendo le proprie politiche interne per adattarsi allo Shadow GPT. L’adozione della ChatGPT da parte dei loro dipendenti è stata così improvvisa e l’argomento così nuovo che non hanno potuto occuparsene abbastanza presto.

Ma oltre alle grandi aziende, ci sono tutte quelle per le quali il ChatGPT rimarrà un mistero per molto tempo, finché i loro segreti aziendali non saranno svelati. Ricordiamo che il 96% delle aziende sono PMI e che il loro livello di maturità digitale deve essere più esemplare. Ci sono quindi molte sfide da affrontare per educare i dipendenti sui vantaggi dell’IA, ma anche sui suoi limiti.

 



Posted in innovazione.

Pubblica la tua opinione

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *