IA generativa / Chatbot IA: Rischi e buone prassi

Q3 2023 Newsletter

 

Che cos’è l’IA?

Il termine “Intelligenza Artificiale”, noto semplicemente come “IA”, si riferisce a qualsiasi intelligenza esibita dalle macchine, piuttosto che dagli esseri umani. Negli ultimi mesi, l’IA ha fatto parlare di sé con applicazioni generative e chatbot come ChatGPT, Google Bard e DALL-E che imitano il ragionamento e la creatività umana.

 

Come vengono utilizzati i chatbot IA?

I chatbot IA sono assistenti virtuali che possono aiutarti a completare una serie di compiti utilizzando una conversazione naturale. Ad esempio, puoi chiedere loro di trovare risposte su Internet, creare articoli, scrivere e trovare bug nel codice, riassumere documenti, creare opere d’arte e tradurre testi in altre lingue.

 

Quali sono i rischi?

Come qualsiasi altra applicazione o servizio di terze parti, i chatbot IA comportano dei rischi. Ecco i due più importanti di cui devi essere consapevole:

  • Divulgazione non autorizzata: tutto ciò che digiti, incolli o carichi in un chatbot IA può essere memorizzato sui server della società madre per addestrare il chatbot. Come per qualsiasi altro servizio di terze parti, una volta che i dati sensibili lasciano l’ambiente sicuro della tua azienda, non c’è modo di controllare o prevedere chi possa accedervi. Quindi, se carichi o incolli, ad esempio, un codice sorgente sensibile o il progetto di un prodotto, o addirittura delle informazioni personali, il chatbot IA potrebbe utilizzare quei dati per aiutare a generare una risposta alla domanda di qualcun altro.
  • Allucinazione: un altro rischio, noto come allucinazione, è che il chatbot possa creare contenuti inventati o semplicemente non veritieri. Ad esempio, potrebbe inventare statistiche o citare ricerche o casi legali che non si sono mai verificati.

 

In che modo possono proteggersi gli utenti?

Visti i rischi associati ai chatbot IA, è importante seguire alcune best practice per mantenere i dati al sicuro e garantire che i risultati ottenuti siano accurati e utili.

  • Utilizza solo chatbot IA approvati dall’IT e dalla direzione.
  • Non digitare, incollare o caricare mai in un chatbot IA dati sensibili, come ad esempio codice sorgente, report sui guadagni, presentazioni interne, proprietà intellettuale, dati dei clienti, documenti legali e così via.
  • L’uso migliore dei chatbot IA si ottiene chiedendo loro di fare ricerche su argomenti complessi e di creare nuovi contenuti come articoli, codice o opere d’arte.
    • Per ottenere i migliori risultati, lavora sulle tue abilità di visualizzazione, ovvero sull’atto di scrivere istruzioni chiare e descrittive. A differenza della ricerca tradizionale, i chatbot IA sono in grado di comprendere più frasi e requisiti. Sono anche in grado di mantenere il flusso della conversazione, il che ti permette di fare domande successive senza dover ripetere le istruzioni precedenti.
  • Verifica sempre l’autenticità dell’output. Ad esempio, se il chatbot cita un aneddoto storico, uno studio scientifico o un precedente legale, non utilizzare queste informazioni prima di averle verificate utilizzando un’altra fonte ufficiale o consultando un esperto della tua organizzazione.