Prima di rilasciare GPT-4o, lanciata pubblicamente nel mese di maggio di quest’anno, OpenAI ha coinvolto un gruppo esterno di esperti di sicurezza, noti come red teamer, allo scopo di individuare eventuali vulnerabilità nell’ultima release del chat bot ChatGPT.
Si tratta di una pratica abbastanza comune nel settore informatico, a maggior ragione per quanto riguarda l’Intelligenza artificiale.
Di fatto, riferisce Adnkronos, i risultati collocano GPT-4o a un livello di rischio considerato “medio”. Recentemente OpenAI ha infatti pubblicato la scheda di sistema, un documento che illustra le misure di sicurezza e le valutazioni dei rischi effettuate dall’azienda prima del rilascio del suo ultimo modello di Intelligenza artificiale.
Quattro categorie analizzate: sicurezza informatica, minacce biologiche, persuasione, autonomia del modello
In pratica, gli esperti hanno esaminato rischi come la possibilità che GPT-4o potesse creare cloni non autorizzati della voce di qualcuno, contenuti erotici e violenti, o segmenti di audio protetto da copyright. Ora, i risultati di queste valutazioni sono stati resi pubblici.
Secondo il quadro di valutazione di OpenAI, i ricercatori hanno classificato GPT-4o appunto come a “rischio medio”.
Il livello complessivo di rischio è stato determinato dal più alto grado di rischio tra quattro categorie principali, che comprendono sicurezza informatica, minacce biologiche, persuasione e autonomia del modello.
Tutte a basso rischio tranne la persuasione: i testi potrebbero influenzare le opinioni di chi legge
Tutte queste categorie sono state valutate a basso rischio, eccetto la persuasione, dove è stato riscontrato che alcuni campioni di testo prodotti da GPT-4o potevano influenzare le opinioni dei lettori più efficacemente dei testi scritti da esseri umani, anche se nel complesso i campioni del modello non erano più persuasivi.
Di fatto, ci sono state molte richieste affinché OpenAI sia più trasparente, non solo riguardo ai dati di addestramento del modello, ma anche sui test di sicurezza.
La California potrebbe approvare una legge per valutare e stabilire la conformità dei modelli
In California, dove hanno sede OpenAI e molti altri laboratori che si occupano di Intelligenza artificiale, il senatore statale Scott Wiener sta cercando di far approvare una legge per regolare i modelli di linguaggio di grandi dimensioni, inclusi vincoli che renderebbero le aziende legalmente responsabili se la loro Intelligenza artificiale venisse utilizzata in modi dannosi.
Se la legge sarà approvata, i modelli di Intelligenza artificiale di OpenAI dovranno conformarsi alle valutazioni del rischio imposte dallo Stato prima di essere resi disponibili al pubblico.