In che modo viene usato il software di Intelligenza Artificiale più conosciuto del pianeta? Spesso per fare richieste non proprio ortodosse.
Con l’avvento di ChatGPT l’intelligenza artificiale è diventata una presenza nella nostra quotidianità. Al punto da far sorgere una domanda spontanea: ma come useranno gli altri il chatbot di OpenAI? Di cosa parleranno?
Insomma, per usare un’espressione tipica dei social, quali sono i trending topics, gli argomenti più popolari nelle conversazioni con ChatGPT? Dopo il travolgente successo del chatbot più famoso del mondo, l’uso dell’intelligenza artificiale generativa è diventato – e non poteva essere altrimenti – un oggetto di ricerca rilevante, oltre che un elemento importante per addestrare lo stesso sistema di AI generativa.
Ha provato a occuparsene un team di ricercatori accademici, che in un articolo pubblicato proprio questo mese ha dato vita a un ampio database contenente un milione di «conversazioni del mondo reale» portate avanti da 25 diversi modelli di linguaggio di grandi dimensioni.
Di cosa parlano gli utenti con ChatGPT?
Lo studio, reso disponibile sul server di pre-stampa arXiv, è stato redatto da Lianmin Zheng (Università della California, Berkeley) congiuntamente ad altri ricercatori dell’UC San Diego, dalla Carnegie Mellon University, di Stanford e dell’Università di Intelligenza Artificiale di Abu Dhabi, Mohamed bin Zayed.
A partire da questo milione di conversazioni, i ricercatori ne hanno poi scelto casualmente un campione più ridotto, di 100 mila. La gran parte di queste conversazioni, hanno spiegato gli autori della ricerca, verteva per lo più su argomenti tutto sommato prevedibili. Circa la metà delle interazioni con ChatGPT riguardavano temi di interesse comune come i consigli di viaggio, le richieste di assistenza nella scrittura, la programmazione.
ChatGPT, boom di conversazioni “hot”
Fin qui tutto nella norma, diciamo. Ma nella seconda metà delle conversazioni sono emersi anche temi di altro genere. Come ad esempio il ruolo dei personaggi nei giochi di ruolo e, soprattutto, tre categorie di argomenti classificate dai ricercatori come «pericolose». Tra queste le «Richieste di narrazioni esplicite ed erotiche», le «Fantasie sessuali esplicite e scenari di gioco di ruolo», e la «Discussione di comportamenti tossici tra diverse identità».
ChatGPT a luci rosse dunque? A quanto pare molti utenti col chatbot danno sfogo alle loro fantasie inconfessabili. I ricercatori ipotizzano che nel milione di conversazioni complete possano spuntare contenuti anche più dannosi. In parte hanno usato la tecnologia di OperAI per classificare queste conversazioni come «pericolose», pur riconoscendo che il sistema della società fondata da Elon Musk e Sam Altman ha alcune pecche, discusse nel dettaglio all’interno dell’articolo.
In più hanno osservato come i modelli di linguaggio open-source, sul modello di Vicuña, hanno pure più contenuti pericolosi, non essendo soggetti alle medesime restrizioni applicate a ChatGPT.