I limiti dell'IA Il negozio digitale di ChatGpt inondato di chatbot illegali
Il negozio digitale di ChatGpt è inondato di spam e software in violazione del diritto d'autore e delle regole delle stessa piattaforma, alcuni dei quali conducono a servizi a pagamento.
21.03.2024, 10:49
21.03.2024, 10:56
SDA
Lo ha scoperto il sito specializzato di tecnologia TechCrunch, che insinua dubbi sulle capacità di controllo e moderazione dell'azienda madre, OpenAI.
Il Gpt Store è stato lanciato a novembre, sulla scia del successo del chatbot di intelligenza artificiale, ed è la vetrina online degli assistenti digitali basati su ChatGpt.
Il portale funziona come una sorta di app store per tutti gli individui e le aziende che vogliono offrire servizi basati sull'interazione con l'ormai noto software.
Una crescita fuori controllo
La creazione di un chatbot non richiede esperienza di programmazione, fa notare il sito, e gli sviluppatori possono digitare le funzionalità che desiderano offrire nello strumento.
Forse a causa della bassa barriera all'ingresso, il Gpt Store è cresciuto rapidamente e ora conta 3 milioni di software Gpt, una crescita che sembra essere avvenuta però a scapito della qualità, nonché del rispetto dei termini stessi di OpenAI, afferma TechCrunch.
Ecco le possibili violazioni
Secondo il sito, infatti, sul negozio digitale ci sono chatbot che possono creare immagini di personaggi Disney e Marvel, in violazione del copyright.
O software che simulano conversazioni con personaggi famosi tra cui Elon Musk, Donald Trump e Leonardo DiCaprio, mentre l'impersonificazione è vietata dalle regole di OpenAI.
Altri software ancora conducono a servizi di terze parti a pagamento e si pubblicizzano come in grado di aggirare gli strumenti di rilevamento dei contenuti AI come Turnitin e Copyleaks.
Nelle sue regole di moderazione OpenAI spiega di utilizzare una combinazione di sistemi automatizzati, revisione umana e segnalazioni degli utenti per individuare i chatbot che violano le regole.
Le violazioni possono portare ad azioni contro i contenuti o un account come avvisi, restrizioni o non idoneità nell'inclusione del Gpt Store.
