Notizia

Sep 06, 2023

Microsoft sta limitando le query giornaliere sull'intelligenza artificiale di Bing • The Register

AI in brief Microsoft will start limiting the length of conversations with its

L'intelligenza artificiale in breve Microsoft inizierà a limitare la durata delle conversazioni con il suo chatbot Bing basato sull'intelligenza artificiale a 50 turni al giorno, nel tentativo di evitare che generino risposte insensate alle domande degli utenti.

Le persone hanno segnalato che la funzionalità di chat implementata sul browser Web Edge dell'azienda è andata fuori di testa dopo essere stata sondata per troppo tempo. Bing ha minacciato gli utenti, li ha ingannati ed è diventato emotivamente manipolativo. Ha affermato addirittura di essere innamorato di un giornalista e gli ha detto di lasciare la moglie.

(Un buon reporter farà di tutto per una storia, ma devi tracciare una linea da qualche parte.)

Nel tentativo di domare il comportamento squilibrato di Bing, Microsoft ha annunciato che limiterà gli utenti a 50 turni di chat al giorno e non più di cinque turni di chat per sessione. "Un turno è uno scambio di conversazioni che contiene sia una domanda dell'utente che una risposta di Bing", ha spiegato l'azienda.

Sebbene sia facile pensare a Bing come dotato di una personalità, il chatbot è solo un software che non capisce quello che dice.

Addestrato ad assumere un tono colloquiale, imita il dialogo umano e può iniziare a uscire dai binari se gli vengono poste domande cariche di carica emotiva. Sfortunatamente, l’intelligenza artificiale a volte può iniziare a farlo anche quando vengono poste domande apparentemente benigne.

"Dopo che una sessione di chat ha raggiunto i cinque turni, alle persone verrà richiesto di iniziare un nuovo argomento. Alla fine di ogni sessione di chat, il contesto deve essere chiarito in modo che il modello non venga confuso," ha chiarito Microsoft.

Google chiede al personale di migliorare il suo chatbot AI, Bard, da utilizzare per la ricerca sul web riscrivendo il testo generato dal software. Il vicepresidente per la ricerca del colosso pubblicitario, Prabhakar Raghavan, avrebbe inviato un'e-mail ai dipendenti chiedendo il loro aiuto per assicurarsi che le risposte di Bard fossero accurate e appropriate.

"Si tratta di una tecnologia entusiasmante ma ancora agli inizi", ha scritto, secondo la CNBC. "Sentiamo una grande responsabilità nel farlo bene, e la tua partecipazione alla prova sperimentale aiuterà ad accelerare l'addestramento del modello e a testarne la capacità di carico (per non parlare del fatto che provare Bard è in realtà piuttosto divertente!)."

"Bard impara meglio con l'esempio, quindi prendersi il tempo per riscrivere attentamente una risposta ci aiuterà molto a migliorare la modalità", ha aggiunto.

Il CEO Sundar Pichai ha raccomandato ai dipendenti di trascorrere dalle due alle quattro ore del loro tempo su Bard e ha osservato che "sarà un lungo viaggio per tutti, attraverso il campo". Sebbene modelli linguistici di grandi dimensioni come Bard siano pubblicizzati come un modo rivoluzionario per cercare informazioni su Internet, tendono a generare risposte inaffidabili e richiedono dati puliti scritti da esseri umani da cui imparare.

Dati migliori non rendono questi modelli perfetti, ma spesso ne migliorano le prestazioni.

La legge UE sull’intelligenza artificiale, volta a regolamentare la tecnologia per proteggere gli utenti da danni e pregiudizi algoritmici, viene respinta mentre i legislatori stanno negoziando i suoi termini finali.

Il disegno di legge avrebbe dovuto essere approvato per il voto degli Stati membri alla fine del mese prossimo, ma secondo Reuters potrebbe essere ritardato poiché i funzionari non riescono a mettersi d'accordo sui principi di base. Le politiche devono essere sufficientemente rigorose da contrastare la mancanza di trasparenza dell’intelligenza artificiale e la tendenza a produrre risultati distorti, proteggendo al contempo la privacy dei dati, senza sopprimere lo sviluppo e gli investimenti.

"La tensione qui è tra l'attenzione ai diritti fondamentali, da un lato, e coloro che affermano che questi sono necessariamente in conflitto con l'innovazione", ha affermato l'eurodeputato Sergey Lagodinsky, che rappresenta il partito dei Verdi in Germania. Secondo quanto riferito, i legislatori stanno lottando per decidere quali applicazioni di intelligenza artificiale dovrebbero essere etichettate come “ad alto rischio” e soggette a regole più severe.

Non è chiaro quando il disegno di legge passerà alle fasi legislative successive. "Il dossier è lungo e complesso, gli eurodeputati stanno lavorando duramente per raggiungere un accordo sul loro mandato per i negoziati. Tuttavia non c'è una scadenza o un calendario sui prossimi passi", ha detto un deputato.

L’intelligenza artificiale potrebbe occupare il lavoro degli architetti man mano che i modelli di generazione di immagini migliorano nella progettazione di edifici, interni di stanze e altro ancora.