ChatGPT: cosa si nasconde dietro questo chatbot "intelligente"?

Tuttavia, occorre essere cauti quando si definisce questo sistema "intelligente": ChatGPT non è in realtà in grado di pensare autonomamente! È stato addestrato nel corso di innumerevoli cicli di apprendimento a completare le frasi con le parole più probabili. In una prima fase, sono stati introdotti come "materiale di addestramento" libri digitalizzati e gran parte dei testi disponibili su Internet, per un totale di diverse centinaia di miliardi di parole. Questi testi sono stati analizzati statisticamente dal software. Il sistema ha imparato quali combinazioni di parole o parti di frasi ricorrono più spesso. Su questa base, il sistema doveva reagire alle immissioni di testo producendo un proprio testo, ad esempio rispondendo a una domanda. In diverse fasi di addestramento, ha imparato a dare risposte sempre più corrette: inizialmente è stato confrontato con compiti semplici per i quali riceveva ogni volta un feedback “corretto” o “errato”. Un altro addestramento è stato effettuato utilizzando un secondo software che confrontava le risposte di ChatGPT con i dialoghi prodotti dagli esseri umani. Il feedback di questo software ha permesso di migliorare ulteriormente i risultati di ChatGPT.

Questo miglioramento costante, chiamato apprendimento automatico, è possibile perché il software ChatGPT è costruito come una rete neurale artificiale. Una rete di questo tipo presenta delle analogie con il nostro cervello: impara dal fatto che le connessioni che portano a risposte e decisioni corrette vengono rafforzate. Le connessioni errate vengono invece interrotte e ricollegate, in modo che l'output della rete migliori complessivamente.

Le basi: statistiche e probabilità

In parole povere, i testi prodotti da ChatGPT non sono altro che una sequenza di parole e parti di frasi statisticamente probabili. Le risposte fluide e linguisticamente corrette che ne risultano sono ancora più sorprendenti: la quantità di dati e la potenza di calcolo che si nascondono dietro questo modello sono davvero enormi! In alcune situazioni, ChatGPT potrebbe sicuramente superare il cosiddetto test di Turing, dal nome del matematico Alan Turing: una persona che dialoga con questo chatbot non sarebbe in grado di dire, dopo cinque minuti di conversazione, se ha parlato con un essere umano o con una macchina.

Tuttavia, ChatGPT rimane un software non dotato di sentimenti ed esperienze umane. Ad esempio, ha difficoltà con le forme di conversazione in cui l'umorismo o l'ironia giocano un ruolo importante e non è in grado di rilevare le ambiguità. Idealmente, dovrebbe chiedere chiarimenti se un input ha un doppio significato, ma invece parte dal presupposto più probabile, arrivando così a dichiarazioni errate. La capacità di risposta di ChatGPT dipende spesso dalla formulazione della domanda. Qui si osserva un problema comune nell'addestramento di un software di chat: se lo si programma in modo troppo “prudente”, esso si rifiuta di rispondere anche se i dati disponibili gli consentirebbero di generare un'affermazione corretta. Con ChatGPT, spesso accade il contrario: ChatGPT presenta in frasi logiche e molto convincenti un fatto che, a un esame più attento, non ha alcun senso o è semplicemente falso. È quindi necessario prestare agrande attenzione quando si vogliono utilizzare lle risposte ChatGPT! Infatti, i dati di addestramento del software non indicano la “verità”; ChatGPT riproduce generalmente le affermazioni che sono apparse più spesso delle altre durante la fase di apprendimento.