Brian Christian ha dedicato vent’anni a riflettere su come l’intelligenza artificiale cambierà le nostre menti e il nostro mondo. Il suo libro del 2020, “The Alignment Problem”, è stato acclamato come uno dei migliori sull’IA e, come molti scienziati, a volte si sente euforico per i progressi della tecnologia. Dopotutto, quando tutti hanno a disposizione una flotta di agenti autonomi pronti ad accelerare la ricerca, è difficile non pensare che una scoperta rivoluzionaria sia a portata di pochi comandi.
Tiene inoltre un quaderno sulla scrivania e ci scrive ogni giorno. Questa abitudine lo aiuta a rimanere con i piedi per terra e a placare il sospetto, che lo assilla, che dedicare troppo tempo all’intelligenza artificiale possa fargli perdere la sua rigorosa preparazione accademica.
Ha ottimi motivi per preoccuparsi, e gli basterà dare un’occhiata alle sue ricerche più recenti per averne la conferma.
Christian faceva parte del team che ha condotto uno studio fondamentale, il quale ha scoperto che dedicare anche solo 10 minuti all'utilizzo di uno strumento di intelligenza artificiale compromette significativamente la nostra capacità di concentrazione e perseveranza nello svolgimento di compiti difficili. Una bozza preliminare ha suscitato scalpore all'inizio di quest'anno, e il team ha presentato la versione aggiornata e sottoposta a revisione paritaria questa settimana alla Conference on Language Modeling .
"È una scoperta sorprendente, ma in un certo senso fornisce argomenti a sostegno di una storia che molti di noi percepiscono istintivamente", ha affermato Christian, ricercatore presso il Center for Human-Compatible AI dell'UC Berkeley . "Anch'io la percepisco."
Per verificare con quale rapidità la concentrazione e la perseveranza delle persone diminuissero, i ricercatori hanno progettato una serie di studi clinici randomizzati e hanno reclutato online 1.222 partecipanti.
Nel primo esperimento con 354 partecipanti, un gruppo ha dovuto risolvere 15 semplici problemi con le frazioni senza alcun aiuto, mentre un altro gruppo aveva ChatGPT aperto a lato per ricevere assistenza e persino per chiedere la risposta. Il gruppo con accesso all'IA ha iniziato con risultati più precisi rispetto al gruppo senza. Poi, dopo 12 problemi, i ricercatori hanno rimosso lo strumento di IA. Quasi immediatamente, i partecipanti di quel gruppo hanno smesso di risolvere i problemi con precisione.
Un risultato simile si è verificato quando l'esperimento è stato condotto su un secondo gruppo più numeroso di 667 partecipanti. Mentre gli utenti dell'IA hanno dato risposte errate o si sono arresi completamente quando l'assistenza dell'IA è stata interrotta, il gruppo senza IA ha perseverato nel compito e ha ottenuto risultati migliori alla fine.
I ricercatori hanno quindi condotto un terzo esperimento con 201 partecipanti e una traccia di comprensione del testo tratta dal test SAT. I risultati hanno confermato quelli ottenuti con i problemi sulle frazioni: quando lo strumento di intelligenza artificiale è stato rimosso, la persistenza e la precisione sono diminuite.
"Non si potrebbe chiedere una storia più chiara", ha detto Christian.
I risultati hanno confermato quanto emerso negli ultimi anni da aneddoti e sondaggi: un'eccessiva dipendenza dall'intelligenza artificiale per ottenere risposte erode le nostre capacità cognitive. Quando l'IA produce risposte in pochi secondi, ci abituiamo a quella velocità; qualsiasi processo che richieda più tempo ci sembra inefficiente. Inoltre, affidarsi all'IA elimina quella che il team ha definito "lotta produttiva", che può portare le persone a scoprire i propri punti di forza e le proprie passioni nella ricerca.
«Abbiamo creato questi sistemi per essere utili, ma ci sono davvero d'aiuto?» ha detto Christian. «Abbiamo dimostrato, ironicamente, che spesso ci aiutano in modi che in realtà non lo sono.»
Il team di ricerca comprendeva studiosi della Carnegie Mellon University, del Massachusetts Institute of Technology, dell'Università di Oxford e dell'UCLA. Testate giornalistiche come WIRED e Psychology Today hanno parlato dello studio quando i primi risultati sono stati pubblicati in primavera. Il New York Times ha pubblicato la scorsa settimana un articolo sulla ricerca e su studi simili.
Le aziende leader nel campo dell'IA hanno riconosciuto come l'affidamento di compiti ai chatbot possa ridurre la comprensione e la padronanza di base di un argomento da parte dell'utente. Invece di fornire risposte rapide, le risposte dell'IA potrebbero essere più istruttive, come quelle di un tutor, ha affermato Christian.
"Dobbiamo lavorare per un futuro in cui le capacità umane siano, per quanto possibile, potenziate anziché sostituite", ha affermato.
Christian ha affermato che ciò è particolarmente vero per la ricerca e il mondo accademico. È preoccupato per il modo in cui un eccessivo affidamento sugli strumenti di intelligenza artificiale nella scienza potrebbe compromettere ciò che rende un buon scienziato: rimanere a stretto contatto con i dati, immergersi nella materia e lavorare in squadra. Qualcosa di significativo potrebbe andare perduto quando quel team di 10 persone che sviluppa le idee che portano a una scoperta rivoluzionaria si riduce a due o tre ricercatori e un chatbot.
"Questa non è una storia di frazioni e problemi di matematica", ha detto Christian. "È qualcosa che sta accadendo alla conoscenza e alla competenza umana, dai più piccoli, dagli studenti delle scuole elementari fino ai massimi esperti del mondo."
