Intelligenza Artificiale: 3 usi pericolosi e 3 sicuri

L'intelligenza artificiale è diventata un supporto indispensabile nella vita di tutti i giorni, ma affidarsi ciecamente a un chatbot può rivelarsi rischioso. Tre escursionisti inesperti hanno chiesto a un chatbot come affrontare la scalata di una montagna in California. Il chatbot AI ha consigliato di portare molta meno acqua e cibo del necessario, trasformando un’escursione di otto ore in un calvario di più giorni, che è finito con l'intervento di una squadra di soccorso. Non si è trattato di un errore tecnico, piuttosto di un consiglio plausibile, ma profondamente sbagliato, dato con la sua solita sicurezza.

L’episodio cristallizza un principio fondamentale che chi usa l’intelligenza artificiale ogni giorno per lavoro impara prima o poi sulla propria pelle: l’AI è straordinariamente utile per alcune cose e potenzialmente pericolosa per altre. La differenza non sta nella complessità del compito, ma nelle conseguenze dell’errore. Un itinerario di viaggio sbagliato fa perdere mezza giornata. Un consiglio medico sbagliato può costare molto di più.

Quando non delegare mai le decisioni all'intelligenza artificiale

Esistono ambiti critici in cui l'AI non possiede il contesto reale, la sensibilità umana o la necessaria assunzione di responsabilità per guidare le nostre azioni quotidiane. Ecco tre ambiti in cui è sempre meglio non delegare la decisione finale all’AI, e tre in cui usarla senza alcuna esitazione.

1. Avventure all'aperto e sicurezza estrema

L’intelligenza artificiale è perfetta per trovare sentieri, identificare le domande da fare ai guardiaparco e ottenere consigli su percorsi verificati. Ma non è, e non dovrebbe essere, l’autorità finale per escursioni in montagna, campeggio in zone remote, attraversamenti di fiumi o qualsiasi attività all’aperto che dipenda dalle condizioni meteorologiche e dal terreno.

Il problema non è che il chatbot non sappia nulla di escursionismo. È che non sa cosa non sa. Non conosce le condizioni del sentiero oggi, non sa se il ponte è stato danneggiato dall’ultima pioggia, non tiene conto del proprio livello di preparazione fisica reale, e soprattutto, non ha conseguenze se sbaglia. I guardiaparco, le guide alpine e gli escursionisti esperti del posto, sì.

Esempio di prompt da utilizzare: Sto pianificando un’escursione a [destinazione]. Non darmi consigli sulla sicurezza o sull’attrezzatura, aiutami invece a preparare una lista di domande da fare alla guida alpina locale e al servizio guardiaparco prima di partire. Così l’AI prepara le domande, mentre gli esperti danno le risposte.

2. Diagnostica e salute personale

L’intelligenza artificiale può spiegare la terminologia medica complessa, aiutare a preparare le domande per un appuntamento medico e dare un’idea generale di cosa aspettarsi da un trattamento. Ma non deve mai essere l’ultima parola su cosa fare dal punto di vista medico.

Un chatbot che dice di non preoccuparsi per un sintomo che invece richiede attenzione immediata è uno scenario che nessuno vuole sperimentare. La differenza tra un medico e un chatbot non è solo la competenza, è la responsabilità. Un chatbot medico può riassumere la letteratura scientifica, ma non può sostituire il parere di un medico specialista. Minimizzare un sintomo pericoloso basandosi su una risposta automatica espone a rischi clinici inaccettabili per la propria salute.

Esempio di prompt: Ho un appuntamento con il mio medico per discutere di [argomento]. Aiutami a preparare le domande più importanti da fargli, spiega i termini tecnici che potrei incontrare e suggerisci cosa dovrei chiedere per capire meglio le opzioni disponibili. Anche in questo caso, l’AI prepara all’incontro, ma è il professionista a prendere le decisioni.

3. Scelte finanziarie e investimenti

Comprare una casa, avviare un’attività, investire i risparmi: sono decisioni con conseguenze a lungo termine che un chatbot affronta con la stessa disinvoltura con cui suggerisce una ricetta. Il rischio non è solo che l’AI sbagli, ma che lo faccia con un tono talmente sicuro da sembrare affidabile.

Un’allucinazione su un dato finanziario, come un tasso di interesse inventato o una norma fiscale obsoleta, può costare caro. L’AI può aiutare a capire i concetti e preparare le domande per un consulente finanziario, ma la decisione finale appartiene a un professionista che conosce la propria situazione specifica.

Prompt sicuro da utilizzare: Sto valutando [decisione finanziaria]. Non darmi consigli su cosa fare — aiutami a capire i pro e i contro di ogni opzione e a preparare le domande più importanti da fare al mio consulente finanziario.

Ambiti ideali per l'utilizzo quotidiano dell'AI

Al contrario, la tecnologia offre prestazioni eccellenti e prive di rischi elevati ogni volta che l'errore umano comporta conseguenze trascurabili e facilmente rimediabili.

1. Pianificazione di viaggi e vacanze

Le vacanze sono il territorio ideale dell’AI perché le conseguenze di un errore sono basse e il valore del lavoro di organizzazione è alto. Costruire un itinerario giorno per giorno, trovare le attrazioni migliori in base ai propri interessi, prevedere alternative per il maltempo e confrontare le opzioni di alloggio sono compiti in cui l’AI eccelle.

Esempio di prompt: Pianifica un viaggio di [durata] a [destinazione] per [numero di persone]. I nostri interessi includono [elenco]. Il budget è di [importo]. Costruisci un itinerario giorno per giorno con attività principali e alternative in caso di pioggia. Segnala cosa va prenotato in anticipo. L’unica regola resta quella di verificare le informazioni prima di prenotare: gli orari cambiano, i prezzi si aggiornano e i locali possono chiudere.

2. Organizzazione di feste, eventi e routine

Trovare il locale giusto, scegliere le decorazioni, creare liste della spesa, temi per feste e menu casalinghi sfrutta la rapidità di calcolo dell’AI per alleggerire il carico di lavoro organizzativo senza alcuna conseguenza negativa in caso di ripensamenti. Allo stesso modo, sudvidere il carico di lavoro lavorativo in blocchi temporali e pianificare le priorità quotidiane migliora l'efficienza personale sfruttando le capacità logiche dei moderni modelli di linguaggio.