Il 20 Febbraio scorso ho avuto la fortuna di partecipare all’evento gratuito organizzato dall’Osservatorio Digital Innovation del Politecnico di Milano con argomento “Innovare con l’Intelligenza artificiale, ma con i piedi per terra” in cui intervenivano alcune delle aziende italiane che la utilizzano o stanno investendo in essa.

Di seguito vi propongo delle slide riassuntive personali dell’evento arricchite di alcuni commenti personali.

Cosa ne pensi? Dimmelo su Twitter @_domenicomonaco oppure su Linkedin linkedin.com/in/domenicomonaco

L'articolo 3° ed. Artificial Intelligence: Learn to Fly! Innovare con l’AI, ma con i piedi per terra sembra essere il primo su Domenico Monaco.

Il giovane pilota francese è incappato in un errore di strategia che a mio parere è un’ottimo esempio di Ai-based Decision Making, gli elementi ci sono tutti: c’è un manager, un obiettivo, delle decisioni da prendere in tempi brevissimi, una strategia, dei dati e un software per il supporto alle decisioni che tra le altre cose fa uso di intelligenza artificiale (AI).

La domanda è: quando e quanto fidarsi di un sistema basato su Intelligenza artificiale ed il ruolo del manager.

Non sto qui a dilungarmi su come funziona la Formula 1, basti capire che durante le qualifiche lo scopo è percorrere la pista nel minor tempo possibile, tale tempo determinerà poi la posizione di partenza della gara. Il tutto con delle regole: un numero limitato di gomme e un numero prefissato sessioni dalle quali si può essere eliminati.

Il gioco di strategia si condensa nella capacità di fare un tempo sufficientemente basso da “passare alla successiva sessione” usando il minimo numero di gomme morbide e senza “mostrare il vero potenziale dell’auto” in quel circuito allo scopo di sfoderare l’asso nella manica alla fine.

É qui che le decisioni del manager della scuderia si fanno cruciali.

Ai-based Decision Making nelle organizzazioni

Oggi, nelle aziende come nella Formula 1, le decisioni si fanno sempre più complesse e si basano su un numero di dati sempre maggiore, per tali motivi si utilizzano sistemi basati anche su tecniche di intelligenza artificiale: questo processo decisionale prende il nome di AI-based Decision Making, un ambito di ricerca che studia la relazione tra i sistema a supporto delle decisioni, l’intelligenza artificiale e la capacità delle persone di prendere decisioni corrette.

Questo implica tutta una serie di problematiche come un’enorme quantità di dati, la solidità del sistema predittivo, la capacità dell’operatore umano di mettere in dubbio la decisione dell’AI, fattori di fiducia/sfiducia, robustezza e trasparenza dell’AI, ed infine informazioni sufficienti a supportare il processo decisionale.

Così, il ruolo del manager è diventato più complicato, perché ha un suggeritore AI-based che gode di un’ hype (inflacted expectations) esagerato, ma che è fallibile tanto quanto un operatore umano.

Per capire questo complesso processo decisionale basato su software dotati di algoritmi di intelligenza artificiale vorrei analizzare cos’è successo nella scuderia Ferrari.

Come funzionano le qualifiche in F1?

Le qualifiche si dividono in 3 sessioni (Q1, Q2 e Q3) dove [bwin]:

• Q1 – Tutti i piloti hanno 18 minuti per uscire in pista e segnare il loro miglior tempo, alla fine della sessione le 6 monoposto più lente sono eliminate e le rimanenti passano alla fase successiva;
• Q2 – dura 15 minuti e i piloti scendono nuovamente in pista per fare un nuovo giro veloce. La Q2 è fondamentale perché le monoposto che vi partecipano partiranno in gara con gli stessi pneumatici con cui hanno fatto il loro miglior tempo nella Q2. Alla fine del Q2 altre 6 macchine saranno eliminate mentre le più veloci vanno alla fase finale.
• Q3 – i piloti restanti si sfidano in una sessione di 12 minuti in cui solitamente ogni pilota effettua due giri veloci. La monoposto più veloce si aggiudica la Pole Position.

Cosa è successo a Charles Leclerc a Monaco?

Charles Leclerc non si era fermato alla pesa, dunque il team lo ha avvisato e lo ha accompagnato al box della Federazione per effettuare la procedura, alla fine della quale è rientrato nel suo garage. Qui l’errore di valutazione della squadra che lo ha penalizzato. [Sky Sport]

Leclerc non è stato fatto tornare in pista nel momento in cui i tempi di tutti i piloti che andavano abbassandosi, questo a differenza di Vettel che rientrato in pista per migliorarsi ed evitare l’eliminazione dalla Q1. Il tempo per rientrare c’era. La Q1 termina, ma il ferrarista ha un tempo non sufficiente per passare in Q2, dunque viene eliminato.

Leclerc: “Io ho chiesto per sapere se fossimo sicuri di farcela. Non ho ricevuto risposta. Poi, a un minuto dalla fine, hanno scoperto che era troppo tardi. Sono più deluso che arrabbiato”.

Come spiega [Motorsport]: durante le sessioni di qualifica un sistema informatico calcola automaticamente il tempo sul giro sufficiente per poter stare tranquilli, se si è sotto quel tempo si evita di rientrare in pista e consumate gomme utili magari nella sessione successiva o in gara.

Ma i sistemi informatici sono fallibili, quindi è qui che le valutazioni in tempo reale degli ingegneri entrano in gioco e “valutano il da farsi”,  serve della vera intelligenza umana, non artificiale.

Il problema è che oggi le attività della Formula 1 sono sempre più specializzate e frammentate al fine di raggiungere un’efficienza impensabile anche solo dieci anni fa.

Paradossalmente è stato il giovane Charles Leclerc a mettere in dubbio il suggerimento dei software, attribuendo ad ognuno dei piloti in pista il corretto peso specifico, ma la squadra lo ha fatto desistere, fidandosi di ciò che solitamente non sbaglia mai (il software).

Leclerc, perplesso:, “Dovrei uscire, penso che siamo un po’ troppo a rischio”, ha detto via-radio Charles ai suoi ingegneri, “No, abbiamo i dati e crediamo che tu sia al sicuro”, è stata la risposta.

AI-based Decision Making

Questo esempio che ho descritto da ricostruzioni di [Motorsport] e [Sky Sport] a mio parere è un ottimo esempio di Ai-based Decision Making, in qui la complessità nel prendere decisioni giusta è comunque in gran parte derivata dalla capacità di valutare la situazione d’insieme, ma quest’ultima arricchita dal fattore Artificial Intelligence (AI).

Ma cosa succede? Succede che oltre alla situazione in pista bisogna valutare il suggerimento del software, che sappiamo, si basa su un enorme quantità di dati, enormi capacità di calcoli ed algoritmi che “Dio solo sa cosa fanno” e quindi potenzialmente potrebbe aver “visto” qualcosa che noi banali esseri umani non siamo stati in grado di vedere.

É proprio questa “fiducia” nelle capacità del software che può portare in errore chi deve prendere una decisione, spinto quest’ultimo magari ad ignorare il proprio istinto in favore di un software che “fino ad oggi” non ha mai sbagliato.

In realtà tutto questo è riduttivo rispetto al problema delle decisioni basate su software di intelligenza artificiale, ma a mio parere è un ottimo esempio che mostra come un operatore umano deve essere messo in condizione di confutare le decisioni del software basato su AI, ma questo per essere fatto necessita di tutta una serie di soluzioni che vanno dall’uso di UX/UI adatte, dati ed informazioni a sufficienza a supporto della decisione dell’operatore.

Fonti:

• [Motorsport] https://it.motorsport.com/f1/news/fattaccio-ferrari-quando-lintelligenza-artificiale-conta-piu-della-logica/4396075/
• [Sky Sport] https://it.eurosport.com/formula-1/leclerc-mastica-amaro-ho-chiesto-piu-volte-se-il-tempo-fosse-sufficiente-sono-deluso_sto7290958/story.shtml
• [bwin] https://sports.bwin.it/it/news/altri-sport/formula-1-il-regolamento-di-prove-e-qualifiche

Cosa ne pensi? Dimmelo su Twitter @_domenicomonaco oppure su Linkedin linkedin.com/in/domenicomonaco

L'articolo Leclerc e la Ferrari a Monaco: un esempio di AI-based Decision Making sembra essere il primo su Domenico Monaco.

Ma oggi abbiamo una nuova criticità da risolvere: l’utilizzo su larga scala delle tecniche di AI. Se si vuole che abbia lo stesso livello di popolarità è necessario affiancarla da interfacce appositamente realizzate, ma non basta che siano “coinvolgenti”.

Per questo motivo ho iniziato una ricerca personale mirata ad esplorare qual’è lo stato dell’arte attuale delle user-interface a supporto delle tecniche di AI.Uno dei primi articoli che ho trovato è quello di Naïma van Esch intitolato “How to design for AI-enabled UI” [1] che ho deciso di tradurre in italiano ed arricchire di commenti personali.

Premetto che alcune parti possono apparire superficiali ed ingenue, ma è un primo articolo che ho deciso di tradurre e studiare che sarà arricchito in futuro.

Introduzione

L’intelligenza artificiale è ancora considerata come una tecnologia nascente (da un certo punto di vista), anche se esiste all’incirca dal 1950. Più precisamente è considerata nuova in quanto solo oggi grazie alla crescente potenza di calcolo e la disponibilità di grandi basi dati si possono apprezzare i primi risultati tangibili. Oggi l’intelligenza artificiale sta rapidamente sostituendo e supportando attività umane ripetitive e complesse attraverso processi mirati a risolvere precisi compiti.

Il termine intelligenza artificiale (AI) si riferisce a quell’insieme di tecniche ed algoritmi che imitano le funzioni cognitive tipicamente umane come l’apprendimento e la risoluzione di problemi.

Ma, come ho discusso in un’altro articolo (Che cos’è l’eXplainable AI e perché è importante – [8]), tali tecniche sono per lo più scatole nere che possono produrre effetti si sfiducia ed ansia negli utilizzatori finali. In oltre l’intelligenza artificiale è comunque un software realizzato da umani, dunque soggetto ad errori e pregiudizi tanto quanto il suoi creatori. Infine, l’intelligenza artificiale non “capisce” e non “impara” esattamente come accade per gli esseri umani, ma più banalmente segue istruzioni (complesse) per la quale è stata programmata, oppure non è in grado di comprendere sfumature o contesto.

In oltre alcune delle tecniche di AI sono ancora troppo facili da “ingannare” come il caso fatto emergere dal team di Google che ha dimostrato che basta un adesivo di un tostapane psichedelico per ingannare un sistema di riconoscimento delle immagine. [2][3]

Oppure come il recente caso della Autopilot di Tesla ingannata attraverso l’applicazione di adesivi applicati sulla strada che hanno indotto in errore il software dell’auto forzandola a cambiare erroneamente corsia.

E se ricordate anche durante il celebre evento del Super Bowl uno spot di Alexa che mostrava diverse disavventure degli utenti dell’assistente vocale, ma questo spot mandò in tilt milioni dispositivi in tutto il mondo semplicemente attivandolo da remoto attraverso l’audio dei dispositivi TV. [4]

E questi sono solo alcuni dei casi più iconici e divertenti, ma come questi potrebbero esisterne tantissimi altri e dalle implicazioni più rilevanti.

Secondo l’autrice dell’articolo [1], gli esempi di “fallimenti” delle AI sono dovuti al fatto che molti degli algoritmi di AI sono alimentati da big data che rappresentano situazioni ideali senza considerare quei “piccoli dati” relativi a situazioni impreviste o scenari critici. Ecco perché è importante per i progettisti non solo prevedere gli scenari ideali (dove tutto va come il previsto), ma soprattutto far emergere e preparare adeguatamente l’algoritmo di AI a quelli imprevisti.

Quante tipologie di AI esistono?

Secondo Chris Noessel, l’intelligenza artificiale può essere suddivisa in tre categorie [5] [6]:

• Artificial Narrow Intelligence (ANI): detta anche Intelligenza artificiale ristretta, intelligenza che può apprendere e dedurre, ma non può generalizzare – solitamente focalizzata su un compito. Questa è fondamentalmente l’intelligenza artificiale che esiste oggi;
• Artificial General Intelligence (AGI): Intelligenza generale, un’intelligenza di una macchina simile a quella di un cervello umano;
• Artificial Super Intelligence (ASI): la super intelligenza, un’intelligenza che supererebbe di gran lunga quella degli umani;

Nell’articolo che ho cercato di tradurre e riassumere quando parla di Intelligenza Artificiale si riferisce all’Artificial Narrow Intelligence (ANI), ovvero la cosiddetta Intelligenza Artificiale ristretta.

Cosa sono le AI-enabled User-Interface?

Perché l’intelligenza artificiale sia utilizzata dagli esseri umani, è necessaria un’interfaccia utente, questo come qualsiasi cosa realizzata attraverso le tecnologie informatiche e non. L’interfaccia utente in questo caso è il mezzo attraverso il quale si realizzano le interazioni tra uomo e macchina e quindi in questo caso tra uomo ed AI.

Quindi una delle domande che si pone l’autrice dell’articolo è: Quali sono le AI-enabled User Interface?

L’autrice usa un’interessante definizione che in lingua Italiana dovrebbe essere più o meno: “È un’interfaccia con funzioni cognitive simulate atte a facilitare l’interazione uomo e macchina.”

In realtà non dobbiamo andar così lontano per trovare un’esempio di queste interfacce con “funzioni cognitive simulate”, ne sono certamente un esempio Amazon Alexa, il termostato Nest, Jarvis, IBM Watson, iRobot Roomba, Netflix e Spotify e moltissime altre. Queste sono solo forse gli esempi più lampanti dell’utilizzo dell’intelligenza artificiale si vedano le funzioni di auto-completamento di Google o gli effetti fotografici di Instagram che invece sono sicuramente basati su tecniche di AI, ma non lo sembrano o per lo meno non lo percepiamo.

L’intelligenza artificiale è implementata ovunque, ad esempio un motore di ricerca, dietro la libreria fotografica o in un aspirapolvere, ma l’interfaccia con essa potrebbe essere più o meno evidente in base alle necessità di interazione.

In particolare nell’interfaccia utente AI-Enabled, l’intelligenza artificiale ha la capacità di comprendere i comandi dell’utente e presentare all’utente le risposte più affini (si spera) agli obiettivi utente sulla base di tutti i dati disponibili che possiede. Dunque in questo senso l’interazione con l’AI dovrà essere facile, semplice, efficiente ed efficace in modo che gli utenti possano raggiungere facilmente i loro obiettivi.

Dunque oggi una delle sfide che i progettisti devono affrontare è come progettare un’interfaccia di tipo AI-Enabled con la quale gli utenti possano interagire naturalmente ed in modo fiducioso. A tal proposito l’autrice propone alcuni principi per la progettazioni di interfacce AI-enabled User-Interface.

Principi di progettazione per AI-enabled User Interface

L’autrice espone alcuni principi di progettazione di AI-enabled User Interface emersi attraverso il suo lavoro di progettazione delle UX a supporto di tecnologie AI, raggruppandoli in quattro principi di base che possono essere applicati durante la progettazione di interfacce di tipo Ai-Enaled.

Le categorie sono quattro:

• gestione delle scoperte e delle aspettative;
• design per il perdono;
• trasparenza dei dati e sartoria;
• privacy, sicurezza e controllo;

… ma andiamo con ordine.

1. Gestione delle scoperte e delle aspettative dell’utente

Per iniziare è necessario definire bene le aspettative degli utenti per evitare che essi si costruiscano false aspettative rispetto all’interfaccia AI-enaled

1. Gli utenti devono essere consapevoli di ciò che lo strumento può e non può fare – Questo perché le persone non hanno ancora familiarità con l’intelligenza artificiale e quindi il design dell’interfaccia deve possedere più dettagli “guida” possibili. É necessario gestire le aspettative utenti e lasciare che l’utente capisca quali siano le possibilità che lo strumento offre, come impara e cosa deve fare l’utente per raggiungere i propri obiettivi. Ad esempio, l’unica aspettativa che rispetto ad un dispenser di cibo animali domestici è quello di nutrire il mio gatto più volte al giorno senza la mia presenza fisica. Tuttavia, l’alimentatore intelligente di Petnet offre più funzionalità, in particolare l’intelligenza artificiale utilizza il peso del gatto, età, razza e livello di attività per somministrare la corretta porzione di cibo giornaliera, tali funzionalità devono essere resi chiari affinché l’utente sappia quali sono le sue potenzialità; [7]
2. Gli utenti dovrebbero aspettarsi il la massima qualità nelle risposte a seguito di un’input minimo – In questo senso è necessario progettare il sistema in modo che l’utente possa aspettarsi un prodotto di valore ottenuto da un’input naturale. L’input naturale può essere definito come un’input che l’utente considera come naturale rispetto al suo modo di comunicare e a i suoi obiettivi, in altre parole è definibile come input a “costo -cognitivo- zero”. L’interfaccia dovrebbe essere facile da usare, efficiente e deve permettere di raggiungere gli obiettivi dell’utente in modo semplice ed efficiente. Nell’esempio del dispenser di cibo per gatti questo si potrebbe tradurre in un’unica configurazione iniziale, oppure in una serie di notifiche che avvisano l’utente che la scorta di cibo si sta esaurendo. In altri termini l’utente deve solo configurare l’oggetto e ripristinare la scorta di cibo;
3. L’interfaccia dovrebbe assecondare un suo utilizzo per scopi inaspettati – L’uso dell’AI nella vita quotidiana delle persone è ancora in una fase iniziale dunque gli utenti potrebbero scoprire la possibilità di utilizzare la tecnologia in modi per cui non è stata progettata. Ecco perché progettare per la scoperta è fondamentale in ottica di scoprire le -inaspettate- possibilità dell’uso dello strumento AI. Con un esempio naive, immaginiamo di aver perso un orecchino di piccole dimensioni in un grande tappeto, potrei semplicemente avviare il mio Roomba e lasciarlo vagare per la stanza, con la certezza che lui sonderà l’intero pavimento e alcuni minuti dopo ritrovare l’orecchino nel contenitore estraibile della polvere;
4. Informare l’utente sugli imprevisti – l’AI commetterà degli errori, quasi sicuramente, perché i progettisti umani che l’hanno realizzata sono inclini all’errore e non sono onniscienti, quindi è quasi certo che gli utenti incontreranno scenari che i progettisti non hanno previsto e incluso negli algoritmi. Dunque è necessario fare in modo che l’utente sappia che potrebbero esserci degli errori e quando ci sono di renderli evidenti. Questo punto è talmente critico rispetto alla progettazione di interfacce utente a supporto delle AI che l’autrice ha dedicato un’intero principio di seguito.

2. Design per il perdono dell’AI

L’intelligenza artificiale commetterà errori. Dunque è necessario progettare l’interfaccia utente in modo che gli utenti siano inclini a perdonarlo e/o mitigare l’effetto.

1. Progetta lo strumento in modo che gli utenti perdonino l’AI quando commette errori – Uno dei modi per progettare per il perdono è utilizzare un’interfaccia utente che simula creature o oggetti che gli esseri umani sono già naturalmente inclini a perdonare, ad esempio l’umorismo utilizzato da Siri o Alexa;
2. Progettazione un’interfaccia che permetta di utilizzare l’intelligenza artificiale senza connettività Internet – È importante evitare di progettare l’interfaccia utente che si basa esclusivamente sulla connettività Internet, gli utenti dovrebbero ottenere valore dall’AI indipendentemente dal fatto che sia connesso a Internet, oppure un problema inaspettato nella connettività non dovrebbe degradare eccessivamente le capacità dell’AI;

3. Trasparenza dei dati e personalizzazione

É necessario realizzare un’interfaccia che sia trasparente nella raccolta dei dati e offrire agli utenti la possibilità di personalizzare tale raccolta

1. L’interfaccia dovrebbe comunicare trasparenza nell’utilizzo dei dati utente, offrire loro la possibilità di monitorare i dati raccolti e personalizzare le modalità di raccolta degli stessi. Non è necessario mostrare i funzionamenti interni degli algoritmi all’utente, ma è importante menzionare quali dati vengono utilizzati affinché quest’ultimo ne sia consapevole;
2. É necessario progettare gli input utente tali da abilitare l’algoritmo di AI di apprendere, in oltre gli algoritmi di AI – spesso – non sono in grado di applicare il contesto o la semantica a tali dati, dunque è necessario fornire agli utenti la possibilità di personalizzare i dati in modo da fornire all’algoritmo di AI contesto ed il significato di tali dati. Le macchine, oggigiorno hanno ancora bisogno degli esseri umani per costruire un contesto intorno ai dati e questo è possibile realizzarlo tramite feedback appositamente progettati rispetto agli obiettivi utente e l’algoritmo che si sta realizzando. Ne è un esempio “Google Translate” che offre la possibilità di scegliere considerata la migliore o addirittura di suggerire delle varianti;
3. Gli utenti dovrebbero essere in grado di regolare ciò che l’intelligenza artificiale ha imparato – l’AI si configura in base all’apprendimento automatico e al monitoraggio del comportamento dell’utente. Tuttavia, l’intelligenza artificiale commetterà errori e produrrà previsioni che gli utenti non desiderano. Pertanto, oltre a progettare per la scoperta e il perdono, offrire all’utente di personalizzare le previsioni a loro piacimento, ad es. regolando ciò che l’AI ha imparato. Questo è ciò che rende l’intelligenza artificiale particolare rispetto a quella umano, essa può essere regolata, aggiustata o addirittura azzerata, tutte cose che non possono accadere con gli esseri umani.

4. Privacy, sicurezza e controllo

Guadagna la fiducia dell’utente fornendo il controllo sulla la privacy, la sicurezza e le funzionalità dell’intelligenza artificiale.

1. É necessario progettare l’interfaccia in modo che faccia percepire la massima sicurezza possibile – Gli utenti, sapendo che l’intelligenza artificiale avrà dati personali cruciali, personali e riservati alla privacy, è importante che l’interfaccia utente faccia del suo meglio per proteggere i miei dati. Progettare questo nell’interfaccia utente non solo per consentire all’utente di percepire l’intelligenza artificiale, ma anche per proteggere i dati e proteggere la loro privacy;
2. Fornire degli esempi e delle funzionalità di test all’utente – Soprattutto quando un prodotto è nuovo, gli utenti vogliono verificare se può realmente offrire ciò che promette di fare. Quando l’utente sa che il prodotto offre effettivamente ciò che ha promesso di fare, l’utente si fiderà di più del prodotto. Questo è ancor giù importante per le tecnologie supportate da AI che allo stato attuale non godono ancora di sufficiente fiducia diffusa;
3. Progettare l’interfaccia in modo che l’utente possa prendere il controllo ogni volta che l’utente lo desidera. Ne è un esempio il sistema di Autopilot di Tesla che permette di prendere il controllo dell’auto in qualsiasi momento;
4. L’IA dovrebbe imparare dall’intervento (presa di controllo) dell’utente – Quando un utente interviene e prende il controllo dell’IA, lascia che l’AI impari da questo comportamento. L’intelligenza artificiale dovrebbe ricordare l’intervento al fine di dare un risultato migliore all’utente per la prossima volta;
5. L’IA non dovrebbe fare nulla senza il consenso dell’utente – l’AI dovrebbe chiedere revisioni e il permesso di eseguire compiti che hanno conseguenze significative. Sì, l’AI dovrebbe essere proattiva, tuttavia, l’utente è ancora il decisore finale e lui dovrebbe confermare se vogliono che l’AI faccia davvero una data azione;
6. L’IA dovrebbe informare gli utenti degli errori di sistema – Avvisare l’utente quando ci sono ostacoli nell’esecuzioni determinati compiti e offrire soluzioni per correggere l’evento critico.

Il takeaway

Dunque, facciamo un breve riassunto da tenere sempre sottomano quando si progetta un’interfaccia AI-enabeld.

Quando si progetta per l’intelligenza artificiale, avere sempre in mente l’utente. Assicurati che il prodotto sia facile da usare, utile, efficiente e che sia considerato affidabile dagli utenti.

1. Gestione delle scoperte e delle aspettative dell’utente: É necessario definire bene le aspettative degli utenti per evitare che essi si costruiscano false aspettative rispetto all’interfaccia AI-enaled

1. Gli utenti devono essere consapevoli di ciò che lo strumento può e non può fare;
2. Gli utenti dovrebbero aspettarsi il la massima qualità nelle risposte a seguito di un’input minimo;
3. Dovrebbe assecondare l’utilizzo dell’interfaccia a scopi inaspettati
4. Informare l’utente sugli imprevisti;

2. Design per il perdono dell’AI: L’intelligenza artificiale commetterà errori. Dunque è necessario progettare l’interfaccia utente in modo che gli utenti siano inclini a perdonarlo e/o mitigare l’effetto

1. Progettare lo strumento in modo che gli utenti perdonino l’AI quando commette errori
2. Progettazione un’interfaccia che permetta di utilizzare l’intelligenza artificiale senza connettività Internet

3. Trasparenza dei dati e personalizzazione: É necessario realizzare un’interfaccia che sia trasparente nella raccolta dei dati e offrire agli utenti la possibilità di personalizzare tale raccolta

1. L’interfaccia dovrebbe comunicare trasparenza nell’utilizzo dei dati utente;
2. É necessario progettare gli input utente tali da abilitare l’algoritmo di AI di apprendere, in oltre gli algoritmi di AI;
3. Gli utenti dovrebbero essere in grado di regolare ciò che l’intelligenza artificiale ha imparato;

4. Privacy, sicurezza e controllo: Ottieni fiducia guidando la privacy, la sicurezza e la capacità di controllare l’intelligenza artificiale

1. É necessario progettare l’interfaccia in modo che faccia percepire la massima sicurezza possibile;
2. Fornire degli esempi e delle funzionalità di test all’utente
3. Progettare l’interfaccia in modo che l’utente possa prendere il controllo ogni volta che l’utente lo desidera
4. L’IA dovrebbe imparare dall’intervento (presa di controllo) dell’utente
5. L’IA non dovrebbe fare nulla senza il consenso dell’utente
6. AI dovrebbe informare gli utenti degli errori di sistema

Riferimenti:

1. [1] How to design for AI-enabled UI, Naïma van Esch
2. [2] A Simple Sticker Tricked Neural Networks Into Classifying Anything as a Toaster, Melanie Ehrenkranz
3. [3] Brown, Tom B., et al. “Adversarial patch.” arXiv preprint arXiv:1712.09665 (2017)
4. [4] Lo spot Amazon Alexa del Super Bowl manda in blackout il pianeta, Daniele Piccinelli
5. [5] Noessel, C. (2017). Designing Agentive Technology. Rosenfeld Media
6. [6]
   L’Intelligenza Artificiale: la rivoluzione che cambierà il mondo, Tagliaerbe
7. [7] Petnet
8. [8] Che cos’è l’eXplainable AI e perché è importante, Domenico Monaco

Cosa ne pensi? Dimmelo su Twitter @_domenicomonaco oppure su Linkedin linkedin.com/in/domenicomonaco

L'articolo AI-enabled User-Interface: linee guida per la progettazione di interfacce sembra essere il primo su Domenico Monaco.

Le organizzazioni si stanno affidando sempre di più all’Intelligenza Artificiale e ai modelli di apprendimento automatico, ma non è tutto rose e fiori quello che promette l’intelligenza artificiale ed una delle loro maggiori preoccupazioni è “come possono garantirne l’affidabilità”.

Tra le promesse dell’Intelligenza Artificiale (AI) troviamo il miglioramento della comprensione umana attraverso l’automazione del processo decisionale, ovvero gli algoritmi di AI possono “aiutare le persone a scoprire informazioni che prima non potevano conoscere“, come dichiara Josh Parenteau, Director of Market Intelligence di Tableau. [1]

Nel contempo, secondo Gartner entro il 2020 l’AI sarà utilizzata dall’85% dei CIO [2], quindi nei prossimi anni si avranno un numero sempre maggiore di organizzazioni che dipenderanno sempre più dai modelli di apprendimento automatico. Con un crescendo di preoccupazioni su come avere la certezza che i suggerimenti forniti dagli algoritmi di AI siano affidabili, corretti ed etici.

L’AI come una BlackBox

Oggigiorno molte delle applicazioni di apprendimento automatico non consentono di capirne appieno il loro funzionano o la logica che ne sta dietro per un effetto chiamato “BlackBox”, secondo per cui i modelli di apprendimento automatico sono per lo più scatole nere. [3][4][5]

Tale caratteristica è considerata uno dei più grandi problemi dell’applicazione delle tecniche di AI, essa rende le decisioni della macchina non trasparenti e spesso incomprensibili anche agli occhi degli esperti o degli stessi sviluppatori, il che riduce la fiducia nel ML nello specifico e nell’IA in generale.

Quindi comprendere le ragioni che stanno alla base delle previsioni degli algoritmi di AI oggi è di fondamentale importanza in quanto tale comprensione può non solo infondere una fiducia maggiore negli algoritmi di AI, ma anche fornire spunti sul modello o effettuare operazioni di debug [6].

Uno dei motivi di un così forte interesse nella comprensione dei processi che stanno dietro a tali algoritmi troviamo anche l’aumento della sensibilità pubblica verso la privacy attraverso l’introduzione di varie legislazioni a livello internazionale come il GPDR che impongono livelli elevati di protezione della sfera privata e allo stesso tempo trasparenza nel trattamento delle informazioni, cosa che attualmente gli algoritmi di AI faticano ad realizzare.

Il tutto si traduce in un crescente bisogno di trasparenza negli algoritmi di AI, essa è cruciale per un’efficace distribuzione dei sistemi intelligenti non solo per garantire che i modelli funzionino così come sono stati progettati ma anche per infondere fiducia negli utilizzatori, così che possano prendere decisioni senza timore di fare scelte sbagliate.

Il bisogno di trasparenza nell’ambito dell’AI ha portato alla crescita della cosiddetta eXplainable AI (XAI), che rappresenta un insieme di tecniche che permettono di comprendere e presentare una visione trasparente dei modelli di apprendimento automatico e degli algoritmi di AI in generale.

Che cos’è l’eXplainable AI (XAI): l’AI spiegabile

L’eXplainable AI non è un campo nuovo, esistevano architetture di ragionamento per supportare sistemi IA complessi già dagli anni 80’, quindi la spiegabilità è vecchia almeno quanto la prima IA e può essere vista come una naturale conseguenza del design dei sistemi di intelligenza artificiale. [1]

Ma oggi, data la portata dei cambiamenti introdotta dagli algoritmi di AI, la spiegabilità (comprensione) degli algoritmi di AI è tornata alla ribalta. Il futuro dell’IA, probabilmente, dipenderà dalla sua capacità di consentire alle persone di collaborare con le macchine per risolvere problemi complessi. Come ogni collaborazione efficiente, ciò richiede una buona comunicazione, fiducia, chiarezza e comprensione e l’eXplainable AI ha appunto lo scopo di affrontare tali sfide. [9]

Ad esempio i leader di settore nelle organizzazioni ed in particolare quelle che hanno a che fare con decisioni con una forte componente di rischio richiedono ai team di utilizzare modelli più comprensibili e di fornire documentazione di come i modelli sono stati costruiti. [7]

Cosa si intende esattamente con questa AI spiegabile?

L’articolo [7] esprime che l’attuali tecnologie di deep learning sono in grado di elaborare enormi volumi di dati, identificando gli schemi nascosti, e fornendo nuovi suggerimenti attraverso l’utilizzo di enormi basi di dati, ma tutte queste abilità di inferire in automatico conclusioni ha il limite di non spiegarne il ragionamento e le ragioni che stanno dietro a tali deduzioni.

Quest’ultimo può essere realizzato attraverso l’Explainable AI che mira a spiegare perché la AI è giunta a una determinata conclusione e con quali modalità.

Ciò può essere fondamentale in ambiti come la ricerca medica sul cancro, in cui anche da un punto di vista etico, prima di sottoscrivere la correttezza dei suggerimenti se ne deve verificare le fonti della letteratura accademica in materia, e comprendere perché l’algoritmo sia giunto a quel dato risultato. [7]

L’eXplainable AI è importante per l’human-in-the-loop

L’eXplainable AI mira a creare una serie di tecniche che producono modelli più spiegabili, mantenendo al contempo un livello elevato delle funzionalità di ricerca, apprendimento, pianificazione e prestazioni nel ragionamento: ottimizzazione, accuratezza, precisione; e nel contempo consentire agli utenti umani di comprendere, fidarsi adeguatamente e gestire efficacemente la generazione emergente di sistemi di intelligenza artificiale realizzando realmente quello che viene chiamato human-in-the-loop. [9] [3]

Le iniziative di rendere l’AI trasparente hanno innescato diversi sforzi accademici e industriali che hanno prodotto tecnologie e risultati che forniscono spiegazioni principalmente alle esigenze degli ingegneri di intelligenza artificiale. [8]

Tuttavia, ci sono ben pochi lavori nel fornire spiegazioni che supportino le esigenze di proprietari di aziende, sviluppatori di software e consumatori che svolgono tutti ruoli significativi nello sviluppo del servizio e nel ciclo di utilizzo.

Dunque per avere un impatto dirompente nelle organizzazioni, è necessario avere fiducia nell’AI e come chiarisce Takashige il successo dell’AI dipende anche dalla capacità d’introdurre una AI diversa, umano-centrica, in grado di superare i limiti di quella attuale: in altre parole più adatta a collaborare con le persone per arrivare alla co-creazione di nuovo valore e innovazione. [7]

Come dimostra un recente workshop tonutosi alla conferenza AAAI-19 [10] il quale ha chiesto ad esperti di tutto il mondo di rispondere a domande del tipo “Cosa è eXplainable AI (XAI)? Perché è importante? Quali sono le metriche per le spiegazioni? In quali campi d’applicazione è fondamentale?”, ma soprattuto “Come Funziona?”

Rispondere a queste domande può essere utile perché, come esprime l’articolo di IBM [11], “Rendere l’intelligenza artificiale più trasparente potrebbe essere la chiave per la sua adozione più ampia.”

Tuttavia, l’impatto dell’eXplainable AI potrebbe non essere sempre positivo, ad esempio se le aziende fossero costrette a rivelare dettagli sui propri algoritmi potrebbe significare che stanno in effetti divulgando idee e proprietà intellettuale. E non è tutto: sorgono poi domande su cosa intendiamo esattamente per “spiegabile”?

Dunque è chiaro che questo campo è ancora tutto da definire, ma certamente uno dei trend futuri da tenere d’occhio.

l’Articolo su Researchgate:

• [ITA] Che cos’è l’eXplainable AI e perché è importante
• [ENG] What is the Explainable-Ai and why is important

Riferimenti:

• [1] https://www.tableau.com/it-it/reports/business-intelligence-trends/machine-learning
• [2] https://www.gartner.com/smarterwithgartner/2018-will-mark-the-beginning-of-ai-democratization/?_fsi=hncFpMGP
• [3] Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why Should I Trust You?” (pp. 1135–1144). https://doi.org/10.1145/2939672.2939778
• [4] Explainable AI: The New 42? – Randy Goebel 
• [5] Current Advances, Trends and Challenges of Machine Learning and Knowledge Extraction: From Machine Learning to Explainable AI – Andreas Holzinger
• [6] Kulesza, T., Burnett, M., Wong, W-K. & Stumpf, S. (2015). Principles of Explanatory Debugging to personalize interactive machine learning. In: O. Brdiczka & P Chau (Eds.), Proceedings of the 20th International Conference on Intelligent User Interfaces. (pp. 126-137). New York, USA: ACM. ISBN 9781450333061
• [7] https://www.zerounoweb.it/analytics/cognitive-computing/fujitsu-la-nostra-ai-spiega-il-perche-delle-sue-conclusioni/
• [8] Evaluating Explanations by Cognitive Value, Ajay Chander
• [9] https://xaitutorial2019.github.io/
• [10] https://aaai.org/Conferences/AAAI-19/aaai19tutorials/
• [11] https://www.intel.it/content/www/it/it/it-managers/explainable-ai.html

Immagini

• https://medium.com/ritual-design/culture-meets-artificial-intelligence-a2ad6dc82bb7
• https://www.scientificamerican.com/article/the-search-for-a-new-test-of-artificial-intelligence/
• https://m.sohu.com/n/482461485/?wscrid=95360_7

Cosa ne pensi? Dimmelo su Twitter @_domenicomonaco oppure su Linkedin linkedin.com/in/domenicomonaco

L'articolo Explainable AI: cos’é l’AI spiegabile e perché è importante sembra essere il primo su Domenico Monaco.