Un algoritmo è buono o cattivo?steemCreated with Sketch.

in ita •  5 months ago 

Penso di dire qualcosa di scontato e banale se affermo che siamo sempre più immersi nella Società dei dati. Questa realtà è talmente pervasiva nella nostra vita che, praticamente, ormai non ci accorgiamo nemmeno più di essere dominati e circondati da aziende che fagocitano nel nostre informazioni.

Per fare un paragone calzante, siamo dei pesci come in quella storia nella quale veniva chiesto "Com'è l'acqua" ed il pesce rispondeva "Scusa, non capisco: quale acqua?" Ecco i dati che ci circondano sono come l'acqua per noi pesci che ci viviamo dentro senza nemmeno accorgercene.


Immagine CC0 Creative Commons da Pixabay

Ogni giorno ci svegliamo e la prima cosa che facciamo è guardare lo schermo del nostro smartphone. Ce lo portiamo dietro come farebbe un carcerato con il proprio braccialetto elettronico di controllo ma a differenza di quest'ultimo ne siamo contenti perché è una sorta di status symbol al quale non possiamo rinunciare volontariamente.

Questi aggeggi che ci portiamo dietro sanno tutto di noi: le nostre preferenze culinarie, se facciamo sport e quando, se fumiamo, se beviamo alcolici, il nostro stile di guida e persino con chi dormiamo. e lo trasmettono a diverse società private quali, in primis le solite note, Facebook e Google ma anche i gestori di altri servizi.

I nostri dati vengono tritati tramite algoritmi che, oltre ai dati acquisiti, cercano di derivare una serie di metadati ovvero informazioni dedotte da quelle fornite più o meno consapevolmente dall'utente e spesso più sensibili. Ad esempio qual'è la nostra aspettativa di vita, il nostro orientamento sessuale o politico, le nostre abitudini di vita nel tempo libero, i nostri gusti sportivi.

Il fatto è che questi dati non dormono mai. Vengono elaborati e rivenduti ad altre società per determinare il prezzo di beni e servizi che acquistiamo.

La domanda quindi è:

Tutto questo è un bene o un male?

Penso che, come sempre, la risposta stia nel mezzo ma prima di tutto cerchiamo di comprendere cosa sia un algoritmo. L'esempio che penso sia più calzante in assoluto è la ricetta della torta di nonna Pina:

Prendi gli ingredienti A, B, C; Impasta con A qb. B qb. C in numero y, metti nel forno per X minuti, guarnisci; servire calda.

Ecco l'algoritmo è proprio questo: prende degli ingredienti (i nostri dati), li elabora e ne restituisce un risultato pronto all'uso. Ci sono però tre differenze fondamentali con la torta della nonna:

  1. Gli algoritmi sono dati in pasto a delle macchine che, a differenza di nonna Pina, possono lavorare 24/7 e su scala mondiale. E questo "piccolo" dettaglio cambia radicalmente la prospettiva del fenomeno.
  2. Gli algoritmi, a differenza della ricetta, sono sconosciuti ed opachi. Se chiedi la ricetta alla nonna, questa sarà ben contenta di condividere con te la sua conoscenza mentre se lo chiedi ad una società privata come, ad esempio, Google non riuscirai mai a conoscere cosa vi sia dietro.
  3. I destinatari della torta così come dell'algoritmo siamo noi ma mentre possiamo rifiutarci di gustare la prelibata torta di nonna, non possiamo rifiutarci di essere l'oggetto manipolato dagli algoritmi.

Ma... Gli algoritmi sono buoni o cattivi?

In alcuni casi penso possano essere buoni. Se utilizzati per fornirci una pubblicità mirata possono anche farci risparmiare tempo. Dato che gli algoritmi sanno dove vogliamo andare in vacanza quest'anno o quale libro voglio comprare dopo aver terminato quello che sto leggendo, magari possono suggerirmi su quale sito ci sia il prezzo migliore per il servizio o il bene che desidero acquistare.

Il problema arriva quando gli algoritmi vengono utilizzati in campi dove valutano delle informazioni particolarmente impattanti sulla nostra vita in modo cosiddetto "oggettivo". Ma facciamo tre esempi per non rimanere sul vago:

  • Scuola: la tendenza nell'istruzione degli ultimi anni è quella di infarcire i compiti in classe di test a risposta multipla rispetto a compiti a risposta aperta. Questi test sembrano "oggettivi" e i risultati possono essere utilizzati in massa per valutare se una classe o una provincia o una regione abbiano risultati migliori rispetto agli anni precedenti o ad altri istituti scolastici. Talvolta, inoltre, potrebbero essere valutati persino gli insegnanti. Ma cosa valutano davvero? Quanto una determinata classe conosce oppure la sua bravura nel passare un test a risposta multipla?
  • Sanità: poiché Google e Facebook sanno se faccio sport e in quale quantità, sanno se corro, se bevo e se fumo, possono dedurre se sono a maggiore o minore rischio di infarto o di altre malattie. Se vendessero queste informazioni a strutture sanitarie private specializzate (e non prendiamoci in giro: ci stanno portando giorno dopo giorno verso questa direzione), allora coloro che hanno "più probabilità di vivere" potrebbero essere più avvantaggiati rispetto agli altri.
  • Assicurazioni auto: il nostro smartphone ha un GPS integrato. Per altro le assicurazioni ci provano da anni con le "scatole nere" a monitorarci con il GPS. In base al nostro stile di guida, al territorio nel quale ci muoviamo etc potrebbero decidere, nel caso migliore, di abbassare o aumentare il premio da pagare a noi associato mentre nel caso peggiore potrebbero persino rifiutarsi di assicurarci.

Beh, personalmente tutto questo mi fa paura... tanta paura... Gli algoritmi per come li conosciamo oggi hanno tre caratteristiche fondamentali. Essi sono:

  • Opachi (nessuno ne conosce esattamente le logiche sottostanti che sono segreto industriale)
  • Scalabili (possono essere applicati a poche persone quanto sul globo intero)
  • Dannosi (possono danneggiare le persone rendendo di fatto inaccessibili beni o servizi)

Il problema dell'opacità, a mio avviso, è uno dei fattori più importanti. Chi mi dice che nell'algoritmo non ci siano banali errori di programmazione? Ogni software, infatti, è affetto dai cosiddetti bugs ovvero errori da correggere ma come posso affidare la mia esistenza ad un software costellato da errori? Se l'errore fosse umano allora potrei appellarmi. Potrei contattare l'umano che ha effettuato la valutazione e provare a chiarire le cose ma gli algoritmi sono inappellabili. Nessuno conosce con esattezza il motivo della loro sentenza e nessuno può richiedere di conoscere le logiche utilizzate.

Tutto questo, lo ribadisco, mi fa davvero tanta tanta paura!

Ma soprattutto chi mi dice che in questi algoritmi non ci siano dei pesi che non dovrebbero esserci e di natura discriminatoria? Ad esempio potrebbe esserci un peso che limita le mie possibilità assicurative: chi mi dice che nel caso in cui io voti per un determinato partito, poiché la compagnia assicurativa è di destra o di sinistra io non sia avvantaggiato o penalizzato; oppure potrebbe esserci un peso che limita le mie capacità sanitarie per qualche fattore discriminatorio: chi mi dice che nel caso in cui io sia eterosessuale o omosessuale l'algoritmo non valuti in maniera diversa il rischio di malattie veneree penalizzandomi o avvantaggiandomi durante un intervento in ospedale; o, infine, potrebbe esserci un peso che limita la mia formazione scolastica discriminando la mia origine geografica rispetto ad altre: chi mi dice che l'algoritmo non avvantaggi gli studenti che arrivano dal Piemonte e Lombardia rispetto a Napoli e Palermo.

Chi mi dice che non sia così? Chi ti dice che non sia così? Chi ci dice che non sia così?!

Beh, penso che la consapevolezza sia la prima arma verso gli algoritmi. Ma anche l'idea di parlare di armi mi terrorizza. Essere consapevoli che esistano gli algoritmi e che gestiscono le nostre vite è già un passo importante. Personalmente da oltre un anno utilizzo DuckDuckGo come motore di ricerca che predilige la privacy e, per navigare sul web, utilizzo Brave Browser; limito inoltre all'osso l'interazione sui social networks ed ho anche cancellato la app di Facebook dallo smartphone accedendo al social network solo tramite il browser.

Ma questi sono piccoli passi. Tuttavia, come si suol dire: "la strada che percorriamo è composta da piccoli passi... sta a noi percorrerla fino alla fine!"

E voi cosa ne pensate su questo argomento? Avevate mai pensato a questo aspetto della nostra vita in questi termini?


Authors get paid when people like you upvote their post.
If you enjoyed what you read here, create your account today and start earning FREE STEEM!
Sort Order:  

Non basta disinstallare Facebook (forse il più pericoloso tra quelli citati) perché attraverso i bottoni social, riescono a tracciare anche le persone che non sono loro utenti. Bisogna quindi essere sicuri di buttare via i cookie almeno ogni volta che si chiude il browser. Per il resto io non provo paura, anche perché vige la regola del profitto, per cui alla peggio anche se sei profilato al millimetro, quelli sono li per cercare di vendere qualcosa e con la competizione non stanno a guardare certi parametri. Diverso però è il discorso se quando ad esempio fai un colloquio di lavoro e il futuro potenziale datore chiede a questi soggetti che profilazione hai. Ecco li la cosa, non essendoci il profitto diretto di mezzo, può essere dannosa, perché viene fuori magari qualcosa magari di errato solo perché hai visitato un sito una volta. Per una volta do atto all'Europa di averci provato, specie con Facebook, certo poi il risultato è stato peggiore della toppa come si dice, per cui ci abbiamo rimesso noi, mentre marchetto se la ride.

!trdo
!giphy

Congratulations @tosolini, you successfuly trended the post shared by @vittoriozuccala!
@vittoriozuccala will receive 0.00042525 TRDO & @tosolini will get 0.00028350 TRDO curation in 3 Days from Post Created Date!

"Call TRDO, Your Comment Worth Something!"

To view or trade TRDO go to steem-engine.com
Join TRDO Discord Channel or Join TRDO Web Site

Anche io uso Brave, il tuo post esprime alcune paure che sono più che fondate.
In futuro ci saranno guerre diverse da quelle che conosciamo oggi, saranno guerre tra algoritmi...o forse già ci sono?
Bel post, mi piace leggerti
!BEER
!trdo
!DERANGED
!SHOP


Questo post è stato condiviso e votato all'interno del discord del team curatori di discovery-it.
This post was shared and voted inside the discord by the curators team of discovery-it


Congratulations @vittoriozuccala! You have completed the following achievement on the Steem blockchain and have been rewarded with new badge(s) :

You got more than 800 replies. Your next target is to reach 900 replies.

You can view your badges on your Steem Board and compare to others on the Steem Ranking
If you no longer want to receive notifications, reply to this comment with the word STOP

Vote for @Steemitboard as a witness to get one more award and increased upvotes!

Sorry, out of BEER, please retry later...

deranged You just received DERANGED @vittoriozuccala Keep up the great work, view all your tokens at steem-engine.com

Congratulations @vittoriozuccala, your post successfully recieved 0.00042525 TRDO from below listed TRENDO callers:

@tosolini earned : 0.0002835 TRDO curation


To view or trade TRDO go to steem-engine.com
Join TRDO Discord Channel or Join TRDO Web Site