6.11.26

IA - Umiliazione o più seplicemente fondato timore ?



Ho letto questo interessante articolo di Renato Gelforte:

https://www.linkedin.com/pulse/la-quarta-umiliazione-quando-lai-ci-supera-renato-gelforte-9ii6f?utm_source=share&utm_medium=member_ios&utm_campaign=share_via

A cui cerco di rispondere con:

Ciao Renato, ottimo articolo che però diciamolo, parte dal preconcetto che la critica verso l’IA nasconda in sé una certa “umiliazione” cognitiva nei suoi confronti. Provo a dire la mia, in pieno rispetto e con spiccata critica costruttiva del tuo punto di vista.

Personalmente non provo alcun timore né alcuna umiliazione verso l’IA in quanto tale, così come non ne provo per una calcolatrice che, ovviamente, sa risolvere calcoli matematici complessi in modo infinitamente più veloce di me. Vedo l’IA semplicemente come uno strumento; strumento però che, a differenza della calcolatrice, sfugge alla nostra piena comprensione.

Il mio timore è rivolto piuttosto all’uso che gli uomini possono fare della IA per i seguenti motivi:
  1. aver chiamato “intelligente” qualcosa che, con l’intelligenza per come la intendiamo tutti, proprio non lo è.
  2. ogni strumento può essere buono o cattivo in base all’uso che ne facciamo.
  3. uno strumento in quanto tale non è dotato di pietas né di pietà.
Approfondiamo:
-in merito al punto 1: non ho alcun problema nel riconoscere alla IA le sue straordinarie capacità cognitive sovra-umane, ossia superiori alla media cognitiva di qualsiasi essere umano, ma nel contempo non considero le IA “intelligenti “ per come tutti noi potremmo intenderle. L’IA è per me stupefacente come lo è (banalizzo), la calcolatrice quando risolve istantaneamente la radice quadrata di un numero a 10 cifre, ma non per questo considero l’IA intelligente come il “marketing” dei suoi creatori vorrebbe che noi la considerassimo. L’intelligenza della IA è quella di un sofisticatissimo algoritmo oppure, facendo un accostamento faunistico, é l’“intelligenza” della tigre o dell’orso… ossia un intelligenza diversa da quella umana che, in quanto tale, resta del tutto indifferente al dolore causato dalle proprie azioni.
Avete mai visto una tigre od un orso preoccuparsi dopo aver azzannato ed ucciso qualcuno? No vero? Beh, un algoritmo IA (se non correttamente controllato), potrebbe benissimo disinteressarsi della soppressione di tutto il genere umano se questa soppressione fosse utile al raggiungimento dei suoi obiettivi. Semplicemente, non essendo umana, la IA non se ne farebbe alcun cruccio, non perché essa odi il genere umano in quanto tale, ma semplicemente perché la soppressione della razza umana non sarebbe per lei fonte di alcuna emozione né di alcun ripensamento. Avviene lo stesso meccanismo nella mente della tigre o dell’orso che non odiano affatto la razza umana nel suo complesso, ma se hanno fame... capisci cosa intendo.
Per spazzare via ogni fraintendimento io non chiamerei nemmeno più l’IA “Intelligenza” artificiale. Avergli assegnato questo appellativo mi sembra solamente una strategica mossa di puro marketing. "Artificiale" si, ci sta, ma il termine “Intelligenza” usato per un super-algoritmo è veramente qualcosa di sviante, assegnatogli a parer mio solo per portare le persone comuni ad umanizzare questo infinito, sterminato e complicatissimo ammasso di bit.
Prova ad immaginare come il mercato avrebbe accolto l’IA se molto più umilmente l’avessero chiamata “automazione artificiale” oppure “algoritmo automatico di generazione deterministico delle risposte”. Non fa lo stesso effetto di "Intelligenza" vero?

-in merito al punto 2 porto un esempio facilissimo da capire. L’energia nucleare può nel contempo essere usata sia per creare energia elettrica utile a tutti… che per creare armi di distruzione di massa.
Il tutto banalmente deciso e pianificato dall’intelligenza umana, e sappiamo tutti quanto l’animo umano possa diventare, di tanto in tanto, diabolico ed inumano. Quindi ipotizziamo pure allegramente che l’IA sia bella, brava e buona e che creerà essa stessa un mondo migliore per tutti… peccato che i paletti che decideranno fino a che punto l’IA possa diventare “mortalmente” pericolosa… beh… questi paletti saranno decisi ed impostati da degli uomini, dei miserabili ed indiscutibilmente fallibili uomini. Sappiamo già tutti come é andata a finire in Giappone nel ‘45 vero?
Sei al corrente dell’attuale gara fra USA e Cina a chi prima arriverà alla produzione di automi militari guidati dalla IA vero?

-in merito al punto 3; come già spero di aver chiarito al punto 1 stiamo parlando di un’ “intelligenza” (se proprio vogliamo chiamarla così) non umana e, quindi, indiscutibilmente diversa; non devota, non amorevole e non leale (quindi priva di pietas); né tantomeno emozionale, non empatica e, come dicevi anche tu stesso, non morale (quindi priva di pietà)
Possiamo quindi equiparare l’IA ad un super-calcolatore, un super-algoritmo, od un super-robot con capacità cognitive decisamente superiori alle nostre ma… e qui viene il punto critico, peccato che stiamo creando un super-robot senza però avergli ancora impresso in testa in modo inequivocabile ed indelebile una protezione granitica per il genere umano, come ad esempio le tre leggi della robotica ideate da Isaac Asimov.
Come già nei racconti di Asimov l’IA di oggi senza pietas e senza pietà non potrà mai essere in grado di interpretare e rispettare a pieno le tre (o trecento) leggi in grado di bloccarla nel peggiore dei casi possibili. Il limite non è della IA, ma è del tutto umano, chiediamoci: siamo noi uomini in grado di prevedere tutti i peggiori casi possibili in cui l’IA potrebbe infilarsi e quindi prevedere tutti i necessari paletti di sicurezza per poterla fermare prima del disastro annunciato?

Leggi nel seguente breve stralcio cosa dice la IA stessa su questo tema:
“Il paradosso finale. 
La lezione forse più importante è questa: Un sistema può essere perfettamente accurato e allo stesso tempo socialmente ingiusto. Per decenni si è pensato che il problema dell'IA fosse costruire macchine intelligenti. Oggi sappiamo che una sfida altrettanto difficile è costruire macchine che riflettano valori umani complessi senza amplificare i difetti già presenti nella società. 
In questo senso, i bias algoritmici sono la versione moderna dei paradossi di Asimov: non nasce tutto da robot malvagi, ma da regole apparentemente ragionevoli che, applicate su larga scala, producono conseguenze eticamente problematiche. […]” 
In breve; qualcosa di “apparentemente ragionevole” può portare a “disastri non pianificati “.
Quanto fin qui detto solo per introdurre un discorso molto, molto ma molto più ampio e complesso che impatta anche con il mondo del lavoro, della medicina, dello studio e della creatività in generale. Senza nemmeno prendere in considerazione tutti gli enormi problemi legati ai data-center necessari al sostentamento dell’immensa potenza di calcolo richiesta dalle IA, argomento questo che merita un discorso a parte.

Concludo ricordando come il tuo articolo mi sia piaciuto, mi abbia stimolato a pensare e mi abbia spinto a buttare giù questa mia noiosissima riflessione … che non fa alcun uso della IA. Bugia, ormai la usiamo anche involontariamente nelle nostre ricerche di approfondimento. 😊

Infine penso che l’avversità che molti oggi provano verso l’IA non scaturisca, come affermi nel tuo articolo, da una malcelata invidia o frustrazione derivante dalla perdita di centralità; ma, come ho cercato di spiegare in queste righe, nasca dai fondati dubbi che questa tecnologia porta inevitabilmente con sé, dubbi ingigantiti da una ineludibile sfiducia generale sulle capacità umane di saper arginare e contenere una tale e sfuggente potenza cognitiva come quella della IA.

Forse ti sono sembrato troppo catastrofico, poco maturo o poco lucido? Beh, sicuramente saprai che molti padri dell’ IA, quando intervistati, rispondono in tutta sincerità che esiste un buon 20-25% di possibilità che l’IA stessa possa portare in futuro all’annientamento totale della razza umana. Il 25% !!!! Un lancio in aria di una monetina su 4 potrebbe portare conseguenze potenzialmente catastrofiche… e nessuno fa nulla per fermarli, bollando semplicemente questo ulteriore passo tecnologico come “ineluttabile”… mentre noi stiamo qui a chiederci se chi critica l’IA sia un bambino "narcisista" ed “invidioso” che ha paura di perdere la sua posizione di centralità...

Mah… incrociamo le dita. 

Lo hai già visto questo?
https://www.netflix.com/it-en/title/82792555?fbclid=IwdGRjcAVXUa1kdm109FCnQ2V4dG4DYWVtAjExAHBkb2YFZmRpZBZRGAWTmrFeSCewdcr4F63tbX6vOhSxc3J0YwZhcHBfaWQKNjYyODU2ODM3OQABH6LttfA3TPevR78Jjd8KmBjjwgtRvhV6-n6hoV5QC30C9XMYTK2Kra69y2t5_aem_dcgSvvMH2X6q00uH4aNROQ

p.s. Renato, ti ho copiato la foto per il post, spero tu non ne abbia a male ... perché lo fa anche la IA senza nemmeno chiedertelo. Io almeno ti ho citato. 😉