Sono Nicoletta Prandi, giornalista e autrice.
Mi occupo di politica e di impatto sociale dell’innovazione.

Questo è Non avrai altro Dio, il podcast che firmo per Senza Filtro.
Lo scrivo con cura e passione: la materia è troppo delicata per maneggiarla con imprudenza, perché in gioco c’è il nostro futuro.

Insieme passeremo al setaccio le rivoluzioni che l’intelligenza artificiale impone al mondo del lavoro e dell’umano, per capire come sopravvivere al cambiamento e sfruttarne i venti a favore.

I giochi si fanno pericolosi se tutti scoprono l’intelligenza artificiale e chi ha il dovere di raccontarla lo fa in modo superficiale. In questa prima puntata di Non avrai altro Dio guardo oltre i facili entusiasmi che hanno accompagnato il rilascio di ChatGPT e spiego perché comprendere la rivoluzione dell’intelligenza artificiale è possibile solo analizzando il quadro d’insieme, lati oscuri compresi: dal terremoto americano provocato nel settore dell’istruzione alle domande sul futuro dei lavoratori, dall’impatto cognitivo sul pensiero ai primi passi falsi compiuti dalle aziende.

FONTI
L’intervento di Sarah Myers West è tratto dall’intervista rilasciata a The Signal The Mimic (thesgnl.com) .

La notizia del ban di New York a ChatGPT è stata ripresa da diverse testate, come The Guardian New York City schools ban AI chatbot that writes essays and answers prompts | New York | The Guardian , che ha pubblicato anche la notizia di Science Science journals ban listing of ChatGPT as co-author on papers | Peer review and scientific publishing | The Guardian .

L’allarme dei docenti americani sul comportamento della stampa internazionale, preda di troppo facili entusiasmi nel parlare di intelligenza artificiale, è stato pubblicato e raccolto da Critical AI GUEST FORUM: Adapting College Writing for the Age of Large Language Models such as ChatGPT: Some Next Steps for Educators – Critical AI .

Lo studio scientifico sugli effetti cognitivi dei video deepfake è pubblicato qui https://pubmed.ncbi.nlm.nih.gov/33910482/

La crisi reputazionale di CNET è raccontata da numerosi articoli, come questo https://www.wired.com/story/cnet-published-ai-generated-stories-then-its-staff-pushed-back/ .

La voce di Sarah Myers West è di Cristina Fiore.

Mentre ci lambicchiamo parlando di reddito di cittadinanza ci scordiamo che il mix tra tecnologia e business model emergenti ci ha battuti sul campo, dando vita a innovative forme di reddito, già sperimentate con successo in vari angoli del mondo.

Possiamo di fatto considerarli redditi di cittadinanza digitalizzati.
Sono infatti goduti dalla medesima platea: persone inoccupate e/o in cerca di una fonte più o meno stabile di sussistenza.

Se il lavoro sarà sempre più digitalizzato, lo sarà anche il salario.
Non senza rischi, soprattutto per le persone più fragili.

FONTI
Il documentario in cui è raccontata la storia di Nuova Ecija People in Philippines earn cryptocurrency playing NFT video game Axie Infinity (cnbc.com)

Il progetto Microworks (legato alle criptovalute) di Save The Children riseandgrind11.pdf (autonomy.work)

Gli allarmi degli attivisti sul criptocolonialismo in Africa Crypto Imperialism and Financial Inclusion in Africa » Bot Populi

Quanto più si diffonderanno sistemi di intelligenza artificiale generativa come quelli per la scrittura, tanto più saremo chiamati a dover dimostrare la genuinità di un lavoro.

Nessuno ha chiesto di salire sul banco degli imputati ma questa è la prevista conseguenza dell’irresponsabilità di aziende che rilasciano sul mercato prodotti innovativi senza prima aver messo a punto un paracadute digitale, utile a difendersi dagli effetti negativi che l’uso di quei prodotti comporta.

È quanto accaduto a Lucy, studentessa americana, che si è trovata a doversi difendere da se stessa.
FONTI

Il test condotto dalla redazione di The Washington Post e la storia di Lucy We tested Turnitin's ChatGPT-detector for teachers. It got some wrong. - The Washington Post

I dati sull’adozione del detector di Turnitin nelle scuole Plagiarism checker: Turnitin launches new features to detect AI writing (studyinternational.com)

La policy d’uso di Turnitin Understanding false positives within our AI writing detection capabilities | Turnitin

Migliore, più veloce e più economica.
L’intelligenza artificiale applicata al campo della ricerca medica può fare miracoli.
Rischia di provocare interferenze, invece, se usata senza controllo per la gestione della relazione medico-paziente.
Mentre le aziende sanitarie e i Governi concedono sempre più spazio alla gestione automatizzata della salute, una riflessione arriva dal MIT, affidata a Technology Review: che fine farà la qualità delle cure?

FONTI
L’articolo di MIT Technology Review Artificial intelligence is infiltrating health care. We shouldn’t let it make all the decisions. | MIT Technology Review

Il rischio di generare discriminazioni nell’erogazione delle cure se si utilizzano dataset costruiti con dati parziali Does “AI” stand for augmenting inequality in the era of covid-19 healthcare? | The BMJ

L’importanza di un uso equilibrato dei sistemi automatizzati di diagnosi in campo medico Human–computer collaboration for skin cancer recognition | Nature Medicine

Le critiche ai sistemi di Epic Systems Health record company pays hospitals that use its algorithms - The Verge

La concentrazione industriale del mercato dell’intelligenza artificiale, basato in massima parte su pochissime aziende, rischia di avere effetti dirompenti sulla società.

Lo ha evidenziato anche uno studio del MIT, pubblicato su Science. Nel mondo la proprietà dei sistemi più avanzati di intelligenza artificiale è per il 96% nelle mani di società private (nel 2011 questa percentuale era dell’11%).

In più, oltre il 70% di chi ha conseguito un titolo di studi afferente a questo settore tecnologico, preferisce andare a lavorare società private, più promettenti per la crescita professionale.

La ricerca pubblica rischia, così, di essere dirottata sulla base di interessi prettamente commerciali. Mentre i Governi e le Pubbliche Amministrazioni perdono per strada competenze preziose, difficilmente recuperabili.

FONTI
Lo studio del MIT citato in questa puntata https://www.science.org/doi/10.1126/science.ade2420?url_ver=Z39.88-2003&rfr_id=ori:rid:crossref.org&rfr_dat=cr_pub%20%200pubmed

L’articolo del Financial Times, che ha rilanciato lo studio Risk of ‘industrial capture’ looms over AI revolution | Financial Times (ft.com)

Il comunicato della Casa Bianca con cui si annuncia lo stanziamento di 140 milioni di dollari per la realizzazione di sette centri di ricerca pubblici sull’intelligenza artificiale https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/

Più si inquina, più si paga.
Vale per tutti, tranne che per le grandi aziende tech: producono sistemi di intelligenza artificiale energivori ma non sono tenute alla trasparenza sui dati consumo.

Quali sono le criticità?
La prima è che non si aiuta la formazione di una consapevolezza civica più matura sul reale impatto ambientale di app come ChatGPT.

La seconda è l’ingiustizia sociale ed economica tra aziende e cittadini in termini di imposizione fiscale.
FONTI
Il comunicato stampa della Casa Bianca sui provvedimenti di tassazione dei miners The DAME Tax: Making Cryptominers Pay for Costs They Impose on Others | CEA | The White House

La stima del consumo di energia relativo all’uso di sistemi conversazionali di intelligenza artificiale ChatGPT Uses a Lot of Water to Train Itself, Study Shows (businessinsider.com)

I costi ambientali di addestramento di ChatGPT [1906.02243] Energy and Policy Considerations for Deep Learning in NLP (arxiv.org)

La lotta di alcune comunità locali americane contro la proliferazione di datacenter A new front in the water wars: Thirsty, giant data centers - The Washington Post

e il caso dell’Oregon
Google’s water use is soaring in The Dalles, records show, with two more data centers to come - oregonlive.com

I numeri sul risparmio energetico dell’approccio semantico per la costruzione di sistemi di intelligenza artificiale The Green Glass Approach to Responsible AI - expert.ai | expert.ai

Il mercato dei lavoratori virtuali è in piena crescita, supportata anche dallo sviluppo di sistemi sempre più performanti di robo-calling: grazie agli algoritmi, sono in grado di simulare una conversazione tra esseri umani, rispondere alle nostre domande, gestire un colloquio in modo interamente automatizzato, eseguire il data entry (aggiornare i dati dopo la telefonata) e analizzare i risultati.

La promessa commerciale di smaterializzare il lavoro, con la scusa di renderlo più efficiente, è troppo allettante per non essere considerata.

Ma con quali conseguenze?

FONTI
I dati sull’indebitamento degli americani (ultimo quadrimestre 2022) Household debt, credit card balances and delinquencies all rose last quarter | CNN Business

Le promesse commerciali di SmartAction Collections | SmartAction ,
di Genesys Latitude - Debt Collection Software (genesys.com)
e di TrueAccord Collect faster from happier people (trueaccord.com)

La dichiarazione del CFPB CFPB and Federal Partners Confirm Automated Systems and Advanced Technology Not an Excuse for Lawbreaking Behavior | Consumer Financial Protection Bureau (consumerfinance.gov)

Con la diffusione di ChatGPT e la crescente attenzione della stampa verso il tema dell’intelligenza artificiale, si sono moltiplicate sui giornali le storie di lavoratori che affermano di aver hanno perso il lavoro per colpa di ChatGPT. Ma nessun lavoratore viene licenziato da un’intelligenza artificiale: viene, invece, licenziato da un manager che, consapevolmente, decide di automatizzare attività svolte in precedenza da esseri umani. Le aziende baratteranno una riduzione dei costi operativi con il possibile peggioramento della qualità dei servizi offerti? Se è un peggioramento nei limiti dell’accettabile, la risposta è sì.

FONTI
La piattaforma di DoNotPay DoNotPay - Your AI Consumer Champion

Abusi sessuali, cospirazioni contro gli Stati Uniti, conflitti d’interesse. Ci sono storie, legate alla vicenda OpenAI, non raccontate nel dibattito italiano sulla rocambolesca vicenda di Sam Altman, che continua a essere protagonista nelle cronache internazionali. È l’altra versione dei fatti, narrata in questa puntata.

FONTI
Le vicende giudiziarie che hanno coinvolto Andrei Shleifer, Harvard e Larry Summers sono raccontate anche in questi articoli:
https://www.thecrimson.com/article/2006/2/10/tawdry-shleifer-affair-stokes-faculty-anger/ https://mathbabe.org/2012/03/11/why-larry-summers-lost-the-presidency-of-harvard/ https://www.nbcnews.com/id/wbna9665505

I post contestati a Emmett Shear
https://www.dailymail.co.uk/news/article-12773569/Emmett-Shear-social-media-sex-rape-fantasies-nazis.html

La recente dichiarazione di Annie Altman
https://www.hackingbutlegal.com/p/statement-by-annie-altman-sam-altmans?s=03

L’articolo di The New York Times
https://www.nytimes.com/2023/11/22/technology/openai-board-capitalists.html

Il modo in cui cerchiamo e otteniamo risposte sui motori di ricerca potrebbe cambiare per sempre grazie al tocco magico dell’intelligenza artificiale. Insieme alla navigazione, però, a essere stravolto potrebbe essere molto altro: il lavoro dei giornalisti, i business model editoriali, la presenza online delle aziende e il loro canale di comunicazione con i clienti. In questa puntata racconto la rivoluzione di SGE (Search Generative Experience), l’esperienza di navigazione artificiale che ha in serbo Google.

FONTI
Il progetto SGE How Google is improving Search with Generative AI (blog.google)
I risultati artificiali di ricerca sull’opera di Vermeer Google's Top Result for "Johannes Vermeer" Is an AI Knockoff (futurism.com)

Dipendenti più felici grazie all’intelligenza artificiale? Le aziende tech ci scommettono e puntano su innovazioni tecnologiche dalle promesse mirabolanti, come il monitoraggio automatizzato del benessere, della tranquillità mentale e della coesione sociale in ufficio. In questa puntata esploro le principali app destinate a questi usi e già sperimentate in alcuni Paesi del mondo. Negli Stati Uniti, sta diventando un trend. Vale la penda domandarsi se sia necessario doverci ‘disconnettere’ da noi stessi e passare dai dati come una via per scrutare nel cuore del nostro lavoro, trattato solo come una cassaforte da scardinare.

FONTI
L’offerta commerciale di Pulse Home - Pulse By Fierce ,
Glue Glue – Build teams that stick together
e Gong Voice of Customer Software: Unlock Customer Reality - Gong

Le testimonianze dei lavoratori raccontate dai lavoratori alla stampa
AI tools aim to help with work but workers worry about surveillance - The Washington Post

L’appello dell’americana FTC (Federal Trade Commission)
FTC Warns About Misuses of Biometric Information and Harm to Consumers | Federal Trade Commission

Si parla con troppa facilità di innovazione e con altrettanta leggerezza si accusa di luddismo chi offre un pensiero critico sui sistemi più spinti di intelligenza artificiale.
Guardando ai fatti, le violazione dei diritti compiute a livello sociale e professionale dalle grandi aziende tech sono documentate e già approdate nei tribunali di mezzo mondo, come racconta questa puntata: i lavoratori fantasma nel Sud e nell’Est del mondo, le vessazioni cui sono sottoposti attori e sceneggiatori in sciopero, i furti di contenuti protetti da copyright e perpetrati per costruire app come ChatGPT sono zone d’ombra che è doveroso documentare, per contribuire a un racconto onesto sull’adozione di tecnologie avanzate.

FONTI
La piattaforma per scoprire se le nostre fotografie sono state utilizzate abusivamente per addestrare sistemi di intelligenza artificiale e citata nel testo è consultabile al seguente link: Have I Been Trained?
Una delle prime inchieste sulle denunce degli attori americani è stata condotta da Vice ‘Disrespectful to the Craft:’ Actors Say They’re Being Asked to Sign Away Their Voice to AI (vice.com)

Le condizioni d’uso di ChatGPT sono pubblicate qui Terms of use (openai.com)

Questa vicenda ha a che fare con la politica, la guerra, la storia, la tecnologia.
E si intreccia con i drammatici fatti di oggi dello scacchiere Medio-orientale.

Google fornisce al Governo e all’Esercito israeliani tecnologia avanzata nell’ambito del progetto Nimbus, del valore di 1,2 miliardi di dollari (anche Amazon è partner).

Secondo alcuni dipendenti Google, ebrei e musulmani, e stando ai documenti raccolti da diverse testate, si tratta di tecnologia di controllo sociale, che viola i diritti umani.

FONTI
La petizione #NoTechForApertheid è pubblicata ed è consultabile qui act.jewishvoiceforpeace.org/a/google-dont-punish-workers

L’inchiesta di The Intercept che documenta la fornitura di Google nell’ambito del progetto Nimbus Google Is Selling Advanced AI to Israel, Documents Reveal (theintercept.com)

La denuncia pubblica di Ariel Koren, ebrea ed ex dipendente di Google
When a Facebook whistleblower alleged the company was engaged in wrongdoing, she was featured in a 60 Minutes profile and testified before Congress. We... | By Ayman Mohyeldin | Facebook

Le testimonianze di Jewish Diaspora in Tech
https://jewishdiasporatech.org/voices

La notizia sull’abbandono di Project Maven
https://techcrunch.com/2018/06/01/google-reportedly-backing-out-of-military-contract-after-public-backlash/

Il progetto DragonFly
https://techcrunch.com/2018/11/28/google-dragonfly-letter/ La carta etica di Google sull’intelligenza artificiale https://ai.google/responsibility/principles/

Con il nuovo regolamento europeo sull’intelligenza artificiale, AI Act, «i diritti fondamentali dei lavoratori saranno a rischio».
La denuncia è stata lanciata direttamente dai sindacati confederati europei (ETUC, European Trade Union Confederation) proprio nel giorno in cui l’Eurocamera ha approvato il testo aggiornato dell’AI Act.
Nel frattempo, l’attività di lobby di OpenAI è riuscita a modificare articoli sensibili dell’AI Act, che riguardano il lavoro e la scuola, come denunciato in un’inchiesta del TIME.

FONTI
La denuncia di European Trade Confederation sull’approvazione dell’AI Act https://www.etuc.org/en/pressrelease/ai-parliament-protects-workers-rights-new-directive-needed

L’inchiesta esclusiva del TIME sull’attività di lobby di OpenAI e i suoi effetti sull’AI Act Exclusive: OpenAI Lobbied E.U. to Water Down AI Regulation | Time

La causa intentata da The New York Times contro Microsoft e OpenAI potrebbe cambiare lo scenario dell’industria dell’intelligenza artificiale e innovare il panorama regolatorio dei diritti d’autore e del fair use, il principio legale che permette, in casi eccezionali, l’uso di contenuti protetti da copyright.

Nel frattempo, usare con leggerezza i sistemi di IA generativa, in ambito individuale e aziendale, resta ancora un’attività ancora non esente da rischi, in primo luogo a livello legale.

FONTI
L’articolo scientifico dedicato alle nuove sfide del fair use e ripreso da Stanford HAI è disponibile qui https://arxiv.org/abs/2303.15715. È firmato da Dan Jurafsky, Tatsunori Hashimoto, Mark A. Lemley, Percy Liang, Xuechen Li e Peter Henderson.

I risultati della Tavola rotonda con i professionisti del settore creativo sono illustrati in una nota della FTC https://www.ftc.gov/news-events/news/press-releases/2023/12/ftc-staff-report-details-key-takeaways-ai-creative-fields-panel-discussion?utm_campaign=there_are_many_perspectiv&utm_content=1702934644&utm_medium=social&utm_source=twitter&s=03

L’inchiesta di The Washington post sul blocco C4 https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning/

Le condizioni d’uso di OpenAI https://openai.com/policies/terms-of-use

L’articolo scientifico di DAIR https://dl.acm.org/doi/10.1145/3600211.3604681

Questa puntata parte dalla storia di lavoratori costretti a fidarsi della tecnologia, di imprenditori che l’hanno piegata a interessi deprecabili, e di persone che ne sono rimaste vittime.

E arriva a sfiorare i fronti aperti degli abusi algoritmici in campo sanitario, in relazione ai quali avrà effetto il nuovo regolamento europeo sull’intelligenza artificiale, AI Act.

FONTI

La documentazione relativa alla causa intentata contro UnitedHealth https://cdn.arstechnica.net/wp-content/uploads/2023/11/class-action-v-unitedhealth-and-navihealth-1.pdf

Le testimonianze dei dipendenti di UnitedHealth https://www.statnews.com/2023/11/14/unitedhealth-algorithm-medicare-advantage-investigation/

La proposta di etichettatura digitale per le app a uso medico https://www.wsj.com/tech/ai/medical-ai-tools-can-make-dangerous-mistakes-can-the-government-help-prevent-them-b7cd8b35

Il mercato mondiale delle app per il benessere https://www.fortunebusinessinsights.com/mhealth-apps-market-102020

Le Olimpiadi della sorveglianza stanno per iniziare, e non solo a Parigi.

Mentre la Francia vara una legge speciale per avviare la più grande sperimentazione europea di polizia predittiva, le associazioni per i diritti civili e alcuni eurodeputati lanciano un allarme.

La nuova versione dell’AI Act allargherebbe a dismisura le eccezioni per l’uso di tecnologie intelligenti ai fini di sicurezza pubblica.

Nel frattempo, lo stesso sistema francese potrebbe essere in potenziale contraddizione con i principi cui si dovrebbe ispirare il regolamento europeo sull’intelligenza artificiale.

FONTI
La legge speciale approvata in Francia https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047561974
La dichiarazione di Amnesty International https://www.amnesty.org/en/latest/news/2023/03/france-intrusive-olympics-surveillance-technologies-could-usher-in-a-dystopian-future/

La lettera aperta di 38 associazioni per i diritti civili https://www.lemonde.fr/idees/article/2023/03/06/les-mesures-de-videosurveillance-algorithmique-introduites-par-la-loi-jo-2024-sont-contraires-au-droit-international_6164276_3232.html#xtor=AL-32280270-%255Bdefault%255D-%255Bios%255D

La re-identificazione dei pedoni attraverso l’andatura https://ieeexplore.ieee.org/document/10266347 Il caso Rite Aid https://www.reuters.com/investigates/special-report/usa-riteaid-software/

L’allarme per AI Act rilanciato da Politico https://www.politico.eu/article/eu-ai-facial-recognition-tech-act-late-tweaks-attack-civil-rights-key-lawmaker-hahn-warns/?s=03

SINOSSI
Nelle ultime settimane è esplosa l’attenzione sui danni sociali, personali e finanziari dei deep fake, con il caso Taylor Swift e la truffa di Hong Kong. Mentre i rischi dei deep fake restano totalmente a carico dei cittadini, degli utenti e della società, la responsabilità ultima resta in capo alle aziende, che per ragioni economiche hanno immesso sul mercato soluzioni sprovviste di un paracadute tecnologico, pur essendo consapevoli degli effetti nefasti che avrebbero comportato.
Oggi provano a correre ai ripari, insieme ai legislatori.

FONTI
L’indagine su Only Fake https://www.404media.co/inside-the-underground-site-where-ai-neural-networks-churns-out-fake-ids-onlyfake/

La proposta di regolamentazione contro i deep fake avanzata dalla Commissione Europea https://ec.europa.eu/commission/presscorner/detail/en/ip_24_631?utm_source=www.thedeepview.co&utm_medium=newsletter&utm_campaign=deepfake-phone-calls

Il Defiance Act proposto al Senato U.S.A. https://www.judiciary.senate.gov/press/releases/durbin-graham-klobuchar-hawley-introduce-defiance-act-to-hold-accountable-those-responsible-for-the-proliferation-of-nonconsensual-sexually-explicit-deepfake-images-and-videos

Le dichiarazioni di Margaret Mitchell https://www.popsugar.co.uk/tech/ai-deepfakes-taylor-swift-sexual-harassment-49334338?utm_medium=redirect&utm_campaign=US%3AIT&utm_source=t.co&s=03 L’articolo del Washington Post https://www.washingtonpost.com/politics/2024/02/07/metas-new-ai-labels-wont-solve-taylor-swift-problem/

Barzellette spinte, risposte offensive, ma anche offerte commerciali inventate e persino truffe a danno dei clienti. I chatbot non possono essere – ancora –considerati strumenti di interazione sicuri al 100%: affidarvisi con troppa approssimazione può essere rischioso a più livelli.

Il caso di Air Canada, raccontato in questo episodio, offre uno spunto per una carrellata sui passi falsi da evitare quando si decide di adottare un sistema di intelligenza artificiale generativa per automatizzare le relazioni esterne dell’azienda.

FONTI
La sentenza su Air Canada emessa il 14 febbraio 2024 https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html

La vicenda raccontata dai media internazionali https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416

Lo studio sugli effetti antropomorfici dei chatbot Blame the Bot: Anthropomorphism and Anger in Customer–Chatbot Interactions - Cammy Crolic, Felipe Thomaz, Rhonda Hadi, Andrew T. Stephen, 2022 (sagepub.com)

La pagina informativa di Google per i servizi di Gemini https://support.google.com/gemini/answer/13594961?hl=en#collected_data&zippy=%2Cwhat-data-is-collected-how-is-it-used%2Cwhy-is-human-review-of-my-gemini-apps-conversations-feedback-and-related-data-required%2Cdo-you-use-my-gemini-apps-conversations-to-show-me-ads%2Cwho-has-access-to-my-gemini-apps-conversations

L’indagine Gartner sull’adesione dei clienti ai servizi chatbot https://www.gartner.com/en/newsroom/press-releases/2023-06-15-gartner-survey-reveals-only-8-percent-of-customers-used-a-chatbot-during-their-most-recent-customer-service-interaction#:~:text=June%2015%2C%202023%20%E2%80%94%20Only%208,chatbot%20again%20in%20the%20future.

L’AI Act, il regolamento europeo sull’intelligenza artificiale, ambisce a diventare una pietra miliare nella tutela della società civile, per difenderla dai potenziali danni perpetrabili attraverso un uso distorto degli algoritmi.

Le aspettative sono però messe a dura prova dalla complessità dell’impianto regolatorio, che rischia di annacquarsi nelle decine di atti secondari necessari per la sua attuazione e che lascia le porte aperte ad applicazioni potenzialmente rischiose.   

FONTI
Le Monde su AI Act https://www.lemonde.fr/en/european-union/article/2024/03/13/european-parliament-adopts-historic-ai-act_6615022_156.html  

Der Spiegel su AI Act https://www.spiegel.de/netzwelt/netzpolitik/eu-parlament-stimmt-fuer-umfassendes-ki-gesetz-a-1b91bf5e-4adf-4532-bafc-2fed2d068b20  

CNBC su AI Act https://www.cnbc.com/2024/03/13/european-lawmakers-endorse-worlds-first-major-act-to-regulate-ai.html  

I chatbot rimossi per consigli dannosi  https://www.psychiatrist.com/news/neda-suspends-ai-chatbot-for-giving-harmful-eating-disorder-advice/  

Uno studio che smentisce i presupposti scientifici del progetto europeo IBorderCtrl Full article: The politics of deceptive borders: ‘biomarkers of deceit’ and the case of iBorderCtrl (tandfonline.com)  

Il documento di denuncia di Access Now https://www.accessnow.org/press-release/joint-statement-ai-act-fails-migrants-and-people-on-the-move/?s=03

Quattro fatti scollegati tra loro eppure uniti da un filo rosso: le proposte commerciali delle aziende che vendono soluzioni avanzate di IA tendono sempre più a cancellare la dimensione umana del lavoro, che resta una componente fondamentale del processo produttivo a livello informatico. Vale anche per la robotizzazione, nel cui mercato si stanno facendo avanti slogan in cui si lascia dedurre che esistano attività non ‘degne’ di essere svolte dagli esseri umani.  

FONTI
L’inchiesta di The Information su Amazon Go 
https://www.theinformation.com/articles/amazons-grocery-stores-to-drop-just-walk-out-checkout-tech  

Le dichiarazioni di Roberto Selva, Responsabile Marketing di Esselunga https://milano.repubblica.it/cronaca/2024/03/20/news/esselunga_lab_mind_spesa_del_futuro_robot_insalate-422342827/  

L’offerta commerciale di Hoptix https://www.hoptix.ai/  

Il sito di Turkopticon https://blog.turkopticon.net/?p=3048  

SINOSSI

Cosa succede se pensiamo di acquistare oggetti all’apparenza innocui e invece diamo il permesso alle aziende di leggere negli spazi più reconditi della nostra identità?

Succede da tempo e non ce ne siamo accorti. In questo nuovo episodio esploro il mercato dei device per il potenziamento cognitivo, venduti anche in Italia, e affronto la questione dei neurodiritti, sfida cui le agende politiche internazionali hanno già messo mano per provare a regolare i potenziali abusi.

FONTI

La crescita degli investimenti nel settore neurotech secondo Neurotech Analytics INVESTMENT DIGEST 2021 Q4 | Neurotech  

Il caso EnterTech e la fascia FlowTime nell’articolo di The Guardian https://www.theguardian.com/commentisfree/2023/mar/25/tiktok-china-cognitive-warfare-us-ban  

Il sito di FlowTime https://www.meetflowtime.com/  

Il brevetto di Apple Patently Apple  

I prodotti Cognifit per il potenziamento cognitivo dei lavoratori https://www.cognifit.com/it/employee-wellbeing  

La risoluzione ONU sui neurodiritti https://documents.un.org/doc/undoc/gen/g22/525/01/pdf/g2252501.pdf?token=DLSmBCayewVSpIJt88&fe=true

Da quando la stampa generalista ha scoperto l’intelligenza artificiale (purtroppo solo in concomitanza del rilascio di ChatGPT) le notizie sugli algoritmi godono di ampia visibilità.

Si è subito affermata, come predominante, una narrazione tesa ad assegnare facoltà umane agli algoritmi, a discapito di una corretta informazione e di una giusta percezione su cosa possa e non possa fare realmente un sistema di intelligenza artificiale.

In questa puntata riassumo la guida ‘antibufale’ redatta da due ricercatori di Princeton: hanno passato al setaccio la stampa internazionale, scovando errori marchiani anche tra le righe di prestigiose testate.

FONTI
Le regole per una corretta informazione sull’IA sono tratte dal vademecum di Sayash Kapoor e Arvind Narayan, consultabile a questo link ai-reporting-pitfalls.pdf (princeton.edu)

L’articolo di The New York Times è pubblicato qui The Machines Are Learning, and So Are the Students - The New York Times (nytimes.com)

Il post pubblicato da OpenAI (cui si fa riferimento nella puntata) è questo Planning for AGI and beyond (openai.com)

Negli Stati Uniti si sta saldando una nuova corrente di imprenditori e di politici, pronti a influenzare una nuova possibile Amministrazione Trump, per orientare regole e finanziamenti in favore di alcune aziende.
Lo slogan di questo nuovo partito informale di tecno-nazionalisti, come ha scritto il Washington Post, potrebbe essere ‘Dio, patria e tecnologia’. È qualcosa che ci interessa nella misura in cui finisce con l’interferire nelle nostre attività quotidiane.

Dietro al ban americano a Tik Tok, infatti, c’è questa potentissima lobby.

FONTI  
La cronaca di Caroline Haskins sul Guardian che racconta della giornata all’AI Expo for National Competitiveness https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology?s=03  

L’articolo di Washington Post sui tecno-nazionalisti https://www.washingtonpost.com/technology/2024/05/01/big-tech-tiktok-ban-hill-valley-forum/?utm_campaign=wp_the_technology_202&utm_medium=email&utm_source=newsletter&wpisrc=nl_technology202  

Il parere di Meredith Whittaker su Tik Tok https://lpeproject.org/blog/social-media-authoritarianism-and-the-world-as-it-is/  

Il caso Axon e le polemiche sollevate https://techcrunch.com/2024/05/02/microsoft-bans-u-s-police-departments-azure-openai-facial-recognition/  

Le analisi di PitchBook https://pitchbook.com/news/reports/2023-vertical-snapshot-defense-tech

Ogni guerra ha le armi che si merita e quella dei bot sta iniziando a invadere il mondo del lavoro, tra aziende che li usano per automatizzare il più possibile le fasi di recruiting e gli stessi candidati, che provano ad avere la meglio affidandosi ad app di intelligenza artificiale.

Gli effetti del fenomeno, già ampiamente diffuso negli Stati Uniti, sono già misurabili e sono raccontati in questo episodio.  

FONTI
Uno degli articoli dedicati alla guerra dei bot pubblicati ta The Wall Street Journal https://www.wsj.com/lifestyle/careers/ai-job-application-685f29f7  

L’offerta commerciale di Sonara https://www.sonara.ai/  

La consulenza di Big Interview
https://support.biginterview.com/en/category/the-big-interview-platform-ufth4y/  

Una riflessione di Noah Smith
https://www.noahpinion.blog/p/generative-ai-autocomplete-for-everything?utm_source=substack&utm_medium=email

Il Consiglio europeo dello scorso 20 giugno ha sospeso il voto su un contestatissimo provvedimento, chiamato in origine Chat Control. Introduce l’obbligo di scansionare tutti i messaggi privati dei cittadini europei tramite piattaforme come WhatsApp, con la scusa di scovare contenuti pedopornografici.

Se non si accetta il monitoraggio, non si possono più inviare foto, video e link a siti internet.

Centinaia di associazioni, scienziati ed europarlamentari si stanno spendendo per rivedere il provvedimento, solo rimandato, alla luce dei rischi rilevati sul fronte della tutela della privacy, della sicurezza personale e della democrazia. 
 

FONTI
Il comunicato stampa di Signal https://signal.org/blog/pdfs/upload-moderation.pdf  

L’inchiesta di Der Spiegel sui ‘falsi positivi’ nella rilevazione di crimini da parte degli algoritmi https://www.spiegel.de/netzwelt/netzpolitik/kinderpornografie-zahl-der-falschen-verdaechtigungen-bei-online-bildern-massiv-gestiegen-a-a746b118-82e7-4560-8ba4-45f02489768c  

La dichiarazione congiunta di oltre 60 organizzazioni https://www.globalencryption.org/2024/05/joint-statement-on-the-dangers-of-the-may-2024-council-of-the-eu-compromise-proposal-on-eu-csam/  

Il tentativo di esentare politici, militari e forze dell’ordine dall’applicazione del provvedimento https://www.eureporter.co/business/data/mass-surveillance-data/2024/04/15/leak-eu-interior-ministers-want-to-exempt-themselves-from-chat-control-bulk-scanning-of-private-messages/  

La lettera aperta di oltre 300 scienziati https://edri.org/our-work/open-letter-hundreds-of-scientists-warn-against-eus-proposed-csa-regulation/  

La funzione Recall di Microsoft e i problemi di sicurezza https://arstechnica.com/ai/2024/06/windows-recall-demands-an-extraordinary-level-of-trust-that-microsoft-hasnt-earned/?s=03

Com’è possibile ricostruire il modo in cui un chatbot decide cosa pensare – tra virgolette – della tua azienda?

Si pongono a diversi modelli diverse domande su un marchio e si analizzano le risposte. Inoltre, con la diffusione dei modelli di ragionamento esteso, che mostrano la sequenza di azioni intrapresa dal chatbot per dare risposte, e con il fatto che sempre più spesso sono mostrati i link da cui i chatbot pescano informazioni, un’azienda può arrivare a capire da dove l’intelligenza artificiale le sta estraendo e può provare a modificarne la percezione, addirittura cambiando il testo e le immagini della sezione del sito aziendale bersaglio di scraping. Un altro modo intelligente di sfruttare i chatbot è, ad esempio, usarli come focus group per testare diversi claim pubblicitari.

Non solo. Alcune aziende hanno già iniziato a pagare utenti anonimi per consigliare sui social e sui blog le parole giuste da usare per fare uscire risultati più clementi sui propri prodotti.

La percezione di un marchio da parte dell’intelligenza artificiale (chatbot e motori di ricerca generativi) influenzerà sempre di più i profitti aziendali. In questo episodio Nicoletta Prandi analizza le asimmetrie tra i risultati di ricerca generativa e il posizionamento aziendale ed esplora i modi in cui si può provare a comprendere e persino orientare questo processo.
 

FONTI
Share of Models

TollBit 

La ricerca della Carnegie Mellon 

La ricerca della University of South Florida [2406.13997] "Global is Good, Local is Bad?": Understanding Brand Bias in LLMs

Parte degli esempi citati in questo episodio sono tratti da questo articolo del MIT Technology Review

Lo sviluppo di agenti virtuali, assistenti di intelligenza artificiale più o meno autonomi e in grado di svolgere compiti anche complessi per conto nostro, rappresenta un punto di svolta per il settore. Se una grande autonomia può offrire vantaggi concreti in ambienti specifici, la valutazione dei rischi resta un passaggio fondamentale per far sì che gli agenti restino allineati agli obiettivi desiderati e non danneggino le persone. In questo episodio spiego quali sono i rischi e cosa sta accadendo nel settore.

FONTI
«Mettere il cervello in un barattolo» https://techcrunch.com/2025/03/07/signal-president-meredith-whittaker-calls-out-agentic-ai-as-having-profound-security-and-privacy-issues/  

La slopaganda di Financial Times https://www.ft.com/content/24218775-57b1-4e9f-ba64-266a3239cf27  

L’analisi di Hugging Face https://huggingface.co/blog/ethics-soc-7?utm_source=bensbites&utm_medium=newsletter&utm_campaign=bb-digest-openai-s-plan-for-2025&_bhlid=287f3a3c307c7f042fe850d17f4bea2c45adebab  

Agenti integrati nei robot https://deepmind.google/discover/blog/shaping-the-future-of-advanced-robotics/  

IEEE Spectrum sugli agenti https://spectrum.ieee.org/ai-agents-computer-use?utm_source=feedotter&utm_medium=email&utm_campaign=aialert-02-18-25&utm_content=httpsspectrumieeeorgaiagentscomputeruse&mkt_tok=NzU2LUdQSC04OTkAAAGYvbRFkFcfIT1rZFrSYRsDwO2A0srak09kQ9Z16It1YrDunBXgOZ9i8KzHffuVpXbLqzYq5PlMUSXHvm-pJNh2q2cCFpvNz91On2P0Zy46brrhXv9j  

L’agente per gli acquisti di Amazon https://techcrunch.com/2025/04/03/amazons-new-ai-agent-will-shop-third-party-stores-for-you/?utm_campaign=tc_daily_am&utm_medium=newsletter&_hsenc=p2ANqtz-_K-2XQ5cEzbA8sVv8foZAjCcLIqb0Ybj8a_dDx3n9NMxuC2DyVDn12Zy0IxicHFpyj6kH3vQc1wQdqaNHJp8DR017LjA&_hsmi=355244915&utm_source=tc  

Copilot https://techcrunch.com/2025/04/04/microsofts-copilot-can-now-browse-the-web-and-perform-actions-for-you/?utm_campaign=tc_daily_pm&utm_medium=newsletter&_hsenc=p2ANqtz-9BZBpVe7rYER_3NBLYzaHdD2yCFtOgjUQj_j89LJ_R1IBN9cyv0JbPa5FcS0gYw1-Vx2jT-iOHaLrVaADOATHTch3igA&_hsmi=355294138&utm_source=tc  

SINOSSI Se prestiamo attenzione al linguaggio quando ci sono di mezzo questioni importanti, ad esempio quelle di genere, non c’è ragione per non farlo anche quando ci sono di mezzo le macchine. Un caso esemplare è quello del dibattito sull’arrivo di una Superintelligenza. Le parole, infatti, plasmano la realtà e la Superintelligenza a cui dobbiamo stare attenti non è quella alimentata dal pressapochismo dell’informazione ma quella che racconto in questo episodio.  

FONTI
Il DETA https://www.detarobot.it/chi-siamo/
Il convegno del DETA https://deephinterland.it/a-milano-il-prim/
Il documento AI 2027 https://ai-2027.com/?utm_source=substack&utm_medium=email
L’estratto AI is a Normal Technology https://www.aisnakeoil.com/p/ai-as-normal-technology
L’articolo di The Verge https://www.theverge.com/policy/665685/ai-therapy-meta-chatbot-surveillance-risks-trump

Il mix tra malaffare e sistemi avanzati di intelligenza artificiale (come bot conversazionali e deepfake) può essere esplosivo e arrivare persino ad attuare una manipolazione di massa automatizzata.

Lo ha dimostrato un’inchiesta esclusiva della testata di Haaretz, anche se diversi addetti ai lavori avevano lanciato specifici allarmi nei mesi precedenti.

Nuove sfide si prospettano per i sistemi democratici contemporanei: è la macchina, artificiale, del caos.

FONTI
Lo scienziato citato nell’introduzione di questa puntata è Wael AbdAlmageed About (isi.edu)

L’inchiesta di Hareetz è consultabile a questo link Investigate the Israeli ‘Agents of Chaos’ - Haaretz Editorial - Haaretz.com

Il documento nel quale sono contenuti gli allarmi di Eric Horvitz, Chief Science Officer di Microsoft, è questo https://arxiv.org/pdf/2209.01714.pdf

L’allerta FBI sull’uso improprio di deepfake è pubblicata qui Internet Crime Complaint Center (IC3) | Deepfakes and Stolen PII Utilized to Apply for Remote Work Positions

La denuncia sull’attività delle lobby tech presso i vertici delle istituzioni europee è contenuta in questo documento del Corporate Europe Observatory The Lobbying Ghost in the Machine_1.pdf (corporateeurope.org)

L’indagine di TIME, che ha rivelato come OenAI sia riuscita a modificare alcuni articoli del testo provvisorio dell’AI Act, è pubblicata qui https://time.com/6288245/openai-eu-lobbying-ai-act/

Le tecnologie per il riconoscimento delle emozioni, basate su sistemi di intelligenza artificiale, stanno vivendo un periodo floridissimo, con un mercato stimato in crescita di quasi il 13%, passando dai 23,6 miliardi di dollari di quest'anno ai 43,3 miliardi di dollari entro il 2027.

Eppure sono già suonati rumorosi campanelli d’allarme: usate in diversi ambiti professionali, queste tecnologie hanno iniziato a modificare sensibilmente il lavoro di moltissime persone.

Dalla sanità alle scuole, passando per gli uffici e i servizi di polizia, nessun professionista sembra poter essere escluso.

Secondo gli scienziati non fanno ciò che promettono. E allora, perché sono vendute e utilizzate?

FONTI

L’episodio della docu-serie di Bloomberg sul futuro è pubblicato qui Watch Emotional Recognition | The Future With Hannah Fry Episode 2 - Bloomberg

Il mio libro è Immuni alla verità, edito da Guerini (2022).

La stima sul mercato dei tool di lettura emotiva è tratta dal Report 2023 di Research and Markets Emotion Detection and Recognition (EDR) Market by Component (Software (Facial Expression Recognition, Speech & Voice Recognition) and Services), Application Area, End User, Vertical, and Region (North America, Europe, APAC, RoW) - Global Forecast to 2027 (researchandmarkets.com)

Qui il dibattito pubblico istruito dalla FDC Federal Register :: Trade Regulation Rule on Commercial Surveillance and Data Security

Il paper di Knowing Machine contente l’analisi dei tool di lettura emotiva già presenti sul mercato e la valutazione delle criticità Comments of the Knowing Machines Research Project to the Federal Trade Commission Regarding the Trade Regulation Rule on Commercial Surveillance and Data Security by Melodi Dincer, Kate Crawford :: SSRN

Fare previsioni sul futuro del lavoro ai tempi dell’intelligenza artificiale potrebbe essere fuorviante, nonostante stia crescendo la letteratura scientifica a supporto del dibattito.
Di sicuro alcune verità sono scolpite nella roccia, come il fatto, per molti controintuitivo, che con la diffusione massiva di sistemi di IA, lavoreremo di più. È l’effetto lavatrice.

FONTI
Lo studio contente le prospettive sul lavoro, firmato in parte da ricercatori di OpenAI e citato all’inizio della puntata [2303.10130] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (arxiv.org)

Un sistema di Intelligenza Artificiale può essere titolare di brevetto?
E se è usato dall’uomo per inventare un prodotto, in che modo deve essere ripartita la titolarità dei diritti tra i due?

Mentre centinaia di milioni di utenti nel mondo hanno già sperimentato quanto possa essere facile, oltre che divertente, produrre contenuti testuali o grafici con l’IA (testi, slide, piani commerciali, immagini e grafiche) nel mondo del lavoro si stanno aprendo faglie profonde tra chi chiede piena legittimazione di questi software - quali normali strumenti da integrare nel processo produttivo - e chi rivendica a gran voce l’esclusività dell’intervento umano.

FONTI
La vicenda di DABUS The Artificial Inventor Project
La regolamentazione di Hong Kong Cap. 528 Copyright Ordinance (elegislation.gov.hk),
dell’India copyrightrules1957.pdf,
dell’Irlanda copyrightrules1957.pdf,
del Sud Africa WIPO Lex.
Il dibattito pubblico istruito negli Stati Uniti per definire una nuova regolamentazione sui diritti d’autore Federal Register :: Request for Comments Regarding Artificial Intelligence and Inventorship

Siamo abituati a pensare che siano le grandi piattaforme della gig economy ad aver risucchiato in un buco nero il peggio dell’automatizzazione artificiale.

Eppure la questione non riguarda più solo i rider, come insegna quello che sta accadendo ai medici negli Stati Uniti, con il piano Medicare Advantage.

I nuovi diritti del lavoro passano dalla trasparenza algoritmica: senza, si moltiplicano i rischi sociali, economici e professionali.

FONTI
Lo studio della Professoressa Veena Dubal On Algorithmic Wage Discrimination by Veena Dubal :: SSRN

Le proteste dei cittadini americani contro il Piano Medicare Advantage 250K NYC retirees must switch to new Medicare coverage after union leaders favor Aetna plan - Gothamist

Il rapporto federale con cui si sono dimostrate le criticità del Piano Medicare Advantage Federal report finds Medicare Advantage plans often deny necessary care (cmadocs.org)

Il Quick-Commerce sta prendendo piede da tempo in Europa.
È un modello di logistica solo in apparenza più sostenibile di quello basato sulla pura gig economy, eppure determina dinamiche devastanti per l’equilibrio urbanistico e sociale delle città.

La città in 15 minuti è, infatti, il sogno di molti politici, ma un conto è se, a realizzarla, è il corpo sociale (distretti del commercio, Pubblica Amministrazione, cittadini).

Un conto è se a orientarla è esclusivamente la logica del consumo.

FONTI
L’analisi di FEPS e UNI Global Union Dark-stores-Back-to-the-Dark-Ages.pdf (uni-europa.org)

Il divieto di apertura di dark stores approvato a Barcellona Barcelona bans grocery delivery companies' 'dark stores' | Euronews

L’evento organizzato dal Comune di Milano in collaborazione con Glovo e le dichiarazioni dell’Assessora al Commercio Alessia Cappello “Il delivery del futuro: verso la Città in 15 minuti”.

Presentati nella nuova sede di Glovo, i risultati dell’indagine con Confcommercio Milano, Lodi, Monza e Brianza

Il dibattito internazionale sulle criticità dei Dark Stores è iniziato da diversi anni What Instant Delivery Services Could Do to Cities - Bloomberg