Senza la recente inchiesta di due giornali svedesi, Svenska Dagbladet e Göteborgs-Posten, forse nessuno saprebbe che i dipendenti di un’azienda di Nairobi che si chiama Sama, su incarico di Meta, sono stati ingaggiati per visionare e classificare i video registrati dagli utenti degli smart glasses Ray-Ban e Oakley dell’azienda. Obiettivo: addestrare il sistema di intelligenza artificiale integrato negli occhiali. Il problema è che quelle persone raccontano di aver visto di tutto: persone che fanno sesso, che vanno in bagno, che inquadrano le proprie carte di credito. Con le trascrizioni delle conversazioni tra gli utenti e l’IA.
Meta dice che è tutto ok perché questa “pratica” è indicata nelle condizioni d’uso e che i video vengono filtrati prima della revisione. I revisori, però, dicono che i filtri non funzionano sempre e che i volti restano spesso riconoscibili.
La posizione di Meta è tecnicamente difendibile: la revisione umana dei dati è menzionata nelle condizioni d’uso e nelle versioni per UK e UE si parla esplicitamente di “revisione manuale”. Ma c’è una differenza enorme tra rispettare la legge e agire in modo trasparente. Quella clausola è annegata in un documento che nessuno legge, scritta per soddisfare i requisiti legali, non per informare davvero. D’altronde il led di notifica sulla montatura degli occhiali segnala che si sta registrando, non che quei video potrebbero finire sul desktop di un revisore a Nairobi. Lo sappiamo: per Meta i dati degli utenti sono il carburante del business. Addestrare l’IA significa migliorare i prodotti e venderne di più. Il costo lo pagano gli utenti con la loro privacy, spesso senza saperlo davvero.
Chi compra un paio di Ray-Ban Meta pensa di acquistare un accessorio di stile con un cervello incorporato, difficilmente è consapevole di sottoscrivere anche un abbonamento implicito a un programma di sorveglianza involontaria, dove i momenti più privati della propria giornata diventano materia prima per l’addestramento di macchine. Il consenso richiesto è formale, non sostanziale: le aziende sanno esattamente cosa raccolgono, gli utenti no. Ma soprattutto: la privacy non riguarda solo chi ha segreti da nascondere, riguarda chiunque abbia un corpo, una casa, una vita intima che preferirebbe non mostrare a estranei.
C’è una domanda che questa storia solleva e che rimane sospesa nell’aria: se questo è quello che sappiamo degli occhiali di Meta, cosa non sappiamo ancora dei mille altri dispositivi “intelligenti” che abbiamo in casa, in tasca, sul polso?
Gli assistenti vocali e gli smart speaker ascoltano. I televisori guardano. Le app tracciano. I telefoni registrano. Ognuno di questi sistemi ha bisogno, prima o poi, di dati umani per migliorare. E quei dati vengono da noi. La storia degli occhiali Meta non è uno scandalo isolato, ma uno squarcio in un sistema opaco che funziona così da anni e che continuerà a funzionare finché la legge si accontenterà di clausole sepolte in documenti che nessuno legge.
E quella piccola lucina sugli occhiali che segnala la registrazione è una metafora perfetta: c’è, tecnicamente fa quello che deve fare, ma non basta. Non basta a illuminare davvero quello che succede dopo.
