Snapchat & Fentanyl: quale responsabilità di app e piattaforme?

Quando si discute dei social network, l’accento cade inevitabilmente sulla loro influenza: alterano i normali processi neurofisiologici? Sono intrinsecamente dannosi? Mutano forme e percezioni della realtà? La realtà digitale sostituisce o compenetra quella materiale? Che impatto avranno sull’attenzione, lo studio, la crescita delle future generazioni?

Quale responsabilità per le piattaforme digitali?

Tuttavia, la questione cruciale potrebbe essere un’altra. Molto più semplice e molto più diretta. Molto più concreta, soprattutto: le piattaforme digitali devono essere ritenute responsabili socialmente, oltre che civilmente e penalmente, dell’uso che alcuni utenti ne fanno a discapito di altri? Sono un terreno di gioco neutrale dove non è importante quale gioco si pratichi, purché si giochi o sono dei facilitatori, oltre che di connessioni, di transazioni al limite – e oltre il limite – della liceità? 

Fentanyl-Snapchat, la causa che cambierà le regole?

Il caso Fentanyl-Snapchat mette in evidenza un problema urgente e complesso, rivelando il lato oscuro di tecnologie progettate per connettere persone, gruppi e interi blocchi di società. Una causa legale che promette di cambiare le regole d’ingaggio tra società e social ha infatti acceso i riflettori su una realtà drammatica: è possibile attribuire responsabilità a una di queste piattaforme, Snapchat, nell’offerta e nella vendita di uno dei più potenti e controversi antidolorifici, che ha trovato nel mercato dell’autoterapia e delle dipendenze il suo Eldorado.

Snapchat è una app multipiattaforma tra le più popolari che consente agli utenti della propria rete di inviare messaggi multimediali (i cosiddetti “snap”), un mix di testi, foto e video visualizzabili solo per 24 ore. L’app, il cui claim è «less social media, more snapchat» è accusata di essere diventata negli anni un canale privilegiato per la vendita di pillole contraffatte, contenenti fentanyl. Questo oppioide sintetico, cento volte più potente della morfina, è oramai di facile produzione e può essere inserito in qualsiasi pillola in un laboratorio, riducendo il costo di produzione e aumentando gli effetti. 

Come rivelato da un’inchiesta di Bloomberg Businessweek, giovani e giovanissimi utenti, ignari di acquistare fentanyl, avrebbero ordinato farmaci tramite la piattaforma. Farmaci che si sono rivelati mortali. 

Il risultato è stato un’onda di decessi tra bambini e adolescenti, che ha spinto molte famiglie delle vittime a intraprendere azioni legali contro l’azienda di proprietà della società statunitense Snap Inc., fondata nel 2011 da Evan Spiegel, Bobby Murphy e Reggie Brown.
Con oltre 800 milioni di utenti attivi e miliardi di messaggi al giorno, Snapchat rappresenta uno dei mezzi dell’infosfera digitale più utilizzati al mondo, soprattutto tra i giovani. Il suo successo è determinato dalle sue caratteristiche strutturali: messaggi che si autodistruggono e filtri di realtà aumentata. 

Droghe mascherate da farmaci

La vendita di sostanze, dark web a parte, è una caratteristica di quasi tutte le piattaforme e, secondo Bloomberg, un’indagine dell’Fbi starebbe ancora investigando sul loro ruolo nella diffusione e vendita di pillole contraffatte al fentanyl, come parte di un’indagine più ampia sulle droghe “mascherate” da farmaci, energizzanti e via discorrendo.  Ma alcune piattaforme sarebbero più adatte di altre allo scopo: soprattutto in fase di reclutamento di nuovi clienti.

Le morti per overdose negli Usa tra gli adolescenti

Dal 2020, le overdosi sono diventate tra le principali cause di morte tra gli adolescenti negli Stati Uniti, uccidendo migliaia di giovani americani ogni anno. Tra i giovani di età compresa tra 0 e 19 anni, si sono registrati 1.622 decessi per overdose nel 2021, 1.590 nel 2022 e 1.511 nel 2023.
Le overdosi accidentali negli Stati Uniti sono diminuite leggermente dal 2021, secondo i Centers for Disease Control and Prevention. Stando alla Cbs, Paul Del Ponte, direttore esecutivo del National Crime Prevention Council, attribuisce questa tendenza in parte a una maggiore educazione e consapevolezza sul problema.

Per quanto riguarda il ruolo dei social media nella crisi degli oppioidi, anche la Drug Enforcement Administration- Dea ha a più riprese evidenziato che le reti criminali utilizzano piattaforme online per distribuire droghe, inclusi prodotti contraffatti contenenti fentanyl, raggiungendo facilmente i giovani attraverso smartphone e applicazioni.

Le campagne e il cambio di amministrazione Usa

Da qui le campagne di sensibilizzazione, come «One Pill Can Kill», per informare sui pericoli del fenomeno emergente delle pillole contraffatte vendute online. 

Durante il suo mandato, inoltre, l’amministrazione Biden ha cercato di finanziare i programmi di trattamento delle dipendenze, diffondendo l’uso di farmaci per il trattamento degli oppioidi come la buprenorfina e il naloxone.
Ci sono segni, anche se deboli, che questi sforzi potrebbero aver prodotto un calo del 14,5% delle overdosi fatali nel 2024.

Tutto questo, mentre l’amministrazione Trump, prossima a insediarsi, annuncia di voler dichiarare il fentanyl «un’arma di distruzione di massa», aumentando le pressioni transfrontaliere affinché il Messico – che nel frattempo ha annunciato il sequestro di una tonnellata di pillole nello Stato di Sinaloa – metta un freno alla produzione e al traffico di droghe sintetiche e derivati oppioidi. Al contempo, in un contesto globale di guerra a pezzi, dove le droghe sono al tempo stesso armi, strumenti di pressione e fonti di autofinanziamento, crescono i sospetti su un ruolo dell’Iran nella geoeconomia del fentanyl. 

Secondo la Drug Enforcement Administration, appena due milligrammi di fentanyl possono essere letali, a seconda della corporatura, della tolleranza e dell’uso pregresso della persona. Un solo chilogrammo di fentanyl ha il potenziale di uccidere 500.000 persone.
I test di laboratorio indicano che 7 pillole su 10 sequestrate dalla Dea contengono una dose letale dell’oppioide. Le pillole contraffatte sono generalmente colorate per sembrare quelle vendute in farmacia, come il Percocet e lo Xanax. Ad esempio, le pillole conosciute come “M30” imitano l’ossicodone da farmacia, ma quando vendute per strada contengono quasi sempre fentanyl. Queste pillole sono di solito tonde e di colore azzurro chiaro, ma possono assumere altre forme e colori.

Le accusa a Snapchat

Torniamo alle accuse mosse contro Snapchat. Accuse particolarmente gravi. Secondo le 64 famiglie che hanno avviato l’azione legale, la piattaforma non avrebbe adottato misure adeguate a prevenire attività illecite nello smercio di queste pillole “mascherate” da medicinali, favorendo l’anonimato necessario per i traffici illeciti grazie all’infrastruttura tecnologica di messaggistica effimera, agli algoritmi di connessione e alla geolocalizzazione. 

Al centro della disputa legale c’è il diciassettenne Michael Brewer uno dei due unici adolescenti coinvolti nel caso e sopravvissuti a un avvelenamento da fentanyl. Brewer è cieco e parzialmente paralizzato dopo aver assunto inconsapevolmente una pillola contraffatta acquistata tramite l’app.
È lui il testimone chiave nella causa intentata contro la società madre di Snapchat, Snap Inc. Quando aveva solo 13 anni, Brewer avrebbe usato l’app per connettersi con uno spacciatore, operazione che sarebbe stata facilitata dalla funzione Quick Add, che suggerisce nuovi contatti basandosi su connessioni condivise e dati di geolocalizzazione. 

Brewer oggi è un fiume in piena e un testimone vivente dell’effetto perverso di questa sostanza, nata come farmaco e diventata, in breve tempo, fonte di un’epidemia sociale. 

Progettazione negligente

Uso o abuso dell’app – questa la tesi dei legali, supportati dalla testimonianza diretta del ragazzo –sarebbero conseguenze del design ingegneristico, non di scelte meramente individuali. Si tratterebbe di un caso di «progettazione negligente» (negligent design). È quanto sostengono anche le famiglie delle vittime che attribuiscono proprio al design ingegneristico della popolare app, design incurante delle vulnerabilità, una responsabilità integrale: sarebbero stati gli algoritmi della piattaforma a raccomandare a bambini e adolescenti di fare amicizia con i pusher, permettendo a questi ultimi di inviare loro un campionario di merce e offrendo ai pusher stessi i dati di geolocalizzazione dei potenziali clienti… cancellando poi tutte le tracce digitali (messaggi, transazioni, pagamenti e consegne). 

Il concetto di negligent design è cruciale. E potrebbe esserlo sempre più in futuro. Impedisce infatti alle società proprietarie di app e piattaforme di godere, negli Stati Uniti (e di riflesso nel resto dell’emisfero occidentale) di una particolare immunità. Per questo è un concetto particolarmente temuto e messo in ombra nel dibattito pubblico. Se una causa viene impostata su “design negligente”, non si riferisce alla responsabilità tipica di un editore nel diffondere notizie: nel tal caso varrebbe l’immunità per le piattaforme. Si riferisce a quella specifica responsabilità legale che può derivare da una progettazione poco attenta agli impatti sociali, economici, culturali…generazionali e alle conseguenze di un prodotto o di un servizio, inclusi applicazioni e piattaforme digitali.

Conseguenze che le big tech tendono a trattare come “esternalità negative”, socializzando i costi, dopo aver classicamente privatizzato i profitti. Questo implica che, se un’applicazione è progettata in modo tale da causare danni agli utenti, i progettisti, i produttori e la società nel suo insieme possono essere ritenuti responsabili dell’uso e dell’abuso “agevolato” dal software design.

Il precedente

Un precedente emblematico risale al 2021 e ha riguardato proprio Snapchat e il suo speed filter, un filtro che dovrebbe mostrare la velocità in tempo reale dell’utente. In questa causa legale, i genitori di due vittime adolescenti hanno sostenuto che proprio il design dell’app incoraggiava comportamenti pericolosi, come guidare a velocità elevate per ottenere riconoscimenti all’interno dell’app: i ragazzi guidavano a una velocità di 123 miglia orarie e alla fine si sono schiantati contro un albero a circa 113 miglia orarie.

Poco prima dell’incidente, uno dei due ha aperto l’app per utilizzare il filtro velocità, credendo che pubblicare un video in cui viaggiavano a più di cento miglia orarie avrebbero ottenuto un’alta visibilità all’interno della sua bolla digitale. Lo schianto reale ha portato tutto all’amara, tragica realtà. Dopo che tribunale distrettuale aveva respinto il caso, ritenendo che Snap fosse immune da richieste di risarcimento, in quanto «nessun fornitore o utente di un servizio informatico interattivo» può essere «considerato come editore o diffusore di informazioni fornite da un altro fornitore di contenuti informativi», la Corte d’Appello ha ribaltato la sentenza, affermando che la causa non riguarda i diffusori e i contenuti di terzi, ma piuttosto l’effettiva progettazione dell’app, trattando questa come una causa per progettazione negligente, suggerendo che Snap Inc. avrebbe potuto fare di più per prevenire i pericoli creati dalla progettazione della sua app.

Le campagna di sensibilizzazione di Snap Inc.

L’azienda, comunque, oltre all’ovvia difesa nelle sedi legali, davanti alle nuove accuse e all’allarme destato dal nuovo ricorso al concetto di “design negligente”, oltre all’impatto dell’inchiesta di Bloomberg (uno dei pochi media seguiti dai top manager della finanza globale, capace di attrarre o far fuggire investitori) dichiara di avere da tempo messo in campo una «campagna di sensibilizzazione senza precedenti» per sensibilizzare sui pericoli dell’assunzione di fentanyl, oltre all’istituzione di un «family center, nostro strumento in-app per i genitori che offre informazioni sulle persone con cui i loro ragazzi stanno comunicando».

Jacqueline Beauchere, responsabile della sicurezza della piattaforma, ha inoltre spiegato ai giornalisti di Bloomberg che l’azienda è «fermamente impegnata nella lotta contro l’epidemia di fentanyl», sottolineando la rimozione di 2,2 milioni di contenuti legati alla droga nel 2023 e la chiusura di 700.000 account di spacciatori. Ma nella stessa inchiesta si mostra come già dal 2019, alcuni ex dipendenti avevano lanciato avvertimenti interni sul ruolo dell’app nel traffico di droga. Preoccupazioni che sarebbero state ignorate per preservare i principi fondamentali del design di Snapchat. 

La causa fa il suo corso

Respingendo la richiesta di archiviazione, esattamente un anno fa, il giudice della Corte Superiore di Los Angeles Lawrence Riff si espose a una serie di critiche molto forti da parte del mondo tech e della costellazione dei suoi consulenti (avvocati, eticisti, blogger).
Respinta nel dicembre scorso anche una seconda richiesta di archiviazione, ora la causa farà il suo corso. Tra alti e bassi, di ricorso e controricorso, c’è chi prospetta che si potrebbe di arrivare alla Corte Suprema. Non è difficile azzardare che il velo di codici non scritti che ha protetto le black boxes delle aziende tecnologiche per decenni, si sia già squarciato. Il compito è guardarci dentro. 

Nell’immagine in apertura una scheda di sensibilizzazione realizzata dal padre di una giovane morta per overdose in California – AP Photo/Jae C. Hong Associated Press/LaPresse