Meta și Google au pierdut un proces cu miză ridicată la Los Angeles, unde un juriu a decis că modul în care sunt construite Instagram și YouTube a contribuit la apariția unor tulburări de sănătate mintală la o utilizatoare de 20 de ani. Decizia mută discuția despre „engagement” din zona eticii în zona dreptului și deschide întrebarea unde se termină designul inteligent și unde începe răspunderea juridică pentru dependență.
Porota nu s a limitat la a constata că rețelele sociale pot face rău. A concluzionat că firmele au creat în mod conștient funcții menite să țină tinerii conectați, că știau de riscuri, nu au avertizat clar utilizatorii și că un om obișnuit nu avea cum să vadă pericolul, motiv pentru care Meta și Google trebuie să plătească 6 milioane de dolari despăgubiri compensatorii și punitive. Pentru părinți, școli și statele americane care pregătesc mii de acțiuni similare, verdictul este un semnal că această strategie juridică are șanse reale și că modelele de business bazate pe atenție vor fi examinate în instanță, nu doar în spațiul public.
Despre ce este vorba cu adevărat în acest litigiu
Cazul, denumit JCCP 5255, a implicat o tânără care a început să utilizeze rețelele de socializare la vârsta de 10 ani și care, potrivit procesului, a dezvoltat o "dependență periculoasă" față de acestea, însoțită de anxietate, depresie, automutilare și afectarea percepției de sine. Juriul a constatat că:
Meta și YouTube cunoșteau riscurile legate de designul platformelor lor
utilizatorii obișnuiți nu erau conștienți de aceste riscuri
societățile nu i-au avertizat, chiar dacă un "operator rezonabil" ar fi făcut acest lucru
Reclamanta și mama sa au primit în total 6 milioane de dolari în daune compensatorii și punitive. Atât Meta $META, cât și Alphabet $GOOG intenționează să facă apel, astfel încât litigiul este departe de a se fi încheiat.
Cum au ocolit avocații articolul 230
Timp de mulți ani, regula de bază a fost că procesele împotriva site-urilor de rețele de socializare se încheiau la un zid numit secțiunea 230. Această lege protejează companiile de internet de răspunderea pentru conținutul postat de utilizatori și le permite să modereze ceea ce consideră dăunător cu "bună credință". Argumentul tradițional "conținutul de pe platformă este dăunător pentru copii" a fost de cele mai multe ori respins rapid de instanțe.
De data aceasta, însă, avocații au făcut o răsturnare de situație: ei nu judecă conținutul, ci designul. Ei vizează:
derularea fără sfârșit
aprecieri și alte reacții
Notificarea
algoritmi care maximizează implicarea
El spune că acestea sunt decizii de design active, nu găzduirea pasivă a conținutului altcuiva. Dacă distruge sănătatea mintală, secțiunea 230 nu se aplică după această logică. Aceasta este construcția pe care se bazează verdictul.
Libertatea de exprimare vs. răspunderea algoritmilor
Următoarea rundă a bătăliei va viza argumentele privind libertatea de exprimare. Experții juridici se așteaptă ca Meta și Google să construiască un apel pe această bază:
algoritmii și modul în care aceștia clasifică și afișează conținutul
precum și designul interfeței
sunt o formă de exprimare și, prin urmare, sunt protejate de Constituție.
Dacă instanțele superioare spun că societățile pot fi date în judecată în general pentru design și alegeri de algoritmi, există riscul unui "efect de răcire".
Fie platformele vor deveni mult mai prudente și vor limita mecanismele de dependență, fie vor începe să filtreze agresiv subiectele controversate pentru a minimiza riscul juridic - îngustând astfel spațiul pentru dezbaterea online.
Este posibil ca disputa să ajungă în cele din urmă la Curtea Supremă, care va trebui să decidă unde se află granița dintre concepția tehnică și discursul protejat.
Există trei traiectorii posibile
1) Verdictul va fi menținut în apel
În cazul în care Curtea de Apel decide că:
Secțiunea 230 se aplică algoritmilor și proiectării
sau că procesul este o încercare nepermisă de a eluda protecția legală
verdictul nu va fi valabil și valul de alte procese va slăbi semnificativ. Strategia juridică "să atacăm designul" își va pierde farmecul, iar litigiile vor reveni la cazuri fragmentate, nu la un atac sistemic asupra unui model de afaceri. Atât pentru Meta, cât și pentru Alphabet, acest lucru ar însemna că presiunea asupra reputației ar rămâne, dar riscul juridic și financiar ar fi gestionabil.
2) Verdictul va rămâne valabil, dar va duce doar la schimbări incrementale
A doua opțiune este ca instanța să mențină capacitatea de a invoca răspunderea pentru anumite alegeri în materie de proiectare, dar stabilește un standard ridicat:
Va fi necesară o dovadă clară a unei legături de cauzalitate între caracteristică și prejudiciul specific
limitarea răspunderii la cazurile extreme
În practică, aceasta ar însemna probabil:
mai multe caracteristici de "bunăstare" (limite de timp, pauze de reamintire, instrumente parentale mai puternice)
o gestionare mai atentă a notificărilor pentru adolescenți
mai multă transparență în ceea ce privește algoritmii
Modelul de afaceri bazat pe mindfulness ar rămâne la bază, dar companiile ar trebui să țină cont de costurile juridice și de conformitate continue.
3) Verdictul va stabili un precedent pentru o avalanșă de procese
Cel mai dur scenariu vine dacă instanțele superioare susțin acest lucru:
Secțiunea 230 nu se aplică designului
companiile pot fi trase la răspundere pentru "dependența" produsului lor
iar Congresul nu decide să modifice legea în favoarea platformelor.
Rezultatul:
Mii de procese similare din partea părinților, școlilor și statelor
Presiuni din partea investitorilor pentru a modifica produsele în vederea reducerii riscului de dependență (chiar și cu prețul unui angajament mai scăzut)
Intervenții reale în algoritmi și UX - limitarea scroll-ului infinit, setări implicite diferite pentru minori
Platformele tehnologice ar începe să se apropie legal de "produse reglementate" precum tutunul sau jocurile de noroc. Acest lucru ar avea un impact major asupra evaluărilor companiilor, a multiplelor de creștere și a profitabilității preconizate.
Presiune globală: din Australia până în Brazilia
Procesul de la Los Angeles nu este un eveniment izolat. În alte țări apar deja norme mai stricte:
Australia a interzis utilizarea rețelelor de socializare de către copiii sub 16 ani
Brazilia a interzis funcțiile de derulare infinită pentru anumite grupuri de utilizatori
Alte țări dezvoltă o combinație de limite de vârstă, caracteristici obligatorii de "siguranță prin proiectare" și teste de impact asupra sănătății mintale
Aceasta ridică o nouă problemă: cum se poate verifica vârsta în practică? Fără o anumită formă de identificare (de exemplu, sisteme de identificare de stat sau private), legile sunt greu de aplicat. Acest lucru se confruntă cu probleme legate de viața privată și cu riscul identificării eronate, în cazul în care adulții ar intra din greșeală în "modul copil" și ar trebui să își dovedească vârsta.
Ce trebuie să înțelegem din această situație
Verdictul împotriva Meta și Google nu este încă o revoluție, dar este prima lovitură serioasă dată în blocajul modelului digital "cu cât mai mult timp online, cu atât mai bine". Vor fi luate decizii în anii următori:
Dacă algoritmii și designul vor rămâne protejați din punct de vedere juridic, la fel ca conținutul, sau dacă vor deveni un domeniu în care companiile vor fi ținute în mod special responsabile de impactul asupra sănătății utilizatorilor, în special a copiilor și adolescenților.