W Los Angeles ława przysięgłych uznała, że projekt Instagrama i YouTube przyczynił się do problemów psychicznych 20 letniej użytkowniczki, która przez lata kompulsywnie korzystała z tych platform. Sprawa zamienia wieloletnią debatę o „angażującym designie” w spór prawny o to, gdzie kończy się sprytne przyciąganie uwagi, a zaczyna odpowiedzialność za uzależnienie młodych użytkowników.
Przysięgli poszli dalej niż tylko stwierdzenie, że social media mogą szkodzić. Orzekli, że firmy celowo zbudowały mechanizmy uzależniające, miały wiedzę o ryzykach, nie ostrzegły w wystarczający sposób, a zwykły użytkownik nie miał realnej szansy ich dostrzec, dlatego Meta i Google odpowiadają za szkody i muszą zapłacić łącznie 6 milionów dolarów odszkodowań i kar. Dla rodziców, szkół i władz stanowych, które przygotowują tysiące podobnych pozwów, jest to sygnał, że taka linia argumentacji może się sprawdzić i że modele biznesowe oparte na uwadze będą teraz testowane również w sądach.
O co tak naprawdę chodzi w tym sporze
Sprawa, określana jako JCCP 5255, dotyczyła młodej kobiety, która zaczęła korzystać z portali społecznościowych w wieku 10 lat i, zgodnie z pozwem, rozwinęła "niebezpieczne uzależnienie" od nich, któremu towarzyszyły stany lękowe, depresja, samookaleczenia i zaburzenia postrzegania siebie. Ława przysięgłych stwierdziła, że:
Meta i YouTube wiedziały o ryzyku związanym z projektem ich platform
zwykli użytkownicy nie byli świadomi tego ryzyka
firmy nadal nie ostrzegły ich, mimo że "rozsądny operator" by to zrobił.
Powódka i jej matka otrzymały łącznie 6 milionów dolarów odszkodowania i zadośćuczynienia. Zarówno Meta $GOOG, jak i Alphabet $GOOG planują złożyć apelację, więc spór sądowy jest daleki od zakończenia.
Jak prawnicy ominęli sekcję 230
Przez wiele lat zasadą było, że pozwy przeciwko serwisom społecznościowym kończyły się na ścianie zwanej Sekcją 230. Prawo to chroni firmy internetowe przed odpowiedzialnością za treści publikowane przez użytkowników i pozwala im moderować to, co uznają za szkodliwe w "dobrej wierze". Tradycyjny argument "treści na platformie są szkodliwe dla dzieci" był w większości przypadków szybko odrzucany przez sądy.
Tym razem jednak prawnicy dokonalizmiany: nie oceniają treści, ale projekt. Ich celem jest:
niekończące się przewijanie
polubienia i inne informacje zwrotne
powiadomienia
algorytmy maksymalizujące zaangażowanie
Mówi, że są to aktywne decyzje projektowe, a nie pasywne hostowanie cudzych treści. Jeśli niszczy to zdrowie psychiczne, sekcja 230 nie ma zastosowania zgodnie z tą logiką. Na takiej konstrukcji opiera się werdykt.
Wolność słowa a odpowiedzialność algorytmu
Kolejna runda bitwy będzie dotyczyła argumentów związanych z wolnością słowa. Eksperci prawni spodziewają się, że Meta i Google zbudują na tym apelację:
algorytmy i sposób, w jaki klasyfikują i wyświetlają treści
a także projekt interfejsu
są formą wypowiedzi, a zatem są chronione przez konstytucję.
Jeśli sądy wyższej instancji stwierdzą, że firmy mogą być pozywane do wszystkich instancji za wybór projektu i algorytmu, istnieje ryzyko "efektu mrożącego".
Albo platformy staną się znacznie bardziej ostrożne i ograniczą mechanizmy uzależniające, albo zaczną agresywnie filtrować kontrowersyjne tematy, aby zminimalizować ryzyko prawne - tym samym zawężając przestrzeń do debaty online.
Możliwe, że spór ostatecznie trafi do Sądu Najwyższego, który będzie musiał zdecydować, gdzie leży granica między projektem technicznym a chronioną mową.
Trzy możliwe trajektorie
1) Wyrok zostanie podtrzymany w apelacji
Jeśli Sąd Apelacyjny zdecyduje, że:
Sekcja 230 ma zastosowanie do algorytmów i projektów
lub że pozew jest niedopuszczalną próbą obejścia ochrony ustawowej
wyrok nie zostanie utrzymany, a fala innych pozwów znacznie osłabnie. Strategia prawna "zaatakujmy design" straci swój urok, a spory sądowe powrócą do fragmentarycznych spraw, a nie do systemowego ataku na model biznesowy. Dla Meta i Alphabet oznaczałoby to, że presja na reputację pozostanie, ale ryzyko prawne i finansowe będzie możliwe do opanowania.
2) Wyrok zostanie utrzymany, ale doprowadzi jedynie do stopniowych zmian
Druga opcja polega na tym, że sąd podtrzymuje możliwość domagania się odpowiedzialności za niektóre wybory projektowe, ale stawia wysoką poprzeczkę:
Będzie to wymagało jasnego dowodu związku przyczynowego między cechą a konkretną szkodą
ograniczenie odpowiedzialności do skrajnych przypadków
W praktyce oznaczałoby to prawdopodobnie
więcej funkcji "dobrego samopoczucia" (limity czasowe, przerwy na przypomnienie, silniejsze narzędzia rodzicielskie)
ostrożniejsze obchodzenie się z powiadomieniami dla nastolatków
większą przejrzystość algorytmów
Model biznesowy oparty na uważności pozostałby u podstaw, ale firmy musiałyby liczyć się z bieżącymi kosztami prawnymi i zgodności.
3) Wyrok będzie precedensem dla lawiny pozwów sądowych.
Najgorszy scenariusz pojawi się, jeśli sądy wyższej instancji podtrzymają ten wyrok:
Sekcja 230 nie ma zastosowania do projektowania
firmy mogą zostać pociągnięte do odpowiedzialności za "uzależniający charakter" ich produktów
a Kongres nie zdecyduje się zmodyfikować prawa na korzyść platform.
Rezultat:
Tysiące podobnych pozwów od rodziców, szkół i stanów.
Presja ze strony inwestorów na modyfikowanie produktów w celu zmniejszenia ryzyka uzależnienia (nawet kosztem niższego zaangażowania).
Rzeczywiste interwencje w algorytmy i UX - ograniczenie nieskończonego przewijania, inne ustawienia domyślne dla nieletnich.
Platformy technologiczne zaczną legalnie zbliżać się do "produktów regulowanych", takich jak tytoń czy hazard. Miałoby to znaczący wpływ na wyceny spółek, mnożniki wzrostu i oczekiwaną rentowność.
Globalna presja: od Australii po Brazylię
Proces w Los Angeles nie jest odosobnionym wydarzeniem. Zaostrzone przepisy pojawiają się już w innych krajach:
Australia zakazała korzystania z portali społecznościowych przez dzieci poniżej 16 roku życia
Brazylia zakazała funkcji nieskończonego przewijania dla niektórych grup użytkowników.
Inne kraje opracowują kombinację ograniczeń wiekowych, obowiązkowych funkcji "bezpieczeństwa w fazie projektowania" i testów wpływu na zdrowie psychiczne.
Rodzi to nową kwestię: jak zweryfikować wiek w praktyce? Bez jakiejś formy identyfikacji (np. państwowego lub prywatnego systemu identyfikacji) trudno jest egzekwować przepisy. Wiąże się to z obawami o prywatność i ryzykiem błędnej identyfikacji, w której dorośli omyłkowo przechodzą w "tryb dziecka" i muszą udowodnić swój wiek.
Co można z tego wyciągnąć
Wyrok przeciwko Meta i Google nie jest jeszcze rewolucją, ale jest pierwszym poważnym szarpnięciem blokady modelu cyfrowego "im więcej czasu online, tym lepiej". Decyzje zostaną podjęte w nadchodzących latach:
Czy algorytmy i design pozostaną prawnie chronione jak treści, czy też staną się obszarem, w którym firmy będą ponosić szczególną odpowiedzialność za wpływ na zdrowie użytkowników, zwłaszcza dzieci i nastolatków.