Meta zrobiła to, czego nie udało się Google Glass: sprawiła, że okulary z kamerą zaczęły wyglądać normalnie. Teraz przekonuje się, że największym wyzwaniem nie jest technologia, lecz zgoda osób stojących po drugiej stronie obiektywu.
Siedzisz w kawiarni. Osoba przy sąsiednim stoliku patrzy w twoją stronę. A może właśnie nagrywa? Na jej twarzy nie ma gogli rodem z filmu science fiction, tylko całkiem zwyczajne okulary. Gdzieś na oprawce powinna migać niewielka biała dioda, ale trzeba wiedzieć, czego szukać – i w ogóle zwrócić na nią uwagę.
To krótka scena, ale dobrze pokazuje problem, z którym mierzy się dziś Meta. Firma odniosła produktowy sukces: umieściła kamerę, mikrofony i asystenta AI w przedmiocie, który nie wygląda jak gadżet. Jednocześnie usunęła jeden z najważniejszych społecznych sygnałów ostrzegawczych – widoczny gest wyciągnięcia telefonu i skierowania aparatu w czyjąś stronę.
Smartfon trzymamy. Okulary po prostu nosimy.
I właśnie dlatego niewielka dioda LED nie rozwiązuje problemu zgody.
Sukces, którego Meta może zacząć żałować
Google Glass przegrały między innymi dlatego, że wyglądały obco. Osoba w takich okularach natychmiast zwracała uwagę, a samo urządzenie szybko zaczęło kojarzyć się z naruszaniem prywatności. Ray-Ban Meta i kolejne modele obrały przeciwną drogę: technologia miała zniknąć w znanej, modnej formie.
Z punktu widzenia projektowania produktu to ogromne osiągnięcie. Kamera staje się dostępna bez użycia rąk, a asystent AI może widzieć świat z perspektywy użytkownika. Takie urządzenie może tłumaczyć napisy, pomagać w nawigacji, odpowiadać na pytania dotyczące otoczenia, wspierać osoby z niepełnosprawnościami i rejestrować ważne chwile bez sięgania po telefon.
Problem polega na tym, że ta sama cecha, która czyni okulary wygodnymi, czyni je również trudnymi do odczytania przez otoczenie. Nie wiadomo, czy użytkownik patrzy, nagrywa, robi zdjęcie, transmituje obraz, czy korzysta z funkcji AI analizującej to, co znajduje się przed nim.
W ostatnich tygodniach to napięcie wyszło poza dyskusje ekspertów od prywatności. W Nowym Jorku, Londynie i Waszyngtonie reklamy okularów Mety zostały przerobione przez aktywistów na ostrzeżenia przed masową inwigilacją. Londyńska kampania partyzancka wykorzystała nawet reklamę z Kylie Jenner, zmieniając modowy przekaz w dystopijną przestrogę. To już nie jest niszowy spór o ustawienia urządzenia. To problem reputacyjny całej kategorii produktu.
Kiedy zabezpieczenie zależy od dobrych intencji użytkownika
Dotychczasowy model prywatności był prosty. Podczas robienia zdjęcia lub nagrywania filmu na oprawce zapala się biała dioda. Meta dodatkowo prosi użytkowników, aby szanowali preferencje innych osób, nie nagrywali w miejscach wrażliwych i wyłączali urządzenie, gdy ktoś nie chce być filmowany.
To rozsądne zasady dobrego zachowania. Nie są jednak skutecznym zabezpieczeniem przed osobą, która świadomie zamierza je złamać.
W sieci pojawiały się materiały nagrywane bez wiedzy przypadkowych osób, w tym filmy o seksualizującym lub upokarzającym charakterze. Niektórzy użytkownicy zasłaniali albo modyfikowali diodę, aby ukryć moment rejestracji. Meta przyznała, że obserwuje coraz bardziej zaawansowane próby ingerowania w ten element urządzenia.
Firma zapowiedziała więc obowiązkową aktualizację: jeśli okulary wykryją fizyczne uszkodzenie lub modyfikację diody, aparat ma zostać wyłączony. W modelach drugiej generacji podobny mechanizm reagował już na zwykłe zasłonięcie światła; teraz ochrona ma objąć również bardziej inwazyjne próby jego unieszkodliwienia. Meta zapowiada też usuwanie ze swoich platform ofert usług pomagających obchodzić zabezpieczenie.
To dobra i potrzebna zmiana. Trudno jednak nie zapytać: dlaczego kamera od początku mogła działać, gdy jedyny zewnętrzny sygnał nagrywania został uszkodzony?
W produktach mogących naruszać prawa innych osób zabezpieczenie nie powinno być dodatkiem reagującym na kryzys wizerunkowy. Powinno być warunkiem działania podstawowej funkcji. Awaria zwykłej diody nie musi blokować całego urządzenia. W inteligentnych okularach nie jest ona jednak tylko wskaźnikiem, lecz jedyną informacją dla otoczenia, że trwa nagrywanie. Jeśli nie działa, nie powinien działać również aparat.
Meta musi moderować nie tylko platformę, ale cały system
Druga reakcja przyszła ze strony Instagrama. Adam Mosseri zapowiedział usuwanie materiałów nagranych okularami, jeśli pokazują wykorzystywanie lub nękanie nieświadomych osób – na przykład w filmach typu „prank” albo w nagrywanych z ukrycia próbach podrywu.
Intencja jest słuszna, ale natychmiast pojawiają się trudne pytania. Czy problemem jest samo nagranie bez zgody, jego treść, sposób publikacji, czy dopiero skala szkody? Co z filmowaniem kobiet na siłowni bez podchodzenia do nich? Co z nagrywaniem osób bezdomnych albo znajdujących się w kryzysie? Dlaczego taki sam materiał wykonany telefonem miałby być oceniany inaczej?
Jak zauważa The Verge, Meta nie pokazała przy tej zapowiedzi precyzyjnej polityki ani jasnej ścieżki dla osoby nagranej bez wiedzy, która chciałaby zażądać usunięcia materiału. Granica między zwykłym nagraniem ulicznym, wykorzystaniem czyjegoś wizerunku i nękaniem pozostaje nieostra.
Ta sytuacja ujawnia jednak coś ważniejszego. Meta nie sprzedaje już wyłącznie urządzenia. Kontroluje cały łańcuch:
- okulary ułatwiają rejestrowanie materiału,
- AI może go analizować i wzbogacać,
- Instagram umożliwia jego publikację,
- algorytm rekomendacji może zamienić cudzy dyskomfort w zasięg i przychód.
Odpowiedzialności nie da się więc zatrzymać na krawędzi oprawki. Jeśli jedna firma obniża koszt nagrywania praktycznie do zera, a następnie dystrybuuje i monetyzuje powstałe treści, musi projektować zabezpieczenia dla całego procesu: od rejestracji po możliwość zgłoszenia i usunięcia materiału.
Dioda informuje. Nie pyta o zgodę
Największą słabością obecnego rozwiązania jest pomylenie sygnalizowania ze zgodą.
Biała lampka może powiedzieć: „urządzenie prawdopodobnie nagrywa”. Nie daje jednak osobie stojącej przed kamerą realnej odpowiedzi na kilka podstawowych pytań:
- Czy rzeczywiście jestem w kadrze?
- Czy powstaje zdjęcie, film, transmisja na żywo, czy analiza wykonywana przez AI?
- Gdzie trafi materiał i jak długo będzie przechowywany?
- Czy zostanie użyty do trenowania modeli?
- Jak mogę odmówić albo później odnaleźć i usunąć nagranie?
Co więcej, komunikat widzi tylko osoba, która zauważy niewielkie światło i rozumie jego znaczenie. Dziecko, turysta, pracownik sklepu zajęty obsługą klienta czy osoba niedowidząca mogą nie mieć takiej możliwości.
Zgoda wymaga wiedzy, wyboru i możliwości wycofania się. Dioda oferuje co najwyżej sygnał.
Nie oznacza to, że każde ujęcie przestrzeni publicznej musi poprzedzać podpisanie formularza. Ludzie od dawna robią zdjęcia na ulicy, a przepisy dotyczące nagrywania i publikacji wizerunku różnią się między państwami. Problemem smart glasses nie jest samo istnienie kamery. Jest nim radykalne zmniejszenie widoczności i kosztu rejestracji, połączone z AI zdolną rozpoznawać, opisywać i zapamiętywać otoczenie.
Wraz z tą zmianą stary kompromis społeczny przestaje wystarczać.
Rozpoznawanie twarzy przesuwa granicę jeszcze dalej
Sprawę komplikuje dodatkowo temat biometrii. Według śledztwa WIRED w aplikacji Meta AI znalazły się elementy systemu rozpoznawania twarzy o nazwie NameTag, powiązanego z inteligentnymi okularami. Po publikacji większość tych elementów została usunięta, a Meta utrzymywała, że funkcja nie była aktywna. Sam fakt pojawienia się takiego kodu wystarczył jednak, by ponownie uruchomić debatę o granicy między osobistym asystentem a narzędziem identyfikowania ludzi w przestrzeni publicznej.
Różnica jest fundamentalna. Kamera rejestruje osobę. Rozpoznawanie twarzy może nadać jej tożsamość. Asystent AI mógłby następnie połączyć obraz z profilem, historią spotkań albo danymi znalezionymi w internecie.
W takim świecie pytanie nie brzmi już: „czy ktoś mnie nagrywa?”. Brzmi: „co urządzenie właśnie o mnie ustaliło?”.
To próg, którego producenci nie powinni przekraczać po cichu ani poprzez zwykłą aktualizację regulaminu. Wdrożenie identyfikacji biometrycznej w urządzeniu noszonym przez cały dzień wymagałoby nie tylko technicznego zabezpieczenia, ale szerokiej społecznej legitymacji. Dziś jej nie ma.
Jak powinny wyglądać okulary godne zaufania?
Nie uważam jednak, że rozwiązaniem jest odrzucenie całej kategorii urządzeń. Inteligentne okulary mogą stać się jednym z najważniejszych interfejsów ery AI. Ich wartość jest szczególnie widoczna w dostępności, tłumaczeniu, nawigacji i sytuacjach, w których użytkownik ma zajęte ręce.
Ale produkt mający stale widzieć świat musi zostać zaprojektowany także dla ludzi, którzy go nie kupili.
To oznacza co najmniej pięć zasad:
Po pierwsze: prywatność jako warunek działania. Aparat nie powinien działać, gdy zewnętrzny sygnał nagrywania jest zasłonięty, uszkodzony lub nieczytelny. To musi być zabezpieczenie sprzętowe i programowe, a nie tylko zapis w zasadach użytkowania.
Po drugie: jednoznaczny język urządzenia. Otoczenie powinno móc łatwo odróżnić robienie zdjęcia, nagrywanie filmu, transmisję i analizę AI. Jedna lampka próbująca komunikować wszystkie stany to za mało.
Po trzecie: minimalizacja danych i przetwarzanie lokalne. Jeśli funkcja może działać na urządzeniu bez wysyłania obrazu do chmury, powinna działać lokalnie. Producent musi jasno pokazywać, jakie dane opuszczają okulary, w jakim celu i na jak długo.
Po czwarte: prawo osoby nagranej do reakcji. Platforma dystrybuująca materiał powinna oferować prostą ścieżkę zgłoszenia nagrania wykonanego bez wiedzy, zwłaszcza gdy przedstawia ono osobę w sytuacji wrażliwej lub służy jej ośmieszeniu. To nie może zależeć od popularności sprawy w mediach.
Po piąte: szczególna ostrożność wobec biometrii. Rozpoznawanie osób w czasie rzeczywistym nie powinno być kolejną funkcją aktywowaną jednym kliknięciem. Ryzyko stalkingu, profilowania i nadużyć jest zbyt duże, by odpowiedzialność przerzucać na dobre intencje właściciela urządzenia.
Najważniejszą funkcją będzie zaufanie
Meta zrobiła smart glasses atrakcyjne, użyteczne i społecznie akceptowalne pod względem wyglądu. To więcej, niż osiągnęli wcześniejsi producenci. Teraz firma odkrywa jednak, że normalny wygląd urządzenia nie oznacza normalizacji jego użycia.
Aktualizacja wyłączająca kamerę po ingerencji w diodę i usuwanie najbardziej szkodliwych filmów z Instagrama to dobre decyzje. Są jednak spóźnione i reaktywne. Naprawiają dwa najbardziej widoczne objawy, ale nie rozwiązują podstawowego konfliktu: użytkownik chce, aby nagrywanie było niewidoczne i bezwysiłkowe, podczas gdy osoby wokół niego potrzebują czytelności i kontroli.
W kolejnej fazie rozwoju wearable AI wygra nie ten producent, który umieści w oprawce najwięcej funkcji. Wygra ten, któremu uwierzymy, że jego urządzenie nie wykorzystuje otoczenia jako darmowego zbioru danych.
Bo okulary należą do osoby, która je kupiła. Ale wszystko, na co patrzą, już nie.
Leave a Comment