> Jeśli chodzi o systemy bezpieczeństwa, ważne jest nie to, jak działają, lecz to, jak zawodzą.
Tak brzmiała pierwsza linijka mojego pierwszego wpisu na blogu „Jawny Bunt” w Xnecie. Pisałem tam jako M1k3y i byłem gotowy pójść na wojnę.
> Być może automatyczne sprawdzanie stron internetowych ma pomóc w łapaniu terrorystów. Być może dzięki temu prędzej czy później uda się jakiegoś złapać. Problem w tym, że dzięki temu łapią też nas, mimo że nie robimy niczego złego.
> Im więcej ludzi udaje się dzięki temu mechanizmowi schwytać, tym słabszy się on staje. Jeśli złapanych zostanie zbyt wiele osób, padnie zupełnie.
> Czaicie?
Wkleiłem krótką instrukcję, jak zbudować kloner RFID, oraz kilka wskazówek, jak podejść wystarczająco blisko do ludzi, żeby odczytać i spisać ich tagi. Swojego klonera włożyłem do kieszeni mojej starej motocrossowej kurtki i poszedłem do szkoły. Po drodze udało mi się sklonować sześć tagów.
Chcieli wojny? Będzie wojna.
Jeśli kiedyś zdecydujecie się na coś tak głupiego, żeby zbudować automatyczny detektor terroryzmu, oto lekcja matematyki, którą najpierw powinniście sobie przyswoić. To zdumiewające zjawisko nazywa się paradoksem wyniku fałszywie pozytywnego.
Powiedzmy, że cierpicie na nową chorobę zwaną superAIDS. Zapada na nią tylko jeden człowiek na milion. Opracowujecie test na superAIDS, który jest wiarygodny w dziewięćdziesięciu dziewięciu procentach. To znaczy sprawdza się w dziewięćdziesięciu dziewięciu procentach w przypadku, gdy wynik jest prawidłowy – pozytywny, gdy badana osoba jest chora, i negatywny, gdy jest zdrowa. Przeprowadźcie ten test na milionie ludzi.
Jeden człowiek na milion choruje na superAIDS. Jeden na stu ludzi, których testujecie, wygeneruje wynik fałszywie pozytywny – według testu będzie miał superAIDS, mimo że go nie ma. Oto, co oznacza wiarygodność w dziewięćdziesięciu dziewięciu procentach – jeden procent błędu.
Czym jest jeden procent z jednego miliona?
1 000 000 : 100 = 10 000
Jeden na milion ludzi ma superAIDS. Jeśli testowi poddacie milion przypadkowych osób, prawdopodobnie znajdziecie tylko jeden przypadek prawdziwego zachorowania na superAIDS. Jednak wasz test nie zidentyfikuje tej jednej osoby cierpiącej na superAIDS. Zidentyfikuje dziesięć tysięcy takich osób.
Wasz dokładny w dziewięćdziesięciu dziewięciu procentach test będzie działał z 99.99-procentową niedokładnością.
Oto paradoks wyniku fałszywie pozytywnego. Gdy próbujecie znaleźć coś naprawdę rzadkiego, wasz test musi trafić na tę poszukiwaną przez was rzadkość. Jeśli staracie się wskazać pojedynczy piksel na ekranie, dobrym wskaźnikiem będzie ostry ołówek, jego szpic jest o wiele mniejszy (bardziej precyzyjny) niż piksele. Jednak ten sam szpic nie nadaje się do wskazywania atomu na waszym ekranie. Do tego potrzebny jest wskaźnik – test – którego szpic jest wielkości pojedynczego atomu lub mniejszy.
To jest właśnie paradoks wyniku fałszywie pozytywnego, a oto, jak to się ma do terroryzmu:
Terroryści są prawdziwą rzadkością. W takim dwudziestomilionowym mieście jak Nowy Jork może się znajdować jeden bądź dwóch terrorystów. Maksymalnie dziesięciu. 10 : 20 000 000 = 0,0000005. Jedna dwudziestotysięczna procenta.
To dosyć duża rzadkość. Powiedzmy, że macie jakieś oprogramowanie, które potrafi przewertować całą dokumentację dotyczącą operacji bankowych, transportu publicznego, połączeń telefonicznych lub opłat za przejazd poszczególnymi drogami i złapać terrorystów z dziewięćdziesięciodziewięcioprocentową trafnością.
Wśród dwudziestu milionów ludzi test o dziewięćdziesięciodziewięcioprocentowej dokładności zidentyfikuje dwieście tysięcy z nich jako terrorystów. Jednak tylko dziesięciu jest nimi naprawdę. Żeby złapać dziesięciu złoczyńców, musicie zgromadzić i sprawdzić dwieście tysięcy niewinnych osób.
Wiecie co? Dokładność testów na terroryzm nie jest nawet bliska dziewięćdziesięciu dziewięciu procentom. Zbliża się co najwyżej do sześćdziesięciu procent. A czasem zaledwie do czterdziestu.
Wszystko to oznacza, że amerykański Departament Bezpieczeństwa Wewnętrznego był z góry skazany na sromotną klęskę. Starał się wykryć niezmiernie rzadkie przypadki za pomocą niedokładnych systemów.
Czy jeszcze kogoś to dziwi, że byliśmy w stanie narobić takiego bałaganu?
W pewien wtorkowy poranek, pogwizdując, wyszedłem frontowymi drzwiami, rozpoczynając tym samym Operację Wyniku Fałszywie Pozytywnego. Wczuwałem się w rytm jakiegoś nowego zespołu ściągniętego poprzedniej nocy z Xnetu – wiele osób przesyłało M1k3yowi niewielkie cyfrowe upominki, żeby podziękować za nadzieję, jaką im dawał.
Skręciłem w 23rd Street i zacząłem ostrożnie schodzić po wąskich kamiennych schodach wykutych w zboczu wzgórza. Na dole minąłem Pana Jamnika. Nie znam jego prawdziwego nazwiska, ale widuję go często, jak wchodzi po schodach ze swoimi trzema zasapanymi jamnikami i idzie do parku. Przeciśnięcie się obok nich jest prawie niewykonalne i zawsze kończy się na tym, że zaplątany w smycz ląduję w czyimś frontowym ogródku lub na zderzaku jednego z samochodów zaparkowanych wzdłuż krawężnika.
Pan Jamnik jest najwyraźniej kimś ważnym, bo zawsze nosi wypasiony zegarek i dobry garnitur. Założyłem, że pracuje w dzielnicy finansowej.
Dzisiaj, przechodząc obok niego, uruchomiłem swój ukryty w skórzanej kurtce kloner RFID. Kloner wessał numery jego karty kredytowej, kluczyków do samochodu, paszportu, a także rachunków na sto dolarów schowanych w portfelu.
Jednocześnie sflashować niektóre z nich nowymi numerami należącymi do jakichś ludzi, o których się otarłem. To było jak niewidzialne i natychmiastowe podmienianie tablic rejestracyjnych w wielu samochodach naraz. Uśmiechnąłem się przepraszająco do Pana Jamnika i ruszyłem w dół po schodach. Zatrzymałem się obok trzech samochodów i stałem tam na tyle długo, żeby podmienić numery z ich FasTraków na numery, które zebrałem z samochodów mijanych dzień wcześniej.
Można by pomyśleć, że szukałem okazji do zadymy, jednak w porównaniu z wieloma użytkownikami Xnetu ja byłem ostrożny. Kilka dziewczyn z inżynierii chemicznej na Uniwersytecie Kalifornijskim w Berkeley odkryło, w jaki sposób z produktów kuchennych można stworzyć nieszkodliwą substancję, która potrafi oszukać detektory materiałów wybuchowych. Miały wielką radochę, bo posypywały nią teczki i kurtki profesorów, po czym chowały się i patrzyły, jak ci sami profesorowie próbują dostać się do sal wykładowych lub bibliotek w kampusie, a nowi ochroniarze – ostatnio pojawiali się dosłownie wszędzie – wywalali ich na zbity pysk.
Niektórzy chcieli się dowiedzieć, jak posypać koperty substancją, która wskazywałaby na zawartość wąglika, ale reszta twierdziła, że mają nierówno pod sufitem. Na szczęście wyglądało na to, że nie są w stanie odkryć tej metody.
Minąłem szpital i gdy zobaczyłem ogromne kolejki przed wejściem, z satysfakcją kiwnąłem głową. Oczywiście tutaj także znajdował się policyjny punkt kontrolny. Wielu użytkowników Xnetu odbywało staż w tym szpitalu lub pracowało w tamtejszym bufecie i Bóg wie gdzie jeszcze, tak więc wszyscy mieli pomieszane i poprzestawiane numery identyfikatorów. Czytałem, że systemy kontroli czasu pracy doliczały każdemu codziennie dodatkową godzinę do odpracowania i związki zawodowe groziły, że wyjdą na ulice, jeśli szpital czegoś w tej sprawie nie zrobi.
Kilka przecznic dalej zauważyłem następną kolejkę, tym razem przed wejściem do metra. Wzdłuż niej tam i z powrotem spacerowali policjanci, wskazując na ludzi i wzywając ich na stronę, żeby ich przesłuchać i zrewidować od góry do dołu. Ludzie wciąż wytaczali gliniarzom procesy, ale nawet to nie przeszkodziło mundurowym w wykonywaniu roboty.