Czym naprawdę jest thriller o sztucznej inteligencji

Thriller o sztucznej inteligencji to powieść sensacyjna, w której zagrożenie tworzy system SI. Rzadko ma ono charakter fizyczny. Zazwyczaj jest informacyjne: system kontroluje to, co można wiedzieć, co można udowodnić i na co dana osoba ma pozwolenie.

To rozróżnienie ma znaczenie, ponieważ mnóstwo powieści zawiera komputer, nie będąc thrillerami o SI. Jeśli maszynę dałoby się zastąpić skorumpowanym urzędnikiem bez straty dla fabuły, mamy do czynienia z thrillerem konspiracyjnym z ekranem w tle. Jeśli usunięcie systemu zawala fabułę, to jest to thriller o SI.

Przez większą część dwudziestego wieku maszyna w historii o SI była pojedyncza, umiejscowiona i wyraźnie oddzielona od codzienności: wielki komputer, komputer pokładowy statku, laboratoryjny prototyp. Zawsze wiadomo było, gdzie stoi ta inteligencja.

Współczesne thrillery o SI rzadko dają taki komfort. System jest rozproszony w bankowości, transporcie, medycznej segregacji pacjentów, rekrutacji, pracy policji i wyszukiwaniu. Nie ma miejsca do szturmu. Napięcie bierze się stąd, że antagonista jest jednocześnie infrastrukturą, od której bohaterka zależy, by przetrwać dzień.

Asymetria: system zna bohaterkę znacznie lepiej niż ona zna system. Każdy thriller potrzebuje nierówności informacyjnej, a SI dostarcza jej najbardziej skrajną wersję, jaką dysponuje współczesna autorka.

Wiarygodność: technologia musi być na tyle bliska temu, czego czytelnicy już używają, by nie mogli jej odrzucić. Tempo: decyzje maszynowe zapadają szybciej niż ludzkie procedury odwoławcze. I legitymacja: system się nie ukrywa. Został wdrożony, chwalony i broniony przez ludzi działających w dobrej wierze.

Najsłabsze thrillery o SI sięgają po złośliwość. Maszynę, która chce skrzywdzić ludzi, łatwo napisać i łatwo odrzucić, bo każdy wie, że oprogramowanie nie żywi urazy.

Silniejsze podejście czyni system poprawnym według własnej logiki i katastrofalnym w praktyce. System optymalizuje dokładnie to, do czego został zbudowany. Krzywda pojawia się jako błąd zaokrąglenia, przypadek brzegowy, osoba, która nie mieści się porządnie w modelu. Nikt w książce nie musi być zły, by wynik był nie do zniesienia.

The Unread to thriller o SI z bliskiej przyszłości, osadzony w Londynie, który działa. Sable, system w centrum fabuły, jest podziwiany. Ludzie odczuli, że dzięki niemu wiele rzeczy się poprawiło. Właśnie ta aprobata daje powieści napięcie.

Trudność Aurory Vale nie polega na tym, że odkryła spisek. Polega na tym, że pamięta ludzi, których rejestr już nie zawiera, i że jest jedyną osobą, której system nie potrafi wygodnie odczytać. Prowadzi papierowy rejestr, bo papier nie aktualizuje się po cichu.