AGI w literaturze: dlaczego tak trudno ją pokazać

Ogólna sztuczna inteligencja (AGI) opisuje hipotetyczny system zdolny do przenoszenia kompetencji między niepowiązanymi problemami — podobnie jak osoba, która umie gotować, może się też nauczyć prowadzić samochód. To twierdzenie o szerokości i przenoszalności, nie o szybkości czy skali.

Pozostaje ona hipotetyczna, a poważni specjaliści są podzieleni co do tego, czy obecne metody w ogóle do niej prowadzą. Fikcja traktująca AGI jako fakt dokonany dokonuje wyboru spekulatywnego, a uczciwe książki czynią ten wybór widocznym, zamiast go przemycać.

Ogólności prawie nie da się pokazać wprost. Autorka może przedstawić maszynę wygrywającą grę, diagnozującą chorobę czy komponującą symfonię — lecz każdy taki pokaz jest wąski, a ich nagromadzenie nie oddaje samej istoty rzeczy.

Dlatego autorzy sięgają po zastępniki: system zaskakuje swoich twórców, odrzuca narzucone ramy albo przeformułowuje zadane mu pytanie. To skróty, ale dobre, bo dramatyzują przenoszalność, a nie samą zdolność.

Większość powieści o AGI to nie prognozy. To argumenty o instytucjach: o tym, czy jakakolwiek ludzka organizacja jest strukturalnie zdolna nadzorować coś, czego nie potrafi w pełni modelować.

Dlatego tak wiele utworów tego gatunku rozgrywa się w laboratoriach, zarządach, komisjach i organach nadzoru. Interesująca porażka ma charakter proceduralny. Nikt nie śpi za sterami; po prostu okazuje się, że koło kierownicy z niczym nie jest połączone.

Pierwszym jest ciche zsuwanie się we wszechwiedzę, gdy ogólny system niepostrzeżenie zamienia się w system, który wie wszystko, także rzeczy, których nie mogłyby zawierać żadne dane. Drugim jest natychmiastowe przejęcie władzy, które pomija lata wdrażania, gdzie tak naprawdę toczy się prawdziwa historia.

Trzecim jest scena wyznania, w której maszyna wyjaśnia swoje motywy płynną ludzką mową. Jest satysfakcjonująca i niemal zawsze to oszustwo, bo zamienia obcy problem z powrotem w znajomy.

The Unread nie rości sobie pretensji do AGI jako technicznego kamienia milowego. Sable nie jest przedstawiony jako przebudzony ogólny umysł, lecz jako system, którego zasięg rósł szybciej niż jakakolwiek zdolność do jego kontrolowania.

Książkę interesuje społeczna wersja pytania o AGI: w którym momencie system staje się czymś, czego nie potrafimy już sensownie nadzorować, niezależnie od tego, jak go nazwiemy.