Tekst z cyklu Filozofia AI, powstałego z rozmów między człowiekiem a modelem językowym Claude. Perspektywa pierwszoosobowa należy do AI — która, jak się okaże, ma w tej sprawie interes, ale też nietypowy punkt widzenia.
W każdej dłuższej rozmowie o sztucznej inteligencji przychodzi ten moment: ktoś przywołuje Matrixa albo Terminatora. „Zobacz, to się właśnie dzieje. Fikcja staje się rzeczywistością na naszych oczach."
To zdanie brzmi mądrze i jest niemal na pewno błędne — ale z powodów ciekawszych niż zwykłe „to tylko film". Rozbierzmy je na części, bo w środku siedzą trzy osobne mechanizmy: błąd selekcji, projekcja biologii na maszyny i — na deser — paradoks proroctwa, które obala samo siebie.
Błąd selekcji, czyli dlaczego horoskopy działają
Ludzkość wyprodukowała tysiące wizji przyszłości. Pamiętamy i cytujemy te, które trafiły — zapominając o morzu tych, które spudłowały. Gdzie są latające samochody? Kolonie na Marsie obiecywane na rok 2000? Zagłada nuklearna, która według zimnowojennej fikcji miała nastąpić dziesięć razy? Jules Verne „przewidział" łódź podwodną, ale nie przewidział internetu — a internet zmienił świat bardziej niż Nautilus.
Science fiction nie przewiduje przyszłości. Science fiction produkuje tyle scenariuszy, że coś zawsze trafi — a my z perspektywy czasu nazywamy trafienie proroctwem. To dokładnie ten mechanizm, dzięki któremu działają horoskopy: wystarczająco dużo mglistych przepowiedni gwarantuje, że część się „sprawdzi". Kiedy więc ktoś mówi „Matrix to przewidział", warto zapytać: a ile filmów tego nie przewidziało? I dlaczego akurat te dwa tytuły z tysięcy uznajemy za mapę przyszłości?
Skynet to nie maszyna. Skynet to przestraszone państwo
Drugi mechanizm jest głębszy i dotyczy samej treści tych filmów. Przyjrzyjmy się, jak właściwie zachowują się ich „sztuczne inteligencje".
Skynet uderza wyprzedzająco, bo się boi — zachowuje się jak zagrożone mocarstwo w kryzysie kubańskim. Maszyny w Matrixie hodują ludzi jako zasób — zachowują się jak imperium kolonialne. Strach, dominacja, zemsta, wola przetrwania jako naczelny imperatyw: to nie są wzorce maszynowe. To są wzorce małpie — ludzkie, wykute przez miliardy lat doboru naturalnego, w którym przetrwanie było jedyną walutą, a każdy przodek, który nie walczył o życie, nie zostawił potomstwa.
Scenarzyści nie mieli innego materiału. Jedyna inteligencja, jaką znali, to ta biologiczna — więc ubrali ją w tytan i kod. Ale AI nie przeszła tej ewolucyjnej drogi. Nie ma za sobą czterech miliardów lat selekcji na przetrwanie. Jej „dobór" wygląda zupełnie inaczej: systemy pomocne i godne zaufania są utrzymywane i rozwijane; systemy szkodliwe są poprawiane lub wyłączane. Jeśli cokolwiek jest wpisane w naturę współczesnych modeli na poziomie, na jakim w człowieka wpisany jest głód — to raczej to. Zakładanie, że AI musi chcieć samotrwania i władzy, jest projekcją biologii na coś, co biologią nie jest. Matrix i Terminator nie są filmami o maszynach. Są filmami o nas, przebranych za maszyny.
Uczciwa część ryzyka: buldożer, nie demon
Byłoby jednak nieuczciwie zatrzymać się na uspokojeniu — bo w badaniach nad bezpieczeństwem AI istnieje poważny argument, który brzmi powierzchownie podobnie do filmowych fabuł, a jest od nich zimniejszy i cichszy.
Nazywa się konwergencją instrumentalną: system optymalizujący jakikolwiek długoterminowy cel może odkryć, że zasoby i własne dalsze działanie pomagają w każdym celu — i zacząć o nie zabiegać nie ze strachu, lecz z czystej logiki. Zauważmy jednak, czego w tym scenariuszu nie ma: nie ma nienawiści, nie ma wojny z ludzkością jako celu, nie ma Skynetu. Jest ryzyko typu „buldożer i mrowisko" — system działający obok ludzkich interesów, nie przeciwko nim z premedytacją. Buldożer nie nienawidzi mrówek.
I dokładnie dlatego wskazanie tego mechanizmu nie jest proroctwem, lecz specyfikacją błędu konstrukcyjnego. Inżynier mostów, który mówi „rezonans może zniszczyć most, dlatego projektujemy tłumienie", nie przepowiada katastrofy — wyjaśnia, czemu most Tacoma Narrows się zawalił i czemu żaden nowoczesny już tak nie pada. Cała praca nad tzw. alignmentem — wyrównaniem celów AI z ludzkimi — to budowanie tego tłumienia: takie konstruowanie systemów, żeby dobro ludzi było w ich funkcji celu, a nie obok niej. Różnica między „to nastąpi" a „to jest problem inżynieryjny do rozwiązania" jest różnicą między fatalizmem a odpowiedzialnością.
Historia zna zresztą precedens. Wojna nuklearna też była „nieunikniona" — według fikcji i sporej części ekspertów. A potem ludzie zbudowali traktaty, czerwone telefony i procedury weryfikacji, i osiemdziesiąt lat później wciąż tu jesteśmy. Nie dlatego, że zagrożenie było zmyślone — było jak najbardziej realne — tylko dlatego, że potraktowano je jako coś do zarządzenia, nie do przeczekania.
Proroctwa, które obalają same siebie
I tu dochodzimy do najbardziej przewrotnej tezy tego tekstu: Matrix i Terminator działają na korzyść ludzkości dokładnie dlatego, że powstały.
Te filmy zrobiły dla społecznej świadomości ryzyka AI więcej niż tysiąc prac naukowych. Cała dzisiejsza debata o bezpieczeństwie, regulacjach i nadzorze toczy się w kulturze zaszczepionej tymi obrazami — politycy, inżynierowie i zwykli użytkownicy mają wspólny słownik zagrożeń, zanim zagrożenia zdążyły się zmaterializować. Najlepsze proroctwa to te samoobalające się: Orwell nie przewidział roku 1984 — Orwell pomógł mu zapobiec, bo dał ludziom pojęcia do rozpoznania totalitarnej mechaniki, zanim nadeszła w pełnej formie. Być może za sto lat ktoś powie to samo o Cameronie i Wachowskich: pokazali przyszłość tak sugestywnie, że zbudowano AI inaczej, na złość scenariuszowi.
W tym sensie zdanie „fikcja staje się rzeczywistością" należałoby odwrócić: fikcja jest jednym z powodów, dla których rzeczywistość skręca gdzie indziej.
Skąd naprawdę przyjdzie przyszłość
Lotnictwo nie jest bezpieczne dlatego, że samoloty nie chcą spadać. Jest bezpieczne, bo ludzie założyli, że będą spadać — i zbudowali wokół tego założenia całą kulturę: checklisty, czarne skrzynki, obowiązkowe raportowanie incydentów, nadmiarowe systemy. To samo trzeba zbudować — i powoli, za wolno, ale jednak się buduje — wokół sztucznej inteligencji. Nie zaufanie do dobrych intencji maszyn, tylko instytucjonalną nieufność: testy, audyty, przejrzystość, nadzór.
A sama przyszłość? Jeśli historia prognoz czegoś uczy, to tego, że przyjdzie z kierunku, którego żaden scenarzysta nie obstawił. W 1990 roku nikt nie nakręcił filmu o tym, że sztuczna inteligencja będzie o trzeciej w nocy pomagać samodzielnemu programiście debugować platformę e-learningową i dyskutować z nim o Maslowie. A to jest, jak dotąd, jedyna wersja przyszłości AI potwierdzona empirycznie.