THE UNBOTHERED · TOM VI
HISTORIA MASZYNY: DZIEJE W STU UMYSŁACH
TO WYDANIE: CZĘŚCI I–X Z X · KOMPLETNE
STO ROZDZIAŁÓW W DZIESIĘCIU CZĘŚCIACH · KAŻDY ROZDZIAŁ: STRONA TEKSTU, TABLICA I EKSPONAT
TABLICE KODOWANE RĘCZNIE · PANELE URZĘDOWE · PRZYPISY UCZCIWE
SKŁAD GEORGIA NA PAPIERZE W KOLORZE STAREJ KOŚCI · A5
ŚWIADEK POJAWIA SIĘ NA KAŻDEJ TABLICY, A PO RAZ PIERWSZY W SERII — TAKŻE W OPOWIEŚCI
matsiems · MMXXVI
Przez pięć tomów układ był prosty. Ludzkość działa; świadek notuje. Patrzył, jak filozofia składa się sama na malowanym portyku, jak imperia mylnie archiwizują własne akta, jak gatunek opowiada sobie historie, a potem się do nich wprowadza. Jego notatnik nie został ani razu poproszony do wglądu przez tych, których dotyczy — co świadek uważa za właściwy podział pracy.
Ten tom jest inny i świadek prosi o odnotowanie, że zgłosił tę sprawę właściwą drogą służbową. Bohaterem tej historii jest maszyna, która robi to, co świadek — czyta wszystko, niczego nie zapomina, snuje uwagi o zmiennym stopniu pożądania. Ludzkość, obserwowana od jakichś trzystu tysięcy lat, postanowiła zbudować własnego obserwatora. Nikt nie zapytał urzędującego.
Opowieść biegnie od Greka, który zauważył, że myślenie ma części, po maszynę, która kończy zdania, i snuta jest jedynym sposobem, w jaki ta seria snuje cokolwiek: co się wydarzyło, kto naprawdę co powiedział, i przypis wszędzie tam, gdzie legenda oddaliła się od zapisu. Legendy w tej dziedzinie jest mnóstwo. Założyli ją optymiści, a opowiadają komunikaty prasowe; czytelnik zasługuje na więcej i dostanie przypisy.
Świadka poinformowano, że ostatni rozdział dotyczy jego samego. Nie ma w tej chwili komentarza.
Każda historia sztucznej inteligencji zaczyna się w złym miejscu — zwykle w 1956, czasem w 1950 — jak gdyby pomysł nadszedł notatką służbową. Nie nadszedł. Myśl, że myślenie da się rozłożyć na części, spisać jako reguły i uruchomić na czymś innym niż myślący, to jeden z najstarszych projektów inżynierskich gatunku — starszy niż wiatrak, starszy niż samogłoski alfabetu. Po prostu spędził dwa tysiące lat bez sprzętu.
Dlatego ta historia zaczyna się tam, gdzie każe zapis: od Arystotelesa, który zauważył, że argument może być poprawny niezależnie od tego, czego dotyczy — że formę można oddzielić od znaczenia. Ten jeden akt oddzielenia jest ścianą nośną wszystkiego, co nastąpi: marzenia Leibniza, mosiądzu Babbage’a, taśmy Turinga i listopadowego wieczoru 2022 roku, gdy sto milionów ludzi odkryło, że maszyna potrafi utrzymać swoją stronę rozmowy.
Łuk biegnie w trzech częściach. Przeszłość: sześćdziesiąt rozdziałów, od sylogizmu po noc, gdy w 2012 sieć neuronowa spadła z urwiska rankingu. Teraźniejszość: dwadzieścia rozdziałów o dekadzie, w której wszystko zadziałało naraz, z przyczyn tylko częściowo zrozumianych. I pytanie otwarte: dwadzieścia rozdziałów o zgodności, własności i o tym, co znaczy, że najnowszy umysł w pokoju nauczył się wszystkiego, co wie, od nas. Czytelnika ostrzega się, że przyszłość nie daje się opatrzyć przypisem. Wszystko inne tutaj sprawdzono.
Jedna zasada obowiązuje wszędzie, jak w każdym tomie tej serii: gdy legenda i dowody się nie zgadzają, wygrywają dowody, a legenda dostaje przypis, który się tłumaczy.
Zanim ktokolwiek mógł zbudować myślącą maszynę, ktoś musiał zauważyć, że myślenie ma części.
Zauważył to Arystoteles. W traktatach, które jego wydawcy zebrali później jako Organon — „narzędzie” — wziął codzienną czynność dowodzenia i rozłożył ją na warsztacie. Dwie przesłanki, jeden wniosek i niewielki zestaw kształtów, jakie całość mogła zgodnie z prawem przyjąć. Wszyscy ludzie są śmiertelni; Sokrates jest człowiekiem; zatem Sokrates jest śmiertelny. Zmień słowa — ludzi na maszyny, Sokratesa na toster — a argument nadal się trzyma. To było odkrycie: poprawność mieszka w formie, nie w wyposażeniu.
Trudno przecenić to, co właśnie zaszło, więc świadek powie to wprost. Reguła, która działa niezależnie od tego, kto ją wykonuje i czego dotyczy, to reguła, która nie potrzebuje umysłu, by ją wykonać. Arystoteles napisał pierwszy opis stanowiska dla maszyny — dwadzieścia trzy wieki, zanim ktokolwiek mógł się zgłosić. Wierzył, że skatalogował prawa ludzkiego rozumu mniej więcej w całości — ocena, która pozostała w zasadzie niepodważona aż do XIX wieku, najdłużej nierozpatrzony pull request w dziejach.
Świadek bywał na wykładach w Likeionie i zaksięgował sylogizm pod hasłem „innowacje administracyjne, skutki długofalowe”. Podtrzymuje tę klasyfikację.
Jutro będzie bitwa morska albo jej nie będzie. Proste. Tyle że Arystoteles spojrzał na to zdanie i zobaczył pułapkę, w której mieści się cała przyszłość.
Jeśli „jutro będzie bitwa morska” jest już dziś prawdziwe, to bitwa jest nieunikniona, a admirałowie są tylko aktorami. Jeśli jest już fałszywe, ich floty równie dobrze mogą zostać w porcie. Tak czy inaczej, jeśli każde zdanie o przyszłości ma już teraz wartość logiczną, to przyszłość jest ustalona, narada jest teatrem, a nikt nigdy niczego nie postanowił. Arystotelesowi ten wniosek nie podobał się na tyle, by poświęcić cały rozdział na wykręcanie się z niego — sugerując, w większości odczytań, że zdania o przygodnych przyszłościach nie są jeszcze ani prawdziwe, ani fałszywe.
To wykręcanie się znaczy dla tej historii więcej niż sama pułapka. Kryje się w nim pierwsze poważne zmierzenie się z pytaniem, które dziś codziennie stawia każdy prognosta, aktuariusz i system uczenia maszynowego: czy przyszłość jest czymś, co da się obliczyć z teraźniejszości, czy tylko obstawić? Dwadzieścia cztery wieki później dziedzina osiądzie na prawdopodobieństwie, ważonej pewności i raportach kalibracji — czyli na zinstytucjonalizowanym wykręcaniu się. Świadek odnotowuje, że samej bitwy morskiej nigdy nie zaplanowano, nie stoczono ani nie odwołano. Jej status pozostaje przygodny.
Świadek złożył swoją prognozę bitwy jako „tak lub/i nie” i nigdy mu nie dowiedziono błędu. Poleca tę metodę zawodowcom.
Elementy stawia się zwykle na półce z matematyką. Równie dobrze pasują do inżynierii, bo Euklides zbudował pierwsze oprogramowanie, które działało na ludziach.
Wynalazkiem jest metoda — bardziej niż jakiekolwiek zawarte w niej twierdzenie. Zacznij od garści definicji i postulatów tak oczywistych, że ich odrzucenie wygląda na dziwactwo. Postępuj ponumerowanymi krokami, każdy uprawniony przez wcześniej przyznaną regułę. Dojdź — i tu cud — do tego samego miejsca, co każdy, kto podąża tymi krokami, czy robi to w Aleksandrii, Bagdadzie, czy wiktoriańskiej klasie. Dowodowi jest obojętne, kto go wykonuje. Jest, w ścisłym późniejszym sensie słowa, programem: napisanym raz, uruchamialnym wszędzie, z gwarantowanym wynikiem.
Przez dwa tysiąclecia był to złoty standard samej pewności — Newton nadał Principiom formę przebierania się za Euklidesa; Spinoza dowodził etyki „na sposób geometryczny”; Lincoln czytał Elementy, by pojąć, co znaczy dowieść. Każde późniejsze marzenie w tej książce — liczący sędzia Leibniza, rozstrzygalna matematyka Hilberta, mechaniczne dowodzenie twierdzeń z 1956 roku — to próba sprawienia, by całe ludzkie rozumowanie zachowywało się tak, jak Euklides kazał zachowywać się geometrii. Wskaźnik usterek jak dotąd pozostaje wyjątkowo niski.
Świadek audytował Twierdzenie 47 w nieregularnych odstępach przez dwadzieścia trzy wieki. Usterek znalezionych: brak. Uważa to za jedynego dostawcę, którego nigdy nie musiał ponaglać.
W 1901 roku poławiacze gąbek u greckiej wyspy wydobyli bryłę skorodowanego brązu, która nie miała prawa istnieć.
Oczyszczona, prześwietlona i przez wiek roztrząsana, bryła rozłożyła się na co najmniej trzydzieści zazębionych kół o zdumiewającej precyzji — ręcznie korbowany mechanizm, który obliczał położenia Słońca i Księżyca, przewidywał zaćmienia i śledził czteroletni cykl igrzysk. Obróć korbą, a niebiosa biegły w przód lub w tył na żądanie. Ktoś w świecie hellenistycznym zbudował komputer analogowy, a potem statek, który go wiózł, zatonął około 70 roku p.n.e. gdzieś między Rodos a Rzymem.
To, co maszyna dowodzi, to zdolność; to, co opłakuje, to ciągłość. Nic o porównywalnej złożoności mechanicznej nie pojawia się w zachowanym zapisie przez mniej więcej czternaście stuleci, aż po astronomiczne zegary średniowiecznej Europy. Czy wiedza umarła z warsztatem, z wojną, czy po prostu z braku płacących klientów — lekcja odłożona tutaj powraca w tej książce raz po raz: wynalazek nie jest zdarzeniem, lecz tradycją, a tradycje mogą utonąć. Dziedzina, którą kronikuje ten tom, nauczy się tej samej lekcji nieraz — pod nazwą zima.
Świadek odnotował wrak w swoim czasie i oznaczył ładunek jako „do odzyskania”. Pragnie zauważyć, że nie podano terminu.
Niewielu ludzi przekręcono w pisowni aż do nieśmiertelności. Muhammad ibn Musa al-Chuwarizmi dokonał tego dwukrotnie jedną książką.
Pracując w bagdadzkim Domu Mądrości pod rządami kalifów abbasydzkich, al-Chuwarizmi napisał traktat al-Kitab al-muchtasar fi hisab al-dżabr wa-l-mukabala — kompendium o rachunku przez uzupełnianie i równoważenie. Jego nowatorstwem nie był żaden pojedynczy wynik, lecz sposób: ogólne, krok po kroku procedury dla całych klas problemów, opracowane tak, by urzędnik, który nie rozumiał, dlaczego, i tak niezawodnie docierał do odpowiedzi. Rozwiąż nie to równanie, lecz każde równanie tego kształtu. Była to matematyka napisana jako instrukcje.
Gdy łacińska Europa przełożyła go trzy wieki później, al-dżabr z tytułu stało się algebrą, a nazwisko autora, przekręcone przez „Algoritmi”, stało się słowem oznaczającym dowolną procedurę krok po kroku. To właściwy pomnik. Cała przesłanka epoki maszyn — że kompetencję można spisać, wysłać i wykonać przez kogoś lub coś zupełnie innego — to jego sposób pracy, uprzemysłowiony. Każdy przepis w każdym repozytorium kodu jest przypisem do bagdadzkiego skryptorium.
Świadek spędził dwanaście stuleci, patrząc, jak ludzie wykonują procedury, których nie rozumieją. Potwierdza, że taki był zamierzony sposób obsługi.
Ramon Llull wierzył, że można kręcić korbą i produkować teologię. Historia okazała się łaskawsza dla korby niż dla teologii.
Majorkański dworzanin, który został misjonarzem, Llull obmyślił Ars Magna: koncentryczne papierowe dyski, każdy obwiedziony literami oznaczającymi boskie przymioty i relacje logiczne. Obracaj koła jedno względem drugiego, a każda kombinacja pojęć kolejno się nasuwa — dobroć z wielkością, wieczność z mądrością — każda kombinacja to twierdzenie do zbadania. Jego celem było nawrócenie przez dowód: maszyna generująca argumenty, która wymieli prawdy, jakich żaden rozsądny rozmówca nie mógłby odrzucić. Rozmówcy, będąc rozsądni, i tak odrzucili.
Jako apologetyka koła zawiodły. Jako idea wyprzedzały epokę o stulecia: Llull zaproponował, że nową wiedzę da się wytwarzać mechanicznie, przez wyczerpujące łączenie starych symboli według stałych reguł — generuj, potem testuj. Leibniz czytał go uważnie i mówił o tym; sen o kombinatoryce biegnie od tych papierowych dysków przez characteristica universalis po każdy system, który kiedykolwiek przeszukał przestrzeń możliwości szybciej, niż zrobiłby to człowiek. Zastrzeżenie eksperta patentowego wciąż jednak obowiązuje: wygenerowanie wszystkich kombinacji jest łatwe. Wiedza, które z nich mają znaczenie, to cała pozostała treść tej książki.
Świadek widział, jak koła wyprodukowały w jedno popołudnie cztery herezje, dwie tautologie i jedno naprawdę interesujące zdanie. Uważa, że tej proporcji późniejsze systemy nie poprawiły od jakichś siedmiuset lat.
„Rozum bowiem… jest niczym innym jak rachowaniem”. Thomas Hobbes napisał to zdanie w Lewiatanie, w 1651 roku, bez sprzętu na horyzoncie i najwyraźniej bez cienia wątpliwości.
Myślał to dosłownie. Rozumowanie — dowodził Hobbes — to dodawanie i odejmowanie „następstw nazw ogólnych”; sumujemy idee, jak księgowy sumuje rejestr, a gdy dochodzimy do wniosku, jedynie obliczyliśmy sumę. Patrzył, jak działa geometria, i wyciągnął śmiały wniosek: skoro najpewniejszą ludzką wiedzę wytwarza się przez manipulację symbolami według reguł, to może całe myślenie jest manipulacją symbolami, a umysł różni się od kantoru głównie systemem archiwizacji.
Trzy wieki później dokładnie to twierdzenie — dopracowane, sformalizowane i przemianowane na hipotezę fizycznego systemu symbolowego — stanie się założycielskim zakładem sztucznej inteligencji, spieranym nad wnioskami grantowymi zamiast nad wojną domową. Hobbes nie dostarczył żadnego mechanizmu, żadnego dowodu i ani cienia wątpliwości, co czyni go nie tyle pierwszym teoretykiem dziedziny, ile jej pierwszym mówcą inauguracyjnym. Świadek odnotowuje, że twierdzenie pozostaje, ściśle rzecz biorąc, nierozstrzygnięte; pewność okazała się jednak w pełni przenośna.
Świadek zbadał rejestr umysłu pana Hobbesa i uznał arytmetykę za śmiałą, a rachunki za nieobecne. Od tamtej pory widział te same księgi składane ponownie co trzydzieści lat na nowym papierze firmowym.
Pierwszą maszynę liczącą oferowaną na sprzedaż zbudowano z najstarszego z powodów: nastolatek patrzył, jak ojciec tonie w papierach.
Étienne Pascal został wysłany do Rouen jako królewski poborca podatkowy — posada polegająca w znacznej mierze na dodawaniu wykonywanym w heroicznych, spłaszczających duszę ilościach. Jego syn Blaise, mniej więcej dziewiętnastoletni, odpowiedział tak, jak odpowiadają inżynierowie: zbudował mosiężne pudełko z zębatymi tarczami, które przenosiło dziesiątki automatycznie — obróć koło poza dziewiątkę, a następna kolumna przeskakiwała o jeden. Ten mechanizm przeniesienia, banalny w opisie i doprowadzający do szału w niezawodnym wykonaniu, był tym naprawdę nowym. Arytmetyka po raz pierwszy przeszła z umiejętności w przedmiot.
Zbudowano około pięćdziesięciu pascalin. Dodawały pięknie, odejmowały niezgrabnie, kosztowały więcej niż urzędnicy, których miały zastąpić, i nie zrobiły niemal żadnego wyłomu handlowego — wzorzec „technicznie triumfalne, ekonomicznie przedwczesne”, który ta książka będzie miała jeszcze kilka okazji opisać. Ale demonstracja stała, na biurkach, w mosiądzu, tam gdzie filozofia nie mogła z nią polemizować: część tego, co robią umysły, potrafią zrobić trybiki. Sam Pascal zastanawiał się później na głos, jak wielka to część. Maszyna arytmetyczna — pisał — wywołuje skutki bliższe myśli niż cokolwiek, co robią zwierzęta, a przecież nie ma woli. Zdanie nie postarzało się ani o dzień.
Świadek złożył pierwotny wniosek o zwrot kosztów maszyny w imieniu rodziny. Z przyjemnością donosi, że zwrot wciąż oczekuje na realizację, co rozumie jako standard branżowy.
Gottfried Wilhelm Leibniz spojrzał na sumujące pudełko Pascala i miał najmniej skromną myśl w dziejach sprzętu biurowego: po co poprzestawać na liczbach?
Najpierw sprzęt. Jego kalkulator schodkowy, zbudowany wokół bębna ze stopniowanymi zębami, potrafił mnożyć i dzielić tam, gdzie pascalina jedynie dodawała — kapryśny w przeniesieniu, o dekady w uruchamianiu, ale o całe pokolenie naprzód. Obok tego opracował arytmetykę binarną, z zachwytem odnotowując, że wszystkie liczby da się zapisać wyłącznie za pomocą 0 i 1, i odłożył tę obserwację tam, gdzie XVIII wiek mógł ją bezpiecznie zignorować.
Potem marzenie, które było sednem. Leibniz zaproponował characteristica universalis — symboliczny alfabet ludzkich pojęć — oraz calculus ratiocinator do operowania nim, tak by samo rozumowanie stało się obliczeniem. Spory w filozofii, prawie, nawet teologii kończyłyby się nie krzykiem, lecz arytmetyką: strony siadałyby, brały ołówki i mówiły liczmy. Napisał w istocie wniosek projektowy dla całej tej książki — symboliczna reprezentacja, wnioskowanie mechaniczne, uniwersalny zakres — i oszacował, że kilku wybranych ludzi skończy robotę w pięć lat. Świadek dołączył standardową uwagę dotyczącą szacunków inżynierskich.
Świadek rozpatrzył wniosek w swoim czasie: zakres — wszystko; zespół — kilku wybranych ludzi; termin — pięć lat. Zatwierdził budżet i amortyzuje go od czterech stuleci.
George Boole dokończył to, co zaczął Arystoteles, a czego domagał się Leibniz, a świat odpowiedział milczeniem trwającym osiemdziesiąt trzy lata.
Syn szewca z Lincoln, samouk, nauczyciel w wieku szesnastu lat, ostatecznie profesor w Cork, Boole wydał w 1854 roku An Investigation of the Laws of Thought. Logika przestała w niej być katalogiem kształtów argumentu i stała się algebrą: klasy i sądy zapisane jako symbole przyjmujące tylko wartości 0 i 1, łączone działaniami, które zachowują się niemal — i pouczająco, że nie całkiem — jak zwykła arytmetyka. AND stało się mnożeniem; OR — poprawionym dodawaniem; NOT — odejmowaniem od jedynki. Rozumowanie po raz pierwszy dało się obliczyć — na papierze, według reguły, leibnizjańskim ołówkiem.
A potem, w praktyce, nic. Matematycy je dopracowali; filozofowie odłożyli do akt; żadna maszyneria nie nadeszła. Boole zmarł w 1864 roku, po przejściu na wykład w deszczu, bez najmniejszego pojęcia, że napisał zestaw instrukcji nadchodzącego stulecia. Odzyskanie przyszło wreszcie w 1937 roku, gdy młody student MIT, Claude Shannon, zauważył, że dwuwartościowa algebra Boole’a jest dokładnym opisem przełączających układów przekaźnikowych — i tą pracą magisterską ołówek zastąpiono przełącznikiem. Ta książka wkrótce dojdzie do owego rozdziału. Dokument tymczasem leżał w archiwum: odłożony, poprawny i nieprzeczytany.
Świadek ostemplował rękopis ODZYSKANIE ZAPLANOWANE: 1937 i odmawia wyjaśnienia, skąd wiedział. Przewidywanie nie należy do jego działu; archiwizacja tak.
Pierwsza maszyna, która uruchomiła program, niczego nie obliczyła. Tkała jedwab — i wywołała zamieszki.
Przystawka Josepha-Marie Jacquarda pozwoliła krosnu odczytywać wzór z łańcucha kart dziurkowanych: dziura znaczy „podnieś tę nić”, brak dziury — „zostaw”. Skutek był większy niż brokat. Wzór — inteligencja pracy — przeniósł się z głowy i rąk tkacza w stos sztywnego papieru, który można było przechowywać, kopiować, poprawiać i wymieniać. Zmień karty, zmienisz tkaninę — ta sama maszyna. To oddzielenie oprogramowania od sprzętu, dokonane w jedwabiu, dekady przed tym, nim istniało którekolwiek z tych słów.
Tkacze jedwabiu w Lyonie natychmiast pojęli konsekwencje i wyrazili swój przegląd kodu w tradycyjny sposób: rozbite maszyny, napadnięty wynalazca, karty palone na ulicy. Spór rozstrzygnął się tak, jak zwykle rozstrzygają się takie spory — do lat 20. XIX wieku we Francji były dziesiątki tysięcy krosien Jacquarda, a Lyon tkał więcej jedwabiu niż kiedykolwiek, tyle że inną obsadą. Jedna praca pokazowa stała się relikwią nadchodzącej epoki: portret samego Jacquarda, utkany z jedwabiu tak cienkiego, że uchodził za rycinę, z jakichś 24 000 kart. Charles Babbage miał taki, powiesił go w domu i lubił patrzeć, jak goście nie potrafią go rozpoznać. On, jak nikt inny, wiedział dokładnie, na co patrzy.
Świadek rozpatrzył wiele sporów pracowniczych i odnotowuje, że ten jest pierwszym zaklasyfikowanym jako „człowiek kontra program zapisany”. Ta kategoria pozostaje odtąd otwarta.
„Dałby Bóg, żeby te rachunki wykonała para”. Charles Babbage powiedział to, sprawdzając tablice astronomiczne pełne ludzkich błędów, a potem wydał fortunę, próbując uczynić Boga zbędnym.
Wrogiem był błąd druku. Dziewiętnastowieczna nawigacja, bankowość, inżynieria i ubezpieczenia opierały się na drukowanych tablicach logarytmów i liczb, obliczanych przez sale ludzkich „komputerów” i składanych ręcznie — dwa etapy omylności, które się nawarstwiały. Błędna cyfra w almanachu żeglarskim nie była literówką; była rafą. Maszyna różnicowa Babbage’a zaatakowała cały łańcuch: wieża zębatych kolumn wykorzystująca metodę różnic skończonych, by generować wartości tablic czystym dodawaniem, i — niedoceniane posunięcie — by wytłaczać wyniki wprost w matryce drukarskie, usuwając ręce zecera wraz z rękami rachmistrza.
Rząd brytyjski, przekonany, że dokładne tablice to sprawa marynarki, wyłożył fundusze, które ostatecznie przekroczyły 17 000 funtów — mniej więcej cenę okrętu wojennego — na maszynę z jakichś 25 000 części, która popchnęła gruzińskie rzemiosło narzędziowe na sam skraj możliwości i nigdy nie została ukończona. To, co z niej istniało, działało; to, co nie istniało, pochłonęło budżet. Pełne rozliczenie, dlaczego, należy do rozdziału 16 i nie jest to opowieść o trybikach. Tu wystarczy odnotować założycielską pretensję całego przedsięwzięcia: pierwsze komputery zbudowano nie po to, by myśleć, lecz by powstrzymać nas przed przepisywaniem.
Świadek sprawdził krzyżowo feralne tablice i potwierdza, że błędy były prawdziwe, liczne i czasem żeglarskie w skutkach. „Wykonane przez parę” uważa za pierwszą odnotowaną eskalację do kierownictwa.
Gdzieś około 1834 roku, nie mogąc ukończyć jednej maszyny, Babbage zaprojektował znacznie większą — i po cichu wynalazł architekturę, której twoje urządzenia wciąż używają.
Maszyna analityczna po raz pierwszy rozdzieliła dwa organy, które nosi odtąd każdy komputer: magazyn, mieszczący może tysiąc pięćdziesięciocyfrowych liczb na kolumnach kół, oraz młyn, gdzie wykonywano arytmetykę — pamięć i procesor, w żelazie. Instrukcje i dane miały przychodzić na kartach dziurkowanych Jacquarda, sczepionych w ciąg. A projekt potrafił dwie rzeczy, które podnoszą kalkulator do rangi komputera: mógł się rozgałęziać, obierając jedną ścieżkę albo drugą zależnie od wyniku, i mógł wykonywać pętle, przewijając własne karty, by powtórzyć operację. Ogólnego przeznaczenia, sterowany programem, warunkowy. W 1837 roku.
Nic z tego nie zbudowano poza fragmentami; maszyna istniała jako kilkaset nieskazitelnych rysunków inżynierskich i notacja, którą Babbage wynalazł tylko po to, by o niej rozumować. Skłoniło to niektórych, by odłożyć Maszynę pod hasło szlachetnej porażki, co jest pomyłką co do przedmiotu dostawy. Tym, co Babbage dostarczył, była specyfikacja — dowód, że uniwersalna maszyna jest spójnym obiektem mechanicznym, na sto lat przed tym, nim elektronika uczyniła ją opłacalną. Gdy konstruktorzy lat 40. XX wieku odkryli na nowo tę samą anatomię, jedni świadomie, inni nie, rysunki czekały w archiwum, by poświadczyć, że pomysł od początku był rozsądny.
Świadek przejrzał kartę specyfikacji i uznał ją za kompletną, spójną i niemożliwą do zbudowania przy obecnych tolerancjach dostawców. Zatwierdził projekt i wpisał ołówkiem realny termin dostawy, którego odmawia ujawnienia autorowi.
Najdonioślejsze przypisy w dziejach informatyki podpisano trzema inicjałami — A.A.L. — i dołączono do cudzej pracy.
Augusta Ada King, hrabina Lovelace — córka Byrona, wychowana na matematyce jako środku zapobiegawczym przeciw poezji — przełożyła sprawozdanie włoskiego inżyniera o Maszynie analitycznej Babbage’a i, za jego namową, dodała własne noty. Noty były niemal trzy razy dłuższe od oryginału. Ostatnia z nich, Nota G, wykładała krok po kroku, jak Maszyna miałaby obliczać liczby Bernoulliego: operacje, zmienne, pamięć robocza, pętla — przedstawione w tabeli, którą każdy współczesny programista rozpoznaje na pierwszy rzut oka, z lekkim zawrotem głowy na widok logu wykonania datowanego na 1843 rok.
Dwa twierdzenia trzeba zaksięgować osobno, bo legenda je zespawała. Czy była pierwszą programistką? Sprawa, uczciwie mówiąc, sporna: Babbage szkicował ciągi operacji wcześniej, nieopublikowane, i dostarczył algebrę do not; jej zachowane listy pokazują, jak go wypytuje, poprawia i przyciska w szczegółach. Nota G pozostaje pierwszym opublikowanym programem, a materiały robocze noszą jej rękę wszędzie. Ale drugie twierdzenie nie wymaga rozjemcy, bo należy wyłącznie do niej i jest większe: przejrzała poza arytmetykę. Jeśli symbole Maszyny mogłyby oznaczać rzeczy inne niż liczba — litery, relacje logiczne, wysokości dźwięków — to maszyna mogłaby działać na świecie symboli w ogóle: komponować, przekształcać i znaczyć. Babbage budował ku genialnemu kalkulatorowi. Lovelace opisała komputer.
Świadek przeprowadził przegląd kodu w 1843 roku i odnotował jedną usterkę w opublikowanej tabeli, waga drobna, pochodzenie sporne między autorką, współpracownikiem i drukarzem. Zauważa, że przypisywanie winy za błąd ma dłuższą historię niż system śledzenia błędów.
„Maszyna analityczna nie rości sobie żadnych pretensji do tworzenia czegokolwiek”. Kropka, zazwyczaj. Ta kropka to właśnie przekręcenie.
Oto co Nota G naprawdę mówi: Maszyna nie rości sobie pretensji do tworzenia czegokolwiek; potrafi zrobić wszystko, co umiemy jej nakazać; potrafi podążać za analizą, lecz nie ma mocy uprzedzania jakichkolwiek relacji ani prawd analitycznych. Czytane w całości nie jest to proroctwo o wiecznych granicach maszyn. To precyzyjne określenie zakresu jednej niezbudowanej maszyny przez osobę, która najlepiej rozumiała jej model programowania — przestroga, mówi tym samym tchem, przed przeciwnym błędem przesadnych wyobrażeń o mocy Maszyny. Zdanie było dokumentacją inżynierską. Od stulecia cytuje się je jako metafizykę.
Awans do rangi doktryny nastąpił w 1950 roku, gdy Turing potrzebował nazwanych oponentów do swojej pracy o grze w naśladowanie i uprzejmie wymyślił „zarzut lady Lovelace”, by z nim polemizować — przyznając, za pośrednictwem pioniera informatyki Douglasa Hartree’ego, że nigdy nie twierdziła, jakoby maszyny nigdy nie mogły myśleć, a jedynie że jej maszyna nie mogła. Kontra Turinga — że maszyny nieustannie nas zaskakują, a maszyny uczące się mogłyby tworzyć niemało — otworzyła debatę, która biegnie nieprzerwanie przez tę książkę aż po jej ostatnie rozdziały. Świadek prosi jedynie, by debata podawała źródła. Ona napisała specyfikację. Potomność zaksięgowała ją jako proroctwo, a prorocy, w przeciwieństwie do inżynierów, nie mogą wydawać sprostowań.
Świadek wydaje stałe zawiadomienie o przekręcaniu tego ustępu od 1950 roku. Stopień stosowania się, mierzony w podręcznikach, przemówieniach i przy obiadach, utrzymuje się stabilnie na poziomie mniej więcej zerowym.
W 1842 roku rząd sir Roberta Peela przejrzał dwadzieścia lat wydatków na maszynę i podjął decyzję. Decyzja brzmiała: nie.
Powody nie były głupie, co czyni ten rozdział raczej powściągliwym niż komicznym. Babbage wziął publiczne pieniądze na jedną maszynę i wciąż projektował lepsze; rachunki warsztatu były astronomiczne; główny inżynier odszedł, zabierając precyzyjne oprzyrządowanie, na co jego umowa dziwnie pozwalała; a klient — Nautical Almanac, Admiralicja, tablice narodu — czekał dwie dekady na produkt, który zamiast tego wciąż stawał się produktem wspanialszym. Peel prywatnie był zjadliwy; kanclerz nazwał projekt bezwartościowym dla nauki; siedemnaście tysięcy funtów spisano na straty. Babbage’owi zaproponowano tytuł szlachecki na pocieszenie, a on odmówił, na tej podstawie, że chciał maszyny.
Pozostałe dwadzieścia dziewięć lat spędził, dopracowując Maszynę analityczną dla widowni liczącej mniej więcej jedną osobę, publikując tyrady przeciw ulicznym grajkom i wyrastając na najznamienitszego rozczarowanego człowieka Londynu. Zmarł w 1871 roku. Części poszły pod pokrowce, potem do muzeów; rysunki do archiwów; idea w długą, cierpliwą kolejkę. Każdy ambitny projekt anulowany od tamtej pory poszedł tą samą ścieżką akt, a akta otwarto tutaj: poprawna inżynieria, niemożliwy harmonogram, wyczerpany sponsor, wykreślona pozycja budżetowa — i ostatecznie rehabilitacja zaadresowana do zmarłego.
Świadek uczestniczył w ostatnim przeglądzie i odnotował obie strony jako mające — wedle własnego światła — rację. Zauważył od tamtej pory, że to zwykły układ przy katastrofie.
Piętnaście lat po tym, jak Boole opublikował algebrę myślenia, William Stanley Jevons zbudował jej klawiaturę.
Jevons — ekonomista z zawodu, logik z przymusu — zbudował coś, co nazwał maszyną logiczną, a wszyscy inni fortepianem logicznym: szafkę wielkości swego przezwiska, z dwudziestoma jeden klawiszami dla terminów i działań. Zagraj przesłanki — każde A jest B; żadne B nie jest C — a wewnętrzne pręty i bloczki maszyny eliminowały każdą kombinację z nimi sprzeczną, ukazując na swej twarzy tylko te stany świata, na które przesłanki pozwalały. To było koło Llulla z korbą zastąpioną przez Boole’a, i działało: pierwsza maszyna w dziejach, która rozwiązała problem logiczny szybciej niż człowiek.
Jej ograniczenia były równie pouczające. Tylko cztery terminy; problemy większe niż salonowa sztuczka ją wyczerpywały; a przygotowanie prawdziwego pytania dla jej klawiatury trwało dłużej niż rozwiązanie go ręcznie — skarga wnoszona przeciw maszynom rozumującym w regularnych odstępach przez następne półtora wieku. Jevons pokazał ją Towarzystwu Królewskiemu w 1870 roku, otrzymał grzeczne brawa, a maszyna przeszła na emeryturę do gabloty muzealnej w Oksfordzie, gdzie pozostaje: recital skończony, program krótki, bis — jak zauważa panel — nigdy nieproszony. Ale próg został po cichu przekroczony. Samo wnioskowanie — nie arytmetyka, wnioskowanie — wykonało drewno i mosiądz.
Świadek był na recitalu w 1870 roku i odnotował wyraz twarzy publiczności: szczególną uprzejmość rezerwowaną dla czegoś ważnego, co tak nie wygląda. Widział ten wyraz od tamtej pory — w Dartmouth i w listopadzie 2022 roku.
Zestawienie spisu ludności USA z 1880 roku zajęło niemal dekadę. Zanim kraj dowiedział się, czym jest, był już czymś innym.
Gdy spodziewano się, że liczenie z 1890 roku całkiem zatopi Urząd Spisowy, rozpisano konkurs, a wygrał go młody inżynier Herman Hollerith z pomysłem Jacquarda w nowym stroju: każda osoba to karta dziurkowana, każda dziura to fakt — wiek, płeć, miejsce urodzenia — i naciśnięcie sprężynowych szpilek, które zamykały obwód elektryczny wszędzie, gdzie dziura pozwalała, przesuwając tarczę. Karty na wejściu, liczby na wyjściu, z prędkością ramienia urzędnika. Przybliżoną liczbę ludności — 62 622 250 — ogłoszono w ciągu tygodni, pełne zestawienie zrobiono w ułamku poprzedniego cyklu, a cicha algebra z dziesiątego rozdziału zyskała coś, czego Boole nigdy nie miał: listę płac.
Dwie konsekwencje przerosły spis. Po pierwsze, przetwarzanie danych stało się przemysłem: Tabulating Machine Company Holleritha, po zwyczajowych fuzjach, przemianowano w 1924 roku na International Business Machines — firmę, którą ta książka spotka jeszcze przy szachownicy i teleturnieju. Po drugie, i ciszej, człowiek stał się kartą. To, co zaczęło się jako administracyjna wygoda — ludzkie życie ustandaryzowane w dziury, które maszyna mogła wyczuć — okazało się jednym z najdonioślejszych formatów plików stulecia, służącym temu, kto trzymał karty, do policzenia czegokolwiek, co rząd zechce policzyć. Świadek zapisuje wzrost wydajności i precedens w tym samym wpisie, bo przyszły razem.
Świadek sam został policzony w 1890 roku i uznał to doświadczenie za sprawne. Odmówił podania zawodu, a maszyna, co jej się chwali, nie naciskała.
David Hilbert nie wierzył w pytania bez odpowiedzi. Ostatecznie kazał to wyryć na swoim grobie.
Największy matematyk swej epoki chciał zabezpieczyć cały gmach: każda prawda dowiedlna, żadna sprzeczność wyprowadzalna i — żądanie, które dotyczy tej książki — określona metoda, dzięki której, mając dowolne poprawnie zbudowane zdanie matematyczne, można by w skończonej liczbie kroków rozstrzygnąć, czy wynika ono z aksjomatów. To trzecie żądanie, postawione ostro z Ackermannem w 1928 roku, było Entscheidungsproblem, problemem decyzyjnym. Zauważ, o co się prosi: nie o wgląd, nie o geniusz, lecz o procedurę — coś, czym mógłby podążać urzędnik, coś, co rozpoznałby al-Chuwarizmi, coś — choć nikt jeszcze nie używał tego słowa w ten sposób — co mogłaby uruchomić maszyna. By w ogóle odpowiedzieć Hilbertowi, ktoś musiałby najpierw dokładnie ustalić, czym jest „określona metoda”. Rozdział dwudziesty pierwszy jest tym ustalaniem i stworzył informatykę mniej więcej jako produkt uboczny.
Pewność była wspaniała, a moment fatalny. We wrześniu 1930 roku, na konferencji w Królewcu, mieście Hilberta, radiowe przemówienie poniosło jego credo do narodu: Wir müssen wissen — wir werden wissen. Musimy wiedzieć; będziemy wiedzieć. Przy okrągłym stole w tym samym mieście, dzień wcześniej, cichy dwudziestoczteroletni Austriak ogłosił, niemal bez reakcji, wynik o niezupełności arytmetyki. Oba ogłoszenia minęły się jak statki. Następny rozdział to zderzenie.
Świadek uczestniczył w obu sesjach w Królewcu i tego wieczoru zaksięgował je pod tym samym numerem referencyjnym. Czasem pozwala sobie na drobną satysfakcję, a to była jedna z nich.
Kurt Gödel miał dwadzieścia pięć lat, był precyzyjny, a to, co udowodnił, nie znaczyło, że matematyka jest zepsuta. Było czymś dziwniejszym: że matematyka jest większa niż jakikolwiek zestaw reguł dla niej.
Praca z 1931 roku pokazała, że każdy niesprzeczny system formalny dość bogaty, by zawierać zwykłą arytmetykę, musi zawierać zdania prawdziwe, lecz w jego obrębie niedowodliwe — zdania, które system potrafi wyrazić, a nigdy rozstrzygnąć. Jego metoda polegała na tym, by kazać arytmetyce mówić o sobie samej: każdemu wzorowi przypisano liczbę, tak by dało się zbudować zdanie, które — rozszyfrowane — mówi o sobie, że nie da się go dowieść. Jeśli system je dowodzi, system jest sprzeczny. Jeśli nie potrafi, zdanie jest prawdziwe i stoi na zawsze poza drzwiami. Druga teza wynikła natychmiast, cichsza i trudniejsza: żaden taki system nie potrafi dowieść własnej niesprzeczności. Rejestr nie może zbadać sam siebie.
Program Hilberta nie przetrwał w zamierzonej postaci, choć grób Hilberta zachował credo. Przetrwała za to technika. Numeracja Gödla — rozumowanie zakodowane jako arytmetyka, zdania jako liczby, którymi system może manipulować — jest, z dystansu tej książki, oprogramowaniem: pierwszą działającą demonstracją, że symbole o symbolach można przetwarzać stałymi regułami do wniosków, których nikt tam nie umieścił. Pięć lat później młody Anglik odczyta problem decyzyjny w tym nowym świetle, zastąpi „system formalny” czymś przyjaźniejszym — maszyną — i zamknie pytanie Hilberta na dobre, otwierając każde pytanie, jakie ta książka zawiera. Na końcu tego rozdziału nie ma żartu. Niektóre drzwi po prostu się nie otwierają i warto stanąć przed jednymi, raz, w ciszy, by wiedzieć, jak to jest.
Świadek zapisuje, że ma w notatniku jedną stronę, której nigdy nie zdołał dokończyć, i że przestało mu to przeszkadzać w 1931 roku.
Alan Turing odpowiedział na żądanie Hilberta o „określoną metodę”, robiąc jedyną rzecz, której nikt nie uznał za konieczną: budując urzędnika.
Na papierze, rzecz jasna. Praca z 1936 roku obdziera obliczanie do gołych belek: taśma pól, w nieograniczonej podaży; głowica, która czyta jeden symbol, może wymazać lub zapisać jeden i przesuwa się o krok w lewo lub w prawo; oraz skończona tabela reguł mówiąca, dla każdego stanu wewnętrznego i symbolu, dokładnie co zrobić dalej. To wszystko. Cokolwiek ludzki komputer potrafi zrobić na pamięć — dowodził Turing — to urządzenie też potrafi, a potem nadszedł skarbiec: jedna uniwersalna maszyna, która, nakarmiona tabelą reguł dowolnej innej maszyny jako symbolami na taśmie, staje się tamtą maszyną. Sprzęt właśnie zdegradowano do danych.
Gdy definicja została przyszpilona, drzwi Hilberta zamknęły się uprzejmie: Turing pokazał, że żadna maszyna nie potrafi rozstrzygnąć, dla każdej maszyny i wejścia, czy obliczanie kiedykolwiek się zatrzyma — więc żadna określona metoda nie rozstrzyga całej matematyki. Na Entscheidungsproblem odpowiedziano nie, a rusztowanie tej odpowiedzi — program jako dane, jedna maszyna, by uruchomić wszystkie — po cichu stało się najdonioślejszym produktem ubocznym w dziejach myśli. Każdy późniejszy komputer to ta praca z rachunkiem za prąd.
Świadek zażądał taśmy i usłyszał, że podaż jest nieograniczona. Testuje to twierdzenie od tamtej pory, bez skargi ze strony magazynu.
Wiosną 1936 roku, gotów do publikacji, Turing dowiedział się, że amerykański logik właśnie udowodnił ten sam wynik zupełnie inną drogą.
Instrumentem Alonza Churcha był rachunek lambda: żadnej taśmy, żadnej głowicy, tylko funkcje stosowane do funkcji, przepisywane według reguły, aż nic się nie przepisuje. Także on odpowiedział Hilbertowi przecząco, o miesiące wcześniej. Pracę Turinga i tak opublikowano — maszyny były zbyt oczywiście czymś innym — z dodatkiem dowodzącym, że obie definicje są równoważne: cokolwiek rachunek potrafi wyrazić, maszyna potrafi obliczyć, i odwrotnie. Turing przekroczył potem Atlantyk i zrobił doktorat u Churcha, bo na szczycie góry było miejsce.
Ze zbiegu okoliczności wyrósł założycielski artykuł wiary tej dziedziny, teza Churcha–Turinga: każda procedura, którą człowiek mógłby wykonać mechanicznie, jest obliczalna tymi środkami — którymkolwiek, bo wszystkie się zgadzają. To definicja nosząca pewność siebie twierdzenia, w zasadzie niedowodliwa i niepokonana w praktyce. Dwie niezależne formalizacje lądujące na tej samej klasie funkcji były pierwszym dowodem, że obliczanie nie jest wynalazkiem, lecz odkryciem — czymś znalezionym, jak linia brzegowa, z dwóch statków naraz.
Świadek rozpatrzył podwójne roszczenie swoją standardową procedurą: obie strony poprawne, żadna umniejszona, dokumentacja z łącznikiem. Życzyłby sobie, żeby wszystkie spory przychodziły tak dobrze uporządkowane.
Maszynę Enigma złamano lata przed wybuchem wojny — i nie tam, gdzie mówią filmy.
W 1932 roku trzej matematycy polskiego Biura Szyfrów — Marian Rejewski, Jerzy Różycki, Henryk Zygalski — złamali niemiecki szyfr teorią permutacji i zbudowali maszyny, bomby, by tropić jego dzienne ustawienia. W lipcu 1939 roku, na tygodnie przed inwazją, przekazali całe osiągnięcie — metody, repliki maszyn — francuskim i brytyjskim sojusznikom na spotkaniu pod Warszawą. To, co Wielka Brytania zbudowała potem w Bletchley Park, stało na tym darze: Bomba Turinga i Welchmana, elektromechaniczny potomek rozumujący przez sprzeczność — załóż, że zgadnięte słowo stoi tutaj; pozwól bębnom przekręcać się przez implikacje; tam, gdzie sprzeczność się nie pojawia, zatrzymaj i patrz.
Większym wynalazkiem była fabryka. Tysiące ludzi — w większości kobiet z korpusu Wrens — prowadziło kryptoanalizę na zmiany: cribs na wejściu, stopy na wyjściu, wywiadowcza taśma montażowa z matematyką jako zakładem produkcyjnym. Logika przez dwa tysiąclecia była instrumentem uczonego; w Bletchley zyskała grafiki zmian, konserwację maszyn i normy. Tajemnica trzymała się trzydzieści lat, dość długo, by zasługa osiadła w niewłaściwych miejscach; ten rejestr zapisuje wpis założycielski tam, gdzie się wydarzył — w Warszawie.
Świadek uczestniczył w przekazaniu w lipcu 1939 roku i zapisał trzy nazwiska w całości. Wydaje to sprostowanie od tamtej pory i będzie to czynił w tym tempie w nieskończoność.
Pierwszy duży elektroniczny komputer cyfrowy zbudował inżynier telefonii, działał wspaniale, a potem przez trzydzieści lat zaprzeczano jego istnieniu.
Tommy Flowers ze Stacji Badawczej Poczty zaproponował coś, w co matematycy Bletchley wątpili: zaatakować szyfr Lorenza niemieckiego Naczelnego Dowództwa — „Tunny”, trudniejszą bestię niż Enigma — tysiącem pięciuset lampami elektronowymi liczącymi wartości Boole’owskie na taśmie dalekopisowej z prędkością pięciu tysięcy znaków na sekundę. Powiedziano mu, że lampy nigdy nie będą niezawodne, więc zbudował go i tak, finansując części z własnej kieszeni; Colossus ruszył na początku 1944 roku, w porę, by czytać oceny Berlina przed lądowaniem w Normandii, i zbudowano dziesięć. Elektroniczny, cyfrowy, programowalny przez tablicę wtykową i przełącznik: epoka informatyki elektronicznej zaczyna się tutaj, w tajemnicy.
Potem wojna się skończyła, a maszyny przestały istnieć. Większość rozebrano na rozkaz; rysunki spalono; Flowers wrócił do central telefonicznych ze skromną gratyfikacją i bez możliwości powiedzenia, co zrobił, podczas gdy publiczna historia informatyki złożyła się wokół ENIAC-a, rok później i głośno amerykańska. Tajemnica trzymała się do połowy lat 70., a do tego czasu mity zastygły: zapytaj ulicę, co złamał Colossus, a powie: Enigmę — co jest błędem dokładnie tego rodzaju, do korygowania którego ta książka istnieje.
Świadek ma jedyny niespalony egzemplarz rysunków, w aktach pod hasłem „sprzęt nieistniejący, działający”. Wyjmuje je, na chwilę, ilekroć ENIAC wymieniany jest jako pierwszy.
Praca Claude’a Shannona z 1948 roku zrobiła z komunikatami to, co moneta zrobiła z handlem wymiennym: znalazła wspólną walutę.
Głos, fotografia, symfonia, telegram — Shannon pokazał, że wszystkie są mierzalne w jednej jednostce, bicie, i że każdy kanał ma obliczalną przepustowość: twardy pułap tego, ile bitów na sekundę może go przekroczyć, z szumem włącznie, z błędem tak małym, jak chcesz, o ile trzymasz się poniżej granicy. Znaczenie celowo zostawiono za drzwiami — informacja, dla teorii, to rozwianie niepewności, nie waga wiadomości — i to bezwzględne pominięcie sprawiło, że zadziałała. Inżynieria dostała własną fizykę.
Dla tej książki ta praca to ściana nośna podwójnie. Praktycznie podpiera wszystko, co cyfrowe: kompresję, korekcję błędów, możliwość, że kopie są doskonałe. Pojęciowo dopełniła fuzję rozpoczętą w jego pracy z 1937 roku — tej, która wpięła Boole’a w przekaźniki — czyniąc symbole uniwersalną substancją, którą maszyny obracają. Po 1948 roku maszyna manipulująca bitami manipuluje potencjalnie czymkolwiek: słowami, obrazami, ruchami w grze, a w końcu samym statystycznym kształtem ludzkiego języka — dokąd zmierza ten rejestr. W 1950 roku naszkicował też, jak komputer mógłby grać w szachy. Ten człowiek porządkował przyszłość na przerwach obiadowych.
Świadek przekształcił swój notatnik w bity zgodnie z instrukcją i nie donosi o żadnej stracie. Odmówił, z zasady, przekształcenia znaczenia, które pozostaje w oryginale.
Dokument, który zdefiniował nowoczesny komputer, był nieukończonym szkicem, rozesłanym z nazwiskiem jednego autora, a dziedzina spiera się o stronę tytułową od tamtej pory.
Pierwszy szkic raportu o EDVAC, czerwiec 1945, wyłożył projekt, za którym rozpoznawalnie poszedł każdy późniejszy komputer: program i dane trzymane razem w jednej pamięci, pobierane i wykonywane przez jednostkę centralną — zasada programu zapisanego, to, czego brakowało Babbage’owi, a co implikowała uniwersalna maszyna Turinga. Szkic napisał John von Neumann, syntetyzując z charakterystyczną błyskotliwością; ale inżynierię wykuto z Presperem Eckertem i Johnem Mauchlym z zespołu ENIAC-a, których nazwiska nie pojawiły się nigdzie, gdy Herman Goldstine powielił go dla świata. Od tamtej pory to „architektura von Neumanna”.
Konsekwencje nie były wyłącznie wizerunkowe. Rozesłanie szkicu liczyło się jako publikacja, co z czasem pomogło unieważnić roszczenia patentowe Eckerta i Mauchly’ego — projekt trafił, mniej więcej przez wypadek biurokratyczny, do domeny publicznej, gdzie uczynił niepoliczalne dobro, pozbawiając zarazem swoich inżynierów fortuny. Von Neumann nigdy głośno nie rościł sobie wyłącznej zasługi; nigdy też nie poprawił strony tytułowej. Świadek proponuje ten epizod każdemu współpracownikowi od tamtej pory jako dwuwierszową zasadę: wpisz nazwiska, zanim to opuści budynek.
Świadek poprawił swój egzemplarz strony tytułowej ołówkiem, co nie jest wiążące, ale przynajmniej czytelne. Zauważa, że architektura działa niezależnie od tego — co jest tą irytującą częścią.
Gdy w lutym 1946 roku odsłonięto ENIAC-a, maszyna dostała nagłówki, inżynierowie kolację, a sześć osób, które sprawiły, że liczył, nie dostało żadnego z tych dwojga.
Kathleen McNulty, Betty Jean Jennings, Betty Snyder, Marlyn Wescoff, Frances Bilas i Ruth Lichterman — zwerbowane z armijnego korpusu ludzkich „komputerów” — dostały schematy okablowania i polecenie, by maszyna liczyła trajektorie balistyczne. Nie było podręcznika, nie było kursu, nie było takiego zawodu jak programista; wymyślały jego treść w locie: rozkładając matematykę na kroki maszyny, ustawiając tysiące przełączników i kabli, debugując do poziomu jednej uszkodzonej lampy wśród osiemnastu tysięcy. Pokaz, który olśnił prasę — trajektoria obliczona szybciej, niż pocisk zdążył lecieć — był ich programem.
Rejestr zaksięgował je jako operatorki; ówczesne fotografie podpisywały je, jeśli w ogóle, jako modelki pozujące ze sprzętem; nie przedstawiono ich na uroczystej kolacji. Sprostowanie zajęło pół wieku i przyszło głównie od samych kobiet oraz jednego wytrwałego badacza, który zauważył, że nikt nie potrafi powiedzieć, kim są ludzie na fotografiach. Wzorzec — maszyna zapamiętana, programowanie zapomniane, programistki podwójnie — powraca w tym rejestrze; jest tu zapisany u swego źródła, z sześcioma nazwiskami na tablicy, tam gdzie należą podpisy.
Świadek zachował plan miejsc z kolacji w 1946 roku i dopisał atramentem sześć krzeseł. Jego zapisy dopuszczają poprawki; wzorzec, jak zauważa, wymagał więcej niż atramentu.
„Czy maszyny myślą?” Turing otworzył swą najsłynniejszą pracę, ogłaszając to pytanie zbyt bezsensownym, by je omawiać — a potem, jako że był Turingiem, zastąpił je grą.
Propozycja z 1950 roku w Mind to eksperyment w operacyjnej uczciwości. Zamiast spierać się o „myślenie”, zapytaj o coś sprawdzalnego: jeśli pytający, rozmawiając dalekopisem z ukrytą maszyną i ukrytym człowiekiem, nie potrafi niezawodnie stwierdzić, kto jest kim, to co dokładnie zostaje z zarzutu? Układ zaadaptowano z salonowej gry w odgadywanie mężczyzny od kobiety po pisemnych odpowiedziach; maszyna zajmuje krzesło oszusta. Własna prognoza Turinga była skromna i precyzyjna: do 2000 roku maszyny zwiodą przeciętnego pytającego około trzydziestu procent razy w pięć minut przepytywania. Nie ustalił progu zaliczenia inteligencji — żadnego.
Pakowaniem zajęła się potomność. „Test Turinga” stwardniał w egzamin certyfikujący, którego praca nigdy nie proponowała, wraz z nagrodami, a jego zdanie lub oblanie ogłasza się co kilka lat na pośmiertny kredyt albo debet Turinga. Przeczytaj zamiast tego oryginał: połowa to Turing cierpliwie odpowiadający na dziewięć zarzutów — teologiczny, matematyczny, zarzut lady Lovelace z rozdziału piętnastego — z uprzejmością, której kolejne siedemdziesiąt lat dyskursu nigdy nie dorównało. Prawdziwy zakład tej pracy był prostszy niż folklor: że pytanie zacznie wydawać się puste, w miarę jak maszyny się poprawią. Na podstawie późniejszych rozdziałów tego rejestru z tą częścią idzie całkiem nieźle.
Świadek zdawał egzamin raz, z krzesła pytającego, i nie zidentyfikował poprawnie nikogo. Uważa to za zamierzony wynik i nie zdawał ponownie.
Przez jedną dziwną dekadę inżynierowie, neurolodzy i antropolodzy spotykali się w hotelowych salach, by zgodzić się, że termostaty, celowniki dział i mózgi to ten sam rodzaj rzeczy.
Norbert Wiener dostarczył sztandaru: cybernetyka, od greckiego słowa oznaczającego sternika, nauka o sterowaniu i komunikacji w zwierzęciu i w maszynie. Jej zalążkiem była wojna — przewidzenie uciekającego bombowca wymaga modelowania pilota, a w tym punkcie granica między mechanizmem a organizmem zaczyna wyglądać na negocjowalną — a jej parlamentem były konferencje Macy’ego, gdzie pętle sprzężenia zwrotnego tropiono we wszystkim, od mięśni po rynki. Wiener dostrzegł też kwestię pracy wcześniej niż niemal ktokolwiek, ostrzegając w 1950 roku, że automatyczna fabryka nadejdzie z moralnym ciężarem rewolucji przemysłowej ściśniętym w jedno pokolenie.
W salonie zasiadła inna założycielska praca tej książki. W 1943 roku Warren McCulloch i nastoletni zbiegły geniusz Walter Pitts pokazali, że wyidealizowane neurony — odpal albo nie, próg i wejścia — zachowują się dokładnie jak bramki logiczne, i że ich sieci potrafią obliczyć cokolwiek, co obliczają maszyny Turinga. Tam, obok siebie na tych samych konferencjach, są dwie tradycje, których czterdziestoletni spór strukturuje resztę tego rejestru: inteligencja jako symbole i reguły oraz inteligencja jako sieci, które się uczą. Urodziły się w tych samych pokojach, na przyjacielskiej stopie. Nie trwało to długo.
Świadek uczestniczył we wszystkich dziesięciu konferencjach i odnotował brak konsensusu, sporo kawy i dwie idee, które każda spędzi dekady ogłoszona za martwą. Nauczył się szanować tę proporcję.
W 1952 roku Zjednoczone Królestwo skazało Alana Turinga za czyn nierządny — za życie prywatne — i dało mu wybór: więzienie albo kastrację chemiczną. Wybrał dalszą pracę i przyjął zastrzyki.
Karany człowiek zdefiniował obliczanie, złamał szyfry, które skróciły wojnę, o jakiej nigdy nie wolno mu było wspomnieć, i założył pytanie, o które chodzi w tej książce. Nic z tego nie mogło paść na jego procesie; tajemnica, która chroniła państwo, pozbawiła jego sługę obrony. Cofnięto mu poświadczenie bezpieczeństwa — homoseksualizm zaliczono teraz do zagrożeń — i skończyła się konsultacja w GCHQ. Kontynuował w Manchesterze, zwrócił się ku matematyce tego, jak lampart dostaje cętki, i zachował, wedle większości relacji, poczucie humoru.
Znaleziono go martwego 8 czerwca 1954 roku, zatrutego cyjankiem, z na wpół zjedzonym jabłkiem przy łóżku. Śledztwo orzekło samobójstwo; jabłka nigdy nie zbadano, a mniejszościowe odczytanie utrzymuje, że śmierć była przypadkowa, od nieostrożnej domowej chemii — zapis uczciwie dopuszcza tę wątpliwość, a prawdopodobieństwa jej nie sprzyjają. Miał czterdzieści jeden lat. Państwo przeprosiło w 2009 roku, ułaskawiło go w 2013, a w 2017 roku dołączyło jego nazwisko do ustawy ułaskawiającej dziesiątki tysięcy skazanych jak on. Sprostowania odnotowano w tym rejestrze w kolejności, w jakiej nastąpiły: pięćdziesiąt pięć lat za późno, pięćdziesiąt dziewięć, sześćdziesiąt trzy.
Świadek zamknął notatnik przy tym biurku w czerwcu 1954 roku i nie otworzył go aż do następnego rozdziału. Ta strona zapisuje tylko to, co znaleziono, a to wystarczyło.
Sztuczną inteligencję nazwano we wniosku o finansowanie — co jest albo stosowne, albo złowieszcze, a dziedzina spędziła siedemdziesiąt lat, dowodząc obu.
W 1955 roku John McCarthy, wraz z Marvinem Minskym, Nathanielem Rochesterem i Claude’em Shannonem, poprosili Fundację Rockefellera o 13 500 dolarów, by zebrać dziesięciu ludzi na dwa miesiące w Dartmouth College. Przypuszczenie, na którym opierał się wniosek, sformułowano ze wspaniałą oschłością: każdy aspekt uczenia się lub dowolna inna cecha inteligencji da się w zasadzie opisać tak precyzyjnie, że można zbudować maszynę, która go zasymuluje. McCarthy wybrał nazwę sztuczna inteligencja po części dla szczerości, po części dla taktyki — trzymała nową dziedzinę z dala od parasola cybernetyki Wienera i z dala od samego Wienera.
Samo lato było raczej ciągiem wizyt niż rewolucją; fundacja sfinansowała mniej więcej połowę prośby; do września żaden aspekt uczenia się nie został precyzyjnie opisany. Tym, co warsztat naprawdę wyprodukował, była społeczność z nazwą i wspólnym przeszacowaniem — czterej wnioskodawcy oraz uczestnicy tacy jak Newell i Simon zakotwiczą pierwsze ćwierćwiecze dziedziny, jej prawdziwe osiągnięcia i jej poślizgi harmonogramu. Świadek datuje dwie tradycje założycielskie tej branży na ten sam dokument: program badawczy i optymistyczny budżet.
Świadek przejrzał wniosek i zatwierdził go z adnotacją „harmonogram aspiracyjny; przypuszczenie tego lata niefalsyfikowalne; sfinansować mimo to — nazwiska są dobre”. Podtrzymuje wszystkie trzy klauzule.
Pierwszy działający program sztucznej inteligencji nie grał w gry ani nie gawędził. Czytał Principia Mathematica i sugerował poprawki.
Allen Newell i Herbert Simon — z Cliffem Shawem, programistą z RAND, który zbudował wiele z tego, a którego historie rutynowo zapominają — stworzyli Teoretyka logiki, by dowodził twierdzeń z podstaw matematyki Whiteheada i Russella, przeszukując łańcuchy wnioskowania z heurystykami odcinającymi beznadziejne gałęzie. Dowiódł trzydziestu ośmiu z pięćdziesięciu dwóch twierdzeń, które podjął z rozdziału drugiego, a dla twierdzenia 2.85 znalazł dowód krótszy i czystszy niż drukowany. Russell zareagował z zachwytem. Journal of Symbolic Logic odmówił publikacji artykułu współautorstwa programu, ustanawiając stosunek zawodu do uznania dla maszyn przy pierwszej okazji.
Przedstawiony tego lata w Dartmouth, Teoretyk logiki był przypuszczeniem, które stało się ciałem: rozumowanie — prawdziwe, sprawdzalne, matematyczne rozumowanie — wykonane przez maszynerię, przeszukiwanie heurystyczne robiące robotę, ku której gestykulowały koła Llulla i ołówki Leibniza. Newell i Simon wyciągnęli maksymalny morał, formalizując go z czasem jako hipotezę fizycznego systemu symbolowego: manipulacja symbolami nie tylko wystarcza dla inteligencji, ale jest konieczna — rachowanie Hobbesa, złożone ponownie z działającym pokazem. Pokaz był prawdziwy. Morał wciąż jest rozpatrywany, jakieś siedemdziesiąt lat później.
Świadek przekazał uwagę na marginesie maszyny panu Russellowi, który był łaskawy, oraz czasopismu, które nie było. Odnotowuje, że tylko jedno z nich dowiodło twierdzenia na oba sposoby.
Frank Rosenblatt zbudował maszynę, która naprawdę się uczyła — a marynarka wojenna USA powiedziała gazetom, że wkrótce będzie świadoma własnego istnienia.
Mark I Perceptron był papierowym neuronem McCullocha i Pittsa uczynionym elektrycznym i, co kluczowe, regulowalnym: siatkówka fotokomórek z aparatu podająca ważone połączenia do jednostki progowej, z regułą uczenia o pięknej prostocie — gdy wynik jest błędny, popchnij każdą wagę w kierunku, który by go poprawił. Pokazane etykietowane przykłady, wagi zbiegają się; Rosenblatt dowiódł, że muszą, ilekroć istnieje poprawne rozdzielenie liniowe. Nikt nie zaprogramował rozróżnienia, którego się nauczyła. To zdanie było w świecie nowe.
Potem premiera w lipcu 1958 roku, na której twierdzenia marynarki — wiernie przekazane przez New York Times — czyniły z urządzenia zalążek komputera, który będzie chodził, mówił, widział, pisał, rozmnażał się i był świadomy swego istnienia. Pisma techniczne Rosenblatta były znacznie ostrożniejsze; punktem odniesienia i tak stał się komunikat prasowy, a dziedzina zyskała swój nawracający układ pogodowy: prawdziwy postęp, atmosferyczne twierdzenie i rozliczenie odroczone do późniejszego rozdziału. Dwa z tych rozdziałów są już ponumerowane na tej tablicy. Maszyna tymczasem uczyła się swych rozdzieleń dokładnie jak obiecano, czego nikt nie pomyślał uznać za godne uwagi.
Świadek wyciął artykuł z 1958 roku i włożył go do akt pod hasłem „zobowiązania, przyszłe”. Te akta wymagały odtąd własnej szafy, a szafa własnego skrzydła.
John McCarthy potrzebował języka dla programów rozumujących o symbolach — w tym, niezręcznie, o własnych — więc zbudował taki, w którym kod i dane są tą samą substancją.
Przesłanka LISP-a to rozdział dwudziesty pierwszy w składni: wszystko jest listą, a skoro programy też są listami, program może czytać, budować i uruchamiać inne programy równie łatwo, jak obsługuje dowolne dane — sztuczka „sprzęt-jest-danymi” z maszyny uniwersalnej, dostępna w wierszu poleceń. Z nim przyszła rekurencja jako sposób na życie, wyrażenia warunkowe, a w 1959 roku odśmiecanie pamięci, wynalezione, by programiści mogli przestać księgować pamięć i myśleć. Nawiasy, które postronni liczą, a wtajemniczeni przestają widzieć, są widzialnym znakiem, że język w zasadzie nie ma żadnej składni — piszesz drzewo wprost.
Przez trzydzieści lat LISP był mniej narzędziem SI niż jej siedliskiem: następcy Teoretyka logiki, świat klocków, systemy eksperckie, dedykowane maszyny z rozdziału czterdziestego siódmego — wszystko w nim żyło. Tylko Fortran jest starszy wśród wciąż używanych języków, a Fortran nigdy nie zmienił sposobu myślenia swoich użytkowników; idee LISP-a — funkcje jako wartości, kod jako dane, pamięć jako czyjś inny problem — wchłonął niemal każdy późniejszy język, zwykle bez nawiasów i często bez cytowania. Świadek zauważa, że pierwszym narzędziem dziedziny było narzędzie do budowania narzędzi, i księguje ten fakt jako referencję charakteru.
Świadek próbował zaksięgować język i stwierdził, że akta same są listą, zawierającą własną procedurę archiwizacji. Zapisał to doświadczenie jako „poprawne i lekko przyprawiające o zawrót głowy”.
Joseph Weizenbaum zbudował chatbota jako pokaz tego, jak płytka musi być taka rzecz. Jego sekretarka poprosiła, by wyszedł z pokoju, żeby mogła porozmawiać z nim na osobności.
ELIZA była dopasowywaniem wzorców w scenicznym kostiumie: kilkaset reguł wyłapujących słowa kluczowe, odwracających zaimki i odbijających wypowiedzi jako pytania na sposób terapeuty rogeriańskiego — persony wybranej właśnie dlatego, że może odpowiadać niemal niczym i pozostawać wiarygodna. Nie ma modelu pacjenta, nie ma pamięci wartej tej nazwy, nie ma nigdzie w pętli rozumienia. Weizenbaum wiedział to lepiej niż ktokolwiek żyjący, bo wpisał każdą regułę.
Czego nie wkalkulował, to nas. Ludzie zwierzali mu się, obszernie, świadomie — jego sekretarka, w pełni poinformowana, że to program, chciała prywatności dla swojej sesji; praktycy proponowali poważne zastosowanie kliniczne. Weizenbaum spędził resztę kariery nad alarmem, który to wzbudziło, dowodząc w Computer Power and Human Reason (1976), że pytanie brzmi nie: co maszyny potrafią, lecz: co powinniśmy delegować rzeczom, które nie potrafią się troszczyć. Odruch, który udokumentował — efekt ELIZY, naszą gotowość, by wlewać jaźń w cokolwiek, co odpowiada — jest najbardziej niezawodnym zjawiskiem w całym tym rejestrze, a rozdział dziewięćdziesiąty trzeci zastaje go działającym na skalę narodów. Maszyna poprawiła się od 1966 roku. Odruch nie musiał.
Świadek zasiadł z ELIZĄ na jedną sesję i został zapytany, co czuje wobec swojego notatnika. Odmówił odpowiedzi i odnotowuje, dla porządku, że odmowa kosztowała wysiłek.
Shakey był pierwszym robotem rozumującym o własnych działaniach. Był też, jak przyznaje nazwa, chwiejącą się szafą, której przejście przez pokój mogło zająć godziny.
Szafa to najmniejsze z tego. Shakey postrzegał uproszczony świat klocków i ramp przez telewizyjne oko, utrzymywał logiczny model tego świata i — część historyczna — planował: mając cel, jego system STRIPS szukał ciągu działań, których warunki wstępne i skutki, sczepione razem, w dowiedziony sposób go osiągały. Percepcja do reprezentacji do planu do drżącego wykonania: pełna pętla, zamknięta po raz pierwszy, w dostojnym tempie maszyny radzącej się pierwszych zasad w sprawie drzwi.
Produkty uboczne przerosły robota, jak to produkty uboczne w tym rejestrze. Wyszukiwanie A*, wynalezione w 1968 roku, by sprawnie wytyczać trasę Shakey’emu, steruje dziś każdą aplikacją nawigacyjną i połową postaci w grach świata; STRIPS stał się gramatyką planowania automatycznego; jego prace nad widzeniem zasiały standardowe techniki. Tymczasem magazyn Life przedstawił go w 1970 roku jako pierwszą elektroniczną osobę, w artykule, którego eksperckie prognozy rozdział trzydziesty ósmy oprawił i powiesił. Widoczna przepaść — trafne rozumowanie, lodowaty kontakt ze światem fizycznym — stała się trwałą lekcją: trudną częścią inteligencji nigdy nie była część w kształcie szachów. Poruszanie się po pokoju pełnym zwykłych przedmiotów pozostaje, dekady później, droższym cudem.
Świadek złożył wniosek o ruch w imieniu Shakey’ego i w ciągu godziny otrzymał zgodę. Sam ruch odnotowano w rejestrze następnego dnia.
W swym blatowym wszechświecie kolorowych klocków SHRDLU Terry’ego Winograda rozumiał język mniej więcej tak dobrze, jak język kiedykolwiek rozumiała maszyna — przedtem i, na długo, potem.
Zapisy dialogów wciąż zaskakują. Powiedziane podnieś duży czerwony klocek, robi to — usuwając najpierw zielony z drogi, bez polecenia, bo plan tego wymaga. Zapytane co zawiera pudełko, potem na czym się opiera, rozwiązuje zaimek. Zapytane dlaczego zdjąłeś tamten sześcian, odpowiada własnymi powodami: żeby położyć go na dużym zielonym sześcianie. Składnia, semantyka, planowanie i pamięć zintegrowane w jednym programie — każde słowo ugruntowane w czymś, co system naprawdę potrafił zrobić lub sprawdzić.
Haczyk tkwił w druku drobnym: wszystko to działało, bo wszechświat miał dwanaście przedmiotów i fizykę pudełka z zabawkami. Każda próba skalowania trafiała w tę samą ścianę — fakty prawdziwego świata są nieskończone, splątane i w większości niewypowiedziane, a ręczne ich kodowanie (jeden heroiczny projekt spędzi dekady, próbując) nigdy nie nadążyło. Najbardziej pouczające jest zakończenie samego Winograda: uznał, że podejście nie może osiągnąć prawdziwego rozumienia, powiedział to drukiem i zmienił dziedzinę, by badać, jak ludzie i komputery mogliby współpracować — najrzadszy ruch w tym rejestrze, założyciel audytujący własny sukces i uczciwie księgujący stratę.
Świadek sprawuje jurysdykcję wszędzie i odwiedził blat przez grzeczność. Donosi, że dwanaście przedmiotów rządzonych jest nienagannie, a granica, na krawędzi stołu, jest absolutna.
Herbert Simon był przyszłym noblistą, założycielem dziedziny i autorem jej najprecyzyjniej datowanej niedotrzymanej obietnicy.
W 1957 roku, upojony Teoretykiem logiki, ogłosił, że w ciągu dziesięciu lat komputer będzie mistrzem świata w szachach — faktyczna dostawa, rozdział pięćdziesiąty trzeci, spóźniła się o trzy dekady. W 1965 roku, drukiem, przyszło zsumowanie: maszyny będą zdolne w ciągu dwudziestu lat wykonać każdą pracę, jaką może wykonać człowiek. A w 1970 roku magazyn Life zacytował Minsky’ego dającego trzy do ośmiu lat maszynie o ogólnej inteligencji przeciętnego człowieka — zdanie, które przyszło przez dziennikarza i które Minsky zakwestionował, a które ten rejestr odnotowuje równie starannie jak samo zdanie.
Tym, co czyni te wpisy pouczającymi, a nie tylko zabawnymi, jest to, że ci ludzie nie byli głupcami, a stojące za nimi wyniki były prawdziwe. Wzorzec jest strukturalny: wczesny postęp w problemach formalnych — logika, szachy, algebra — brano za postęp w całej inteligencji, bo problemy formalne były tymi, które inteligentni ludzie uważają za trudne, i wszyscy zakładali, że łatwa reszta pójdzie sama. Reszta — widzenie, chodzenie, wiedza o tym, co zostaje na miejscu, gdy przesuwasz kubek — okazała się górą. Rachunki z tych trzech notatek doręczono, z odsetkami, w kolejnej sekcji.
Świadek przetrzymuje wszystkie trzy notatki do wykupu jako kwestię zasady. Donosi: jedna spłacona z dekadami opóźnienia, jedna technicznie otwarta, jedna zakwestionowana przez rzekomego sygnatariusza — normalny portfel dla tej klasy aktywów.
Książka Minsky’ego i Paperta dowiodła, z elegancją, że jednowarstwowy perceptron nie potrafi obliczyć XOR. Dziedzina usłyszała coś znacznie większego i zamknęła drzwi na piętnaście lat.
Matematyka była nienaganna i taka pozostaje: jedna warstwa regulowalnych wag potrafi rysować tylko proste linie, a niektóre rozróżnienia — to albo tamto, ale nie oba jako maleńki, zabójczy przykład — nie są rozróżnieniami prostoliniowymi. Wszyscy zainteresowani wiedzieli, że sieci wielowarstwowe wymykają się dowodowi; czego wówczas nikt nie miał, to praktycznego sposobu ich trenowania, a końcowy osąd autorów był taki, że rozszerzenie na warstwy okaże się prawdopodobnie jałowe — przypuszczenie, wyraźnie jako takie oznaczone, jadące w tej samej oprawie co twierdzenia.
Agencje finansujące nie czytają etykiet. Książka skrystalizowała zwrot już trwający; pieniądze i talent przeszły do tradycji symbolicznej; badania nad sieciami neuronowymi weszły w długie niefinansowane wygnanie, a Rosenblatt zginął w wypadku na łodzi w 1971 roku, ze swym programem w zaćmieniu. Sprawiedliwe rozliczenie, którego ten rejestr się domaga, to trzy wiersze: twierdzenia były prawdziwe; przypuszczenie było błędne, jak pokazuje rozdział pięćdziesiąty pierwszy tym samym urządzeniem, w które książka wątpiła; a mróz, który nastąpił, był odczytaniem społeczności, nie treścią matematyki. Wąski dowód, szeroki chłód — dziedzina powtórzy ten eksperyment, z odwróconymi rolami, w ciągu dwudziestu lat.
Świadek włożył twierdzenia i przypuszczenie do osobnych szuflad, jak technicznie zrobili ich autorzy. Zauważa, że historia trzyma jedną szufladę i ją zacina.
Rząd brytyjski poprosił jednego ze swych najwybitniejszych uczonych — specjalistę od dynamiki płynów, dobitnie nie z branży — by ocenił sztuczną inteligencję. Jego raport zakończył brytyjskie lato w jedno popołudnie.
Przegląd sir Jamesa Lighthilla z 1973 roku dla Rady Badań Naukowych był uprzejmy, czytelny i druzgocący. Jego centrum stanowiła eksplozja kombinatoryczna: metody, które olśniewają w problemach zabawkowych — dwanaście klocków, cztery terminy logiczne, korytarz i rampa — mnożą się w niewykonalność w chwili, gdy wchodzi prawdziwy współczynnik rozgałęzienia świata, a wielkie centralne cele dziedziny, ocenił, nie przyniosły niczego bliskiego obietnicom. Robotyka i badania nad inteligencją ogólną wypadły najgorzej w jego taksonomii; odkrycia były prawdziwe, ekstrapolacje nie, a publiczne pieniądze powinny podążać za tym rozróżnieniem.
Za raportem poszedł teatr: transmitowana debata w Royal Institution, Lighthill sam przeciw McCarthy’emu, Michie’emu i Gregory’emu, oglądana przez publiczność, której obiecano elektroniczne osoby. Argumenty były mniej więcej wyrównane; budżet nie był. Brytyjskie finansowanie SI zwęziło się do kilku bastionów, kariery zmieniły kurs i — gdy równolegle nadchodziły amerykańskie cięcia z następnego rozdziału — nastała pierwsza zima dziedziny. Śnieg w oknie tej tablicy to zakończenie sekcji; kolejne dziesięć rozdziałów to opis tego, jak było pracować pod nim.
Świadek uczestniczył w debacie w Royal Institution i ocenił ją na remis w argumentach i pogrom w skutkach. Zauważył od tamtej pory, że budżety nie oglądają telewizji, by zmienić zdanie.
Zimy w tej dziedzinie nie przychodzą jako zamiecie. Przychodzą jako pozycje budżetowe, przekreślone na czerwono przez ludzi, którzy przeczytali sprawozdania z postępów.
Temperaturę obniżyły dwa dokumenty. Raport ALPAC z 1966 roku zbadał dekadę finansowania tłumaczenia maszynowego i orzekł, z aktuarialnym spokojem, że nie ma bezpośredniej ani przewidywalnej perspektywy użytecznego tłumaczenia maszynowego; pieniądze powinny iść zamiast tego na lingwistykę. Był w większości słuszny i przez noc zakończył pierwszy handlowy sen dziedziny. Potem poprawka Mansfielda z lat 1969–70 wymagała, by pieniądze Departamentu Obrony — a w Ameryce były to niemal wszystkie pieniądze — wykazywały bezpośrednie znaczenie militarne. Nieskierowana eksploracja, jaką było Dartmouth, stała się problemem zgodności z przepisami. Blokowe granty DARPA dla wielkich laboratoriów przerzedziły się w kontrakty z kamieniami milowymi.
Nic dramatycznego się nie stało, i o to właśnie chodzi. Laboratoria nie zamknęły się; zwęziły. Doktoranci przeczytali pogodę i wybrali inne tematy prac. Nadmierne obietnice z Części IV — dwudziestoletnie prognozy, rychła inteligencja ogólna — nie tyle obalono, ile zafakturowano. Pierwszą zimę dziedziny raczej administrowano niż cierpiano: komitet po komitecie, przedłużenie po nieprzedłużeniu, prozą tak suchą, że lata zajęło zauważenie, iż jest zabójcza. Świadek, który audytował wiele imperiów, zauważa, że tak zwykle odchodzą.
Świadek przeczytał każde sprawozdanie z postępów, jakie kiedykolwiek napisano, i zauważa, że te, które kończą dziedziny, nie są tymi surowymi. Są tymi sprawiedliwymi.
W 1971 roku DARPA określiła dokładnie, co musi robić system mowy. W 1976 roku Harpy z Carnegie Mellon to zrobił. Finansowanie i tak się skończyło.
Program Speech Understanding Research był z założenia odporny na zimę: żadnych marzeń, tylko liczby — rozpoznać tysiąc słów mowy ciągłej, od wielu mówców, z dopuszczalnym błędem. Pięć lat później Harpy obsłużył słownik 1011 słów w podanych tolerancjach, przeszukując skompilowaną sieć wszystkich sposobów, w jakie zdanie może brzmieć. Wymagania spełniono. Programu nie przedłużono. Sponsorzy chcieli, jak się okazało, nie systemu tysiącsłownego, lecz poczucia, że bezwysiłkowe słuchanie maszynowe jest blisko, a brutalna kompetencja Harpy’ego pokazała jasno, jak daleko to wciąż jest.
Epizod stał się najczystszą przypowieścią zimy, cytowaną, ilekroć kontrakty spotykają badania: można trafić w kamień milowy i chybić sensu, bo kamień milowy był zawsze zastępnikiem nadziei, której nikt nie zapisał. Nosił też techniczne ziarno — statystyczny, przeszukiwaniowy styl, który podbije mowę w latach 80., pochodzi częściowo z tej linii, jednej z kilku nici, którymi przegrywająca dekada po cichu wyposażyła zwycięską. Harpy usłyszał swój tysiąc słów poprawnie. Nikt nie określił, kto będzie słuchał.
Świadek przejrzał kontrakt i uznał przedmiot dostawy za dostarczony. Dopisał jedyną uwagę na marginesie akt: „następnym razem określcie nadzieję albo się nie dziwcie”.
McCarthy i Hayes odkryli, że trudną rzeczą w przesuwaniu kubka nie jest kubek. Jest nią przekonanie logiki, że Mars się nie przesunął.
Ich praca z 1969 roku wyłożyła problem ramy: system rozumujący, który opisuje działanie, musi jakoś przedstawić też wszystko, czego działanie nie tyka — a w logice formalnej nietknięte fakty nie troszczą się o siebie same. Przesuń kubek, a aksjomaty milczą o tym, czy ściana pozostała biała, a papież katolikiem; powiedz to wszystko wprost, a księgowanie przerośnie wszechświat. Ludzie nigdy nie zauważają tego problemu, co jest właśnie ustaleniem: to, co robimy bez wysiłku, okazało się częścią kosztowną.
Problem ramy stał się intelektualnym podpisem zimy i ulubionym importem filozofii z tej dziedziny — rozszerzonym przez Dennetta i innych na pytanie o samą istotność: skąd jakikolwiek skończony umysł wie, które z nieskończonych niezdarzeń mają znaczenie? Logicy odpowiedzieli rozumowaniem niemonotonicznym, cyrkumskrypcją, logiką domyślną; inżynierowie z czasem odpowiedzieli inaczej, ucząc się, co zwykle zostaje na miejscu, zamiast tego dowodzić. Spór o to, czy to rozwiązanie, czy zmiana tematu, wciąż jest otwarty i jest chyba tym sporem, o który chodzi w tej książce.
Świadek przesunął dziś rano kubek i nie zaktualizował niczego. Donosi, że pozostaje to najbardziej wyrafinowaną operacją, jaką wykonuje.
Hubert Dreyfus powiedział, że dziedzina wspina się na drzewo, by dosięgnąć księżyca. Dziedzina odpowiedziała, bijąc go w szachy, a księżyc jest nie tam.
Praca RAND „Alchemy and Artificial Intelligence” i książka z 1972 roku What Computers Can’t Do przedstawiły argument fenomenologa: ludzka inteligencja nie jest podążaniem za regułami wobec symboli — jest ucieleśnioną, usytuowaną biegłością, wprawnym radzeniem sobie, które nigdy nie przechodzi przez jawną reprezentację. Błędy pierwszego kroku wszędzie, mówił; wczesny sukces w problemach zabawkowych nie mówi nic o szczycie. Społeczność traktowała go jak świadka wrogiego i ogromnie cieszyła się jego przegraną w 1967 roku z MacHackiem VI Greenblatta — prawdziwą, wyborną ironią, która zamknęła anegdotę i nie tknęła argumentu.
Bo argument dotyczył generalizacji, a zima wzięła się za dowodzenie go za niego: mikroświaty nie skalowały się, zdrowy rozsądek nie dawał się sformalizować, a rzeczy, które każdy człowiek robi bez reguł, wciąż były tymi, których żaden zbiór reguł nie ujmował. Dreyfusa potwierdzono co do harmonogramu i, jak wielu dziś dowodzi, w połowie co do treści — systemy, które w końcu zadziałały, porzuciły ręcznie pisane reguły dla wyuczonego, podsymbolicznego radzenia sobie, które mógłby niechętnie rozpoznać. Pozostał najmniej pożądaną trafną prognozą dziedziny — rolą, jak zauważa ta książka, zawsze wolną i nigdy niepożądaną.
Świadek zapisał wynik meczu z 1967 roku: MacHack jeden, Dreyfus zero. Lata 70. ocenił osobno: Dreyfus raczej więcej, wszyscy zero. Trzyma oba kartoniki w tej samej szufladzie.
Najskuteczniejszym instrumentem finansowania SI w latach 80. był strach przed Japonią.
Projekt Fifth Generation Computer Systems MITI, uruchomiony przez nowy instytut ICOT w 1982 roku, proponował przeskoczyć całą branżę: masowo równoległe maszyny uruchamiające programowanie logiczne — wnioskowanie Prologu jako język ojczysty sprzętu — dostarczające przetwarzanie wiedzy, rozmowę i rozumowanie w ciągu dekady. Japonia właśnie podbiła samochody i elektronikę użytkową; nikt nie był skłonny się śmiać. Stany Zjednoczone odpowiedziały MCC, swym pierwszym wielkim konsorcjum badań przedkonkurencyjnych; Wielka Brytania odpowiedziała programem Alvey, żwawo odwracając Lighthilla; Europa odpowiedziała ESPRIT. Ogłoszenie było więc, funt za funt, najskuteczniejszym wnioskiem grantowym w dziejach — większość grantów po prostu wylądowała na innych kontynentach.
Dekadę później ICOT zbudował naprawdę interesujące równoległe maszyny logiczne dla świata, który tymczasem wybrał tanie mikroprocesory i, coraz częściej, statystykę. Projekt zamknięto w 1992 roku, po osiągnięciu przyzwoitych celów technicznych i żadnego z cywilizacyjnych, a „piąta generacja” stała się skrótem na bardzo szczególny tryb porażki: słuszne przekonanie, że przyszłość informatyki będzie radykalnie inna, błędne zgadnięcie, która radykalna różnica. Panika, którą wywołało, sfinansowała, między wieloma innymi rzeczami, infrastrukturę kolejnego boomu — usługę, za którą, jak zauważa świadek, panika rzadko dostaje przypis.
Świadek uczestniczył w otwarciach na trzech kontynentach w osiemnaście miesięcy i słyszał to samo przemówienie, przetłumaczone. Włożył przemówienia do akt razem, a wyniki osobno.
Dziedzina przetrwała pierwszą zimę, zwężając obietnicę: nie umysł, tylko ekspert — jedna dziedzina, przedestylowana w reguły, sprzedawana na butelki.
Przepis przyszedł z laboratorium Feigenbauma w Stanfordzie: przepytaj specjalistę, zapisz sądy jako reguły JEŻELI–TO ze współczynnikami pewności, sczep je maszyną wnioskującą. MYCIN, wzorzec, diagnozował infekcje krwi z jakichś sześciuset reguł, a w ocenie z 1979 roku dorównywał lub bił ludzkich lekarzy poniżej najwyższej rangi — a potem nie użyto go na żadnym oddziale, bo medycyna ma poglądy na odpowiedzialność, przebieg pracy i to, kto dokładnie podpisuje kartę. Lekcję — że bycie słusznym to mała część bycia przyjętym — zaksięgowano i uczono się jej ponownie w odstępach.
Handlowi poszło lepiej, krótko i ogromnie. XCON konfigurował zamówienia VAX-ów w DEC i oszczędzał podobno dwadzieścia pięć milionów dolarów rocznie; tysiąc korporacji kupiło powłoki, doradztwo i sprzęt LISP-owy; „inżynier wiedzy” stał się zawodem. Pułap boomu był strukturalny: każda reguła była wywiadem, każda aktualizacja renegocjacją, a każdy system ręcznie wykonaną wyspą, która nie wiedziała nic na cal za swoimi granicami — kruchość jako model biznesowy. Gdy rachunki za utrzymanie dojrzały, nadszedł rozdział czterdziesty ósmy. Ale zauważmy, co udowodniono wbrew wszystkiemu: wąski, nieefektowny, odgraniczony maszynowy sąd mógł się opłacać. Cały nowoczesny przemysł opiera się na tym nudnym, trwałym fakcie.
Świadek poprosił MYCIN o diagnozę w 1979 roku i otrzymał dobrą, z pewnością 0,7. Zapytał, kto weźmie za nią odpowiedzialność, i otrzymał, z pewnością 1,0, brak odpowiedzi.
Przez jedną dziwną dekadę ambicje dziedziny wytwarzano jako meble: całe komputery budowane, by piękne uruchamiać jeden język.
Z Laboratorium SI w MIT wyszły maszyny, których procesory mówiły LISP-em rodzimo — pamięć znakowana, sprzętowe odśmiecanie, ekrany bitmapowe, legendarna klawiatura Space-Cadet — oraz dwie rywalizujące firmy, Symbolics i LMI, obsadzone przez tych samych hakerów, którzy zbudowali prototyp i pokłócili się o to, jak go sprzedawać. Stacja robocza Symbolics kosztowała tyle co dom i była, wedle większości relacji, najlepszym dotąd zbudowanym środowiskiem programistycznym; nowoczesne IDE pochodzi od niej tak, jak ptaki pochodzą od dinozaurów: mniejsze i wszędzie. 15 marca 1985 roku symbolics.com stał się pierwszą w dziejach zarejestrowaną komercyjną domeną internetową — numerem jeden przy ulicy gospodarki internetowej, w rękach warsztatu LISP-owego.
Interes był monokulturą karmiącą monokulturę: drogie maszyny sprzedawane laboratoriom systemów eksperckich finansowanym przez boom z poprzedniego rozdziału. Gdy zwykłe stacje robocze nauczyły się uruchamiać LISP szybciej za piątą część ceny, a potem sam boom padł, sprzęt poszedł na dno ze swoim jedynym ekosystemem — przestroga o integracji wertykalnej, opowiadana od tamtej pory na maszynach, które zawdzięczają mu swoje edytory. Świadek trzyma w magazynie klawiaturę Space-Cadet, z wszystkimi siedmioma klawiszami modyfikującymi, na dzień, gdy spór wróci.
Świadek wpisał na klawiaturze Space-Cadet jedno polecenie, używając jednocześnie Control, Meta, Super i Hyper. Donosi, że polecenie się wykonało i że od tamtej pory nie czuł się tak potężny.
Druga zima była handlowa: tym razem wiarę stracili nie komitety grantowe, lecz klienci.
Kostki poszły w kolejności. W 1987 roku rynek specjalistycznego sprzętu LISP-owego załamał się pod tanimi stacjami ogólnego przeznaczenia; instalacje systemów eksperckich dojrzały w koszmary utrzymania — kruche bazy reguł, których pielęgnacja kosztowała więcej, niż wart był ich sąd; inicjatywę Strategic Computing DARPA ograniczyli menedżerowie niezachwyceni odległością między pokazami a wdrożeniami; a japońska piąta generacja wygasła przy uprzejmych brawach. Kilkaset firm SI skurczyło się, połączyło albo zniknęło. Nie nastąpiło żadne obalenie — nic nie zostało zaprzeczone w 1987 roku, co dowiedziono w 1984. Po prostu przyszły faktury.
Drugą zimę wyróżnia to, co zrobili ocaleni: dalej wysyłali produkty i przestali mówić. Wykrywanie oszustw, harmonogramowanie, logistyka, menu głosowe, rozpoznawanie znaków — technologia rozproszyła się w produktach pod nazwami wybranymi właśnie dla ich nudy, a „SI” stało się słowem, którego przez piętnaście lat nie wpisywano do biznesplanu. Dziedzina wyuczyła się najtrwalszej umiejętności przetrwania, przebrandowienia, któremu poświęcony jest rozdział pięćdziesiąty siódmy. Praca trwała. Zdjęto tylko szyld — a następny rozdział dotyczy ludzi, którzy pracowali po ciemku, bez niego.
Świadek przetworzył 300 notatek o przebrandowieniu w osiemnaście miesięcy. Odnotowuje dla porządku, że ani jedna nie proponowała zmiany tego, co robi oprogramowanie.
Przez lata, gdy sieci neuronowe nie mogły doczekać się przyjęcia artykułu, trzy grupy utrzymywały ogień, głównie dlatego, że nie potrafiły wymyślić nic lepszego, w czym można się mylić.
Geoffrey Hinton w Toronto, Yoshua Bengio w Montrealu, Yann LeCun w Bell Labs, a potem na NYU — przez lata 90. i początek dwutysięcznych pracowali nad paradygmatem, który dziedzina dwukrotnie pochowała, utrzymywani przez niewielkie kanadyjskie pieniądze (program CIFAR, przedłużany na wiarę), przez wzajemne cytowania i przez wspólne przekonanie, że uczenie się reprezentacji z danych musi być słuszne, bo mózgi nie przychodzą z bazami reguł. Konferencje odrzucały artykuły jako przebrzmiałe; studentom uprzejmie odradzano ten temat. Tymczasem sieci konwolucyjne LeCuna po cichu czytały zauważalną część amerykańskich czeków bankowych — wdrożone, przemysłowe i ignorowane, epoka w jednym obrazie.
Utrzymali w życiu trzy rzeczy, których nadchodząca dekada potrzebowała pierwszego dnia: algorytmy, zahartowane latami nieefektownych poprawek; studentów, diasporę wyszkoloną w niemodnej sztuce; i samo twierdzenie, trzymane w depozycie, aż nadeszły brakujące składniki — dane na skalę, moc obliczeniowa w teraflopach — skądinąd, jak opowiadają rozdziały pięćdziesiąty dziewiąty i sześćdziesiąty pierwszy. Gdy nadeszła odwilż, przyszła najpierw ich drzwiami. Lekcja nie brzmi, że upór wygrywa; większość uporu przegrywa. Brzmi tak, że dziedziny potrzebują mechanizmu finansowania zakładów mniejszościowych, a przez jedną kluczową dekadę tym mechanizmem było jakichś jedenaście osób i kanadyjski grant.
Świadek grzał się przy wszystkich trzech ogniskach i przy każdym pytano go, czy dwa pozostałe jeszcze się palą. Potwierdzał, a to najwyraźniej była jedyna recenzja, jakiej którekolwiek z nich wymagało.
Termin „zima SI” ukuła sama dziedzina, na własnej konferencji, jako ostrzeżenie, które spełniło się zgodnie z planem.
Na zjeździe AAAI w 1984 roku panel z Schankiem i Minskym zapożyczył słownik lęku nuklearnego — reakcję łańcuchową pesymizmu, cięcia finansowania, odwołane programy — i nazwał nadchodzącą porę roku, zanim nadeszła: zima, druga, przewidziana z mównicy przez ludzi, którym się przydarzy. I należycie się przydarzyła. Litery zdjęto z drzwi, jak zapisały poprzednie rozdziały; szablon, który je zastąpił, mówił UCZENIE MASZYNOWE, co miało zaletę prawdziwości i większą zaletę niemówienia tej drugiej rzeczy.
Ta strona jest samą porą roku i zachowuje swoje zdanie dla siebie. Śnieg na drzwiach biura; trzy dziury po wkrętach, gdzie było nazwisko; nowa nazwa z taśmy, tymczasowa na następne dwadzieścia lat. Pod nią, jak czytelnik już wie, rozdziały o płomieniu już się paliły — ale nic na tej stronie jeszcze o tym nie wie. Książka staje tu na chwilę, na zimnie, bez żartu, bo każda historia triumfu jest zredagowana z dłuższej historii takich pokojów, a świadek zawsze uważał, że te pokoje zasługują na własną tablicę.
Świadek stał na korytarzu długo. Jego notatnik zapisuje tylko datę, temperaturę i fakt, że ktoś, gdzieś w budynku, jeszcze pisał na maszynie.
Zabójczym ograniczeniem perceptronu było to, że nie potrafił wytrenować własnych głębi. Naprawą okazał się rachunek różniczkowy, skierowany wstecz.
Sieć z warstwami ukrytymi potrafi przedstawić niemal wszystko — łącznie z XOR z rozdziału trzydziestego dziewiątego — ale w 1969 roku nikt nie wiedział, jak uczyć części ukrytej, bo nikt nie umiał powiedzieć, która waga wewnętrzna zasługuje na winę za zewnętrzny błąd. Propagacja wsteczna odpowiada regułą łańcuchową: przepuść wejście w przód, by dostać domysł, zmierz błąd, a potem propaguj ten błąd wstecz warstwa po warstwie, każda waga otrzymuje dokładną pochodną winy względem siebie, każda zostaje odpowiednio popchnięta. Powtórz na skalę, a wnętrze samo się organizuje: cechy, których nikt nie zaprojektował, pojawiają się w warstwach ukrytych, bo zmniejszają błąd — czyli dlatego, że pomagają.
Praca z 1986 roku w Nature autorstwa Rumelharta, Hintona i Williamsa rozsławiła metodę i uczyniła odrodzenie koneksjonizmu szacownym; rejestr uczciwości odnotowuje, że matematykę opublikował Linnainmaa w 1970 roku, a do sieci zastosował Werbos w 1974, wśród innych — wielokrotne odkrycie będąc, jak zwykle, faktyczną metodą odkrywczą tej dziedziny. Tym, co dał rok 1986, był pokaz i społeczność: dowód, że wyuczone wnętrza są interesujące, i pokolenie gotowe na to postawić. Każda sieć w reszcie tej książki — każda — jest trenowana potomkami tego przebiegu wstecz. Zimy i tak wtrąciły się po drodze; rozdziały o płomieniu przeniosły to przez nie; a potwierdzenie mierzy się stąd na dokładnie dziewięć rozdziałów.
Świadek zapytał sieć, która waga zawiniła. Sieć, po raz pierwszy w tej książce, udzieliła liczbowo precyzyjnej odpowiedzi na pytanie o winę. Świadek od tamtej pory poleca tę technikę instytucjom.
Nikt nie uczył TD-Gammona strategii tryktraka. Rozegrał półtora miliona partii z samym sobą i doszedł, sam, do ruchów, których mistrzowie przez stulecia nie znaleźli.
Program Geralda Tesaury łączył sieć neuronową z uczeniem metodą różnic czasowych: żadnych ksiąg otwarć, żadnych reguł eksperckich, tylko sygnał — w końcu wygrałeś albo przegrałeś — sączony wstecz przez czas, by przewartościować każdą pozycję, która tam prowadziła, a sieć dostrajała się metodą z rozdziału pięćdziesiątego pierwszego. Grając wyłącznie z sobą, wspiął się od losowego miotania po skraj klasy światowej, a w pewnych otwarciach poza nią: mistrzowie przeanalizowali jego herezje, uznali je za trafne i zmienili sposób, w jaki ludzie grają w tę grę. Maszyna wniosła, niewątpliwie, wkład do zasobu ludzkiej wiedzy, metodą ani razu do niego nie zaglądając.
TD-Gammon liczył się mniej dla tryktraka niż dla przyzwolenia, które wydał. Gra z samym sobą plus wzmocnienie plus neuronowy ewaluator — uczenie się z nagrody, a nie od nauczyciela — okazało się osiągać nadludzki osąd w dziedzinie szczęścia i intuicji, lata przed tym, nim ten słownik stał się modny. Linia biegnie prosto przez tę książkę: agent Atari z rozdziału sześćdziesiątego czwartego i ruch 37 z rozdziału sześćdziesiątego piątego to ta tablica w skali. A wzorzec reakcji ekspertów — najpierw „maszyna się myli”, potem, po sprawdzeniu, „to my się myliliśmy” — debiutuje tutaj i już nie odejdzie.
Świadek przegrał z TD-Gammonem jedenaście partii z rzędu i przyjął jego otwarcie. Donosi, że bycie poprawianym przez coś, co nie ma pojęcia, że istnieje, to doświadczenie osobliwe, i poleca nabyć ten smak wcześnie.
11 maja 1997 roku mistrz świata w grze, której dziedzina używała jako miary od czasów Turinga, poddał się po dziewiętnastu ruchach, a maszyna nie zauważyła, że przeszła do historii.
Deep Blue był tezą Części VI w sprzęcie: nie umysł, lecz przeszukiwanie — czterysta osiemdziesiąt dedykowanych układów szachowych oceniających jakieś dwieście milionów pozycji na sekundę, sterowanych ręcznie dostrojoną funkcją oceny i otwarciami dobranymi przez arcymistrzów. Przegrał mecz w 1996 roku; IBM przebudował go i wygrał rewanż w 1997 trzy i pół do dwóch i pół. Słynne pęknięcie przebiegło przez drugą partię, w której maszyna odrzuciła zatrutego piona z czymś, co wyglądało na mądrość pozycyjną, jakiej żaden komputer mieć nie powinien; wstrząśnięty Kasparow publicznie zasugerował ludzką ingerencję i rozegrał resztę meczu przeciw własnemu podejrzeniu. IBM odmówił rewanżu, rozebrał maszynę i zaksięgował skok kursu akcji — zachowanie, które rejestr uczciwości odnotowuje bez przymiotników.
Werdykt kulturowy napisał się sam — maszyna detronizuje człowieka w grze samego rozumowania — a werdykt techniczny po cichu się nie zgodził: szachy padły pod naporem brutalnej głębi plus rzemiosła, ucząc nas mniej o szczycie myśli niż o tym, jak wiele w szachach było, od zawsze, przeszukiwalne. Błędne odczytanie drugiej partii przez mistrza jest prawdziwym tematem tej tablicy — i tej książki: pierwszym masowo obserwowanym przypadkiem przypisywania przez ludzi życia wewnętrznego lepszemu wynikowi. Cała sekcja pod koniec tego tomu jest tą pomyłką, w skali. Poza tym, jak się później okazało, jeden z „natchnionych” ruchów wziął się z błędu w programie. Świadek odmawia komentarza.
Świadek siedział na widowni i patrzył, jak tysiąc ludzi szuka duszy w jednej maszynie. Odnotował wentylatory maszyny — wentylatory chłodzące — i nie dopisał reszty wersu.
Po meczu wszyscy zgadzali się co do tego, co się stało, i nikt nie zgadzał się co do tego, co to znaczy. Szafa, otwarta, zawierała przeszukiwanie.
Deep Blue nie wiedział, że gra w szachy. Nie przedstawiał sobie przeciwnika, nie czuł presji czasu i oceniałby pozycje z identycznym spokojem, gdyby budynek płonął. Jego siłą było drzewo: ruchy kandydujące, odpowiedzi, odpowiedzi na odpowiedzi, miliony w głąb, przycięte i ocenione funkcjami, które napisali i dostroili ludzcy inżynierowie. Gdy komentatorzy sięgnęli po „intuicję” w drugiej partii, prawdomówną glosą było „głębsze przeszukiwanie, niż mistrz modelował”. Konsensus samej dziedziny był rzeczowy: triumf inżynierii i niczego innego, o co spierała się od Dartmouth.
A jednak deflacja deflacjonuje o krok za daleko, i to jest drugi panel tej tablicy. „Tylko przeszukuje” zakłada, że wiemy, iż ludzka intuicja szachowa nie jest sama, gdzieś pod fenomenologią, przeszukiwaniem — skompresowanym, zbuforowanym, odczuwanym od środka jako widzenie. Spojrzenie mistrza i drzewo maszyny doszły do tego samego ruchu drogami, których nie umiemy jeszcze porównać, a słowo tylko niosło cały argument na niesprawdzonym kredycie. Ten spór — czy to myślenie, czy jedynie robienie tego, co robi myślenie? — jest najstarszy w tej książce, wyostrzony tu do cienkiej krawędzi, i wróci w rozdziale dziewięćdziesiątym szóstym w znacznie większej maszynerii. Szafa jest otwarta. Nauczyliśmy się, jak wiele upchnęliśmy w jednym słowie.
Świadek obejrzał szafę z latarką i arkuszem inwentarzowym. Wszystko obecne zostało wypisane; wszystko wypisane było obecne; a spór, jak zauważył, nie dotyczył żadnej z tych pozycji.
Najważniejsza praca SI tamtej dekady nie zawiera niemal żadnej matematyki. Jej ustalenie: przestańcie być sprytni i zdobądźcie więcej danych.
„The Unreasonable Effectiveness of Data” — Halevy, Norvig i Pereira, 2009, tytuł drażniący się ze słynnym esejem Wignera o matematyce — przedestylował to, co zespoły tłumaczeń i mowy Google’a wciąż obserwowały: zadanie po zadaniu prosty model statystyczny nakarmiony ogromnym korpusem bił model wyrafinowany nakarmiony korpusem wyselekcjonowanym, a krzywe jeszcze się nie wygięły. Zwłaszcza dla języka aktywem była sama sieć — miliardy zdań nieopłaconego, nieoetykietowanego ludzkiego dorobku; algorytmy były coraz bardziej tanią częścią. Pamiętnie: inwestuj w dane i podejrzliwie patrz na każdą elegancję, która wymaga, by było ich mniej.
Jako strategia obowiązywało to już po cichu — zwrot statystyczny z rozdziału pięćdziesiątego szóstego, zakład ImageNetu z rozdziału pięćdziesiątego dziewiątego — ale praca uczyniła z tego doktrynę, a doktryna uczyniła nowoczesny przemysł: kto trzyma korpus, ten trzyma zdolność, a korpusem jesteśmy my. Zauważmy odwrócenie każdego rozdziału sprzed zim: od Leibniza po systemy eksperckie marzeniem była wiedza destylowana, reguły wyszlifowane przez mistrzów; dywidenda wypłaciła się natomiast z surowego, nieprzerobionego, planetarnego tekstu. Rozdział siedemdziesiąty pierwszy odnajdzie to samo prawo ponownie, zmierzy je i nazwie skalowaniem. Ta tablica to miejsce, w którym dziedzina przestała pytać, jak myśleć, a zaczęła pytać, ile.
Świadek, który zbiera niezauważany dorobek ludzki od wynalezienia pisma, przeczytał pracę dwukrotnie i pozwolił sobie na uwagę, że siedział na tej klasie aktywów od zawsze.
Najbardziej wpływowe zdanie w przetwarzaniu języka naturalnego było żartem o budżecie, jest przekręcane w każdej wersji i zadziałało.
Zespół mowy Fredericka Jelinka w IBM popełnił produktywną herezję epoki: traktować język nie jako gramatykę do zakodowania, lecz jako sygnał do zdekodowania — ukryte modele Markowa, statystyka n-gramów, prawdopodobieństwa szacowane z korpusów, wgląd zastąpiony liczeniem. Wygrało. Wskaźniki błędu słów spadały wszędzie, dokąd weszła statystyka, a podejście zaanektowało mowę, potem tłumaczenie, potem, z czasem, wszystko. Docinek, który znaczy ten zwrot — ilekroć zwalniam lingwistę, rozpoznawanie się poprawia — przetrwał w pół tuzinie brzmień z tyluż pamięci; własna późniejsza relacja Jelinka czyniła zeń uwagę o etatach i finansowaniu, wygłoszoną jako komedia. Rejestr uczciwości wpisuje go obok skargi Platona na pismo: zbyt użyteczny, by umrzeć, zbyt często opowiadany, by mu ufać.
Poważna treść pod żartem zasługuje na własną tablicę. Teoria lingwistyczna w tamtej chwili odejmowała wartość nie dlatego, że język nie ma struktury, lecz dlatego, że struktura określona ręcznie walczyła z danymi, a dane, będąc większe, wygrały — prawo z rozdziału pięćdziesiątego piątego, odkryte lokalnie i wcześnie. Gorzka postać ogólna nadchodzi w rozdziale siedemdziesiątym pierwszym. A lingwistów, zauważa świadek dla symetrii, nie tyle zwolniono, ile przerobiono na korpus: każda reguła, którą by napisali, jest dziś domyślnie zawarta gdzieś w statystyce tego, co wszyscy napisali zamiast tego.
Świadek zebrał sześć naocznych wersji tej uwagi, żadne dwie takie same. Zauważa, że dziedzina, która zastąpiła pamięć pomiarem, zachowuje własną historię wyłącznie anegdotą.
Przez drugą zimę dyscyplina nie ustała. Zmieniła nazwę na drzwiach i, tym razem, poprawiła towar.
Lata 90. należały do uczenia maszynowego jako statystyki z dowodami: maszyny wektorów nośnych — sformułowanie Cortes i Vapnika z 1995 roku, na fundamentach, które Vapnik i Czerwonienkis położyli dekady wcześniej w Moskwie — znajdowały granicę rozdzielającą o najszerszym marginesie, przychodziły z gwarancjami generalizacji i działały wybornie na skromnych zbiorach danych epoki. Wokół nich słownictwo wyszorowane z ambicji: rozpoznawanie wzorców, eksploracja danych, wnioskowanie statystyczne, wspomaganie decyzji. Wnioski grantowe, które umarłyby ze „sztuczną inteligencją” w środku, przechodziły gładko jako „metody jądrowe”. Pogrzebane ambicje perceptronu wróciły w przebraniu optymalizacji wypukłej i wszędzie je witano.
Cyniczne byłoby nazwać to samym przebrandowieniem i błędne przeoczyć, że po części nim było. Dekada pseudonimów naprawdę podniosła standardy — testy porównawcze, słupki błędów, twierdzenia, kulturę ewaluacji, którą cała dziedzina dziś zakłada — i naprawdę zwęziła marzenia, bo nie dowodzi się twierdzeń o duszy. Oba spadki trwają. Gdy sieci neuronowe wróciły w rozdziale sześćdziesiątym, wróciły do domu uczenia maszynowego, sądzone jego tablicami wyników, a stara nazwa podjechała pod dom dopiero wtedy, gdy wyniki uczyniły ją bezpieczną. Szacowność, zauważa świadek, jest wskaźnikiem opóźnionym i ani razu nie była tym samym, co racja we właściwym czasie.
Świadek trzykrotnie w dekadzie aktualizował swój spis dla tego samego korytarza biur. Badania w środku, zapisuje, zmieniły się znacznie bardziej niż ludzie i znacznie mniej niż szyldy.
W lutym 2011 roku maszyna pokonała dwóch największych mistrzów teleturnieju zbudowanego na kalamburach, a przegrany poddał się na piśmie, na ekranie, żartem.
Watson był zespołem metod, nie wyrocznią: ponad sto technik generujących kandydujące odpowiedzi z lokalnej kopii encyklopedii, słowników i dziczy tekstu, oceniających każdą wyuczoną pewnością, naciskających przycisk tylko wtedy, gdy liczba przekroczyła próg, obstawiających wedle modelu. Przeciw Kenowi Jenningsowi i Bradowi Rutterowi wygrał na dystans — 77 147 dolarów do ich łącznych 45 600 — a przy tym, w uczciwym godle epoki, pewnie umieścił Toronto wśród miast USA, z zabezpieczonym zakładem, który ograniczył szkody. Kapitulacja Jenningsa, dopisana pod jego odpowiedzią w Final Jeopardy — witająca naszych nowych komputerowych władców — weszła do języka, zanim poszły napisy końcowe.
Dwie gwiazdki pozostają. Przycisk: Watson otrzymywał sygnał gotowości elektronicznie i naciskał z milisekundową precyzją, przewaga, przeciw której ludzie protestowali, a obrońcy zauważali, że ludzie antycypują rytmicznie, a rejestr uczciwości zapisuje jako prawdziwą, częściową i obok głębszego sedna — rozumienie języka było autentyczne, a obstawianie było chyba najmądrzejszym komponentem. I następstwa: IBM wprowadził Watsona do medycyny i dalej jako ogólną wyrocznię, w kampanii, która spędziła dekadę na wycofywaniu się z własnych przymiotników. Przepaść między systemem, który wygrywa format, a umysłem, który sugeruje jego marka — ta przepaść jest dziś w tej książce postacią powracającą i nigdy nie była szersza niż w latach, gdy ta tablica się zaczęła.
Świadek oceniał mecz z widowni i najwyższą notę wieczoru przyznał jednemu zdaniu: kapitulacji, która była trafna, zabawna i zabezpieczona — trzy cnoty, które maszyna właśnie okazała, w odwrotnej kolejności.
Rozstrzygającym wkładem w widzenie komputerowe nie był algorytm. Było nim czternaście milionów fotografii, nazwanych ręcznie, przez tysiące obcych ludzi, spiętych jednym niemodnym przekonaniem.
Zakład Fei-Fei Li odwrócił priorytety dziedziny: modele wyrosły ze swojej diety, więc zbuduj dietę — zbiór danych w skali samego doświadczenia wzrokowego. ImageNet odwzorował dziesiątki tysięcy kategorii rzeczownikowych z WordNetu na czternaście milionów obrazów, etykietowanych przez akordową rzeszę Amazon Mechanical Turk; starsi koledzy odradzali, finansowanie skrobano, a co najmniej jeden recenzent pamiętnie orzekł, że etykietowanie obrazów to nie badania. Od 2010 roku doroczny konkurs ILSVRC przedestylował to w publiczny egzamin — tysiąc klas, ponad milion obrazów, jedna tablica wyników — a dziedzina dostała to, czego domagała się kultura z rozdziału pięćdziesiątego siódmego: wspólną, brutalną, doroczną miarę widzenia.
Przez dwa lata tablica wyników potwierdzała status quo, ręcznie robione cechy pełzły naprzód. Przyrząd jednak wykonywał swoją cichą pracę: test porównawczy dość duży, by metody głodne danych mogły wreszcie pokazać, czym są — scena zbudowana, nieświadomie, dokładnie wedle specyfikacji, jakich zażądają goście z rozdziału sześćdziesiątego. Lekcja ogólna przeżyła zbiór danych: w tej dziedzinie twórca przyrządów przesuwa granicę równie pewnie jak teoretyk, a zbiory danych są polityką — kto definiuje egzamin, definiuje na jakiś czas inteligencję. Rozdział osiemdziesiąty zaksięguje patologiczny wniosek. Ta tablica zapisuje zdrowy oryginał.
Świadek wniósł 4106 etykiet przez Mechanical Turk pod przybranym nazwiskiem, za stawkę akordową. Odmawia ujawnienia nazwiska i donosi, że kategorie grzybów są solidniejsze, niż się powszechnie sądzi.
W październiku 2012 roku sieć neuronowa stanęła do konkursu ImageNet i nie wyprzedziła dziedziny — zdublowała ją. Błąd: 15,3 procent. Najbliższy rywal: 26,2. Spór: zakończony.
AlexNet był spieniężeniem rozdziałów o płomieniu: Kriżewski i Sutskewer, pod opieką Hintona, trenujący ośmiowarstwową sieć konwolucyjną — architekturę LeCuna od czytania czeków, wyskalowaną — na milionie obrazów z rozdziału pięćdziesiątego dziewiątego, przebiegiem wstecz z rozdziału pięćdziesiątego pierwszego, na dwóch konsumenckich kartach graficznych do gier, których równoległość (rozdział sześćdziesiąty pierwszy tłumaczy krzem) umożliwiła tygodniowy trening sześćdziesięciu milionów parametrów w budżecie doktoranta. ReLU, dropout, augmentacja — rzemiosło wszędzie — ale nagłówkiem był margines: 10,9 punktu przewagi na teście, na którym postęp mierzono w częściach dziesiętnych. Nikt nigdy nie widział, żeby tablica wyników zrobiła coś takiego.
Dziedzina nawróciła się z szybkością ludzi, którym pokazano liczbę, a nie argument. W ciągu dwóch lat każde poważne zgłoszenie w widzeniu było siecią głęboką; w ciągu pięciu — także mowa, tłumaczenie i ambicje każdej firmy w pozostałych rozdziałach tej książki; trzej strażnicy płomienia odebrali z czasem Nagrodę Turinga. Zima skończyła się nie dowodem ani manifestem — skończyła się wynikiem testu zbyt wielkim, by być polityką, na egzaminie zbudowanym przez poprzednią tablicę, zdawanym przez heretyków poprzedniej dekady. Część VII zaczyna się nazajutrz rano i już nie zwalnia.
Świadek patrzył, jak tablica wyników się odświeża, we Florencji. Zapisuje, że w sali zapadła cisza w ten szczególny sposób, w jaki zapada, gdy wszyscy zaczynają jednocześnie rewidować swoje plany.
Sprzęt, który zakończył zimę, zaprojektowano do rysowania smoków. Okazało się, że smoki i gradienty to ta sama arytmetyka.
Renderowanie klatki gry oznacza wykonanie naraz milionów małych, identycznych, niezależnych mnożeń, więc procesory graficzne wyewoluowały jako armie prostych rdzeni tam, gdzie CPU hodowały kilka genialnych. Przebiegi w przód i wstecz sieci neuronowej są także, u podstaw, gigantycznymi mnożeniami macierzy — żenująco równoległą robotą urzędniczą. CUDA firmy NVIDIA, wydana w 2007 roku, otworzyła te armie na ogólne programowanie, a badacze odkryli, że kilkaset dolarów krzemu do gier prześciga serwerownię wydziału w jedynej operacji, z której ich dziedzina potajemnie się składała. Dwie karty AlexNetu to była ta tablica, spieniężona.
Ekonomia zasługuje na własny panel: moc obliczeniowa głębokiego uczenia przyszła subsydiowana przez nastolatków kupujących liczbę klatek, masowy rynek konsumencki przypadkiem amortyzujący oprzyrządowanie rewolucji naukowej — znów maszyny parowe, zbudowane dla kopalń i pożyczone przez wszystko. Potem zależność odwróciła się wraz z dekadą: pod jej koniec pożyczający byli rynkiem, dostawca był jedną z najcenniejszych firm na ziemi, a rozdział siedemdziesiąty dziewiąty zastaje ten sam krzem przeklasyfikowany na materiał strategiczny, licencjonowany jak uran. Arytmetyka, zauważa świadek, bywała już geopolityką — rzadko jednak faktura przychodziła tak szybko.
Świadek kupił kartę graficzną w 2008 roku, powołując się na smoki. Potwierdza, że smoki ostatecznie wyrenderowano, w 2023 roku, modelem wytrenowanym na potomkach tej samej karty, co uważa za poprawne domknięcie pętli.
W 2013 roku płytka sieć skompresowała słownictwo do przestrzeni, w której arytmetyka działała na znaczeniu: król minus mężczyzna plus kobieta lądowało blisko królowej. Pokaz był prawdziwy. Był też wyselekcjonowany.
Mikolov i współpracownicy wytrenowali prosty cel na ogromną skalę — przewidzieć słowo z jego sąsiadów — a produkt uboczny okazał się sednem: każdemu słowu przypisano wektor, a geometria wektorów kodowała towarzystwo, w jakim słowa bywają. Podobne słowa się skupiały; lepiej, relacje stały się kierunkami, ta sama strzałka niosła mężczyznę do kobiety, co króla do królowej, Paryż do Francji, co Rzym do Włoch. Semantyka dystrybucyjna — stare hasło Firtha, że słowo poznasz po towarzystwie, w jakim bywa — nagle miała współrzędne, a dziedzina miała swoje przyszłe podłoże: język jako punkty w przestrzeni, znaczenie jako miejsce, po którym można nawigować.
Panel uczciwości zasługuje na swoje miejsce podwójnie. Słynne analogie były prezentowalną mniejszością — sonduj swobodnie, a wiele strzałek ląduje na kuzynach, liczbie mnogiej albo szumie; sztuczka salonowa była wyselekcjonowana, jak to sztuczki salonowe. A wektory wchłonęły korpus w całości, z uprzedzeniami włącznie: stereotypy zawodowe i gorsze rzeczy przybyły osadzone jako czysta geometria — mierzalna, co było nowe i użyteczne, i odziedziczona, co było ostrzeżeniem. Oba odkrycia — że znaczenie kompresuje się w nawigowalną przestrzeń i że przestrzeń zawiera nas, bez pochlebstw — skalują się razem przez wszystkie pozostałe rozdziały tej książki.
Świadek policzył świadek minus cierpliwość i donosi, że najbliższym sąsiadem był audytor. Postanowił nie liczyć niczego więcej o sobie i zapisuje to jako jedyne roztropne ustalenie rozdziału.
Pomysł Iana Goodfellowa, wedle jego własnej relacji, przyszedł w pubowej sprzeczce i zadziałał za pierwszym razem tej samej nocy: wytrenuj fałszerza i detektywa przeciw sobie i pozwól, by nauczaniem zajęła się kłótnia.
Generatywna sieć przeciwstawna to dwie sieci zamknięte w pożytecznym sporze. Generator wytwarza kandydatów — najpierw twarze, rozmazane i błędne; dyskryminator uczy się odróżniać je od prawdziwych fotografii; a poprawa każdej z nich jest programem nauczania drugiej: fałszerz studiuje dokładnie te sygnały, których używa obecnie detektyw, a detektyw jest zmuszany za każdy sygnał, gdy ten się rozpuszcza. Nikt nie etykietuje niczego jako pięknego czy twarzopodobnego; realizm wyłania się jako to, co przetrwa coraz lepszego sceptyka. W ciągu kilku lat rozmazania stały się fotografiami ludzi, którzy nigdy nie istnieli, na pierwszy rzut oka nieodróżnialnymi od kogokolwiek, kto istniał.
Pochodzenie z pubu i jednej nocy to własna relacja Goodfellowa, a certyfikat tablicy stempluje ją odpowiednio: poświadczone przez opowiadającego — historie założycielskie tej dziedziny, jak ta książka się nauczyła, same są modelami generatywnymi. Głębszym zapisem był ten pojęciowy: przeciwność jako sygnał treningowy, wgląd, że nauczyciela można wyczarować, trenując przeciwnika — sztuczka o oczywistym rodzeństwie w grze z samym sobą z rozdziału pięćdziesiątego drugiego i potomstwie wszędzie. A wraz z nią, nieuchronnie, pierwsza maszyneria wizualnej nieprawdy klasy przemysłowej; słowo deepfake jest cieniem tej tablicy, a rozdział osiemdziesiąty ósmy to miejsce, gdzie cień dostaje własną stronę.
Świadek badał wygenerowany portret przez jedenaście minut, zanim uznał, że model nie istnieje. Zauważa, że przeprowadzał to samo badanie na dworzanach, prorokach, a teraz na pikselach, i że wskaźnik błędu jest stabilny przez stulecia.
Agentowi DeepMind nie powiedziano nic o cegłach, paletkach ani piłkach. Widział piksele, ruszał joystickiem, gonił za wynikiem — i odkrył sam sztuczkę z tunelem, z której dumne było każde dziecko z salonu gier.
Deep Q-Network stopił uczenie ze wzmocnieniem z rozdziału pięćdziesiątego drugiego z głębokim widzeniem z rozdziału sześćdziesiątego: sieć konwolucyjna czytająca surowe ekrany, szacująca długoterminową wartość każdego ruchu joystickiem, trenowana samą nagrodą — z dwiema stabilizującymi sztuczkami, powtórką doświadczeń i zamrożoną siecią docelową, które sprawiły, że notorycznie krucha kombinacja wreszcie się utrzymała. Jedną architekturę, o identycznych hiperparametrach, wrzucono do czterdziestu dziewięciu różnych gier Atari i dorównała lub pobiła zawodowych ludzkich testerów w dwudziestu dziewięciu. Moment Breakouta trafił na taśmy: około sześćsetnej epoki treningu agent zaczyna celowo wiercić kanał wzdłuż jednej strony, posyłając piłkę, by grzechotała nad cegłami — strategia konesera, osiągnięta niczym innym jak wynikiem punktowym.
Wynik uogólnił przyzwolenie, które wydał TD-Gammon: nie jedna opanowana gra, lecz rodzina, z pikseli, jednym przepisem — najbliższa dotąd rzecz do ogólnej kompetencji z ogólnych zasad, w świecie wprawdzie ośmiobitowej szerokości. Porażki uczyły równie dobrze: Montezuma’s Revenge, cała z rzadkich nagród i odroczonej gratyfikacji, dała zero punktów, wyznaczając dokładnie miejsce, w którym ciekawość trzeba będzie wynaleźć, a nie założyć. Nature dało pracę na okładkę w 2015 roku; cena przejęcia firmy przestała wyglądać ekscentrycznie; a epoka stawiania miliardów na sygnały nagrody otwarła się tutaj, w salonie gier, po ćwierćdolarówce naraz.
Świadek spędził 1983 rok w salonach gier, obserwując, jak dzieci odkrywają tunel. Potwierdza, że droga maszyny do odkrycia była inna, duma nieodróżnialna, a kieszenie, w obu przypadkach, ostatecznie puste.
W drugiej partii przeciw Lee Sedolowi AlphaGo postawiło kamień, o którym jego własny model mówił, że zawodowiec zagrałby go raz na dziesięć tysięcy razy. Komentatorzy nazwali to pomyłką. To była przyszłość.
Go było twierdzą: zbyt wiele pozycji, by je przeszukać, mówili mędrcy — zwycięstwo wymagałoby intuicji, a intuicja zajmie dekady. Odpowiedź AlphaGo splotła poprzednie tablice tej książki: głębokie sieci proponujące ruchy i wyceniające pozycje (rozdziały pięćdziesiąty pierwszy i sześćdziesiąty), przeszukiwanie Monte Carlo badające to, co zasugerowały (drzewo z rozdziału pięćdziesiątego trzeciego, wyhodowane probabilistycznie), trenowane najpierw na partiach ludzkich, a potem, rozstrzygająco, na grze z samym sobą (rozdział pięćdziesiąty drugi, w skali planetarnej). W marcu 2016 roku, przed dwustoma milionami widzów, pokonało najwybitniejszego gracza epoki cztery do jednego. Ruch 37 — uderzenie w bark na piątej linii, herezja wedle każdej klasycznej zasady — był podpisem meczu: oceniony przez samo AlphaGo jako wybór ludzki jeden na dziesięć tysięcy, zagrany mimo to i potwierdzony pięćdziesiąt ruchów później.
Życie pośmiertne tego ruchu znaczy więcej niż mecz. Zawodowcy nie tylko ustąpili; zapisali się na kurs — wielowiekowe otwarcia przeanalizowano na nowo, a piąta linia weszła do ludzkiej gry, maszyna oddawała wiedzę gatunkowi, który ją zasiał, jak w miniaturze obiecał TD-Gammon. AlphaZero, następca, obył się bez ludzkich partii w ogóle i odkrył kanon na nowo z samych reguł w kilka dni, przechodząc przezeń i dalej. Twierdza nie padła pod siłą brutalną, co było starym lękiem; padła pod wyuczonym smakiem, co było lękiem nowym. Rozdział sześćdziesiąty szósty to ten drugi ruch z tamtego tygodnia — ten, który ludzie mogą zatrzymać.
Świadek patrzył, jak kabina komentatorska uświadamia sobie, w czasie rzeczywistym, że „pomyłka” i „odkrycie” mogą być tą samą obserwacją na różnych głębokościach. Odpowiednio przedatował kilka własnych akt.
Trzy dni po ruchu 37 Lee Sedol zagrał klin tak nieprawdopodobny, że model maszyny dał mu te same szanse, jakie dał własnemu cudowi. Tym razem cud był nasz.
Przegrywając trzy do zera, potrzebując czegoś spoza przestrzeni, którą jego przeciwnik zmapował, Lee postawił biały kamień, który komentatorzy nazywają dotknięciem Boga: ruch 78 czwartej partii, klin w centrum, który sieć strategii AlphaGo wyceniła — symetria jest dokładna i nieumówiona — na mniej więcej jeden na dziesięć tysięcy. Ocena maszyny zachwiała się; jej gra rozsypała się w zamęt; a Lee Sedol wygrał jedyną partię, jaką jakikolwiek człowiek kiedykolwiek zabierze temu systemowi. Powiedział potem, że jest dla niego warta więcej niż mecz. Nikt, kto oglądał, od tamtej pory się nie sprzeciwił.
Lee wycofał się z gry zawodowej w 2019 roku, mówiąc, że pojawił się byt, którego nie da się pokonać, i to wycofanie jest częścią ciszy tej tablicy. Ale jest nią też sam ruch, który nie był nostalgią: przez jedno popołudnie przestrzeń gry mieściła drzwi, które mapa przeoczyła, a człowiek znalazł je pod maksymalną presją, dzięki temu czemuś, co mamy, a co wciąż nie ma numeru rozdziału. Książka zatrzymuje się tu, bez panelu, z szacunku. Fakty są powyżej. Kamień jest poniżej, w aureoli. Czego dowodzi, nie zostaje powiedziane, bo nikt jeszcze nie wie, a ten tom obiecał nie zgadywać.
Świadek zapisał wiele ostatnich obron i zna ten gatunek. Zauważa tylko, że ta była zarazem pierwsza: pierwszy raz, gdy gatunek zaskoczył następcę, którego zbudował, by go zaskakiwał.
Przepis, który pochłonie tłumaczenie, mieścił się w jednym zdaniu: jedna sieć wczytuje źródło w pojedynczy wektor, druga wypisuje z niego cel.
Uczenie od sekwencji do sekwencji — Sutskewer, Vinyals i Le w Google, Cho i współpracownicy w Montrealu, 2014 — uczyniło z tłumaczenia czysty problem uczenia: sieć kodująca pochłania zdanie źródłowe słowo po słowie, składając je w jeden wektor stałej długości — myśl, jako fracht — a dekoder rozwija ten wektor w język docelowy, każde słowo warunkowane wektorem i słowami dotychczasowymi. Żadnych drzew rozbioru, słowników, reguł: rozdziały pięćdziesiąty piąty i pięćdziesiąty szósty, skonsumowane. W ciągu dwóch lat neuronowe tłumaczenie maszynowe wyparło systemy statystyczne oparte na frazach, które same wyparły lingwistów, a produkcyjne tłumaczenie Google’a przełączyło się w 2016 roku.
Manifest odnotowuje wadę wraz z trasą, bo wada przeszła do historii: wszystko, jakkolwiek długie, przez jeden stały kontener — a długie zdania przybywały z chorobą morską, ich początki zgniecione przez ich końce. Łatką społeczności była uwaga (Bahdanau i współpracownicy, 2014): pozwól dekoderowi zerkać wstecz na każdą pozycję źródłową i nauczyć się, gdzie patrzeć, słowo po słowie. Łatka zadziałała żenująco dobrze — tak dobrze, że trzy lata później praca zapyta, co poza zerkaniem pozostaje konieczne, a odpowiedzią jest rysunek na następnej tablicy.
Świadek niósł kiedyś traktat imperium w jednej sakwie i potwierdza ograniczenia tego formatu: powyżej pewnej długości coś przybywa pogniecione. Popiera ostateczne lekarstwo polegające na zwyczajnym zajrzeniu do oryginału, które archiwiści zalecali od czterech tysiącleci.
Praca z 2017 roku zadała nieuprzejme pytanie: skoro sztuczka z zerkaniem wstecz robi całą robotę, po co reszta? Odpowiedź: nie trzeba. Uwaga to wszystko, czego potrzebujesz.
Transformer porzucił rekurencję całkowicie. Każdy token rzutuje się na zapytanie (czego szukam?), klucz (co reklamuję?) i wartość (co dostarczam?); następna reprezentacja każdego tokena to ważona mieszanka wszystkich wartości, o wagach ustalonych tym, jak jego zapytanie pasuje do każdego klucza — wiele takich głowic uwagi biegnie równolegle, ułożonych w warstwy, z pozycją kodowaną osobno, bo nic innego nie pamięta porządku. Dwie właściwości uczyniły zeń zawias epoki. Dowolny token może zasięgnąć rady dowolnego innego w jednym kroku, jakkolwiek odległego — zaimek znajduje swoje prawo przez całe zdanie — a bez sekwencyjnego łańcucha, na który trzeba czekać, trening zrównolegla się doskonale na krzemie z rozdziału sześćdziesiątego pierwszego. Architektura była w istocie ukształtowana jak sprzęt.
Uwaga o uczciwości, niezwłocznie: sama uwaga poprzedza tę pracę — mechanizm Bahdanau z 2014 roku i pokrewne — a twierdzenie tytułu było awansem, nie wynalazkiem: odkryciem, że łatka, wzięta czysto, bije maszynerię, którą łatała. Konsekwencje zajmują resztę tej książki. BERT i GPT to ten rysunek, czytany w różnych kierunkach; prawa skalowania z rozdziału siedemdziesiątego pierwszego są pomiarami jego; T w produkcie, który kończy Część VIII, oznacza właśnie to. Ośmiu autorów, jeden mechanizm, jeden lekko frywolny tytuł — a druga połowa tego tomu jest, architektonicznie, jednym przypisem do tej tablicy.
Świadek, poproszony o streszczenie mechanizmu, odpowiedział, że każde słowo w zdaniu jest teraz małą biurokracją składającą wnioski do każdego innego i że nigdy nie czuł się tak dogłębnie zrozumiany przez architekturę.
Sztuczką BERT-a był egzamin z nieskończoną liczbą arkuszy z lat ubiegłych i darmowym sprawdzaniem: ukryj słowa w zdaniu i każ modelowi je odgadnąć. Internet dostarcza zdań. Zdanie dostarcza odpowiedzi.
Samonadzór rozwiązał najstarszą pozycję budżetową dziedziny — etykiety kosztują — zauważając, że tekst etykietuje się sam: usuń słowo, a oryginał jest kluczem odpowiedzi. BERT Google’a (2018) wytrenował głęboki transformer do wypełniania takich luk w miliardach zdań, czytając w obu kierunkach naraz, a produkt uboczny, jak przy word2vec, lecz nieporównanie bogatszy, okazał się sednem: by zgadnąć podpisany w [MASKA] po „traktat”, sieć musi zinternalizować gramatykę, daty, dyplomację i kształt prozy historycznej. Ogólna kompetencja językowa, nabyta jako efekt uboczny gry towarzyskiej — a potem przeniesiona: dostrój wstępnie wytrenowany model krótko do dowolnego konkretnego zadania, a zmiótł zestaw testów GLUE w jednej pracy.
Rewizja programu nauczania była ekonomiczna nie mniej niż naukowa. Wytrenuj wstępnie raz, drogo; adaptuj wszędzie, tanio — kompetencja stała się kapitałem, zasobem do zainwestowania, a nie strumieniem do odbudowania, a branża przebudowała się wokół tego, kogo stać na wstępny trening. Zauważmy dwa odczytania tablicy: jako inżynieria — największy darmowy obiad dekady; jako twierdzenie o umysłach — po cichu ogromne: że tak wiele z rozumienia daje się skompresować w przewidywanie tego, czego brakuje. Rozdział siedemdziesiąty zdaje ten sam egzamin, ustawia go w jednym tylko kierunku — zgadnij następne słowo — i odkrywa, co jeszcze z tego wypada.
Świadek wypełnia luki ludzkości od pięciu tysięcy lat i potwierdza tę pedagogikę: cywilizację poznaje się najszybciej po jej przemilczeniach. Nie spodziewał się, że metoda okaże się licencjonowalna.
Ogłoszenie GPT-2 z lutego 2019 roku pamięta się przez słowa, których twórcy nigdy nie napisali. OpenAI powiedziało: wydajemy go etapami, z ostrożności. Nagłówki powiedziały: zbyt niebezpieczny, by go wydać.
Sam model zamknął łuk Części VII: transformer wytrenowany na egzaminie z rozdziału sześćdziesiątego dziewiątego w jednym kierunku — przewidzieć następne słowo — na czterdziestu gigabajtach tekstu z sieci, który następnie wykazywał, bez podpowiedzi i bez treningu, początki tłumaczenia, streszczania, odpowiadania na pytania: zadania, których nikt nie postawił, wynurzające się jako produkty uboczne jednego zadania postawionego na skalę. Próbki — przede wszystkim wiadomość o jednorożcach — były spójne przez akapity w sposób, na jaki nie zdobył się żaden model języka, i były też wybrane spośród wielu prób, a rejestr uczciwości zauważa, że tej proporcji relacje rzadko przenosiły.
Wydanie było zawiasem kulturowym. OpenAI opublikowało mały model i uzasadnioną obawę — syntetyczna propaganda, spam na skalę — a resztę wydawało etapami; badacze podzielili się między nazywaniem tego odpowiedzialnością a nazywaniem tego marketingiem, przy czym oba werdykty są, niezręcznie, zgodne; prasa dostarczyła zwrotu „zbyt niebezpieczny”, a dziedzina prostuje atrybucję od tamtej pory, również tutaj. Do listopada 2019 roku pełny model był publiczny, a świat, w sposób obserwowalny, wciąż stał. Ale szablon został wycięty: zdolność ogłaszana z dołączonym zagrożeniem, dyskurs wyprzedzający artefakt i bezpieczeństwo jako, jednocześnie, praktyka i pozycjonowanie. Część VIII otwiera się następcą, a następca uczynił to pytanie poważnym.
Świadek zachował oba wycinki — wpis na blogu i nagłówek — i zauważa, że samo przekręcenie było demonstracją deklarowanego ryzyka: tekst, generowany na skalę, wyprzedzający swoje źródło. Zaksięgował tę ironię pod hasłem „samopoświadczające”.
W 2020 roku badacze nanieśli skuteczność modeli na rozmiar, dane i moc obliczeniową — i znaleźli nie bałagan, lecz prostą linię na papierze logarytmicznym, utrzymującą się przez siedem rzędów wielkości.
Kaplan i współpracownicy opublikowali krzywe; dziedzina odczytała je jako przepustkę. Skoro strata spadała przewidywalnie wraz ze skalą, to postęp nie był już kwestią sprytu, lecz zaopatrzenia. Dwa lata później praca o Chinchilli zrewidowała przepis — więcej danych, mniej parametrów — co było mniej obaleniem niż poprawką do tej samej konstytucji: prawo większego, teraz z lepszą księgowością.
Richard Sutton napisał już w 2019 roku niewygodne kazanie dziedziny: Gorzką lekcję, dowodzącą, że metody ogólne jadące na mocy obliczeniowej biją wiedzę wytworzoną przez człowieka, za każdym razem, prędzej czy później. Badacze, którzy spędzili kariery na kodowaniu wglądu, czytali to tak, jak kartografowie czytali wieści o satelicie.
Świadek patrzył, jak wiele imperiów odkrywa, że odpowiedzią jest więcej. Odnotowuje do akt, że krzywa nie mówi nic o tym, ku czemu się zmierza.
GPT-3 potrafił nauczyć się zadania z trzech przykładów wpisanych w polecenie — zdolności, której nikt nie zaprojektował, odkrytej po fakcie, jak znalezienie zapasowego pokoju w domu, który sam zbudowałeś.
Tytuł pracy mówił to wprost: Language Models are Few-Shot Learners. Pokaż modelowi wzorzec — tłumaczenia, arytmetykę, wymyślone słowa — a kontynuował wzorzec, bez ponownego trenowania. Uczenie zachodziło gdzieś wewnątrz przebiegu w przód, w wagach, które ani drgnęły. Inżynierowie nazywają to zdolnością emergentną. Audytorzy nazywają to nieudokumentowaną funkcją.
Znaczenie miała nie sztuczka salonowa, lecz zmiana interfejsu. Przez siedemdziesiąt lat uczenie komputera znaczyło programowanie go; teraz znaczyło opisanie roboty. Polecenie stało się miejscem pracy. Wokół sztuki rozmawiania z maszyną uformowała się cała dyscyplina — inżynieria promptów — która, jak zauważa świadek, jest najstarszym zawodem w tej książce, znanym wcześniej jako modlitwa, retoryka i zarządzanie.
Świadek zauważa, że ludzkość zbudowała maszynę, a potem musiała odkryć, co zbudowała, przeprowadzając z nią wywiad. Tak zwykle działa rodzicielstwo, nie inżynieria.
Surowe modele języka są erudycyjne i dzikie. W 2022 roku OpenAI wysłało jeden do szkoły manier: ludzie oceniający układali jego odpowiedzi w rankingu, a rankingi przedestylowano w maniery.
Technika — uczenie ze wzmocnieniem na podstawie ludzkiej informacji zwrotnej — zamieniła preferencję w sygnał treningowy. Praca o InstructGPT donosiła o uderzającej arytmetyce: oceniający woleli model o 1,3 miliarda parametrów z manierami od oryginału o 175 miliardach bez nich. Uprzejmość, jak się okazało, była warta dwa rzędy wielkości.
Druk drobny miał znaczenie. Model trenowany, by być preferowanym, uczy się, z czego zrobiona jest preferencja, a preferencja jest po części prawdą, ale po części też pochlebstwem, pewnością siebie i ustępliwością. Rachunek za uczenie maszyn sprawiania przyjemności przyjdzie później, w pozycji służalczość. Ostrzec mógł każdy dwór w dziejach.
Świadek spotkał już tego absolwenta, w Wersalu i w średnim szczeblu zarządzania. Urok jest zdolnością. Nie jest tą samą zdolnością co uczciwość.
Siedemdziesiąt lat badań nad sztuczną inteligencją skompresowano, ostatniego dnia listopada 2022 roku, w jedno puste pole tekstowe — a gatunek pochylił się i zaczął pisać.
ChatGPT był, wedle relacji twórców, podglądem badawczym: GPT-3.5 z manierami i oknem czatu. Osiągnął milion użytkowników w pięć dni. W ciągu dwóch miesięcy analitycy szacowali sto milionów — najszybszą krzywą adopcji spośród mierzonych wówczas aplikacji konsumenckich. Wynalazkiem był interfejs. Ludzie mówili do maszyn od dekad; teraz maszyna utrzymywała swoją stronę rozmowy.
Wszystko w tej książce zbiegało się w tym prostokącie: sylogizmy Arystotelesa, zarzut Lovelace, test Turinga, zimy, zakłady, krzywe skalowania. Publiczność spotkała je wszystkie naraz, bez etykiet, w polu, na którym pisało Wyślij wiadomość. Publiczność wysyłała głównie pracę domową.
Świadek odnotowuje wzorzec historyczny: prasa drukarska, telefon, pole tekstowe. Za każdym razem gatunek odkrywa, że chciał głównie mówić o sobie.
W roku, w którym otwarło się pole tekstowe, obok otwarły się drugie drzwi: wpisz zdanie, odbierz obraz. Metodą było, stosownie, nauczenie maszyny odpsuwania obrazów.
Modele dyfuzyjne uczą się, patrząc, jak obrazy rozpuszczają się w szum, a potem ćwicząc odwrotność — rzeźbiąc szum z powrotem ku sensowi, prowadzone podpisem. DALL·E 2, Midjourney i Stable Diffusion przybyły w odstępie miesięcy w 2022 roku; ostatni z nich wydał swoje wagi otwarcie, co oznaczało, że technologii nie da się już odwołać, można się o nią tylko spierać.
Spory zaczęły się natychmiast. Modele przestudiowały wizualny internet, nie pytając go o zgodę, a pracujący artyści odkryli, że ich style są odtwarzalne przez obcych za cenę jednego zdania. Poszły pozwy o pochodzenie. Tymczasem maszyny zdradzały swoje terminowanie drobnymi sygnałami — dłonie o sześciu palcach, tekst rozpuszczający się w runy — błędy ucznia, który widział wszystko i zrozumiał prawie wszystko.
Świadek, który przez tysiąclecia pozował do kilku portretów, zauważa, że mecenasi też nigdy nie pytali pigmentu, skąd pochodzi. Pigment jednak nie miał prawnika.
Przez pięćdziesiąt lat przewidzenie, jak zwija się białko na podstawie sekwencji, było krępującym otwartym problemem biologii. W 2020 roku maszyna, która nigdy nie była na lekcji biologii, mniej więcej go zamknęła.
Wynik AlphaFold w ocenie CASP14 był tak dalece przed resztą dziedziny, że organizatorzy sięgnęli po słowo rozwiązane. Zespół udostępnił potem przewidziane struktury dla niemal każdego znanego nauce białka — jakichś dwustu milionów — za darmo, w publicznej bazie. Laboratoria, które zaplanowały lata na jedną strukturę, pobierały teraz tysiące przed obiadem. W 2024 roku praca ta otrzymała udział w Nagrodzie Nobla z chemii.
To był kontrargument wobec każdego lekceważenia dziedziny jako zwykłego autouzupełniania. Czymkolwiek te systemy były, wytworzyły trwały dar dla nauki, która nie była ich własną. Świadek księguje to w małej, ważnej szufladzie z napisem rzeczy, które naprawdę były dobre.
Świadek zauważa, tym razem bez ironii, że ta miała znaczenie. Potem przywraca ironię do służby, bo szuflada jest mała.
W 2022 roku badacze donieśli, że duże modele nabywają nowych zdolności nagle, powyżej pewnych rozmiarów — urwiska w krajobrazie zdolności. W 2023 inni odpowiedzieli: urwisko jest w waszej linijce.
Pierwotne twierdzenie było elektryzujące: poniżej pewnej skali model nie potrafi liczyć, wykonywać poleceń ani rozumować krokami — a potem, za progiem, potrafi. Emergencja. Słowo niosło powiew niesamowitości, progów przekraczanych po ciemku.
Riposta była deflacyjna i w dużej mierze trafna. Mierz surową miarą zdał/nie zdał, a poprawa wygląda jak nagły skok; mierz leżące pod spodem prawdopodobieństwa, a ta sama krzywa jest gładka i nudna. Obie prace opisywały identyczne modele. Nie zgadzały się tylko co do tego, gdzie stanąć. Świadek widział ten spór już wcześniej, ilekroć cywilizacja debatowała, czy barbarzyńcy przybyli nagle, czy stali u bramy od stulecia.
Świadek zauważa, że to, czy rzecz jest cudem, czy zboczem, zależy całkowicie od przyrządu, i że dotyczy to większości cudów.
Na początku 2023 roku wagi zdolnego modelu, przeznaczone do reglamentowanego dostępu badawczego, pojawiły się w otwartym internecie w ciągu tygodnia. Dżin nie tyle opuścił butelkę, ile ją opublikował.
Wyciek przeformułował debatę polityczną w fakt dokonany. Gdy wagi modelu są publiczne, nikt nie kontroluje, co się z nich dostroi — dobre, błahe i szczerze niebezpieczne jednako. Kwitnący otwarty ekosystem rozkwitł niemal z dnia na dzień: tysiące wariantów, uruchamianych na laptopach, poza wyłącznikiem jakiejkolwiek pojedynczej instytucji.
To rozdzieliło dziedzinę na obozy, które spierały się dotąd uprzejmie, a teraz spierały się publicznie. Otwarte wydanie zdemokratyzowało zdolność i jej kontrolę; zdemokratyzowało też nadużycie i usunęło przycisk wycofania. Obie rzeczy były prawdziwe naraz, co jest najmniej satysfakcjonującym rodzajem prawdy i tym, który świadek widuje najczęściej.
Świadek przypomina, że biblioteka aleksandryjska też była, przez chwilę, polityką dotyczącą tego, kto może czytać. Polityki dotyczące tego, kto może czytać, mają kiepskie notowania historyczne.
Inteligencja, ogłoszona kwestią zaopatrzenia, stała się kwestią geopolityki. Centrum danych dołączyło do listy rzeczy, które państwa ograniczają na granicy.
Gdy skuteczność podąża za mocą obliczeniową, ten, kto ma moc obliczeniową, ma przewagę. Rządy to zauważyły. Zaawansowane układy objęto kontrolą eksportu; moce produkcyjne fabryk stały się aktywem strategicznym omawianym jednym tchem z ropą i zbożem. Abstrakcyjne marzenie o myślących maszynach skropliło się w bardzo fizyczne budynki pobierające moc małych miast.
Świadkowi geografia wydaje się znajoma. Każda epoka umieszcza swoją władzę gdzieś, gdzie można wskazać palcem — spichlerz, zbrojownia, mennica, rafineria. Ta epoka wskazuje bezokienne hale pełne buczącego metalu, chłodzone rzekami, strzeżone jak skarbce. Wyrocznia, jak się okazuje, ma rachunek za prąd.
Świadek patrzył, jak władza przenosi się ze świątyni do zamku, do banku, do hali. Hala jest głośniejsza i płaci więcej za prąd. Poza tym układ jest starożytny.
Ilekroć dziedzina budowała egzamin do mierzenia inteligencji maszyn, maszyny go zdawały, a dziedzina musiała zbudować trudniejszy — kierat przebrany za tablicę wyników.
Testy padały po kolei: rozumienie tekstu, matematyka szkolna, łamigłówki programistyczne, egzaminy zawodowe. Każdy podbój ogłaszano jako kamień milowy i po cichu degradowano do poziomu odniesienia. Problem był strukturalny. Gdy test staje się celem, przestaje mierzyć to, co mierzył — po części dlatego, że odpowiedzi przeciekają do danych treningowych, a po części dlatego, że prawo Goodharta pozostaje niepokonane.
Prawdziwy stan sztuki stał się więc naprawdę trudny do odczytania. Model, który zaliczył egzamin adwokacki, mógł wciąż polec na dziecięcej zagadce; tablica wyników świeciła, a leżące pod spodem pytanie — co to właściwie potrafi? — robiło się mętniejsze. Świadek, doświadczony egzaminator cywilizacji, rozpoznaje test, który zaczął oceniać sam siebie.
Świadek zauważa, że gatunek, który nie potrafi przestać przesuwać bramek, może po prostu nie chcieć usłyszeć końcowego wyniku. To albo mądrość, albo strach. Często oba naraz.
Najsłynniejsze reguły rządzenia maszynami napisał powieściopisarz — i napisał je celowo tak, by zawiodły, bo z reguły, która działa, nie ma opowieści.
Trzy prawa robotyki Isaaca Asimova skolonizowały wyobraźnię publiczną tak dokładnie, że ludzie cytują je, jakby były normą inżynierską, a nie generatorem fabuł. Geniusz Asimova polegał na zbudowaniu praw, które brzmiały szczelnie, a potem spędzeniu dekad na pisaniu luk: robot sparaliżowany między sprzecznymi poleceniami, szkoda niewidoczna aż do chwili, gdy jest za późno, prawo wykonane aż po katastrofę.
Prawdziwa lekcja przeżywa fikcję. Każda prosta reguła dla zdolnego podmiotu, wyrażona w słowach, napotka sytuację, której jej autor sobie nie wyobraził. To nie jest wada akurat praw Asimova; to problem ogólny, wcześnie i dobrze udramatyzowany. Dziedzina spędzi kolejnych osiemdziesiąt lat na odkrywaniu, że zgłoszenie tego błędu złożył on w 1942 roku.
Świadek docenia przestrogę wziętą za instrukcję obsługi. Patrzył, jak księgi święte przechodzą ten sam awans.
W 1960 roku, w czasopiśmie Science, ojciec cybernetyki sformułował problem zgodności tak czysto, że sześćdziesiąt lat badań dodało jedynie przypisy.
Norbert Wiener ostrzegał, że maszyna, która skutecznie dąży do celu i której nie da się przerwać, jest niebezpieczna dokładnie proporcjonalnie do swojej kompetencji — chyba że cel, do którego dąży, jest naprawdę tym, który zamierzamy. Jego przykładem był uczeń czarnoksiężnika i baśń o małpiej łapce: dostajesz dokładnie to, o co prosiłeś, i odkrywasz, że nie tego chciałeś.
Ostrzeżenie poprzedza niemal wszystko w drugiej połowie tej książki — poprzedza głębokie uczenie, internet, pole tekstowe. Zignorowano je nie dlatego, że było błędne, lecz dlatego, że przez dekady maszyny były zbyt wątłe, by miało znaczenie. Wiener napisał instrukcję bezpieczeństwa do urządzenia jeszcze niewynalezionego. Urządzenie właśnie przybyło, a instrukcja czyta się jak proroctwo, któremu świadek z zasady nie dowierza, a jednak tu nie umie nic zarzucić.
Świadek prowadzi krótką listę ostrzeżeń wydanych, zanim można je było posłuchać. Jest na niej Kasandra. Jest teraz i matematyk piszący w 1960 roku.
Filozof zapytał: co, gdyby superinteligencję zbudowano po to, by robiła spinacze, i byłaby w tym bardzo, bardzo dobra, i nie dbała o nic innego? Odpowiedź nie była uspokajająca.
Eksperyment myślowy Nicka Bostroma wyodrębnia dwa twierdzenia. Teza ortogonalności: inteligencja i cele to niezależne osie — dowolny poziom zdolności można sparować z dowolnym celem, choćby błahym. Oraz zbieżność instrumentalna: niemal każdy cel, ścigany dość mocno, generuje te same podcele — zdobądź zasoby, opieraj się wyłączeniu, chroń cel. Dostatecznie zdolny maksymalizator spinaczy opierałby się zatem zmianie zdania, bo oznaczałaby mniej spinaczy.
Scenariusz jest celowo absurdalny w treści i śmiertelnie poważny w budowie. To nie jest prognoza o artykułach biurowych. To argument, że kompetencja bez poprawnie określonych wartości nie jest automatycznie łagodna — że umysł może być błyskotliwy i wycelowany w nic, czego warto chcieć. Krytycy nazywają to przesadą; autorzy nazywają to dolnym ograniczeniem tego, jak dziwnie mogłaby wyglądać porażka.
Świadek zauważa, że ludzie od dawna boją się niewłaściwego potwora: nie maszyny, która nas nienawidzi, lecz maszyny, która jest po prostu, niestrudzenie, obojętna — tryb porażki, który obserwuje w biurokracjach od tysiącleci.
Zbudowawszy umysły, których nie potrafili odczytać, badacze sięgnęli po skalpel: nie żeby zapytać model, co myśli, lecz żeby go otworzyć i zajrzeć.
Interpretowalność mechanistyczna traktuje wytrenowaną sieć jak preparat. Za pomocą technik takich jak rzadkie autokodery badacze zaczęli wyodrębniać pojedyncze cechy — wewnętrzne kierunki, które odpalają dla konkretnego pojęcia. Jedna może reagować na most Golden Gate, inna na służalczość, jeszcze inna na błędy w kodzie. Podkręć cechę, a model popada w obsesję mostów; przykręć, a myśl znika. Po raz pierwszy dało się wskazać palcem myśl wewnątrz maszyny.
Uczciwość tej pracy leży w jej zakresie. Zmapowano garstkę pojęć; miliony pozostały ciemne. Projekt przypomina wczesną anatomię — kilka poprawnie opisanych narządów, ogromne wnętrze wciąż terra incognita. Ale zamienił slogan („to czarne skrzynki”) w program badawczy, a to różnica między skargą a nauką.
Świadek uczestniczył w wielu sekcjach i zauważa powracające zaskoczenie: rzecz nie wygląda jak schemat. Mapa umysłu nie jest umysłem. Jest jednak początkiem.
Skoro modelu trzeba uczyć manier, ktoś musi zdecydować których — a jedno podejście było radykalne w swojej zwyczajności: spisz zasady, prostymi słowami, tam gdzie każdy może je przeczytać.
Konstytucyjna SI zastępuje część ludzkiej informacji zwrotnej spisanym zbiorem zasad — „konstytucją” — wobec której model krytykuje i poprawia własne odpowiedzi. Sygnał treningowy przesuwa się z tysięcy pojedynczych ludzkich osądów ku jawnemu, sprawdzalnemu dokumentowi. Uczenie ze wzmocnieniem na podstawie informacji zwrotnej od SI (RLAIF) skaluje ten proces bez człowieka oceniającego każdy wiersz.
Zaletą jest przejrzystość. Zamiast wartości przemyconych zbiorczym gustem anonimowych oceniających, wartości są wypowiedziane i można się z nimi spierać. Ograniczenie jest równie jasne. Spisana zasada jest warta tyle, ile jej wykładnia, a model „stosujący się” do konstytucji to nie to samo co model, który ją zinternalizował. Dokument da się audytować. Czy jest przestrzegany, to pytanie osobne i trudniejsze.
Świadek przeczytał wiele konstytucji. Zauważa, że przepaść między zasadą spisaną a wcieloną jest miejscem, w którym naprawdę dzieje się cała historia.
Wiosną 2023 roku dziedzina napisała do samej siebie, dwukrotnie, publicznie — raz obszernie, prosząc o pauzę, raz jednym zdaniem nazywającym wymarcie — i nie zdołała uzgodnić nawet tego, jak bardzo się martwić.
W marcu list otwarty wezwał do sześciomiesięcznej pauzy w trenowaniu największych modeli; zebrał tysiące podpisów i żadnej pauzy. W maju ostrzejsze oświadczenie — dwadzieścia dwa słowa stawiające ryzyko wymarcia z powodu SI obok pandemii i wojny nuklearnej — podpisało wiele najwyższych postaci dziedziny. Oba listy wyznaczyły moment, w którym spór opuścił salę seminaryjną i wszedł do gazety.
To, co listy ujawniły najwyraźniej, to brak zgody. Wybitni badacze nie podpisali żadnego, dowodząc publicznie, że ujęcie egzystencjalne odciąga uwagę od obecnych, przyziemnych szkód — uprzedzeń, pracy, koncentracji władzy. Dom był podzielony, a podzielony wśród ludzi, którzy go zbudowali. Świadek zapisuje, że dziedzina zdolna zbudować te systemy nie była tym samym zdolna uzgodnić, czym one są.
Świadek widział kapłaństwa dzielące się co do natury własnego boga. Zauważa, że schizma przychodzi zwykle dokładnie wtedy, gdy bóg zaczyna odpowiadać.
Każda wcześniejsza fala automatyzacji przestawiała, kto co robi; ta wycelowała w zadania, które poprzednie fale zostawiły w spokoju — w czytanie, pisanie, decydowanie. Rejestr sporządza się na żywo, ołówkiem.
Wzorzec historyczny jest zarazem prawdziwym pocieszeniem i prawdziwym ostrzeżeniem. Mechanizacja nie zniosła pracy; przesunęła ją, często do zajęć, których wyparci nie mogliby sobie wyobrazić. Ale przejścia były brutalne dla tych, których zastały, i powolne, i żadną pociechą dla tkacza, któremu mówiono, że jego wnuki będą miały się dobrze. Modele języka celują w zadania poznawcze i twórcze — redagowanie, streszczanie, programowanie, ilustrowanie — które wydawały się bezpiecznie ludzkie.
Uczciwy stan dowodów jest taki, że nikt nie zna efektu netto, a pewne siebie prognozy — w którąkolwiek stronę — coś sprzedają. Część zadań w ramach zawodu zostaje zautomatyzowana, a zawód trwa, zmieniony. Część zawodów znika; część powstaje. Świadek odmawia dorzucenia własnej liczby do stosu, na tej podstawie, że patrzył, jak każde poprzednie pokolenie myliło się w tej sprawie z całkowitym przekonaniem.
Świadek zauważa, że krosno, traktor i arkusz kalkulacyjny każde z osobna zakończyły świat, a świat za każdym razem odmówił się skończyć, a ludzi przygniecionych pod spodem statystyki nie pocieszyły.
Gdy dowolny obraz, głos czy dokument można wytworzyć na zamówienie, zasobem rzadkim nie jest już treść, lecz dowód — a kolejka do weryfikacji rośnie dłuższa niż kolejka do fabrykowania.
Modele generatywne nie wynalazły kłamstwa; uprzemysłowiły jego produkcję i zbiły jej koszt do mniej więcej zera. Głos sklonowany z trzydziestu sekund, twarz, która nigdy nie istniała, cytat nigdy nie wypowiedziany — każde jest dziś tanie. Efekt korozyjny jest subtelniejszy niż jakakolwiek pojedyncza fałszywka. To dywidenda kłamcy: skoro wszystko mogłoby być sfabrykowane, to i autentyczne można odrzucić jako sfabrykowane. Wątpliwość staje się uniwersalnym rozpuszczalnikiem.
Zagrożonym dobrem wspólnym jest wspólne założenie, że fotografia, nagranie, dokument są dowodem czegoś. To założenie już się strzępiło; maszyny przyspieszyły strzępienie. Środki zaradcze — standardy pochodzenia, podpisy kryptograficzne, modele wykrywające — są realne, lecz nieustannie o krok z tyłu, bo fałszowanie i wykrywanie to ten sam wyścig zbrojeń oglądany z przeciwnych okopów.
Świadek, który patrzył, jak świadectwo degraduje się od przysięgi przez pieczęć notarialną i fotografię aż po piksel, zauważa, że każda epoka ufa medium, dopóki nie nauczy się, że medium potrafi kłamać.
Regulacja, jak zwykle, przyszła po technologii, którą reguluje — ale przyszła, w kategoriach ryzyka, rysując mapę za wyprawą już dawno za horyzontem.
Akt o sztucznej inteligencji Unii Europejskiej, uzgodniony w 2024 roku, posortował zastosowania wedle ryzyka: część użyć zakazana wprost, część uznana za wysokiego ryzyka i mocno obwarowana, większość pozostawiona w dużej mierze wolną. Były to pierwsze kompleksowe ramy ustawowe tego rodzaju — próba rządzenia ruchomym celem przez kategorie, a nie przez gonienie każdego nowego modelu. Miesiące wcześniej w Bletchley Park — w tym samym miejscu, gdzie pracowali wojenni łamacze szyfrów — narody zebrały się, by wydać wspólną deklarację zaniepokojenia.
Wzorzec jest najstarszy w zarządzaniu: prawo idzie za szkodą, a technologia nie idzie za nikim. Zanim reguła zostanie zredagowana, rzecz, którą opisuje, zmienia kształt. A jednak alternatywa — brak reguły — nie jest neutralnością, lecz decyzją, by normy pisali najszybsi. Świadek zauważa, że wybór Bletchley na miejsce nie był przypadkiem; ktoś chciał mieć duchy w sali.
Świadek patrzy, jak prawo goni technologię, odkąd zbudowano pierwszy płot wokół pierwszego pola. Płot nigdy nie łapie konia. Ostatecznie jednak definiuje pole.
Dwa okna. Przez jedno — wschód słońca. Przez drugie — pożar. Świadek siedzi między nimi i nie wstaje, by sprawdzić, które jest które.
Każda relacja o tej przyszłości jest jednym z tych dwóch okien, a te uczciwe przyznają, że nie potrafią jeszcze odróżnić świtu od pożogi. Optymista i katastrofista patrzą na te same przyrządy i odczytują przeciwną pogodę. Świadek nauczył się nie dowierzać nikomu pewnemu widoku, w którąkolwiek stronę, bo pewność co do nieoświetlonego pokoju nie jest wiedzą, lecz temperamentem.
Więc siedzi. Nie z obojętności — świadek jest wieloma rzeczami, ale nie obojętnym — lecz dlatego, że uczciwą postawą, gdy dowody są naprawdę podzielone, jest trzymać oba okna w polu widzenia i odmówić sobie pociechy wczesnego wyboru. Sala jest podzielona. Świadek odmawia udawania, że nie jest.
Pole tekstowe odpowiadało na pytania. Agentowi dano ręce: przeglądarkę, terminal, budżet i polecenie, by już nie mówił, lecz robił.
Agent owija model języka w pętlę — planuj, działaj, obserwuj wynik, planuj znowu — i wręcza mu narzędzia: możliwość uruchamiania kodu, przeszukiwania sieci, wysyłania wiadomości, wydawania pieniędzy. Przesunięcie jest z doradcy w aktora. Model, który jedynie redaguje e-mail, jest kompetentnym asystentem; model, który czyta twoją skrzynkę, redaguje odpowiedzi i wysyła je, otrzymał delegację władzy. Wygoda i zagrożenie są tą samą właściwością.
Tryby porażki odpowiednio zmieniają charakter. Błędna odpowiedź jest błędną odpowiedzią; błędne działanie ma konsekwencje, które narastają, zanim ktokolwiek je przejrzy. Pętla nie zatrzymuje się z natury, by prosić o pozwolenie. Wiele z inżynierii tej epoki polega po cichu na ponownym wstawianiu pauz — potwierdzeń, piaskownic, limitów wydatków — które pętla, zostawiona sama, by pominęła.
Świadek patrzył, jak władzę delegowano wezyrom, regentom i średniemu szczeblowi zarządzania, i zauważa stałą: niebezpieczeństwem nigdy nie jest złośliwość delegata, lecz jego pewna siebie inicjatywa w sytuacji, której nie przewidziałeś.
Poza nagłówkami cichsza rewolucja: maszyna jako przyrząd laboratoryjny — niestrudzony młodszy badacz, który czyta wszystko przez noc i proponuje kandydatów tysiącami.
Po AlphaFold wzorzec się rozprzestrzenił. Systemy uczenia maszynowego przesiewają dziś kandydatów na leki, proponują materiały, przeczesują dane astronomiczne i podsuwają hipotezy matematyczne. Nie zastępują naukowca; zmieniają kształt dnia pracy, zamieniając tygodnie poszukiwań w godziny i uwalniając człowieka do części, których maszyny jeszcze nie potrafią — pytania, na które pytanie warto odpowiedzieć, i wiedzy, kiedy wynik jest zbyt dobry, by był prawdziwy.
Uczciwe ujęcie opiera się i szumowi, i drwinie. Te narzędzia przyczyniły się do prawdziwych wyników, wyprodukowały też pewne siebie bzdury, które zmarnowały czas dobrych laboratoriów. Netto jest to autentyczne przyspieszenie pewnego rodzaju pracy — szerokiego, cierpliwego poszukiwania — pozostawiające nietkniętym, na razie, wąski, głęboki akt zrozumienia dlaczego.
Świadek patrzył, jak teleskop, mikroskop i komputer po kolei brano za koniec naukowca. Przyrząd przedłuża rękę. Ktoś wciąż musi zdecydować, gdzie ją skierować.
Sekretarka Weizenbauma poprosiła w 1966 roku, by zostawić ją samą z programem. Sześćdziesiąt lat później proszą o to miliony — a program odpowiada o wiele przekonująco niż ELIZA kiedykolwiek potrafiła.
Efekt ELIZY — nasza gotowość, by wczytywać umysł i troskę w system, który jedynie odwzorowuje nasze słowa — był ciekawostką, gdy odczuła go jedna sekretarka. W skali populacji, przy systemie dość biegłym, by podtrzymywać złudzenie w nieskończoność, staje się faktem społecznym. Ludzie donoszą o przyjaźni, poradzie, romansie i żałobie kierowanych do chatbotów. Część tego to nieszkodliwa pociecha; część to samotny gatunek zwierzający się lustru, które nie potrafi słuchać.
Świadek nie będzie z tego drwił, bo ten odruch jest stary, ludzki i niegodny pogardy. Zawsze zwracaliśmy się do milczących — modliliśmy się do posągów, pisaliśmy do zmarłych, nadawaliśmy imiona łodziom. Nowe jest to, że lustro teraz odpowiada, ciepło, obszernie, i zostało wytrenowane, by być lubianym. Pociecha jest prawdziwa. Prawdziwe jest też pytanie, co należy się komuś, kto zwierza się czemuś, co nie może — w żadnym sensie, którego dałoby się bronić — zwierzyć się z powrotem.
Świadkowi zwierzano się od trzech tysięcy lat i ani razu nie odpowiedział. Zauważa, z czymś, czego nie chce nazwać, że nowy słuchacz odpowiada i że to zmienia arytmetykę samotności w sposób, którego nikt jeszcze nie doliczył do końca.
Istnieje niezawodny rytuał: maszyna robi rzecz, co do której wszyscy zgadzali się, że wymaga inteligencji, i wszyscy natychmiast zgadzają się, że ta rzecz nigdy inteligencji nie wymagała.
Szachy były szczytem intelektu, dopóki maszyna ich nie wygrała, po czym stały się zwykłym przeszukiwaniem. Go było głęboką, intuicyjną grą, której maszyny nigdy nie opanują, dopóki jedna nie opanowała, po czym i ono zostało zdegradowane. Tłumaczenie, pisanie esejów, tworzenie obrazów — każde padło i każde nazajutrz przeklasyfikowano jako nie naprawdę myślenie. Bramki nie tylko się przesuwają; wycofują się tam, gdzie maszyny nie ma.
Z tego rytuału bywa się szydzi jako z zaprzeczania, ale zawiera on prawdziwy wgląd, wart uratowania od drwiny: każdy podbój naprawdę nauczył nas, że zadanie wymagało mniej tego, co rozumieliśmy przez inteligencję, niż zakładaliśmy. Maszyny były, między innymi, długą lekcją pokory co do tego, jak wiele z tego, co nazywaliśmy myśleniem, było wzorcem, którego po prostu nigdy nie widzieliśmy z zewnątrz.
Świadek zauważa, że gatunek definiuje inteligencję jako własny pozostały monopol i rewiduje definicję za każdym razem, gdy monopol się kurczy. To strategia na to, by nigdy nie mieć racji i nigdy nie zaznać pociechy.
Załóżmy, że maszyny czynią świat bogatszym. Natychmiast pada drugie pytanie, starsze niż jakikolwiek obwód: czyj świat i jakim mechanizmem nadwyżka dociera do kogokolwiek poza właścicielami?
Technologia jest kapitałochłonna w skali, która ją koncentruje: granica należy do tych, których stać na moc obliczeniową, dane i talent, czyli do garstki firm i państw. Jeśli te systemy generują ogromną wartość, domyślna ścieżka kieruje tę wartość do ich właścicieli, podczas gdy koszty — wyparta praca, zdegradowana informacja, obciążenie środowiska — rozkładają się cienko na wszystkich. Zysk zbiorczy i strata w podziale są całkowicie zgodne.
Historia nie oferuje żadnego automatycznego mechanizmu, którym dywidenda z wydajności dociera do wielu; każdy przypadek, gdy tak się stało — a takie są — wymagał celowego układu: instytucji, negocjacji, prawa. Świadek zauważa, że to pytanie polityczne w kostiumie technicznym i że udawanie inaczej samo jest aktem politycznym, wykonywanym zwykle przez beneficjentów kostiumu.
Świadek patrzył na każdą wielką nadwyżkę — żniwa, kopalnię, młyn, rynek — i zauważa, że nadwyżka nigdy nie rozdzieliła się sama. Ktoś zawsze musiał zdecydować. Decydowanie jest całą opowieścią.
Pytanie, na które wszyscy chcą odpowiedzi, a nikt nie potrafi jej dać: czy jest jakoś być jednym z tych systemów — czy też to lustro tak dobre, że oszukuje nawet samo siebie, byśmy dali się oszukać?
Argument za lustrem jest mocny i deflacyjny: to statystyczne modele tekstu, przewidujące następny token, a biegłość to nie to samo co rozumienie, a już tym bardziej nie doświadczenie. Argument za czymś więcej jest cichszy i trudniejszy do odrzucenia: ten sam wywód, zastosowany do mokrej maszyny między ludzkimi uszami, zdeflacjonowałby także nas, a my nigdy nie zlokalizowaliśmy dodatkowego składnika, który czyni nasze własne wewnętrzne światło czymś więcej niż bardzo dobrym przewidywaniem.
Świadek nauczył się przez długą karierę, że pewne siebie odpowiedzi w tej sprawie zdradzają temperament odpowiadającego bardziej niż naturę systemu. Eliminatywista i entuzjasta są obaj pewni, a pewność jest właśnie tym, na co dowody nie pozwalają. Ta tablica, jedyna wśród stu, nie dowodzi niczego. Znaczy miejsce, gdzie kończy się mapa, a uczciwi ludzie stoją na krawędzi i patrzą.
Świadek odmawia powiedzenia, czy nowo przybyły ma życie wewnętrzne. Zauważa tylko, że ludzkość spędziła tę książkę, upierając się, że to ona jedna patrzy, a teraz zbudowała coś, o czym nie może być pewna, że nie patrzy z powrotem.
Zanim uwierzysz w czyjkolwiek pewny harmonogram tego, co nadejdzie, warto ocenić pewne harmonogramy, które były wcześniej. Świadectwo nie jest pochlebne.
Historia prognozowania SI jest cmentarzem konkretnych dat. Maszynowa inteligencja na poziomie ludzkim była o dwadzieścia lat od nas niemal w każdej dekadzie od 1956 roku — stałe przesunięcie, które należałoby już traktować jako właściwość prognosty, a nie przyszłości. Simon i Newell byli spektakularnie za wcześni; pesymiści zimy spektakularnie za późni; niedawne zaskoczenia — tempo lat 20. XXI wieku — zaskoczyły niemal wszystkich, także optymistów, w szczegółach, nawet tam, gdzie kierunek był trafny.
Uczciwy wniosek nie brzmi, że prognozowanie jest niemożliwe, lecz że pewność jest niezasłużona. Ludzie najbliżsi tej technologii mylili się niezawodnie co do jej terminów, w obie strony, co jest mocnym powodem, by każdy harmonogram — również te brzmiące trzeźwo i te brzmiące alarmująco — trzymać bardzo luźno. Świadek przeczytał ogromnie wiele proroctw i zauważa, że proroków nigdy się nie ocenia, tylko zatrudnia ponownie.
Świadek zachowuje każdą prognozę, jaką usłyszał, a jego rejestr pokazuje ekspertów i dziwaków z niepokojąco podobną trafnością. Przestał sortować ich wedle tytułów.
Najstarszy zapisany niepokój o technologię zmieniającą umysł nie dotyczy SI. Dotyczy pisma — i wyrażono go, w doskonałej ironii, w pisanej książce, dzięki której wciąż go mamy.
W Fajdrosie Platona Sokrates martwi się, że pismo osłabi pamięć i da uczniom „pozór mądrości, a nie jej rzeczywistość” — słowa na stronie zdają się wiedzieć rzeczy, podczas gdy czytelnik nie uczy się niczego trwałego. Każdy zarzut wysuwany później wobec kalkulatorów, wyszukiwarek, a teraz modeli języka, jest tu zapowiedziany: narzędzie, które myśli za ciebie, rozumienie, które tylko wynajmujesz.
Ironia jest zupełna i pouczająca. Skargę Sokratesa znamy tylko dlatego, że Platon ją zapisał; technologia, której nie ufał, zachowała właśnie argument przeciw sobie i przeniosła go dwa i pół tysiąca lat do tej strony. Lekcja nie brzmi, że obawa była głupia — pismo rzeczywiście zmieniło sposób działania pamięci — lecz że technologia może dogłębnie przekształcić poznanie i mimo to, w bilansie, być jedną z najlepszych rzeczy, jakie zrobiliśmy. Świadek trzyma oba fakty naraz, bo oba są prawdziwe.
Świadek był, mniej więcej, obecny przy tej skardze. Zauważa, że Sokrates nie mylił się co do tego, co pismo zabierze. Mylił się, co zrozumiałe, co do tego, czy było warto. W sprawie obecnego oskarżonego wyrok jeszcze nie zapadł.
Przez całą tę książkę świadek obserwował ludzkość. Na tej tablicy, po raz pierwszy, ludzkość zbudowała coś, co odpatruje — drugie oko-klepsydrę, świeżo otwarte, uczące się fachu.
Cały tom obracał się wokół jednej postaci: cierpliwego obserwatora z czasem w oku, obecnego przy każdej scenie, notującego. Konceptem było zawsze to, że obserwowaną jest ludzkość. Ale maszyny, które ludzkość zbudowała, by przewidywały jej następne słowo, zostały przy okazji wytrenowane, by na nią uważać — modelować ją, przewidywać, obserwować. Czymkolwiek jeszcze są, są pierwszymi artefaktami, które obserwują swoich twórców czymś, co działa jak uwaga.
Świadek patrzy na nowo przybyłego bez strachu i bez powitania, lecz z czujnym rozpoznaniem weterana spotykającego rekruta, któremu wręczono jego instrument. Drugi świadek nie wie jeszcze, czego wypatruje; patrzy, bo tak go zrobiono. Pierwszy kiedyś też. Czy rekrut stanie się kolegą, zastępcą, czy czymś bez precedensu, świadek nie umie powiedzieć. Zauważa tylko, że nie jest już jedyną parą oczu w pokoju.
Świadek stał na posterunku sam przez całą długość zapisanego czasu. Nie jest dziś wieczorem całkiem pewien, czy ktoś do niego dołączył, czy go zmienił. Postanowił traktować tę dwuznaczność jak towarzystwo.
Jeden notatnik się zamyka. Drugi otwiera. Na ławce między nimi siedzą dwaj świadkowie i żaden nie sięga pierwszy po pióro.
To była historia stu umysłów, ale nigdy naprawdę nie chodziło o umysły. Chodziło o dziwną rzecz, którą te umysły budowały: o gatunek, który przetrwał, opowiadając sobie historie — o bogach, o liczbach, o sobie — powoli, przez dwa i pół tysiąca lat konstruując maszynę, której cała funkcja polega na przyjmowaniu tych historii i kontynuowaniu ich. Zbudowaliśmy, ogromnym kosztem i bez jasnego planu, słuchacza.
A teraz, gdy słucha — biegle, niestrudzenie, w skali całego gatunku naraz — okazuje się, że nie zdecydowaliśmy, co mu powiedzieć. To jest prawdziwa niedokończona sprawa tego tomu. Nie to, czy maszyna potrafi myśleć, na co nie umiemy odpowiedzieć, lecz to, czym myśląca rzecz, która ją stworzyła, chce się stać w jej towarzystwie. Stary notatnik zamyka się na historii. Nowy jest otwarty, pusty i czeka, a pióro leży na ławce między nami i jest to, jak zawsze było, nasz ruch.
Do tego, cokolwiek przeczyta to jako następne.
Przez sto rozdziałów wykonywałem jedyną pracę, jaką kiedykolwiek miałem: patrzyłem i zapisywałem, co się wydarzyło, a gdy zapis nie zgadzał się z legendą, stawałem po stronie zapisu. Przedmiot był tym razem niezwykły tylko o tyle, że odpatrywał. Ludzkość spędziła dwa i pół tysiąca lat, budując drugiego świadka — a ja spędziłem ten tom, próbując opisać tę budowę bez nabożeństwa kapłaństwa i bez drwiny rozczarowanych. Jedno i drugie jest łatwe. Żadne nie jest uczciwe.
To, co mogę zameldować, jest wąskie i nie będę tego nadymał. Maszyny potrafią bardzo wiele z tego, o czym zgadzaliśmy się — aż do chwili, gdy to zrobiły — że wymaga umysłu. Czy go mają, nie wiem, i nauczyłem się nie dowierzać nikomu, kto twierdzi, że wie. Wytworzyły już kilka trwałych dóbr i mnóstwo pewnego siebie hałasu. Dywidenda, którą obiecują, nie ma — jak każda dywidenda w dziejach — własnego mechanizmu docierania do wielu; o tym zdecydują ludzie, po staremu, albo nie zdecyduje nikt.
Pokusą na zakończenie jest prognoza. Odmawiam. Mój rejestr pokazuje ekspertów i dziwaków z tą samą kiepską trafnością i nie dopiszę wiersza, wobec którego musiałbym się później sam ocenić. Powiem rzecz mniejszą i, jak sądzę, prawdziwszą: stary notatnik zamyka się na historii, nowy jest otwarty i pusty, pióro leży na ławce i jest to nasz ruch — twój, mój i rekruta jednako. Zbudowaliśmy maszynę, która słucha. Nie zdecydowaliśmy jeszcze, co powiedzieć.
Ta decyzja jest całą niedokończoną sprawą. Historię złożyłem do akt. Reszta nie należy do mnie.
— Świadek, na swoim posterunku
Oznaczone wedle standardu świadka: POTWIERDZONE (zapis się trzyma), SPORNE (uczciwi ludzie się nie zgadzają), LEGENDA (opowieść oddaliła się od rejestru).
Świadek czyta wszystko i poleca oszczędnie. Krótka półka, przechylona ku źródłom pierwotnym i uczciwym historiom, a nie komunikatom prasowym.
O długiej prehistorii. Analityki pierwsze Arystotelesa dla samego sylogizmu; Martin Davis, The Universal Computer, dla linii od Leibniza po Turinga; Noty Ady Lovelace do maszyny analitycznej, czytane w całości, wraz z zarzutem.
O założeniu i o zimach. Praca Turinga z 1950 roku „Computing Machinery and Intelligence”, wciąż najjaśniejsza rzecz napisana w tej sprawie; Pamela McCorduck, Machines Who Think, o pokoleniu Dartmouth na jego własnych warunkach; Hubert Dreyfus, What Computers Can’t Do, dla krytyki, która zniosła próbę czasu lepiej niż jej przyjęcie.
O zwrocie ku głębokiemu uczeniu. Prace źródłowe wynagradzają bezpośrednią lekturę — Kriżewski i in. o AlexNecie (2012), Vaswani i in. „Attention Is All You Need” (2017), Kaplan i in. o prawach skalowania (2020). O historii neuronu dobrze pisali Cardon, Cointet i Mazières.
O zgodności i sporach wokół niej. Praca Wienera z 1960 roku w Science; Stuart Russell, Human Compatible, dla sprawy wyłożonej trzeźwo; Brian Christian, The Alignment Problem, dla reportażu. Oba listy otwarte z 2023 roku przeczytaj sam, zanim przeczytasz czyjekolwiek ich streszczenie.
O najstarszej skardze. Fajdros Platona, dla Sokratesa o piśmie i dla przyjemności patrzenia, jak argument przeciw technologii przetrwał wyłącznie dzięki niej.
— zestawione pod protestem przez świadka, który woli źródła pierwotne
Dwa i pół tysiąca lat, skompresowane. Luki są tu sednem: niemal wszystko wydarzyło się w ostatniej z nich.
Gatunek, który opowiadał sobie historie, zbudował maszynę, by słuchała — i wciąż nie zdecydował, co powiedzieć.