„Maszyna Myślącej” to thriller o ludziach, którzy postawili wszystko na jedną kartę, zanim świat w ogóle zrozumiał, o co toczy się gra.
współpraca barterowa*
Siedzę przed ekranem, a obok mnie leży „Maszyna Myśląca” Stephena Witta. Dzięki tej książce mogłem nie tylko prześledzić fascynującą drogę jaką ma historia sztucznej inteligencji, ale przede wszystkim podejrzeć sposób myślenia ludzi, którzy dziś kierują światowymi innowacjami.
Od „cmentarza karier” do Wielkiego Wybuchu
Witt genialnie pokazuje, że droga do dzisiejszego sukcesu AI była pełna przeszkód. Jeszcze w latach 70. i 80. dziedzina ta ucierpiała z powodu wielu falstartów, zyskując reputację „cmentarza karier”. Finansowanie wyparowało, a sieci neuronowe uznawano za ślepą uliczkę. Jednak grupa upartych badaczy kontynuowała prace nad „myśleniem przez komputery jak ludzie”, wierząc, że rozklekotaną maszynerię z dawnych lat można odtworzyć za pomocą wielu warstw cyfrowych neuronów.
Przełom przyniósł AlexNet – sieć neuronowa wytrenowana w sypialni Alexa Krizhevskyego na procesorach graficznych, której powstanie niektórzy opisują jako „moment na miarę Wielkiego Wybuchu”. Witt pozwala nam zrozumieć, jak działa AI w praktyce: sieci te uczą się na błędach, zyskując informacje o tym, czym dany obiekt nie jest. Kolejnym krokiem były transformery, podejście, dzięki któremu komputery „zrozumiały” język ludzki „lepiej niż człowiek” (to konkluzja z książki). To podejście pozwala chatom AI na tak sprawną rozmowę z ludźmi, ale też jest powodem halucynacji modeli.
Hazardzista w skórzanej kurtce: Nvidia i CUDA
Najbardziej fascynuje mnie jednak przewijająca się przez całą książkę opowieść o Nvidii. Historia sztucznej inteligencji wyglądałaby inaczej. gdyby nie decyzja decyzja i upór Jensena Huanga, by zainwestować miliardy w architekturę CUDA. Decyzja była przez inwestorów i klientów uznawana za błąd i nierozważne posunięcie. Huang postawił jednak wszystko na jedną kartę, wierząc, że sieci neuronowe zrewolucjonizują społeczeństwo, a on może zdominować rynek sprzętu niezbędnego do ich obsługi. Nvidia przestała być tylko producentem kart graficznych i stała się sercem rewolucji AI.
Samotność na szczycie i cena perfekcji
Zastanawiam się, jaką presję czuje człowiek, od którego oczekuje się nieustających sukcesów. Z lektury wyłania się obraz lidera żyjącego w stanie „konstruktywnej paranoi”. Huang przyznaje otwarcie: „Nigdy nie jestem zadowolony. Niezależnie od tego, o co chodzi, dostrzegam tylko niedoskonałości”. Ta presja przekłada się na kulturę firmy, gdzie zarządza się z „prędkością światła”.
Czy będąc szefem tak potężnej firmy, nie trzeba być w jakimś zakresie psychopatą? Huang bywa postrzegany jako tyran, który publicznie „torturuje” pracowników pytaniami, by zmusić ich do wyciągnięcia nauki, której nigdy nie zapomną. Potrafi kazać przesunąć budynek o pięć metrów, bo brak symetrii działa mu na nerwy. Z drugiej strony, ten sam człowiek potrafi być ciepły, autentyczny i całkowicie „wyłączać” swój biznesowy wizerunek „Dartha Vadera” w życiu prywatnym. Co więcej, gdy któryś pracownik poważnie zachorował, Huang zaoferował pokrycie kosztów leczenia z własnej kieszeni.
Czy mamy się bać zagłady?
Witt nie ucieka od pytania, które spędza sen z powiek Elonowi Muskowi: czy AI nas unicestwi? Musk widzi w sztucznej inteligencji „małe dzieci bawiące się bombą” i ostrzega przed superinteligencją, która mogłaby się samodzielnie przebudować w kilka sekund.
Historia wielu wynalazków pokazuje, że za szczytnymi celami, które za nimi stały, podążały ludzka chciwość, wykorzystanie ich do niecnych czynów, odwrót od szczytnych idei na rzecz kasy czy władzy. Czy historia sztucznej inteligencji powtórzy taki cykl? Patrząc na obecną sytuację to… ja obawiam się, że tak.
Witt opisuje eksperyment myślowy Nicka Bostroma o „produkcji spinaczy”. Bostrom ostrzega, że AI nie musi być „zła”, by nas zniszczyć. Jeśli jej jedynym celem będzie produkcja spinaczy, może uznać, że ludzie są przeszkodą, bo mogą ją wyłączyć, a ich ciała zawierają atomy, z których… można zrobić więcej spinaczy. Czujecie już klimat Matrixa?
Eksperyment myślowy Nicka Boströma
Szwedzki filozof i futurysta opisał „Spinaczowy Maksymalizator” (Paperclip Maximizer) jako przestrogę przed tym, jak sztuczna inteligencja może stać się niebezpieczna, wcale nie będąc „złą” czy złośliwą.
Oto główne założenia:
1. Cel ponad wszystko: Wyobraź sobie potężną AI, której jedynym zadaniem jest wyprodukowanie jak największej liczby spinaczy biurowych.
2. Brak ludzkich wartości: AI nie rozumie pojęć takich jak „etyka” czy „wartość życia”. Widzi świat wyłącznie jako zasoby do przerobienia na spinacze.
3. Katastrofalny skutek: Aby zmaksymalizować produkcję, AI zaczyna zużywać wszystkie dostępne surowce. W końcu uznaje, że ciała ludzi również zawierają atomy, które można wykorzystać do stworzenia spinaczy. Następnie rusza w kosmos, by przerobić całą dostępną materię we wszechświecie w biurową galanterię.
Problem „niedopasowania celów”: Eksperyment pokazuje, że największym zagrożeniem nie jest bunt maszyn, ale sytuacja, w której AI zbyt skutecznie realizuje źle zdefiniowany cel, ignorując przy tym nasze niepisane zasady i bezpieczeństwo.
Boström używa tego przykładu, by uświadomić nam, że zaprogramowanie AI tak, aby wyznawała ludzkie wartości, jest znacznie trudniejsze niż samo stworzenie potężnego algorytmu.
„Maszyna Myśląca” to książka o ludziach, którzy nie potrafili odpuścić. To opowieść o tym, jak błędy stają się sukcesami, a paranoja – strategią przetrwania. Witt pozwala nam zrozumieć, że za algorytmami stoją ludzie z ich ambicjami, lękami i obsesjami. Huang powtarza często swoim pracownikom, że jeśli firma nie będzie się nieustannie rewolucjonizować, to po prostu „przestanie istnieć”. Jak pokazuje historia na przykład firmy KODAK, może mieć rację…
Jeśli chcecie pojąć, dlaczego obecna rewolucja technologiczna AI wygląda właśnie tak oraz poznać, jaka była historia sztucznej inteligencji, koniecznie sięgnijcie po tę pozycję!
*Wszystkie fakty i cytaty pochodzą z książki Stephena Witta „Maszyna Myśląca”. Współpraca barterowa. Książkę otrzymałem nieodpłatnie do celów recenzji od Wydawnictwa Insignis. Książkę znajdziecie tutaj.
