Tym lekko ironicznym tytułem chciałbym rozpocząć wpis, który jest w rzeczywistości formą polemiki do ważnego artykułu - w zasadzie manifestu, a może nawet orędzia - napisanego przez techn0-lidera: Marca Andreessena (tutaj jest oryginalny artykuł, do którego się odnoszę).
Skąd taki tytuł przyszedł mi do głowy? Odnoszę wrażenie, że sam oscyluję między tymi trzema wariantami i trudno mi stać się czwartym stanem skupienia branży technologicznej, czyli po prostu - techno-racjonalistą. Często bywam techno-optymistą i mimo, że starałem się przez ostatnie lata trzymać nowe technologie na dystans, to jednak bardzo za nimi tęsknię i po prostu naiwnie wierzę, że są niezbędne dla naszego szczęścia na tym "niebieskim łez padole" (z kosmosu Ziemia wygląda jak niebieska "gwiazda"). Techno-naiwność podpowiada mi, że wszystkie problemy wytworzone przez tą obusieczną broń da się rozwiązać... jeszcze większą ilością technologii, czyli z grubsza tak, jak manifestuje Marc.
Ok - zostaje jeszcze trzecie określenie: techno-cynik. Tu muszę się do czegoś przyznać: lubię zarabiać i wierzę, że to nic złego. Nie oceniam ludzi po tym, ile zarabiają, ale na co wydają swoje pieniądze. Zdecydowanie to bardziej nas określa, niż sam fakt posiadania pieniędzy. Przez lata cynicznie (choć na pewno niegroźnie) wykorzystywałem możliwości generowania gotówki, jakie te technologie przed kreatywnymi osobami stawiały. Mam nadzieję, że nie muszę przepraszać.
Czy tylko ja jestem tak mocno rozdarty między tymi pozornymi sprzecznościami? Czytając manifest Marca odnoszę wrażenie, że wcale niekonicznie. Branża innowacji cyfrowych przechodzi w ostatnich latach tektoniczne wstrząsy o magnitudzie 10, które fundusze VC bardzo mocno odczuwają. Upadek ideologii web 3.0, krypto, metaverse, a do tego znaczny wzrost ceny pieniądza (inflacja) skutecznie odparowały im sporo majątku.
Co jakiś czas Marc stara się wrzucać wpisy, które, z mojej perspektywy, są typową próbą poprawienia trakcji swojej branży, a więc i biznesu (nie wiem, czy jest w branży bardziej wpływowa osoba), co oczywiście nie musi wcale stać w sprzeczności z tzw. racją. Jeżeli ktoś miał możliwość czytania treści tworzonych przez Marca Andreessena, to na pewno zauważył, jak bardzo zmieniła się w tych latach jego narracja. Dla przykładu: kiedyś twierdził, że dla startupów najważniejszy jest wzrost, a rentowność, która jest przejawem słabości, należy zwyczajnie zignorować. Chwilę temu apelował do startupów, że natychmiast muszą stać się rentowne, albo zginą. Normalka, w końcu jest człowiekiem, więc ma prawo stawiać śmiałe tezy, a nawet się mylić. Teoretycznie, bo jako osoba wpływowa, wręcz publiczna, musi też brać odpowiedzialność za szkody, które innym może czynić.
Dzisiaj znowu apeluje o hiperwzrosty. Dlaczego? Bo odnalazł nowy sektor, w którym stare paradygmaty budowania startupów nadal mają się bardzo dobrze, czyli najprościej mówiąc - tam gdzie znaczną przewagę da się zbudować kosmiczną nadpodażą gotówki. Gdzie? Ano w AI - i tego dotyczy jego mentalna alter-ego-trójca: techno-optymizmu, techno-naiwności i techno-cynizmu. Niestety nie odnalazłem w manifeście techno-racjonalności i stąd pomysł polemiki pod postacią tego postu.
Czym jest techno-optymizm Marca?
Oglądając to wszystko przez pryzmat filozofii techno-optymizmu, można dostrzec głębokie pokrewieństwo do innych ideologii, a jak wiadomo, każda ideologia niesie za sobą wiele ryzyk (świadomych, nieświadomych, pośrednich i bezpośrednich). Ta filozofia wierzy w technologię jako siłę napędową postępu i rozwoju ludzkości. Uważa, że dzięki innowacjom i wolnym rynkom podnosimy standardy życia i otwieramy nowe drzwi pełne możliwości. Nie ma wątpliwości, że tak faktycznie było, ale czy aby na pewno stanowi to bezdyskusyjną gwarancję, że zawsze już tak będzie? Czy aby na pewno tego typu wzrosty da się oddzielić od samobójczej eksploatacji biosfery? Jak udowadnia Vaclav Smil w swojej genialnej książce Growth: From Microorganisms to Megacities ciągły wzrost zawsze oznacza wyczerpanie zasobów i upadek kolonii - czyli, z zasady jest utopią (niemożliwy). Jeżeli nawet założymy, że w kosmosie jest więcej planet do wyeksploatowania, to i tak należy rozsądnie założyć, że jest to zbiór skończony. A czy technologie cyfrowe oznaczają, że nie eksploatujemy biosfery? Nic bardziej mylnego - robią to w jeszcze większej skali, niż stary przemysł - który jest dzisiaj synonimem destrukcji planety. Wystarczy zerknąć na koszt węglowy "rewolucji" kryptowalutowej, w którą - swoją drogą, Marc obsesyjnie wierzył i wściekle inwestował - czy dzisiejszej Sztucznej Inteligencji pod postacią LLM'ów (np. ChatGPT).
Co więcej, techno-optymiści podkreślają rolę inteligencji i energii jako kluczowych zasobów, które napędzają postęp. To połączenie ludzkiego intelektu ze sztuczną inteligencją ma potencjał do rozwiązywania najbardziej złożonych problemów naszych czasów. Czy to jest optymizm, a może jednak naiwność. Cała ta teza w zasadzie bazuje tylko na jednym założeniu: jeżeli w przeszłości technologia robiła nam dobrze, tzn. że zawsze tak musi być. Wręcz jak jakaś magiczna stała w kosmologii. Sam wierzę, że jedyne bariery dla rozwoju naszych możliwości to te leżące w fizyce, ale... no właśnie: to nie jest nauka, ale wiara. Wierzę, że jeżeli technologia nas do tej pory nie zniszczyła, to już zawsze możemy czuć się bezpieczni. Sami oceńcie, czy to techno-realizm, techno-optymizm, czy może jednak techno-naiwność.
Warto również zauważyć, że techno-optymiści unikają mentalności ofiary i zamiast tego przyjmują odpowiedzialność i korzystają z możliwości kształtowania przyszłości. To podejście, pełne ambicji i dążeń do doskonałości, może także kryć czysty cynizm. A czy zawsze powinno być tak, że relatywnie małe grupy ludzi całkowicie zmieniają zasady gry dla całej planety? To jest w ogóle niedoceniany problem branży komputerów i internetu. Od jej zarania, przysłowiowy pryszczaty programista siedzący na kanapie z laptopem na kolanach, był w stanie wpływać na miliony ludzi, a ostatnio nawet na miliardy. Cywilizacja nauczyła się wartości procesu decyzji kolegialnych, żeby nie powiedzieć - demokratycznych - ale branża tech zupełnie nie chce w to wierzyć. Jeżeli jakiś "Mark Zuckerberg" ma wizję i znajdzie odpowiednią ilość kapitału, tzn. że trzeba mu pozwolić na "move fast and break things" - i zmienić/zepsuć cały świat.
Paradoksem tej sytuacji jest to, że największą aberracją branży startupów jest coś, co najbardziej ją napędza: nadmiar kapitału. Dlaczego? Nadmiarem kapitału można zalać każdy problem, także fundamentalny - jak choćby odpowiedzialność społeczną. "Facebook: The Inside Story" Stevena Levy-ego boleśnie ilustruje, jak mocno można nadmiarem kapitału zakrzywić rzeczywistość i zbudować coś, o co nikt nie prosił - niszcząc przy okazji wiele starych pryncypiów i otwierając nieobliczalną puszkę pandory. Do dzisiaj cywilizacja liczy straty i zastanawia się, czy to już koniec i czy będziemy w stanie się z tego otrząsnąć (zakazy używania social mediów dla dzieci są prawdopodobnie spóźnione).
Marc Andreessena uważa, że filozofia techno-optymizmu nie tylko celebruje idee pozytywnej sprawczości, ale również wskazuje, że możemy spojrzeć poza strach, ograniczenia i stagnację. Otwiera to przestrzeń dla przyszłości pełnej ambicji, obfitości i przygód, w której technologia jest siłą wyzwalającą i rozwijającą ludzki potencjał.
Piękne. Bardzo lirycznie. Moja część techno-optymisty i techno-naiwniaka rozświetliła się jak nuklearny grzyb. Natomiast za chwilę rozbrzmiewa gong techno-racjonalisty i przypomina, że broń atomowa też jest symbolem etosu techno-optimizmu i bardzo podobną retorykę stosowali jej twórcy, kiedy musieli bronić się przed zarzutami zgwałcenia świata.
Techno-egocentryzm
Mam niepowstrzymalną chęć wprowadzenia jeszcze jednej idei do tego artykułu. Trochę przesadzam, ale niech będzie. A może branża tech cierpi po prostu na tech-egocentryzm? Nie macie wrażenia, że każdy nasz (tech) guru o branży technologii informatycznych wypowiada się tak, jakby nic innego nie istniało? Jakby cała przyszłość cywilizacji związana była tylko i wyłącznie z technologiami informatycznymi. Być może, nie wiem, może i tak. Ale racjonalizm i zwykły obiektywizm nakazuje pomyśleć także o innych możliwościach.
Oczywiście Marc nie pisze tylko o IT - dostrzegam, szanuję. Ale to tylko wybieg strategiczny, bo w rzeczywistości chodzi mu tylko i wyłącznie o fragment rewolucji technologicznej - komputery i internet, oczywiście jako grunt pod AI.
A czy AI ma szansę rozwalić (zdisruptować jak potocznie określamy tej skali zmiany) także technologie leżące daleko od komputerów? Oczywiście - i w tym właśnie każdy racjonalista dostrzeże największy problem. Niestety branża, jak to zawsze bywało, zasłoni oczy i uszy i pójdzie do przodu wg wspomnianego już etosu: "move fast and break things". Ciekawe jest to, że już nawet sam Facebook wstydzi się tej ideologii, ale problem w tym, że my innowatorzy nie chcemy uczyć się na błędach swoich poprzedników, tym bardziej, jeśli to właśnie te błędy prowadzą do szybkich miliardowych wycen. So, Here We Go… Again!
Nowy "dziki zachód" - AI
Przez chwilę wydawało się, że z rewolucją AI będzie inaczej - politycy tupnęli nóżką i powiedzieli: stop, nie tym razem. Nic bardziej naiwnego. Ta technologia ma tak ogromną wartość (niespotykaną w historii, także na gruncie militarnym), że nikt nie będzie miał w sobie wystarczającego obłąkania, żeby tej szansy z ziemi nie podnieść. Dokładnie jak przy krytyce projektowania broni atomowej - "musimy, bo jak nie my, to zrobią to inni, ci gorsi".
Każdy, kto uświadamia sobie tą wartość szybko zapomina o górnolotnej odpowiedzialności społecznej i natychmiast staje się dumnym techno-cynikiem (oportunistą, zależnie od semantyki). Czy ktoś jeszcze pamięta, że w nazwie OpenAI jest słowo "open" (coś o otwartości), a jej pierwotny format operacyjny to NGO (fundacja)? Przypadek? Nie sądzę... Z dużą dozą prawdopodobieństwa możemy założyć, że to właśnie tam pracują osoby, które jako pierwsze na tej planecie wejdą w interakcję z AGI (superinteligencją). Zastanawialiście się, przed jak wielką próbą i odpowiedzialnością staną te 2-3 osoby w kontekście całego losu planety, ale także (przede wszystkim), swojej partykularnej przyszłości bilionerów? Czyj interes wygra? "Mój", czy "Wasz"? No sam nie wiem, może tym razem społeczny? Tia... jasne...
Pokażcie mi inną branżę, która miałaby tak fundamentalny wpływ na ludzkość (od jakości życia po bezpieczeństwo), a która byłaby tak niezależna i podatna na ułańską fantazję młodych ludzi, którzy w większości przypadków są diagnozowalni w conajmniej jednej psychiatrycznej dysfunkcji. Dużo lepiej nam wychodzi realizacja nieziemsko trudnych projektów niż przewidywanie skutków i konsekwencji ich oddziaływania na ludzkość.
Zarzuty
Chociaż filozofia techno-optymizmu przedstawiona w artykule podkreśla pozytywne aspekty postępu technologicznego, ważne jest również zwrócenie uwagi na potencjalne ryzyka i skrytykowanie leżących u jej podstaw założeń. Tego mi niestety zabrakło, choć oczywiście mogę zrozumieć formułę manifestu, który przecież rzadko bywa obiektywny.
Jednym z moich zarzutów jest to, że artykuł rażąco upraszcza złożony związek między technologią a społeczeństwem. Chociaż technologia niewątpliwie wprowadziła liczne ulepszenia i postępy - nigdy nie żyliśmy tak wygodnie i zdrowo - to miała również bardzo negatywne konsekwencje. Problemy takie jak zastępowanie ludzi przez maszyny, nierówność majątkowa, degradacja środowiska i erozja prywatności to tylko niektóre z obaw związanych z postępem technologicznym. Artykuł nie zajmuje się tymi potencjalnymi wadami w ogóle, skupiając się wyłącznie na pozytywach, co samo w sobie dyskwalifikuje manifest w roli latarni, na którą powinniśmy skierować wszystkie nasze łajby.
Kolejna krytyka dotyczy zbyt dużego zaufania, jakie ideologia techno-optymizmu pokłada w siłę wolnych rynków i wzrostu gospodarczego jako rozwiązania wszystkich problemów społecznych. Wyłączne skupienie na mistycznych siłach rynkowych zawsze prowadzi do zaniedbania ważnych kwestii społecznych i etycznych. Wiemy już, że takie podejście przyczynia się do koncentracji bogactwa i władzy w rękach nielicznych, marginalizując ogromną większość społeczeństwa. Przekonanie, że wzrost gospodarczy jest z natury pozytywny i zawsze korzystny dla wszystkich członków społeczeństwa, można uznać za naiwne uproszczenie, do tego nieuwzględniające złożonych realiów nierówności ekonomicznych. Dajcie nam przedsiębiorcom wolność, a szybko wynajdziemy niewolnictwo.
Dodatkowo, nacisk artykułu na nieograniczony wzrost i ekspansję, zarówno w zakresie populacji, jak i zużycia energii, budzi obawy dotyczące zrównoważonego charakteru takiego podejścia. W obliczu wyzwań środowiskowych i ograniczonych zasobów, dążenie do nieograniczonego wzrostu może przyczynić się do zmian klimatycznych, wyczerpywania zasobów i innych kryzysów ekologicznych. Ignorowanie potencjalnych konsekwencji niekontrolowanego wzrostu i nieprzywiązywanie wagi do zachowania naszej planety może prowadzić do długoterminowych szkód, które nie będą łatwe do odwrócenia.
Na koniec, odrzucenie przez artykuł alternatywnych punktów widzenia i przedstawienie przeciwnych ideologii jako wrogów może utrudnić konstruktywny dialog. Ważne jest, aby prowadzić krytyczną dyskusję, która uwzględnia różne perspektywy i rozpoznaje złożoność badanych problemów. Filozofia techno-optymizmu, chociaż propaguje postęp, powinna również być otwarta na konstruktywną krytykę i gotowa do zajęcia się potencjalnymi ryzykami i wyzwaniami.
AI mnoży znane nam konsekwencje implementacji technologii informatycznych w sposób wykładniczy - być może do skali, którą można jedynie określić mianem nieskończości - nie przypadkowo nazywanej Osobliwością. To wyjątkowa sytuacja, nie znana dotąd z historii, która powinna wymagać wyjątkowych procedur i nadzoru.
Z drugiej strony żadna innowacja nie powstanie, jeśli obciążona jest procedurami, ograniczeniami, czy nadzorem rządów. Bywało w historii, że cywilizacja umawiała się na zablokowanie innowacji o znaczeniu fundamentalnym (weźmy choćby przykład biotechnologii, klonowania, etc.). Czy technologie informatyczne mają pozostać całkowicie wolne i niepodlegające żadnego nadzorowi? Mając świadomość ryzyka, sam nie potrafiłbym podjąć takiej decyzji. Nie wyobrażam już sobie życia bez AI, a gdyby ktoś mi tę technologię dzisiaj wyłączył, to mierzyłbym się z poważnym problemem egzystencjonalnym.
Kończąc
Chaotyczne, prawda? Dokładnie taka jest moja perspektywa patrzenia na ten "problem". Jak już pisałem na wstępnie - zależnie od pory dnia - bywam techno-optymistą, techno-naiwniakiem, techno-cynikiem, a czasami - uwaga - nawet techno-realistą.
Wpis ten ma na celu rozbudzenie procesów myślowych prowadzących do powstania świadomości tego chaosu (jestem przekonany, że to będzie dosyć powszechna percepcja). Nie mam najmniejszych złudzeń, że cokolwiek będzie w stanie ten pociąg AI zatrzymać. "Po wybuchu" AGI będziemy musieli nauczyć się całkowicie nowego życia - totalnie nie gotowi, zdezorientowani i przerażeni, z ogromny poczuciem egzystencjonalnej bezcelowości. O ironio - z całej palety argumentów, które powyżej z troską przytoczyłem - to chyba jedyny pewniak.
Witajcie w przyszłości. Dajcie znać, co sami o manifeście myślicie i jak postrzegacie tę rewolucję. Dzięki za uwagę. Subskrybuj.
