Andrzej Zybertowicz: Technoentuzjaści są niebezpieczni

„Obserwator Finansowy”: Jako konsekwentny krytyk sztucznej inteligencji, ostrzega pan przed zagrożeniami płynącymi z tejże technologii. Dlaczego?

Andrzej Zybertowicz: Jestem przede wszystkim konsekwentnym krytykiem technoentuzjastów, czyli ludzi zachłyśniętych, zafascynowanych nowymi technologiami, którzy mają znikomą wyobraźnię społeczną. Nie wiedzą bowiem, jak działa społeczeństwo, jak działa umysł ludzki. Wiedzą natomiast, jak działają nowe technologie i wyobrażają sobie, jak wielkie pieniądze lub dobrodziejstwa te technologie mogą przynieść ludzkości. Nie potrafią jednak zmapować cywilizacyjnych konsekwencji tego, co się dzieje. Na tym etapie nie krytykuję samej sztucznej inteligencji, bo nie ma za co jej  obwiniać. Obwiniać należy natomiast tych, którzy ją tworzą pozbawieni etycznej refleksji lub używają, nie mając horyzontów poznawczych pozwalających na zobaczenie tzw. unintended consequences, czyli niezamierzonych konsekwencji. Geoffrey Hinton, jeden z najwybitniejszych twórców sztucznej inteligencji, to człowiek, który przeprowadził głęboką analizę technologiczno-etyczną. Stwierdził, że mylił się, orzekając w 2015 r., że przełom SI nastąpi nie wcześniej niż w 2070 r. XXI w., i uświadomił sobie, że przyczynił się do stworzenia siły, która wymyka się spod kontroli. W swoim słynnym oświadczeniu sprzed paru miesięcy powiedział m.in.: „Jakaś część mnie żałuje, że się do tego przyczyniłem”. Niestety, ludzi o takim kalibrze intelektualnym i etycznym jest zbyt mało wśród twórców sztucznej inteligencji.

Czy technoentuzjaści to są właśnie „cyberpanowie”? Czy oni są nieświadomi potencjalnych konsekwencji, czy raczej są tego świadomi, ale uważają, że sztuczna inteligencja przyniesie im sławę, władzę i pieniądze?

Na to pytanie dzisiaj jest znacznie łatwiej odpowiedzieć. Jeśli przez cyberpanów będziemy rozumieli władców Big Tech-u, czyli tę grupę społeczną, którą wstępnie charakteryzuję w książce „Cyber kontra real. Cywilizacja w techno-pułapce”, wydanej przez Nową Konfederację, to ogromna część z nich to są technoentuzjaści. Ale problem nie polega na tym, że ta grupa kilkudziesięciu czy kilkuset najbogatszych ludzi świata i zarządzających narzędziami komunikacyjnymi całej ludzkości ma jakąś obłędną ideologię technopostępu bez oglądania się na konsekwencje. Problem stanowią zaś tysiące czy setki tysięcy technoentuzjastów. Gdy mówimy o sztucznej inteligencji, często skupiamy się na tym przełomie, który nastąpił dzięki odpaleniu w 2022 r. ChatGTP, zapominając, że to algorytmy sztucznej inteligencji od co najmniej dekady zarządzają obiegiem informacji i Google’a, i Facebooka, i Instagrama, i YouTuba, i Amazona, który to obieg informacji doprowadził do degradacji intelektualnej setek milionów, a może już miliardów ludzi. Sztuczna inteligencja już osłabiła naturalną inteligencję. Technoentuzjasta zachłystuje się punktowymi sukcesami, często rzeczywistymi, nie rozumiejąc konsekwencji futerału społecznego, w którym to się wszystko rozgrywa.

Jak można byłoby te negatywne procesy odwrócić, skoro sami chętnie karmimy tę sztuczną inteligencję, bo jesteśmy coraz bardziej uzależnieni od technologii?

Technologie są obecnie tak potężne, że muszą rozwijać się w futerale regulacyjnym. I stary argument, że regulacje powściągną nadmierny potencjał innowacyjny firm, musi zostać uchylony. Dlaczego? Bo zgodnie z tym, co powiedział Geoffrey Hinton, że czym sprawniejszy, czym bardziej wydolny intelektualnie, ale i obliczeniowo jest system SI, tym trudniej go kontrolować. Jesteśmy na krawędzi przełomu cywilizacyjnego. Od czasu zbudowania internetu rozwijaliśmy technologie, które się coraz mocniej autonomizowały spod ludzkiego nadzoru, rozwijały się, sprzęgały ze sobą, narzucając nam dostosowania. Przecież mówi się, że to my mamy się dostosowywać do uciekającej technologii, a nie one mają się dostosowywać do ludzkich, głębokich potrzeb. Musimy zatem zmienić tę perspektywę. W obecnej konfiguracji cywilizacyjnej nie ma na naszej planecie bardziej niebezpiecznej technologii od technoentuzjazmu, bo ta utrudnia wspólne demokratyczne dogadanie się co do mechanizmów przywrócenia ludzkiej kontroli nad naszymi wytworami.

Aby jednak można było sztuczną inteligencję wziąć w karby, potrzebna byłaby ponadnarodowa wola polityczna. Czy jest szansa na takie porozumienie?

Mówię o tym i w książce „Cyber kontra real. Cywilizacja w techno-pułapce”, i w moich felietonach w tygodniku Sieci, że czysto racjonalne ukazywanie realistycznych, czarnych, niebezpiecznych scenariuszy nie przekona ani opinii publicznej technoentuzjastów, ani wielkich grup interesów, ani polityków, którzy mają awersję do pesymizmu, gdy przychodzi do komunikowania się z elektoratem. Obawiam się niestety, że jedyną nadzieją jest solidny kryzys, który będzie się łączył ze wstrząsem i ofiarami, żeby się ludzie ogarnęli po wszystkich stronach Indo-Pacyfiku, żeby i Waszyngton, i Pekin zrozumiały, że trzeba pewne rzeczy robić wspólnie. Wydawało się, że kryzysy ostatnich lat dadzą do myślenia wszystkim i społeczeństwom, i ekspertom, i politykom, a więc i kryzys finansowy lat 2007–2008, i pandemia, i wojna w Ukrainie. Ale okazało się, że żaden z tych kryzysów nie jest na tyle mocnym wstrząsem, żeby wymusił przebudowę struktur myślenia i ochłonięcie z technoentuzjazmu. Kolejny kryzys, jeśli będzie za słaby, przyniesie ofiary bez refleksji. A jeśli będzie za mocny, może wytrącić ludzką cywilizację z potencjału rozwoju, pozbawić świat społecznych zdolności do sterowania. A sterowanie systemami społecznymi zawsze jest ograniczone, chociaż ciągle jeszcze jesteśmy w stanie to robić poprzez systemy podatkowe, poprzez systemy prawne, poprzez porozumienia międzynarodowe, poprzez ustanawianie lub znoszenie ceł. I dopiero jak się okaże, że sztuczna inteligencja wymknie się komuś spod kontroli, albo jakiś złoczyńca ją zastosuje jako narzędzie agresji i manipulacji, otrząśniemy się z tego i powiemy, że tak dalej być nie może.

Ludzkość potrzebuje potężnego sygnału ostrzegawczego. I to jest taka realistyczna, ale zarazem brutalnie smutna prognoza. Musimy rozstać się z nadzieją filozofii oświecenia. Dlatego osiem lat temu wraz z zespołem napisaliśmy książkę „Samobójstwo Oświecenia?”. Od tego czasu wszystko wskazuje, że zbliżamy się do samobójstwa Oświecenia, czyli nie jesteśmy świadomymi kontrolerami ludzkiego losu..

To może praprzyczyną dzisiejszych problemów jest kryzys moralny?

On jest w tle. Kryzys moralny jest sprzężony z zastosowaniem technologii. Z gospodarki niedoboru, która towarzyszyła ludzkości przez tysiąclecia, przeszliśmy do gospodarki nadmiaru. To się przełożyło na hiper konsumpcjonizm. To się przełożyło na hiper indywidualizm, rozpad więzi społecznych. A przecież najważniejsze są rodzina, kręgi przyjaciół, kręgi zawodowe, kręgi sąsiedzkie. Kryzys moralny jest ufundowany przez rozwój technologii ostatnich stuleci, a rozwój technologii cyfrowych jeszcze  ów proces przyśpiesza. Indywidualizm przyniesiony przez epokę nowoczesną został zamieniony w hiper indywidualizm. A to jest recepta na degradację moralną człowieka.

Co łączy sztuczną inteligencją z transhumanizmem?

Dla tych, którzy są technoentuzjastami, sztuczna inteligencja jako narzędzie, jako mnożnik siły, jest traktowana jako narzędzie, które może przynieść nieskończony dostatek i praktycznie rozwiązanie wszystkich problemów, z którymi ludzie nie potrafią sobie poradzić. W Stanach Zjednoczonych w ciągu ostatnich kilku czy kilkunastu lat, umarło około 900 tys. osób w wyniku kryzysu opioidowego ludzi uzależnionych od tych substancji uspokajających, sprzedawanych na sfałszowane recepty. Otóż najbogatsze państwo świata, mające najwybitniejszych psychologów, socjologów, kryminologów, nie potrafi sobie poradzić z tym kryzysem. Cały dorobek potężnej akademii amerykańskiej, cała tkanka społeczeństwa obywatelskiego jest bezradna. Ta epidemia ma podglebie przecież nie tylko w świecie przestępczym, tylko jest wynikiem wpuszczenia technologii na ścieżkę destrukcji tkanki społecznej. Musimy przyjąć, że technologie, które niszczą tkankę społeczną, powinny być opatrzone pulsacyjnym światełkiem ostrzegawczym i natychmiast poddawane korektom. Tkanka społeczna, tkanka ludzkich więzi jest najważniejszą wartością tego ziemskiego świata. Nie ma większej wartości. I to jest dla mnie benchmark postrzegania rozmaitych koncepcji i oceny kolejnych trendów rozwoju.

Mimo wszystko jest pan optymistą czy pesymistą?

Cywilizacyjnie jestem pesymistą, bo negatywne trendy nie są powstrzymywane. Prywatnie zaś jestem optymistą, bo doznałem wiele dobra i od znajomych, i od obcych ludzi. W człowieku drzemie bardzo wiele dobra, ale weszliśmy na ścieżkę rozwoju cywilizacyjno-technologicznego, który miażdży to, co najlepsze w nas.

– Rozmawiał Grzegorz Jeż

Rozmowa przeprowadzona 14 września 2023 r. podczas Krynica Forum.

 


Tagi


Artykuły powiązane

Globalny wyścig regulacyjny w zakresie AI

Kategoria: Trendy gospodarcze
Dlaczego UE powinna skoncentrować się na jakości danych i zasadach przypisania odpowiedzialności za jakość produktu?
Globalny wyścig regulacyjny w zakresie AI

Wpływ sztucznej inteligencji na wzrost gospodarczy i zatrudnienie

Kategoria: Trendy gospodarcze
W ciągu ostatniej dekady wykorzystanie sztucznej inteligencji w codziennych zadaniach gwałtownie wzrosło. W badaniu CfM-CEPR z maja 2023 r. poproszono członków europejskiego panelu o oszacowanie wpływu sztucznej inteligencji na globalny wzrost gospodarczy i stopy bezrobocia w krajach o wysokich dochodach w nadchodzącej dekadzie.
Wpływ sztucznej inteligencji na wzrost gospodarczy i zatrudnienie

Nowe horyzonty i możliwości zastosowania sztucznej inteligencji w biznesie

Kategoria: Trendy gospodarcze
Ciekawe, kiedy sztuczna inteligencja (SI) wysadzi z rynku ekspertów tej dziedziny, któ-rzy podejmują próby opisywania procesów i pytań, na które jeszcze nie ma odpowiedzi – szczególnie w sytuacji, kiedy stała się ona bardzo szybko jedną z najbardziej transforma-cyjnych technologii naszych czasów, rewolucjonizując branże i zasadniczo zmieniając sposób działania przedsiębiorstw i inicjatyw biznesowych.
Nowe horyzonty i możliwości zastosowania sztucznej inteligencji w biznesie