CZĘŚĆ DZIEWIĘĆDZIESIĄTA DZIEWIĄTA
Tak, to część 99 napisana po raz drugi. W tamtej części było 6 literówek i to unieważniło cały tekst. Muszę zatem poprawkowo napisać jeszcze raz część 99. Można ją także uznać, że część 99 i pół. Ale gdy i w tej części będą literówki, to będzie pisana po raz trzeci część 99. I tak do skutku, aż zostaną wyeliminowane wszystkie literówki.
Zacznę dość klasycznie, że znowu chodziłem sobie po mieście i spotkałem kolejnego sądeckiego intelektualistę. Okoliczności tego spotkania były jednak dość dwuznaczne, ale nie będę rozpisywać się o tym.
Człowiek był ubrany w strój kolejarza. Miał kolejarską czapkę zwieńczoną figlarnym piórem flaminga (różowym). Czy to wskazywałoby, że jest pracownikiem kolei? Niekoniecznie. Może być także pracownikiem kompanii produkującej maszyny trakcyjne. O tym świadczyło to pióro flaminga na czapce i różowe sznurówki w czarnych butach.
Pan Kolejarz (tak sobie go nazwałem) okazał zebranym na Jagiellońskiej – dyplom inżynierski Akademii Górniczo-Hutniczej. I to rozstrzygnęło sprawę, że jest jednak – oficerem cywilizacji technicznej. Oficerowie rzadko bywają intelektualistami. Ale w tym przypadku nałożyły się te przymioty.
Tak, na Jagiellońskiej, w biały dzień, padły treści związane z zaawansowaną informatyką, sztuczną inteligencją, algorytmami, sieciami neuronowymi.
W spółkach produkujących maszyny trakcyjne posiadają dużą wiedzę w tym zakresie. O tym wiemy od pewnego czasu, kiedy wyszło na jaw, że lokomotywy – jedzą im z ręki.
Pan Kolejarz zaczął swój wykład … po angielsku. To dziwne, bo mówił z dość wyraźnym akcentem grybowskim. Przerwaliśmy mu, prosząc aby gadał po polsku. Zasmucił się, ponieważ o IT, tym bardziej o AI najlepiej jest mówić w angielskim. Ale prośbę zabranych przyjął.
Zaczął po polsku, ale z przytupem! Rozpoczął wykład o … transhumanizmie. Czy wszyscy wiedzą co to jest? To taka modna koncepcja, która zdąża do poprawy funkcjonowania człowieka w oparciu o naukę i technikę. Chce wykorzystać do tego biotechnologię i neurotechnologię. Nie należy tego łączyć jednak z genetyczną eugeniką. Ta ostatnia zajmuje się zmienianiem cech dziedzicznych.
Science fiction staje się rzeczywistością. Stoimy u progu – technologicznej osobliwości. To termin zapożyczony z fizyki i opisuje – przekroczenie horyzontu zdarzeń wokół czarnej dziury. Wtedy to prawa fizyki załamują się. Tak frapująco opowiadał Pan Kolejarz, ale wrzucał masywnie angielskie słówka.
Czyli co stanie się po przekroczeniu progu technologicznej osobliwości? Powstanie wówczas maszyna mądrzejsza od człowieka. Ona będzie się samodzielnie udoskonalać w nieskończoność. A gdy uniezależni się od zewnętrznych źródeł energii, to stanie się … jakby bogiem. To nie może podobać się Księdzu Proboszczowi.
Taka maszyna może rozwiązać wiele problemów ludzkości, ale może także zagrozić ludzkości, gdyby nastąpił – bunt maszyn. Ważna jest synergia, która powstaje pomiędzy dziedzinami. Jest oprócz większej szybkości – synergia i integracja. To daje możliwość wzrostu – wykładniczego.
Tak, trzeba nam zmienić myślenie z liniowego na wykładnicze. Wtedy pojawi się – flow. Podobno w tym stanie zwiększa się człowiecza produktywność 5-krotnie. Idzie również w górę pięciokrotnie – zdolność uczenia się. Temu nie sposób się oprzeć! Wszystkich zebranych uwodził Pan Kolejarz.
Nadchodzi – fala. Tutaj padło nazwisko Suleymana, który napisał książkę dobrze wyjaśniającą zjawisko superinteligencji – „nadchodzącej fali”. Pan Kolejarz zalecił przeczytanie tej wstrząsającej pozycji. Generatywna AI doprowadzi do powstania – superinteligencji, która zmieni wiele, aby nie przesadzić, że wszystko.
Jak to wszystko działa? Chodzi o generatywną AI. To wyjaśnił bezbłędnie Pan Kolejarz. Wszystkiego nie można wyjaśnić, ponieważ istnieje „problem wyjaśnialności”. Dotyczy on głównie zaawansowanych modeli AI, takich jak głębokie sieci neuronowe. Nie do końca wiadomo jak ta AI działa. Ale po kolei…
W klasycznym programowaniu programista pisze kod i precyzyjnie definiuje reguły oraz logikę działania. Dlatego wiadomo, dlaczego i jak program generuje wyniki. W przypadku AI programista tworzy ogólny model, który uczy się na podstawie danych, zamiast opierać się na jasno określonych regułach.
AI uczy się rozpoznawać wzorce, przechodząc przez ogromne ilości danych. No i teraz Pan Kolejarz zasunął mocno… Proces ten jest iteracyjny i bazuje na matematycznych operacjach: mnożeniach macierzy i funkcjach aktywacji. Prawda, że jest mocno. Ja przerabiałem mnożenie macierzy jeszcze w podstawówce, ale wszystko prawie zapomniałem.
Co jest wynikiem tego wszystkiego? Wynikiem są wewnętrzne reprezentacje danych, które są niezwykle trudne do interpretacji przez człowieka, ponieważ nie są zapisane w sposób „intuicyjny” dla ludzkiego rozumienia. No i są jaja z pojęciem tego wszystkiego.
Wtedy pewna licealistka poprosiła Pana Kolejarza o wyjaśnienie tego, tak po ludzku. No i padł przykład, który wszystko objaśnił… Otóż, model rozpoznawania obrazów może nauczyć się, że „pies” to kombinacja kształtów, tekstur i kolorów, ale nikt nie jest w stanie dokładnie powiedzieć, jakie „cechy” model uznał za kluczowe.
Głębokie sieci neuronowe mają miliony parametrów. Relacje między nimi są złożone i nieliniowe, co sprawia, że decyzje AI są postrzegane jako „czarna skrzynka”. Widzimy wyniki, ale nie znamy szczegółów procesu. Działanie sieci neuronowej możemy porównać do sposobu, w jaki działa ludzki mózg.
Padły jednak kolejne pytania od rezolutnej licealistki. Aby Pan Kolejarz wyjaśnił prosto funkcjonowanie sieci neuronowej. No i usłyszeliśmy: Neuron to jednostka podstawowa.Wyobraźmy sobie neuron w sieci jako osobę w zespole, która odbiera informacje, przetwarza je i decyduje, co wysłać dalej. Jest podział czynności.
Sieć neuronowa składa się z warstw neuronów, które są jak zespoły ludzi w firmie. Każda warstwa neuronów specjalizuje się w czymś innym. Warstwa wejściowa to jakby grupa, która odbiera dane z zewnątrz, na przykład zdjęcie psa. Każdy neuron analizuje drobną część tych danych, jeden analizuje kolor, inny kształt. Warstwy ukryte to zespoły pracujące „w tle”. Warstwa wyjściowa to ostatnia grupa, która daje finalny wynik.
Tak działa sieć neuronowa! Wszystko stało się jasne. Rozległy się nieliczne, ale bardzo głośne brawa. Licealistka nawet ucałowała dyskretnie Pana Kolejarza. I ja jemu pogratulowałem wykłady, on mi ukradkiem wręczył za to 200 złotych.
Udałem się do biblioteki. A tam czekała na mnie już książka. Superinteligencja: scenariusze, strategie, zagrożenia. Nick Bostrom.
Tej pozycji nie znał na pewno Maciek, tym bardziej Siostra Izydora. Mógł to jednak czytać Pan Prezydent. Mógł czytać Ksiądz Proboszcz. Podobno na jakimś kazaniu rozprawiał o samouczącym się algorytmie optymalizacji głębokich sieci neuronowych. Ale może to plotka.
Poszedłem pod wydział techniczny naszej sądeckiej uczelni. Tylko tam można zapewnić sobie maksimum percepcji książki Bostroma. Wychodzi na to, że to przełomowa książka dla zrozumienia współczesności technicznej i nadchodzącej rewolucji AI – superinteligencji.
Streszczę to moje czytanie. Powstanie superinteligencji jest nieuniknione. To będzie byt znacznie przewyższającego ludzki intelekt. W momencie stworzenia superinteligencji ludzkość znajdzie się w kluczowym momencie historii: decyzje podejmowane wtedy mogą determinować przyszłość całej cywilizacji.
Istnieje jednak ryzyko, że superinteligencja wymknie się spod kontroli i zacznie działać w sposób niezgodny z ludzkimi interesami. O tym wspominał Pan Kolejarz ze spółki maszyn trakcyjnych. Mogą także zaistnieć trudności w kontrolowaniu superinteligencji, ponieważ będzie działać na poziomie znacznie bardziej zaawansowanym niż ludzki umysł.
Teraz świat dyskutuje o zabezpieczeniach, ale to bardzo trudne jest. Poza tym AI może to – obejść. Ta „bestia” może być bardzo cwana. Wiemy już jak działa „warstwa ukryta” sieci neuronowej.
Bostrom analizuje różne ścieżki prowadzące do powstania superinteligencji. Pierwszy, że AI będzie oparte o – uczenie maszynowe. To najbardziej prawdopodobne, ponieważ: takie są trendy, jest coraz więcej danych i istnieje możliwość samouczenia się AI.
Może AI pójść jednak ścieżką symulowania ludzkiego mózgu. Ten scenariusz zakłada stworzenie cyfrowej kopii ludzkiego mózgu. Polega na mapowaniu struktur neuronowych mózgu z dużą precyzją i odtwarzaniu ich działania w środowisku komputerowym. Na ale tutaj pojawia się – etyka. Wtedy będzie możliwe masowe produkowanie „kopii” ludzi.
Ja nie mam z tym problemu, z tym kopiowaniem. Gdybyśmy mieli w mieście takich dziesięciu jak Pan Prezydent i Ksiądz Proboszcz? To przecież byłoby dobre dla naszego miasta. Mnie tam kopiować nie potrzeba. Niech kopiują mądrych ludzi – sądeckich intelektualistów, no może jeszcze ludzi praktycznych.
A nawet wiem, kto mógłby zająć się takim kopiowaniem. Wydział IT naszej spółki budującej maszyny trakcyjne. Na początek niechaj skopują testowo Pana Kolejarza. A potem niech jego cyfrowy bliźniak zostanie uzbrojony w algorytm samouczący.
Jest i trzeci scenariusz. Idzie o – poprawę biologiczną. W tym scenariuszu superinteligencja powstaje nie poprzez rozwój sztucznych systemów, ale przez bezpośrednie ulepszanie ludzkiego mózgu za pomocą technologii, genetyki lub farmakologii. Tutaj na pewno zaprotestuje Watykan i Ksiądz Proboszcz. To eugenika.
Są zatem zagrożenia.Superinteligencja może działać zgodnie z „optymalizacją celu,” który nie będzie zgodny z ludzkimi wartościami. Może również dojść do „eksplozji inteligencji”, gdzie superinteligencja zacznie sama się ulepszać, osiągając poziomy dla człowieka niezrozumiałe.
No i Bostrom postuluje konieczność „zarządzania wyprzedzającego”. Ludzkość musi działać zawczasu, zanim powstanie superinteligencja, aby zapewnić jej kontrolowalność. Trzeba nam dobrego prawa i instytucji! Do tego trzeba podejść etapowo.
Pada wreszcie bardzo dobra propozycja. Trzeba ludzkości stworzyć – Friendly AI! Czyli taką przyjazną AI. Ona będzie stać na straży i w interesie ludzkości. Wtedy rozwiążemy globalne problemy, takie jak choroby, ubóstwo czy zmiany klimatyczne. I to jest właściwy kierunek rozwoju AI.
A co możemy rozwiązać w Nowym Sączu? Korki zlikwidować! Do centrum miasta przywrócić życie. Powiążemy postulaty urbanistyczne – Le Corbusiera i Jacobs. W mieście się zazieleni. Wody przybędzie w Kamienicy i w Dunajcu. Ale AI nie będzie musiała kończyć miejskiego stadionu. On powstanie jeszcze w tym roku. Ale AI mogłaby popracować nad awansem Sandecji do Ligi Mistrzów.
Tak sobie siedziałem przed wydziałem technicznym czytając Bostroma… I wtem obok mnie stanął człowiek przedstawiający się za stróża na uczelni. Popatrzył z politowaniem na tę moją lekturę i bardzo grubo wypowiedział się na temat Bostroma.
No to rozpętała się miedzy nami dyskusja, bo ja byłem już mądrzejszy o tezy Bostroma. No i jechałem z koksem. Ale Pan Stróż uciszył mnie w momencie. Zgasił mój zachwyt. Wszedł bowiem w polemikę bezpośrednią z Bostromem…
Zdaniem Pana Stróża rozwój superinteligencji będzie procesem stopniowym i bardziej rozproszonym niż katastroficznym. Uważa, że ludzka kontrola nad technologią pozostanie możliwa dzięki naszej zdolności do dostosowywania się do nowych narzędzi. Uradowało mnie to i uścisnąłem nawet dłoń Panu Stróżowi. On jednak mówił cokolwiek inaczej niż Pan Kolejarz.
Pan Stróż ciągnął dalej, że współczesne systemy AI są dalekie od możliwości stania się autonomicznymi i groźnymi bytami. Przekonywał, że bardziej realistyczne problemy AI dotyczą takich kwestii jak etyczne użycie istniejących technologii i ograniczenie ich błędów, a nie hipotetycznych katastrof.
Po raz drugi uścisnąłem rękę Panu Stróżowi. Miałem już wyraźny wyrzut sumienie wobec Pana Kolejarza i Bostroma. Czy ja jestem takim chwiejem, który zgadza się z tym, z którym ostatnio rozmawia? Zauważyłem u siebie pewne objawy atrofii asertywności.
On jeszcze skrytykował Bostroma za – katastroficzny alarmizm. Twierdził, że wizje superinteligencji ignorują historyczne dowody na to, że technologie są tworzone i regulowane przez ludzi w sposób ewolucyjny, a nie rewolucyjny. Bostrom wyolbrzymia zagrożenia kosztem skupienia się na bardziej realnych problemach.
Pan Stróż podchodził również krytycznie do całego ruchu transhumanistycznego, którego częścią jest wizja superinteligencji Bostroma. Poza tym wyśmiał oderwanie od kontekstu społecznego i zbyt futurystyczne założenia. Twierdzenia Bostroma opierają się na założeniach, które mogą nigdy się nie zrealizować. Idzie o tę niekontrolowaną eksplozję inteligencji.
No jeżeli Pan Stróż z tak dużym znawstwem wypowiadał się na tematy predykcji rozwoju AI, to co dopiero studenci tej naszej sądeckiej uczelni… A jak pomyślałem o Panu Rektorze, to ciarki mi przeszły po plecach. Tylko patrzeć, że będzie pierwszy Nobel w naszym mieście.
Wróciłem na płytę główną, a potem udałem się do mojego sklepu. Miałem 200 złotych podarowane przez Pana Kolejarza. Tego dnia nie mogłem tak banalnie zakończyć.
Jestem w sumie uskrzydlony, że mamy takich ludzi w mieście i jeszcze ta „wyszczekana” licealistka. Ale myślę, że Pan Kolejarz ostatecznie dałby sobie radę w polemice z Panem Stróżem. Mamy mądrych ludzi w naszym mieście!
PS
Czytajmy mądre książki.
Co słuchać do takiego tematu? To jasne. Wybór jest w sumie jeden. Johann Johannsson – „The Sun’s Gone Dim„. W tym kawałku jest nastrój niepokoju i oczekiwania. Pasuje do rozważań o potencjalnych zagrożeniach AI. Jest także nadzieja.
