Świat nam się powoli robotyzuje. Najpierw komputery osobiste, potem smartfony, a teraz samojeżdzące samochody. Co tam maszyny! Algorytm ma napisać krótkiego newsa! A potem „science fiction na całego”, czyli mikroczipy zamiast dowodów, nanoroboty pomagające w leczeniu, egzoszkielety rodem z Elizjum i przenoszenie własnej świadomości do Sieci. I gdzie tu miejsce dla człowieka?

Odpowiedź tylko wydaje się prosta: ludzkość ma być beneficjentem tych przemian. Zamiast zastanawiać się nad tym za co żyć, zaczniemy myśleć wyłącznie o sensie życia. Ale w tym ultraoptymistycznym scenariuszu umyka konfrontacja człowieka z maszyną. Zakłada się, że będzie on rządził zaprogramowanym przez siebie robotem, że algorytm to poważne ograniczenie w rozwoju maszyn. Istnieje w nas pragnienie, aby komputery uczyły się i rozwijały z pomocą człowieka. W interesujący sposób ten problem podjął Stanisław Lem w opowiadaniu Ananke. Komputer pilotujący statek cierpi na osobowość anakastyczną (brak elastyczności, nadmiar dbałości o porządek) i w wyniku wykonywania zbyt dużej ilości niepotrzebnych funkcji doprowadza do katastrofy. Po przeprowadzonym śledztwie okazuje się, że komputery przejmują osobowości ludzi, którzy je szkolą. W ten sposób Stanisław Lem podkreśla odpowiedzialność człowieka za stworzone maszyny. Nie da się od niej uciec, trzeba ciągle sprawdzać w jaki sposób tworzone są algorytmy i nie wierzyć ślepo w rozbudowany system samouczący się. Najśmieszniejsze jest to, że my – współcześni – tak właśnie postępujemy.

Robot /  Bill Dickinson (CC BY-NC 2.0)

Robot / Bill Dickinson (CC BY-NC 2.0)

System rekomendacji to najbanalniejszy przykład. Spotykamy go już praktycznie wszędzie, już za moment, już za chwilę, będzie on istotnym elementem pralki (zaproponuje właściwy proszek do ubrań) oraz lodówki (będzie wyświetlała potrawy, na które możemy mieć ochotę, ponieważ kilka dni temu zjedliśmy…). Zazwyczaj nie zastanawiamy się nad tym, dlaczego dany program proponuje nam „to”, a nie „coś innego”. Być może wcale nie chcemy ciągle słuchać podobnych zespołów lub czytać książek o podobnej konstrukcji fabularnej. Ale wierzymy, że system rekomendacji w końcu się nas nauczy i będzie proponował to, co będzie dla nas dobre. Okazuje się, że nie zawsze tak jest, a to tylko wierzchołek góry lodowej. Wkrótce skomplikowane systemy będą się uczyły prowadzić samochód i będą wybierały odpowiednią terapię. Czy dalej będziemy wierzyć w ich nieomylność?

Stanisław Lem każe w nią wątpić. Zaproponowany przez niego w Ananke system treningów pokazuje, że człowiek w dalszym ciągu musi brać odpowiedzialność za maszynę, nawet jeżeli jest ona wyposażona w system pozwalający na uczenie się. Zadaniem osoby szkolącej komputer jest nie tylko jego zaprogramowanie, co wskazanie mu podstawowych rozwiązań dla określonych problemów. Przypomina to naukę odpowiadania na zadane pytania ze wskazaniem alternatyw. Założenie jest jedno: maszyna szybciej je sprawdzi i wybierze tę, która będzie najbardziej efektywna. Ale w Ananke okazuje się, że nie zawsze się to udaje. Minusem maszyn jest brak umiejętności improwizowania, ten brak elastyczności może mieć dramatyczne konsekwencje. Czy w takim razie powinniśmy czuć się bezpiecznie? Nie. Maszyny są w stanie wykonywać wiele czynności o różnym poziomie skomplikowania.

Roboty są wśród nas

Na temat postępującej robotyzacji społeczeństwa można przeczytać świetny artykuł „The Robotification of Society is Coming” Rhetta Allaina, który został opublikowany na Wired. Autor zwraca uwagę na kilka mających negatywny wydźwięk elementów związanych z robotyzacją. Przede wszystkim jest to ograniczanie dostępu do pracy, szczególnie w przypadku zawodów nie wymagających kwalifikacji, ale nie oznacza to, że pozostali też mogą czuć się bezpiecznie. Słusznie zauważa Rhett Allain – komputery potrafią liczyć, czytać i pisać. Wniosek jest jeden:  każdy może zostać zastąpiony przez maszynę.

Spostrzeżenia Rhetta Allaina są bardzo niepokojące, ale warto się z nimi zapoznać. Poza tym można także poświęcić piętnaście minut życia na obejrzenie, podlikowanego w artykule, filmu mówiącego przemianach jakie zachodzą w społeczeństwie pod wpływem automatyzacji. Być może niektóre przytoczone tam argumenty są za bardzo zabarwione emocjonalnie, jednak należy zapoznawać się także z negatywnymi wizjami rozwoju świata. Na chwilę w niej pozostańmy i zadajmy pytanie: W jaki sposób poradzić sobie z naciągającą dominacją robotów?

Rhett Allain pisze o ważnej roli uniwersytetów, którą charakteryzuje w następujący sposób:

Instead, I think the best plan is to educate in a way that is perpendicular to the direction of robotification. What does that even mean? Well, at first robots will take over simple things. So, we shouldn’t educate people to focus on simple things – robots will do those jobs. However, this also means that we shouldn’t be “job training” in education – especially in higher education. Unfortunately, this is what many administrators are pushing for. “Make the students ready for the real world.” But the real world is the future and the future is unknown. Preparing for the real world is preparing for the past. The past will be robots.

If colleges and universities stick with the “real world ready” strategy, they will be graduating students that will have to compete with robots. Guess what… robots will probably be cheaper and better than many college graduates.

As I’ve said many times, college isn’t about getting ready for a job. A university degree is about learning to be more human. This means that humans that work on a college degree should take all sorts of classes. They should learn to paint and write a poem. They should be able to explore the world with science. They should practice communicating and reflecting on our past. These are the things that make us human.

Warto przyjrzeć się tym argumentom. Nie mogę się nie zgodzić z tym, że współczesny model edukacji jest po prostu zły, ale jego problem – przynajmniej w Polsce – polega na całkowitym braku ciągłości. W zasadzie, do końca szkoły średniej, powtarza się informacje, które poznało się już wcześniej. Jest to problem systemu, który opiera się na programie, a ten – jak wiadomo! – trzeba koniecznie wykonać. Nie wiem dlaczego ktoś nie pomyśli o takim jego ustawieniu, aby program przede wszystkim rozwijał młodych ludzi, a nie pchał im do głów kolejne informacje lub opierał się na ciągłym ich powtarzaniu. Jeżeli nie odpowiemy sobie na pytanie kogo chcemy wychować, to faktycznie będziemy produkowali ludzkie roboty. Dzisiaj jeszcze potrzebne, ale już wkrótce przegrają one z mechaniczną konkurencją.

Anne Francis and Robbie the Robot in Forbidden Planet (1956) /  Tom Simpson (CC BY-NC-ND 2.0)

Anne Francis and Robbie the Robot in Forbidden Planet (1956) / Tom Simpson (CC BY-NC-ND 2.0)

Autor artykuły zwraca uwagę na to, że uniwersytet jest miejscem, w którym ćwiczy się swoje człowieczeństwo poprzez poszerzanie własnej świadomości i nastawianie na przygotowywanie studentów „do prawdziwego życia” jest szkodliwe. Mam mieszane uczucia co do tego stwierdzenia. Z jednej strony uważam uniwersytet za miejsce, w którym ścierają się Idee, gdzie ludzie rozmawiają i opisują w naukowy sposób rzeczywistość, ale z drugiej strony uważam, że nie wszystko da się wytłumaczyć za pomocą artykułu lub równania, powinniśmy wprowadzać zajęcia warsztatowe tam, gdzie jest to możliwe. I niech to będą faktycznie godziny spędzone na dyskusji ze studentami, niech będą to starcia pomysłów, ale niech wynikiem tej walki będzie nabycie praktycznych umiejętności, przez które rozumiem umiejętność wykorzystywania własnej wiedzy w praktyce. Jednocześnie uniwersytet nie może stać się szkoła zawodową lub fabryką produkującą wyłącznie specjalistów w określonej dziedzinie, ponieważ okazuje się to opłacalne. To jest zabijanie edukacji wyższej, a powinniśmy poszukiwać dróg jej rozwoju.

Świat się zmienił i uniwersytety również powinny się zmienić. Być może kiedyś, my nauczyciele, nie będziemy potrzebni i zastąpią nas roboty. Dzisiaj krzyczymy, że edukacja to także socjalizacja i nic nie zastąpi rozmowy z drugim człowiekiem, że jest ona potrzebna do tego, aby rozwijać siebie i swoje idee. Sam tak uważam i nie wyobrażam sobie świata, w którym piszę doktorat i pomaga mi w tym maszyna, a nie promotor z krwi, Idei i kości. Taka wizja budzi we mnie wstręt, ale nie mogę jej całkowicie odrzucić. Nasze współczesne zasady można stosować do świata, w którym w dalszym ciągu dominuje człowiek. Nawet jeżeli spotyka się z maszyną, to dalej ją kontroluje i nią zarządza. Jak będzie wyglądała edukacja, gdy rola komputerów w naszym życiu będzie dominująca?

Może właśnie wtedy będziemy uczyć się ze wszczepionego w głowę układu scalonego. Krótka synchronizacja i wiemy wszystko. Warto rozważyć każdy scenariusz, nawet ten, który swoją strukturą przypomina najbardziej radykale science fiction. W końcu przynajmniej kilka z tych przepowiedni się sprawdziło, więc może robotyczny kres świata nie jest wcale tak absurdalną wersją zagłady ludzkości?