Dlaczego Minecraft i A.I. przeszkadzają w nauce myślenia

Wyrok bywa odroczony o tygodnie albo miesiące. Zawsze jednak zapada, i zawsze wydaje go rzeczywistość. Ostatnio jednak obserwuję zjawisko, które ten fundament podmywa. Dzieje się to cicho, wygląda na postęp i dotyka zarówno dorosłych programistów, jak i dzieci siedzące przed Minecraftem. To ta sama zmiana. Ten sam błąd myślowy. Chcę go dziś pokazać w całości.

Jak powstawał porządek w głowie?

Dawniej, kiedy dostawałem zadanie, zaczynała się praca, której nikt z zewnątrz nie widział. Budowałem w głowie ciąg przyczynowo-skutkowy. Co z czego wynika. Co musi powstać najpierw, żeby mogło powstać to, co później. Gdzie jest hierarchia, gdzie zależność, gdzie granica odpowiedzialności. Ten porządek rozrastał się jak drzewo, jak fraktal, który na każdym poziomie powtarza tę samą logikę i na każdym poziomie pozostaje spójny z prawami natury. Rzeczywistość była materiałem, z którego ten fraktal się budował, a nie tylko sędzią gotowej pracy. Dopiero potem odbijał się w kodzie.

To jest istotne: kod był odbiciem modelu, który już istniał. Jeżeli program się mylił, błąd musiał leżeć w jednym z trzech miejsc. Mógł tkwić w procesie biznesowym, który źle zrozumiałem. Mógł tkwić w kodzie, choć ten kompilował się bez zastrzeżeń. Mógł wreszcie tkwić w samym modelu, który nosiłem w głowie. Ponieważ jednak cała struktura była spójnym fraktalem, dało się przejść po jej gałęziach i wskazać, które ogniwo rozjechało się z rzeczywistością. Błąd był informacją. Konfrontacja z rzeczywistością pozwalała poprawiać fraktal tak długo, aż stawał się z nią zgodny. Kompilator był bezlitosnym, ale uczciwym nauczycielem. Prawda leżała poza mną i mogłem się z nią skonfrontować w każdej chwili.

Ten proces miał jeszcze jedną własność, o której rzadko się mówi. On mnie zmieniał. Każde zbudowanie ciągu przyczynowo-skutkowego w głowie wzmacniało zdolność budowania następnych. Myślenie strukturalne jest jak mięsień. Rośnie od wysiłku.

Co się zmieniło z A.I.?

Teraz zadanie coraz częściej zamienia się w prompta. Piszę kilka zdań, a model językowy generuje odpowiedź na bazie statystyki wyciągniętej z wcześniejszego treningu. Dostaję coś, co wygląda poprawnie. Często nawet działa. I tu zaczyna się problem.

Ten wynik nie przeszedł przez moją głowę. Nie zbudowałem ciągu przyczynowo-skutkowego, więc go nie mam. Wygenerowany model jest inny od tego, który nosiłbym w sobie, gdybym pracę wykonał sam. Kiedy ktoś zapyta, dlaczego to działa, dlaczego dało taki wynik, dlaczego akurat tak — milczę. Mogę zgadywać. Mogę wygenerować kolejnego prompta z pytaniem o wyjaśnienie i dostać kolejną statystycznie prawdopodobną odpowiedź, której też nie potrafię zweryfikować.

Zwróćcie uwagę na subtelność tej podmiany. Na powierzchni wszystko wygląda tak samo. Jest zadanie, jest kod, kod działa. Zniknęło tylko jedno ogniwo: rozumienie. A ponieważ rozumienie jest niewidzialne, jego brak też jest niewidzialny. Do czasu. Ujawnia się dopiero wtedy, gdy coś się psuje i trzeba wiedzieć dlaczego.

Ten sam mechanizm w Minecrafcie

Rodzice często pytają mnie, co mam przeciwko Minecraftowi. Przecież dziecko „buduje", „tworzy", „programuje". Odpowiadam wtedy, że mam przeciwko niemu dokładnie to samo, co przeciwko bezmyślnemu promptowaniu. To jest ten sam błąd myślowy, tylko podany wcześniej i w słodszej otoczce.

W Minecrafcie klocek lawy, klocek kamienia i klocek trawy wyglądają niemal identycznie. Ten sam sześcian, inna tekstura. Tymczasem reprezentują koncepcje, które w rzeczywistości różnią się wszystkim: stanem skupienia, temperaturą, zachowaniem, konsekwencjami dotknięcia. Świat został sprowadzony do jednego prymitywu. W programowaniu nazywamy to primitive obsession — obsesją prymitywu, spłaszczeniem bogatej rzeczywistości do najprostszej dostępnej formy. Ja nazywam to pikasyzacją.

Dziecko, grając, buduje w głowie model świata. Tyle że jest to model świata gry, a gra rządzi się logiką lokalną. Dom można zacząć od dachu. Klocki wiszą w powietrzu. Woda płynie po swojemu. Wszystko to jest „prawdziwe" wewnątrz gry i niespójne z rzeczywistością na zewnątrz. A dopamina, którą gra dawkuje precyzyjnie i hojnie, sprawia, że ten lokalny model jest zapisywany głęboko i chętnie. Model z gry nadpisuje model rzeczywistości. Dziecko układa świat według logiki Minecrafta, przekonane, że układa go według logiki świata.

Dorosły z promptem i dziecko z klockami lawy są w tej samej sytuacji. Oboje mają w głowie model inny niż ten, który widzą na ekranie. Oboje dostają wynik, który wygląda poprawnie. I oboje tracą kontakt z sędzią, który mógłby ten wynik zweryfikować.

Bierni recenzenci

Efekt tej podmiany da się nazwać jednym zdaniem. Z twórców staliśmy się recenzentami. Siedzimy przed czymś wygenerowanym, kiwamy głową, klikamy „akceptuj". Recenzujemy coś, czego nie potrafimy wyjaśnić, zrozumieć, bo nie zbudowaliśmy ciągu przyczyno-skutkowego — i nazywamy to postępem.

Recenzent bez własnego modelu jest recenzentem tylko z nazwy. Żeby ocenić, czy coś jest poprawne, trzeba mieć w głowie wzorzec, z którym się to porównuje. Jeżeli mój wewnętrzny model jest uboższy od wygenerowanego, moja recenzja sprowadza się do sprawdzenia, czy wynik „wygląda dobrze". A wyniki generowane statystycznie zawsze wyglądają dobrze. Po to zostały wytrenowane.

Najbardziej niepokoi mnie w tym wszystkim los dzieci. Dorosły programista, który przez lata budował modele w głowie, ma z czego recenzować. Jego mięsień był trenowany, zanim pojawiła się proteza myślenia (czyli A.I.). Dziecko, które zaczyna od protezy, tego mięśnia nie zbuduje nigdy. Będzie recenzentem od pierwszego dnia. Recenzentem, który nigdy niczego nie stworzył od fundamentu i nie wie, jak fundament wygląda.

Powrót do rzeczywistości

Czy to znaczy, że należy odrzucić A.I.? Takie postawienie sprawy byłoby kolejnym spłaszczeniem. Narzędzie statystyczne w rękach człowieka, który ma w głowie własny, ugruntowany model, jest po prostu narzędziem. Problem zaczyna się wtedy, gdy narzędzie zastępuje budowanie modelu, zamiast je wspierać. Kolejność ma znaczenie. Najpierw fundament, potem dźwig.

Dlatego w KidsPRO uczymy od podstaw i na poważnych narzędziach. Visual Studio, C#, prawdziwy kompilator. Dziecko dostaje zadanie i musi zbudować w głowie ciąg przyczynowo-skutkowy, bo inaczej program nie ruszy. Nikt nie oceni pracy uznaniowo, nie da punktów za starania, nie wygeneruje gotowca. Kod się skompiluje albo nie. Rzeczywistość jest sędzią i właśnie dlatego jest najlepszym nauczycielem, jakiego znam.

Nauczyć programować obiecuje dziś każdy — nawet A.I. My uczymy rozumieć. Różnica między tymi dwiema obietnicami jest dokładnie różnicą między modelem w głowie a modelem na ekranie. I od tego, którą z nich wybierzemy dla naszych dzieci, zależy, czy wyrosną na twórców, czy na biernych recenzentów cudzych, statystycznie prawdopodobnych światów.

Marcin Zieliński