Oto kilka ze złowieszczo brzmiących nagłówków jakie się pojawiły na polskim YT.
A to jedynie kilka przykładów z polskiego YouTube. W skali światowej jest ich znacznie więcej, ChatGPT i sztuczna inteligencja są na ustach wszystkich znaczących osób od Elona Muska, Billa Gatesa, czy szefów Google. Twórcy tego narzędzia nawet proszą rząd USA o to, by wprowadzić regulacje prawne dotyczące tej technologii (źródło: CNN). A w Parlamencie Europejskim trwają debaty nad pierwszym aktem regulującym kwestie AI w UE tzw. AI Act, w celu określenia jaką sztuczną inteligencję chcemy mieć w Europie, tak by nie powstrzymywać technologii, ale jednocześnie zapewnić nam ochronę podstawowych wartości.
Da się nawet usłyszeć stwierdzenie, że być może "ChatGPT to rewolucja większa od wykrycia maszyny parowej", która pozbawi wielu ludzi pracy i sprawi, że będą zbędni, a ich miejsce zajmą roboty. W powszechnej opinii, zagrożeni są wszyscy od copywriterów, osoby z call center, po programistów i prawników – nikt nie może spać spokojnie.
Jak w takim otoczeniu dzieci mogą spokojnie dorastać, skoro ciągle słyszą, że sztuczna inteligencja je zastąpi, że ludzie są zbędni? Po co się uczyć, czytać książki, pisać wypracowania, poznawać historię, uczyć się języków, skoro to wszystko szybciej zrobi ChatGPT, a każdą cięższą pracę wykonają roboty?
Dlatego spróbujemy na spokojnie wyjaśnić. Czy faktycznie jest tak niebezpiecznie? 😃.
Co to jest sztuczna inteligencja?
Sztuczna inteligencja (AI, od ang. „Artificial Intelligence”) to termin, który pojawił się w świecie technologii kilkadziesiąt lat temu, ale obecnie zyskuje na popularności i staje się nieodłącznym elementem naszego codziennego życia.
Sztuczna inteligencja, to gałąź informatyki, która zajmuje się tworzeniem i rozwijaniem maszyn i programów komputerowych, które mają w jakimś stopniu naśladować ludzki umysł.
Na przykład, kiedy nastolatek pyta swojego smartfona o najbliższą pizzerię lub używa aplikacji do nauki języka obcego, to często korzysta z AI. Tak samo jest w przypadku gier komputerowych, które adaptują swoją trudność na podstawie umiejętności gracza, a także mediów społecznościowych, które sugerują treści na podstawie wcześniejszych interakcji użytkownika. Wszystko to jest możliwe dzięki sztucznej inteligencji.
W opinii publicznej powszechnie słyszy się, że kluczową cechą sztucznej inteligencji jest jej zdolność do „uczenia się” i udzielania odpowiedzi na wcześniej nieznane pytania. Ta cecha sprawia, że ta technologia jawi się jako ekscytująca i inteligentna.
Sztuczna inteligencja to jedynie bezmyślny program
Jednak jak w dalszej części artykułu pokażemy, sztuczna inteligencja jest najzwyklejszym bezmyślnym programem. Jak każdy program, na wejściu dostaje dane wejściowe, następnie mechanicznie je przetwarza za pomocą opracowanego przez człowieka algorytmu i na końcu generuje dane wyjściowe.
Do czynienia z inteligencją (człowiekiem) mamy na etapie doboru danych, trenowania oraz przy interpretacji wyników wygenerowanych przez sieć. Powszechnie uważa się, że ta mechaniczna część generowania odpowiedzi jest najistotniejsza i stanowi esencję algorytmu, jednak to ta ostatnia faza jest najistotniejsza. Dzieję się tak dlatego, ponieważ w przypadku algorytmów uczenia maszynowego nigdy nie mamy pewności, czy wynik jest prawdziwy, czy fałszywy. W klasycznym programie np.: kalkulatorze, możemy być w dużej mierze pewni (pomijając oczywiście błędy ludzkie i sprzętowe), że wynik zawsze jest zgodny z prawdą, ponieważ kalkulator opiera się o zasady matematyki. W przypadku sztucznej inteligencji nie mamy takiej pewności, a nawet patrząc na przykład matematyki możemy przypuszczać, że będziemy mieli więcej odpowiedzi błędnych.
Doskonale zagadnienie obrazuje poniższy obrazek. Człowiek nie ma problemu z rozróżnieniem widzianego obiektu, natomiast sztuczna inteligencja może się pomylić.
Nauka programowania dla dzieci, a sztuczna inteligencja
Rodzi się pytanie, czy nadzieje pokładane w technologii są racjonalne oraz co temat AI lub ChatGPT ma wspólnego z kursem programowania dla dzieci?
Wbrew pozorom bardzo dużo, ponieważ ChatGPT oraz kurs programowania w świecie gier Minecraft, Roblox, Scratch łączy wspólny błąd zwany halucynacją, czyli odłączeniem się od rzeczywistości.
Jak działa sztuczna inteligencja?
Człowiek jest w stanie poznać i zbadać każde zagadnienie poprzez obserwację, analizę, syntezę, próby I wyciąganie wniosków. Człowiek ma zdolność poruszania się po wielu wymiarach badanego zagadnienia, potrafi wejść w głąb danego tematu, ale także potrafi z niego wyjść, by poszukać uogólnień oraz analogii z innej dziedziny. Gdy w biologii, czegoś nie widzi, może sięgnąć po matematykę albo geografię, by zobaczyć, czy tam czegoś nie znajdzie - może to nawet doprowadzić do odkrycia całkowicie nowej zasady.
Gdy już wiemy w jaki sposób człowiek zdobywa wiedzę o otaczającym świecie, zobaczmy jak wygląda świat widziany przez sztuczną inteligencję.
Sztuczna inteligencja zawsze porusza się tylko po powierzchni tematu i co jeszcze gorsze, dodatkowo nie ma dostępu do oryginału (jak np: fizyczny przedmiot), tylko do projekcji, do przetworzonej i ucyfrowionej informacji następnie przepracowanej przez człowieka.
Dobrze to zagadnienie reprezentuje poniższe zdjęcie krajobrazu. Na pierwszym zdjęciu widzimy piękny widok z dalekiej perspektywy, na drugim obserwujemy to samo zdjęcie powiększone. Pierwsze zdjęcie jest bardzo szczegółowe. Ale o zobaczymy po powiększeniu? Pikselizację, czyli uzupełnienie braków w informacji poprzez uśrednienie wartości z pikseli sąsiednich.
Zdjęcie krajobrazu z dalekiej perspektywy
Przybliżenie fragmentu zdjęcia
Ćwiczenie - utrata informacji podczas „digitalizacji” informacji
Żeby zobaczyć jak ubogą informacją wejściową dysponuje AI wystarczy, że wszyscy członkowie rodziny napiszą kolorowym długopisem na kartce imię babci i dziadka, a następnie to samo zrobią na komputerze w notatniku. Prosta obserwacja wyników obydwu działań pokaże jaki ogrom informacji straciliśmy przy tym prostym przekształceniu. Gdy ktoś z zewnątrz obejrzy zapis w komputerowym notatniku, to nie będzie w stanie stwierdzić, kto to napisał. Natomiast przy wersji odręcznej po stylu i charakterze pisma będzie można odkryć, kto jest autorem każdej wypowiedzi.
Mając dostęp do rzeczywistości jesteśmy w stanie uzupełnić braki, mając dostęp tylko do wersji cyfrowej tracimy cały kontekst nieodwracalnie.
Sztuczna inteligencja nigdy nie będzie w stanie samodzielnie myśleć
Widzimy, że ograniczenie to sprawia, że sztuczna inteligencja nigdy nie będzie wstanie samodzielnie myśleć, wyciągać wniosków, a jedynie będzie potrafiła odszukać znane jej już wzorce. Nawet dostęp do Internetu nie daje jej żadnej przewagi, gdyż zawsze będzie operować na informacji przetworzonej, a nie na oryginale.
AI bazuje na popularności odpowiedzi, a nie na rzeczywistości
Dodatkowym problem, z którym trzeba się zmierzyć przy sztucznej inteligencji jest fakt, że błędy są bardziej powszechne niż poprawne rozwiązania, a AI działa na podstawie prawdopodobieństwa – im częściej występuje dana odpowiedź, to według AI znak, że jest ona tym bardziej poprawna. Ten sam mechanizm działa w wyszukiwarkach internetowych. Jednak wystarczy zobaczyć, że działanie 2+2 ma tylko jeden poprawny wynik 4, natomiast nieskończenie wiele błędnych.
Prawdziwa inteligencja
Człowiek, by zbadać jabłko może wziąć owoc, przekroić go, następnie odnaleźć pestkę, odkryć jej budowę. Może również pójść w drugą stronę, może spojrzeć na drzewo, na którym jabłko rośnie, zobaczyć jego kwiaty, owady i ptaki, które wokół niego się przemieszczają. I na tej podstawie wyciągać dalsze wnioski.
Widzimy na tych bardzo prostych przykładach, że aby poznać reguły i zasady współpracy trzeba mieć kontakt z rzeczywistością, z oryginałem, a nie kopią, czy fotokopią. Nie da się na bazie obrazu jabłka odpowiedzieć na pytanie ile ma ono gniazd nasiennych, jaki ma smak, czy jest słodkie czy kwaśne. To jest jeden trywialnie prosty przypadek, który dwuletnie dziecko jest w stanie w sekundę doskonale rozstrzygnąć poprzez ugryzienie jabłka, a my po minie i nawet ewentualnym płaczu młodego człowieka możemy odkryć, czy jest ono kwaśne czy słodkie 😃.
Halucynacje sztucznej inteligencji (i nie tylko)
Zjawisko tutaj przedstawione nosi nazwę halucynacji. Często halucynacja kojarzy się nam z objawami po narkotykach lub po spożyciu alkoholu, gdy świat staje się płynny. Przedmiot przypomina do złudzenia rzeczywisty przedmiot, ale po głębszym zastanowieniu okazuje się, że coś jest z nim nie tak. Możemy sami to sprawdzić np.: oglądając poniższy short, w którym zadaliśmy ChatGPT pytanie o ilość gniazd nasiennych. Na przedstawionym shorcie widzimy, że do końca naszej konwersacji z chatem, ChatGPT nie był w stanie jednoznacznie stwierdzić, że każde jabłko zawsze ma 5 komór nasiennych, a to jest elementarna wiedza z lekcji biologii.
Halucynacje grafiki
To samo możemy zaobserwować, gdy sztuczna inteligencja zaczyna generować obrazy. Wtedy też widzimy, że są one oderwane od rzeczywistości jak np.: te poniżej.
A gdy powiększymy:
Po tym nieco dłuższym wywodzie widzimy, że sztuczna inteligencja nie stanowi dla nas najmniejszego zagrożenia w kwestii inteligencji i rozumienia, nigdy bowiem nie uda jej się wyjść ze świata cyfrowego, informacji, do świata rzeczywistego, a nawet historycznego czy opartego na niepisanej tradycji, niezbędnego, by móc prawdziwie rozumieć rzeczywistość.
Pod znakiem zapytania staje też sensowność rozwoju tak złożonych modeli językowych jak ChatGPT 4 i 5, których koszt dziennego utrzymania to około 700 tys dolarów (źródło: PCWorld), a odpowiedzi są jedynie zlepkiem słów o największym prawdopodobieństwie. Nawet próba przeredagowania fragmentu tego artykułu w tym narzędziu skutkowała tym, że tworzona treść zmieniała całkowicie znaczenie.
Jakie są zastosowania sztucznej inteligencji?
Jak widzimy obszar zastosowania sztucznej inteligencji jest węższy niż się to powszechnie wydaje. Zastosowanie A.I. ma sens jedynie w obszarach, gdzie możemy operować na obserwacji zewnętrznej zjawiska, w wąskiej dziedzinie wiedzy jak np.: diagnostyka obrazowa chorób, wykrywanie anomalii w przyrodzie, generowanie mowy itp. i to też dopiero gdy specjaliści dokładnie oczyszczą dane źródłowe.
Natomiast sztuczna inteligencja jest bezużyteczna w przypadku badania dziedziny w głąb oraz do tworzenia uogólnień i formułowania odpowiedzi na dowolnie zadawane pytania.
Czy sztuczna inteligencja jest niebezpieczna?
Dopóki poruszamy się po świecie rzeczywistym sztuczna inteligencja jest niegroźna. Dopiero w świecie wirtualnym niesie ona za sobą pewne zagrożenie i staje się nawet utrudnieniem, gdy stanie się bardziej powszechna (odsyłamy do naszego artykułu o bezpieczeństwie Bezpieczenstwo w sieci zagrożenia dla dzieci i sposoby ich unikania). Dzieje się tak ponieważ świat cyfrowy jest mocno ograniczony, niekompletny i odłączony od rzeczywistości.
Niebezpieczeństwo sztucznej inteligencji znajduje się właśnie w tzw. halucynacjach, ponieważ bardzo ciężko jest bez konkretnej wiedzy dziedzinowej ocenić, czy dane stwierdzenie jest zgodne z rzeczywistością czy nie. Dlatego by np.: korzystać ze sztucznej inteligencji w dziedzinie programowania trzeba mieć już odpowiednią wiedzę. Jednak wtedy rodzi się pytanie, skoro już wiem jak programować, to po co mam wykorzystywać do tego sztuczną inteligencję, skoro ona produkuje kod tylko łudząco podobny do poprawnego, a w ostateczności może być błędny, więc i tak sam muszę go zrozumieć i napisać?
Halucynacje możemy sami szybko przetestować, gdy dzwonimy do firmy z problemem technicznym, a na początku rozmowy po wszystkich informacjach o RODO, nagrywaniu rozmów, słyszymy, że rozmawiamy z botem. Z doświadczenia wiemy, że nim się nie połączymy z człowiekiem nasz problem nie zostanie rozwiązany – bo często nawet człowiek nie jest w stanie pomóc.
Czy sztuczna inteligencja zastąpi człowieka i zniszczy ludzkość?
Po zapoznaniu się z możliwościami, a może przede wszystkim niedomaganiami sztucznej inteligencji możemy bezpiecznie stwierdzić, że nie ma ona możliwości zastąpić człowieka. Zawsze to człowiek jest tym który ostatecznie decyduje, czy wyniki algorytmu są prawdziwe.
Jednak jeśli prawdziwa inteligencja, czyli człowiek, dla swojej wygody zrezygnuje z weryfikowania odpowiedzi zwróconych przez ChatGPT, ale także przez wyszukiwarki internetowe i da się uwieść halucynacji, może doprowadzić do dużych strat, które będą miały swoje konsekwencje w świecie rzeczywistym.
Prawdziwa inteligencja ukryta jest w dzieciach 😃
Dlatego zapraszamy dzieci na jedyny drużynowy kurs programowania, gdzie uwalniamy prawdziwą inteligencję i moc każdego dziecka, a także wspólnie budujemy silne i inteligentne drużyny, a nawet całą pierwszą ligę.
