LLMy nie kłamią

Sztuczna inteligencja, skrótowo zwana AI wciska się ostatnio wszędzie, czy sens jest, czy go nie ma. Tak naprawdę zaczęliśmy ostatnio określać tym mianem głównie LLMy, ale nie zawsze tak było. Ktoś pamięta takie rzeczy jak algorytmy genetyczne? Niemniej, obecnie jeśli ktoś mówi o AI, to najprawdopodobniej chodzi mu o LLM.

W każdym razie, jak bumerang w wypowiedziach powraca temat „uczłowieczania” AI. Często słyszymy zwrotu typu AI kłamie, AI się myli czy AI rozumie polecenia. Ostatnio spotkałem się z bardzo ciekawym moim zdaniem stanowiskiem, że LLMy nie mogą kłamać. Teraz pewnie wszyscy starają się przypomnieć sobie ostatni niezaprzeczalny dowód na kłamstwo LLMa. Jednak tak naprawdę chodzi o coś innego, niż błędna, niezgodna ze stanem faktycznym odpowiedź. Kwestia jest bardziej filozoficzna. Żeby kłamać, AI musiałoby wiedzieć, co jest prawdą i świadomie udzielić innej odpowiedzi. I podejście takie bardzo mi się podoba.

Tymczasem LLM nie wie, co to jest prawda, nie myśli, nie rozumie pytania. Na podstawie dostarczonych wcześniej danych, na których został wytrenowany, generuje tekst, który ma pasować do zadanego pytania. Czyli: weź wprowadzony tekst, przetwórz go na dane wejściowe, których umiesz używać. Następnie wygeneruj pasującą odpowiedź w swoich danych/języku, przetwórz ją na tekst. Tak w skrócie, bo jest jeszcze prompt, który – podobnie jak pytanie – jest danymi wejściowymi i potrafi wpływać na wynik. Ale znowu, nie w formie rozumienia go przez AI tak, jak my rozumiemy rozumienie. No i AI nie działa deterministycznie. Nawet, jeśli zwykle daje dość powtarzalne (najbardziej prawdopodobne) wyniki.

Łatwiej to wszystko chyba zrozumieć ludziom, którzy bawili się algorytmami genetycznymi czy łańcuchami Markowa tak z ćwierć wieku temu. A niestety odruchowo łatwo jest przypisywać cechy ludzkie czemuś, co zachowuje się podobnie do człowieka[1]. Nawet, jeśli zasada działania jest zupełnie inna.

Dlatego następnym razem, zamiast powiedzieć: LLM kłamie lepiej rzec LLM wygenerował odpowiedź, która nie ma pokrycia w rzeczywistości. Ale nie mam złudzeń, nikt tak mówić nie będzie. Lubimy uproszczenia.

[1] Pewnie nawet można pokusić się o twierdzenie, że mamy – jako gatunek – tendencję do zrównywania komunikacji z myśleniem czy inteligencją. Podobno często niesłyszący traktowani są jako upośledzeni intelektualnie. Przy LLMach byłoby odwrotnie: składa zdania, znaczy myśli.

PKP ewakuacja

W związku z drobną zmianą planów na firmowej integracji[1] okazało się, że raczej można wrócić wcześniejszym pociągiem. Trzy godziny różnicy to z jednej strony żaden dramat, szczególnie, jeśli pójdzie się coś zjeść, ale z drugiej strony po co lądować w domu po nocy[2]. Gdyby ktoś nie wiedział, to bilety IC można zmienić na inny termin, bezkosztowo. Wyzwaniem okazało się znalezienie miejsca i w zasadzie już odpuściłem, ale przy kolejnym sprawdzeniu jakieś jedno się pojawiło. Przebookowałem bilet i pojechaliśmy.

W pewnym momencie, raczej pod koniec podróży, bo w Jarocinie, pociąg stanął, a kumpel napisał, o 21:45 na komunikatorze[3], że chyba potrąciliśmy człowieka. Trochę pospekulowaliśmy czy może jednak awaria, bo pierwszy komunikat był dość enigmatyczny, a staliśmy dość blisko stacji. W końcu, po kwadransie podano informację, że miał miejsce wypadek z udziałem człowieka.

Czyli minimum trzy godziny opóźnienia. No ale jechał w moim wagonie terytorials. Gdzieś zniknął, a potem wrócił i obwieścił, że straż pożarna nas będzie ewakuować. Oczywiście skojarzyło mi się ze znaną pastą o Borach Tucholskich i terytorlialsach. No i wizja, że przyjeżdżają strażacy, w wozach, i kilkaset osób z pociągu przewożą na stację jakoś mi się nie kleiła. Nawet wykorzystanie ciężarówki wojskowej oznaczało wg mnie kilka-kilkanaście kursów. W międzyczasie sprawdziliśmy lokalny portal. Mieli artykuł o wypadku już pół godziny po fakcie.

Jednak strażacy przyjechali i zaczęli ewakuację pociągu. Przy drzwiach z przodu składu ustawili jakąś platformę i poinstruowano nas, żeby wychodzić, i że ze stacji pojedziemy innym pociągiem. Platforma składała się z solidnej podstawy, chybocącej się poręczy oraz ni to schodków, ni to drabinki na końcu. Nie było to dla nas wielkie wyzwanie, bo jak wspominam, wracaliśmy z gór. Rodziny z małymi dziećmi, starsi ludzie, posiadacze dużych walizek mogli być innego zdania, ale ponieważ wychodziliśmy jako jedni z ostatnich, nie dane mi było zaobserwować. Chyba nie było większych problemów, bo opuszczanie pociągu poszło sprawnie.

Obawy, że nie zmieścimy się w pojazdach okazały się bezpodstawne. Choć może w inny sposób niż myślałem. Nie było żadnych pojazdów. Po prostu wysłano nas kilkaset metrów[4] wzdłuż nieoświetlonych torów, po tłuczniu i podkładach. Górskie buty się przydały. Jak szli inni, z walizkami i dziećmi? No cóż… Po drodze pomogliśmy nieść wielką walizkę starszej parze(?), bo pani taszczyła ją na plecach. Niestety nie było z nami nikogo na wózku inwalidzkim, więc nie dowiedzieliśmy się jak w praktyce zostałaby potraktowana taka osoba.

W pewnym momencie zbliżyliśmy się na tyle do stacji, że tory były oświetlone, a w końcu dotarliśmy do początku peronu . Tam znowu czekali na nas strażacy, nieco oślepiając nadchodzących latarkami. I pomagali wejść na peron – nieco wysoko było. Starszy pan od walizki wydawał pewne okrzyki gdy go windowali do góry. Ciężko stwierdzić, czy bardziej ból czy strach, ale szczęśliwie dotarł na górę. Na pocieszenie usłyszał, że super mu poszło.

W tym momencie przyszło nam docenić fakt, że nie pada i jest przyjemny, dość ciepły wieczór. Mogło być gorzej. Po chwili pracownik kolei zapowiedział, że za 20-25 min przyjedzie po nas pociąg z Poznania. Z jednej strony peronu, na który nas wysłano był pusty tor, po drugiej stronie zatrzymał się pociąg IC jadący w przeciwnym kierunku. Czemu na stacji, czemu drzwi były otwarte i czemu ludzie palili w drzwiach i tuż przy nich, co powodowało załączanie czujek dymu i interwencje konduktorki, żeby nie palili w drzwiach – nie wiem.

Mogłem za to zaobserwować przekazanie pisemnego rozkazu odjazdu dla tego pociągu. Co prawda prawie udało się niektórym pasażerom nie wsiąść, mimo zapowiedzi i działań drużyny konduktorskiej[5], ale w końcu wsiedli i odjechali. I tu zaczęliśmy spekulować, że ten pociąg odjechał, żeby nasz mógł wjechać. Bo zapowiadane 25 minut minęło dobre pół godziny temu…

I faktycznie po dłuższej chwili przyjechał! Dla ułatwienia został podstawiony na peronie obok, więc zapraszamy schodkami do tunelu i schodkami na peron w ramach dodatkowych atrakcji. Dodam, że od wypadku minęły ponad dwie godziny, było po północy.

Wsiedliśmy do podstawionego pociągu, dostaliśmy wodę i wafelka (tak, dopiero teraz…) i bez przeszkód dotarliśmy do Poznania, już o 1:10 byliśmy na miejscu. Pocieszający był tylko fakt, że pociąg, którym pierwotnie mieliśmy jechać też miał dotrzeć z godzinnym opóźnieniem (może ulec zmianie).

Aktualizuję listę potencjalnych trudności przy podróży koleją o konieczność posiadania zapasów jedzenia i picia na 2-3h, przygotowanie na nocne marsze po torach i wyposażenie na okoliczność oczekiwania 2h na zewnątrz. Wydawać by się mogło, że na kolei powinni mieć jakieś sensowne procedury na takie okoliczności, ale jednak komuś wysłanie ludzi z walizkami i dziećmi, torami, z wygodnego pociągu na otwarty peron, żeby tam czekali na pociąg wydało się dobrym pomysłem…

UPDATE: Dla jasności, z mojej strony to po prostu drobna niedogodność, przygoda i trochę rozrywki w stylu filmów Barei. Nawet przeszło mi przez myśl umieszczenie wpisu w kategorii rozrywka. Finalnie nikomu z pociągu nic się nie stało. Ale mam wrażenie, że całość można zorganizować znacznie lepiej, z punktu widzenia podróżnych.

[1] Łażenie po górach. Co dość istotne, mieliśmy plecaki i buty do łażenia po górach, więc byliśmy mobilni.
[2] Pierwotny planowy przyjazd na miejsce jakoś 1:20, wcześniejszy jakoś 22:30..
[3] Jechaliśmy w kilka osób, ale siedząc osobno – uroki kupna biletów w różnych terminach i na ostatnią chwilę.
[4] Stawiam na jakieś 300 m.
[5] Bez ironii, dobrze robili robotę, natomiast ludzie… chyba prościej byłoby ogarnąć grupę przedszkolaków nawet gdyby na peronie za darmo rozdawali lody.

Wybory – zmiany

Korzystając z okazji nadchodzącej drugiej tury wyborów prezydenckich pozwolę sobie na podsumowanie zmian, które bym wprowadził w wyborach, gdyby to zależało ode mnie.

Zniesienie ciszy wyborczej. To jest fikcja, bo działa tylko w polskiej jurysdykcji, a wymiana informacji obecnie jest globalna. Jest to fikcja, bo plakat nakłaniający do oddania głosu na kandydata powieszony dziś będzie legalny. A gdyby był powieszony dzień przed wyborami, w tym samym miejscu – już nie. Dodatkowo cisza wyborcza nie obejmuje nawoływania do uczestnictwa, a w pewnych sytuacjach jest ono praktycznie jednoznaczne z agitacją za kandydatem. Przykładowo, jeśli mamy trzech kandydatów w pierwszej turze, do drugiej wchodzi dwóch, a z badań wynika, że kandydaci trzeciego raczej popierają (powiedzmy w stosunku 1:3) jednego z tych, którzy weszli do drugiej tury. No i są na świecie kraje, które ciszy wyborczej nie mają, a demokracja funkcjonuje.

Głosowanie tylko w kraju. Sporo Polaków mieszka za granicą, często mając podwójne obywatelstwo, ale w kraju nie bywa, albo bywa rzadko i krótko. Podatków tu nie płacą, nie mieszkają, czemu mieliby mieć wpływ na politykę? Jeśli jednak zechcą głosować – nie ma problemu, mogą przyjechać i zagłosować na miejscu. Pewnie kontrowersyjne, ale jest trochę krajów na świecie, które właśnie tak podchodzą do sprawy. Przy okazji nieco obniży koszt organizacji wyborów. Oczywiście to tylko co do zasady, bo co z personelem dyplomatycznym, marynarzami itp.? Nie wiem, nie zastanawiałem się.

Dodanie osobnego kwadratu z podpisem „nie odpowiadał mi żaden z pozostałych wyborów” na kartach do głosowania i uwzględniania go normalnie w wynikach. Miałem notkę o tym jak nie głosować w wyborach i kiepsko się zestarzała. Wynoszenie kart z lokalu wyborczego bywa ścigane. W sumie nie wiem dlaczego, bo nie przysparza to pracy komisji wyborczej, a nawet zmniejsza jej ilość. Taki dodatkowy wybór dałby lepsze rozpoznanie intencji obecnie niegłosujących, oddających głosy nieważne itd. To się oczywiście nie wydarzy, bo byłoby przyznaniem, że obecny system jest ułomny i w praktyce nie reprezentuje wszystkich obywateli. I byłby w pewien sposób pokazaniem, że dla wielu wyboru nie ma lub jest on iluzoryczny.