Kategoria: Inne

Opublikowane w

Dezinformacja

Dezinformacja to coś, co działa w różne strony. Dziś spotkałem się z dezinformacją wymierzoną przeciw Chinom. A w zasadzie chińskim pojazdom. Zaczęło się od social mediów i informacji:

A Norwegian bus company wants to know if their buses could be abused by China in the case of war.

So they drive two buses deep into a limestone mine to isolate them from the internet and forensically investigate how they work.

In the mine, investigators discover a Chinese kill switch which could destroy all Chinese buses.

No sensacja na miarę afery Newagu, który umieścił w oprogramowaniu blokadę wymierzoną przeciw innym serwisom, prawda?

Tylko, że niekoniecznie. Oryginalny, podlinkowany artykuł, w mało popularnym języku (pszypadek? nie sądzę) twierdzi bowiem rzeczy dokładnie odwrotne (Google Translate):

Na przykład, czy możliwe jest, aby chiński rząd uzyskał dostęp do licznych kamer w autobusach miejskich, gdyby pewnego dnia, w nie do pomyślenia przyszłości, chciał wykorzystać je do monitorowania na przykład Chińczyków w Norwegii? Tor Indstøy i jego zespół nie znajdują na to żadnych dowodów. I to jest pozytywne. Ale odkrywają coś jeszcze. Chiński autobus elektryczny zawiera komputer, który między innymi steruje akumulatorem i silnikiem autobusu, aby autobus mógł jak najefektywniej poruszać się po Oslo. Komputer ten – za pośrednictwem małej karty SIM – jest podłączony do internetu, dzięki czemu może wysyłać informacje, a czasami pobierać aktualizacje. Bo tak, autobus można aktualizować dokładnie tak samo, jak telefon. Śledczy doszli do następującego wniosku: taka aktualizacja umożliwia chińskiej firmie stworzenie funkcji, która całkowicie uniemożliwia jazdę autobusowi. Ponownie musimy wyobrazić sobie przyszłość, w której nasze relacje z Chinami będą bardziej napięte niż obecnie, a chiński rząd chce doprowadzić do upadku Oslo, blokując kilkaset autobusów miejskich na środku ulicy w godzinach szczytu. To prawdopodobnie się nie wydarzy. Ale może się wydarzyć.

Czyli nie znaleziono funkcji szpiegujących. Nie znaleziono – dokładnie odwrotnie, niż w przypadku afery Newagu – killswitcha umożliwiającego unieruchomienie sprzętu. To, co znaleziono, to jedynie łączność i możliwość pobierania aktualizacji. Typowe funkcjonalności.

Oczywiście, każda aktualizacja oprogramowania może całkowicie zmienić jego działanie. Czy to w sposób zamierzony, czy niezamierzony – w wyniku błędnej aktualizacji urządzenie może przestać działać. Ale czy o każdym pojeździe z łącznością poprzez kartę SIM i aktualizacją softu napiszemy, że ma killswitcha? Czy systemy Windows i macOS mają killswitcha? Android? iOS? W końcu czy killswitcha ma mój Debian, na którym zainstalowałem unattened-upgrades? Nie, nikt rozsądny tego w ten sposób nie nazwie.

Tymczasem lawina dezinformacji i antychińskiego FUD ruszyła i np. polskie (ale nie tylko) media krzyczą już nagłówkami w stylu Chińskie autobusy mogą być zdalnie sterowane. Szokujące wyniki testu czy Chińczycy mogli sterować autobusami w Danii? Te same pojazdy jeżdżą w Polsce. No i oczywiście po drodze już dorobiły się killswitchy.

Warto sprawdzać źródła[1], tym bardziej, jeśli w grę wchodzi lobbing, kontrakty na sprzęt i duże pieniądze.

I dla jasności, doceniam model zagrożeń, który przewidują Norwegowie. Uważam, że urządzenia (nie tylko pojazdy, instalacje fotowoltaiczne czy lodówki też mogą dać bardzo ciekawe efekty) generalnie nie powinny mieć dostępu do sieci, a użytkownik powinien mieć możliwość samodzielnego decydowania fakcie i czasie wykonywania aktualizacji. Czym może się skończyć aktualizacja w nieodpowiednim momencie – wiadomo.

Warto też zwracać uwagę na ile bliskie politycznie są firmy mające kontrolę nad urządzeniami. Bo czy np. Tesle w Europie mogą szpiegować kamerami? Czy mogą dostać oprogramowanie, które w określonych okolicznościach uniemożliwi otwarcie drzwi, zablokuje możliwość kierowania i rozpędzi pojazd do maksymalnej prędkości? Cytując artykuł: To prawdopodobnie się nie wydarzy. Ale może się wydarzyć.

[1] Tak, mam świadomość, że duński artykuł powstał na bazie norweskiego. Niestety, paywall.

Opublikowane w

LLMy nie kłamią

Sztuczna inteligencja, skrótowo zwana AI wciska się ostatnio wszędzie, czy sens jest, czy go nie ma. Tak naprawdę zaczęliśmy ostatnio określać tym mianem głównie LLMy, ale nie zawsze tak było. Ktoś pamięta takie rzeczy jak algorytmy genetyczne? Niemniej, obecnie jeśli ktoś mówi o AI, to najprawdopodobniej chodzi mu o LLM.

W każdym razie, jak bumerang w wypowiedziach powraca temat „uczłowieczania” AI. Często słyszymy zwrotu typu AI kłamie, AI się myli czy AI rozumie polecenia. Ostatnio spotkałem się z bardzo ciekawym moim zdaniem stanowiskiem, że LLMy nie mogą kłamać. Teraz pewnie wszyscy starają się przypomnieć sobie ostatni niezaprzeczalny dowód na kłamstwo LLMa. Jednak tak naprawdę chodzi o coś innego, niż błędna, niezgodna ze stanem faktycznym odpowiedź. Kwestia jest bardziej filozoficzna. Żeby kłamać, AI musiałoby wiedzieć, co jest prawdą i świadomie udzielić innej odpowiedzi. I podejście takie bardzo mi się podoba.

Tymczasem LLM nie wie, co to jest prawda, nie myśli, nie rozumie pytania. Na podstawie dostarczonych wcześniej danych, na których został wytrenowany, generuje tekst, który ma pasować do zadanego pytania. Czyli: weź wprowadzony tekst, przetwórz go na dane wejściowe, których umiesz używać. Następnie wygeneruj pasującą odpowiedź w swoich danych/języku, przetwórz ją na tekst. Tak w skrócie, bo jest jeszcze prompt, który – podobnie jak pytanie – jest danymi wejściowymi i potrafi wpływać na wynik. Ale znowu, nie w formie rozumienia go przez AI tak, jak my rozumiemy rozumienie. No i AI nie działa deterministycznie. Nawet, jeśli zwykle daje dość powtarzalne (najbardziej prawdopodobne) wyniki.

Łatwiej to wszystko chyba zrozumieć ludziom, którzy bawili się algorytmami genetycznymi czy łańcuchami Markowa tak z ćwierć wieku temu. A niestety odruchowo łatwo jest przypisywać cechy ludzkie czemuś, co zachowuje się podobnie do człowieka[1]. Nawet, jeśli zasada działania jest zupełnie inna.

Dlatego następnym razem, zamiast powiedzieć: LLM kłamie lepiej rzec LLM wygenerował odpowiedź, która nie ma pokrycia w rzeczywistości. Ale nie mam złudzeń, nikt tak mówić nie będzie. Lubimy uproszczenia.

[1] Pewnie nawet można pokusić się o twierdzenie, że mamy – jako gatunek – tendencję do zrównywania komunikacji z myśleniem czy inteligencją. Podobno często niesłyszący traktowani są jako upośledzeni intelektualnie. Przy LLMach byłoby odwrotnie: składa zdania, znaczy myśli.

Opublikowane w

PKP ewakuacja

W związku z drobną zmianą planów na firmowej integracji[1] okazało się, że raczej można wrócić wcześniejszym pociągiem. Trzy godziny różnicy to z jednej strony żaden dramat, szczególnie, jeśli pójdzie się coś zjeść, ale z drugiej strony po co lądować w domu po nocy[2]. Gdyby ktoś nie wiedział, to bilety IC można zmienić na inny termin, bezkosztowo. Wyzwaniem okazało się znalezienie miejsca i w zasadzie już odpuściłem, ale przy kolejnym sprawdzeniu jakieś jedno się pojawiło. Przebookowałem bilet i pojechaliśmy.

W pewnym momencie, raczej pod koniec podróży, bo w Jarocinie, pociąg stanął, a kumpel napisał, o 21:45 na komunikatorze[3], że chyba potrąciliśmy człowieka. Trochę pospekulowaliśmy czy może jednak awaria, bo pierwszy komunikat był dość enigmatyczny, a staliśmy dość blisko stacji. W końcu, po kwadransie podano informację, że miał miejsce wypadek z udziałem człowieka.

Czyli minimum trzy godziny opóźnienia. No ale jechał w moim wagonie terytorials. Gdzieś zniknął, a potem wrócił i obwieścił, że straż pożarna nas będzie ewakuować. Oczywiście skojarzyło mi się ze znaną pastą o Borach Tucholskich i terytorlialsach. No i wizja, że przyjeżdżają strażacy, w wozach, i kilkaset osób z pociągu przewożą na stację jakoś mi się nie kleiła. Nawet wykorzystanie ciężarówki wojskowej oznaczało wg mnie kilka-kilkanaście kursów. W międzyczasie sprawdziliśmy lokalny portal. Mieli artykuł o wypadku już pół godziny po fakcie.

Jednak strażacy przyjechali i zaczęli ewakuację pociągu. Przy drzwiach z przodu składu ustawili jakąś platformę i poinstruowano nas, żeby wychodzić, i że ze stacji pojedziemy innym pociągiem. Platforma składała się z solidnej podstawy, chybocącej się poręczy oraz ni to schodków, ni to drabinki na końcu. Nie było to dla nas wielkie wyzwanie, bo jak wspominam, wracaliśmy z gór. Rodziny z małymi dziećmi, starsi ludzie, posiadacze dużych walizek mogli być innego zdania, ale ponieważ wychodziliśmy jako jedni z ostatnich, nie dane mi było zaobserwować. Chyba nie było większych problemów, bo opuszczanie pociągu poszło sprawnie.

Obawy, że nie zmieścimy się w pojazdach okazały się bezpodstawne. Choć może w inny sposób niż myślałem. Nie było żadnych pojazdów. Po prostu wysłano nas kilkaset metrów[4] wzdłuż nieoświetlonych torów, po tłuczniu i podkładach. Górskie buty się przydały. Jak szli inni, z walizkami i dziećmi? No cóż… Po drodze pomogliśmy nieść wielką walizkę starszej parze(?), bo pani taszczyła ją na plecach. Niestety nie było z nami nikogo na wózku inwalidzkim, więc nie dowiedzieliśmy się jak w praktyce zostałaby potraktowana taka osoba.

W pewnym momencie zbliżyliśmy się na tyle do stacji, że tory były oświetlone, a w końcu dotarliśmy do początku peronu . Tam znowu czekali na nas strażacy, nieco oślepiając nadchodzących latarkami. I pomagali wejść na peron – nieco wysoko było. Starszy pan od walizki wydawał pewne okrzyki gdy go windowali do góry. Ciężko stwierdzić, czy bardziej ból czy strach, ale szczęśliwie dotarł na górę. Na pocieszenie usłyszał, że super mu poszło.

W tym momencie przyszło nam docenić fakt, że nie pada i jest przyjemny, dość ciepły wieczór. Mogło być gorzej. Po chwili pracownik kolei zapowiedział, że za 20-25 min przyjedzie po nas pociąg z Poznania. Z jednej strony peronu, na który nas wysłano był pusty tor, po drugiej stronie zatrzymał się pociąg IC jadący w przeciwnym kierunku. Czemu na stacji, czemu drzwi były otwarte i czemu ludzie palili w drzwiach i tuż przy nich, co powodowało załączanie czujek dymu i interwencje konduktorki, żeby nie palili w drzwiach – nie wiem.

Mogłem za to zaobserwować przekazanie pisemnego rozkazu odjazdu dla tego pociągu. Co prawda prawie udało się niektórym pasażerom nie wsiąść, mimo zapowiedzi i działań drużyny konduktorskiej[5], ale w końcu wsiedli i odjechali. I tu zaczęliśmy spekulować, że ten pociąg odjechał, żeby nasz mógł wjechać. Bo zapowiadane 25 minut minęło dobre pół godziny temu…

I faktycznie po dłuższej chwili przyjechał! Dla ułatwienia został podstawiony na peronie obok, więc zapraszamy schodkami do tunelu i schodkami na peron w ramach dodatkowych atrakcji. Dodam, że od wypadku minęły ponad dwie godziny, było po północy.

Wsiedliśmy do podstawionego pociągu, dostaliśmy wodę i wafelka (tak, dopiero teraz…) i bez przeszkód dotarliśmy do Poznania, już o 1:10 byliśmy na miejscu. Pocieszający był tylko fakt, że pociąg, którym pierwotnie mieliśmy jechać też miał dotrzeć z godzinnym opóźnieniem (może ulec zmianie).

Aktualizuję listę potencjalnych trudności przy podróży koleją o konieczność posiadania zapasów jedzenia i picia na 2-3h, przygotowanie na nocne marsze po torach i wyposażenie na okoliczność oczekiwania 2h na zewnątrz. Wydawać by się mogło, że na kolei powinni mieć jakieś sensowne procedury na takie okoliczności, ale jednak komuś wysłanie ludzi z walizkami i dziećmi, torami, z wygodnego pociągu na otwarty peron, żeby tam czekali na pociąg wydało się dobrym pomysłem…

UPDATE: Dla jasności, z mojej strony to po prostu drobna niedogodność, przygoda i trochę rozrywki w stylu filmów Barei. Nawet przeszło mi przez myśl umieszczenie wpisu w kategorii rozrywka. Finalnie nikomu z pociągu nic się nie stało. Ale mam wrażenie, że całość można zorganizować znacznie lepiej, z punktu widzenia podróżnych.

[1] Łażenie po górach. Co dość istotne, mieliśmy plecaki i buty do łażenia po górach, więc byliśmy mobilni.
[2] Pierwotny planowy przyjazd na miejsce jakoś 1:20, wcześniejszy jakoś 22:30..
[3] Jechaliśmy w kilka osób, ale siedząc osobno – uroki kupna biletów w różnych terminach i na ostatnią chwilę.
[4] Stawiam na jakieś 300 m.
[5] Bez ironii, dobrze robili robotę, natomiast ludzie… chyba prościej byłoby ogarnąć grupę przedszkolaków nawet gdyby na peronie za darmo rozdawali lody.