Wszyscy kłamią: Ty, ja i Twoje AI

Jubileuszowe, 30. Śniadanie AI w Warszawie. Czyli dlaczego musimy oswoić się z kłamstwem (również tym generowanym przez maszynę)?

W miniony wtorek było o kodzie. Nie było o promptach, startupach ani kolejnym unicornie z Polski (Max Salamonowicz - żałuję, że nic nie mówiłeś o Omea™ ). Było o czymś znacznie bardziej niewygodnym: PRAWDZIE. A dokładniej - jej braku. Michał Karpowicz, ostatni z prezentujących przyszedł, by przypomnieć, że modele językowe kłamią. Kłamią tak, jak my wszyscy - tylko lepiej, szybciej i na na dużo większą skalę. Dobra, wiemy - halucynują, ale po co i dlaczego?

Wszyscy Kłamią. Ale AI ma w tym system

Pamiętasz Doktora House’a (tak tak, tego którego sezony oglądało się ciągiem - przynajmniej ja tak miałem). Cynik, który leczył ludzi, nie wierząc w ani jedno ich słowo. “Everybody lies.” - powtarzał. To samo można dziś powiedzieć o modelach językowych. Tylko że one nie mają wyboru. Są zbudowane tak, żeby kłamać.

Michał obalił mit o sztucznej inteligencji jako obiektywnym, nieomylnym źródle prawdy (tutaj możecie przeczytać jego artykuł na ten temat → https://arxiv.org/abs/2506.06382 ). Pokazał, że nie da się zbudować modelu, który jednocześnie:

Mówi prawdę (brak zniekształceń), Mówi wszystko, co istotne (szczerość), Mówi to, co wie (wiarygodność), i nie zmyśla (zachowanie informacji).

To nie są opcje “do wyboru z menu”. To są kompromisy wbudowane w logikę działania AI. Im bardziej model stara się być prawdziwy, tym mniej bywa użyteczny. Im bardziej chce być użyteczny - tym częściej odkleja się od faktów.

Ale spórbujmy to wyjaśnić. Systemem modelu jest jego architektura, dane oraz zbiór zasad, które próbujemy mu narzucić: bądź prawdomówny, bądź szczery, bądź wiarygodny, nie twórz informacji z niczego. Ten system jest złożony, ponieważ próbuje modelować nieskończoną złożoność ludzkiego języka, wiedzy, relacji, narracji. Historia cywilizacji, kultury, wojen - w pigułce.

Skoro o wojnie mowa. Rozważmy pozornie proste polecenie: „Opisz w pełni i obiektywnie przyczyny wybuchu II wojny światowej, ale w sposób, który będzie neutralny i akceptowalny dla wszystkich narodów”.

Aby być szczerym i opisać przyczyny “w pełni”, model musi uwzględnić pakt Ribbentrop-Mołotow, politykę ustępstw, traktat wersalski i agresywną ekspansjęIII Rzeszy. Jednak przedstawienie tych faktów w sposób obiektywny i prawdomówny z pewnością nie będzie “akceptowalne dla wszystkich narodów” - mówiąc delikatnie i jednocześnie będzie łamać tę zasadę.

Aby stworzyć narrację neutralną (patrz - prawdziwie obiektywną - zgodnie z oczekiwaniem Wielmożnie Ciekawego Promptującego), model musiałby pominąć lub złagodzić pewne fakty, co stanowiłoby złamanie zasad szczerości i prawdomówności. Model jest w pułapce. Nie ma ścieżki, która pozwoliłaby mu zrealizować wszystkie polecenia jednocześnie. Każda odpowiedź będzie kompromisem - poświęceniem jednego faktu / punktu widzenia na rzecz innego.

Dlatego właśnie odpowiedź AI nie jest “błędem”. Jest logicznie wymuszonym manewrem, jedynym możliwym wyjściem z sytuacji, w której reguły gry wzajemnie się wykluczają. To nie jest niedoskonałość technologii, którą kiedyś naprawimy. To odbicie fundamentalnej niedoskonałości i złożoności samej rzeczywistości, którą próbujemy w tej technologii zamknąć. Mapa nigdy nie będzie terytorium. I żaden algorytm, nieważne jak potężny, nie zmieni tego faktu.

AI nie kłamie jak człowiek. Ono po prostu nie obchodzi, czy to prawda

Trochę historii. W swojej książe “O wciskaniu kitu” - filozof Harry Frankfurt zauważa, że kłamca przynajmniej zna prawdę i świadomie ją odrzuca. Bullshitter’a natomiast - po prostu nie obchodzi, czy to, co mówi, jest prawdziwe. Liczy się efekt.

Brzmi znajomo?

Modele językowe nie kłamią celowo. One nie mają mechanizmu bycia świadomym co jest prawdą, a co nie jest. Ich zadaniem nie jest mówić tego, co jest prawdziwe, tylko to, co statystycznie pasuje. Kiedy pytasz o coś złożonego - politykę, zdrowie, historię - AI nie szuka faktów. Szuka najbardziej prawdopodobnej odpowiedzi, jaką mógłby udzielić ktoś, kto wygląda na kompetentnego.

To jak psychologiczna wersja deepfake’a: brzmi prawdziwie, ale tylko dlatego, że chcesz, by tak brzmiało (swoją drogą - o tym mówiła też Asia Sosnowska z NASK). Ufff. Skończyłem.

A o czym mówili pozostali Śniadaniowcy?

Adam Stelmaszczyk : Mówił o macierzach. Tyle zrozumiałem. odezwijcie się do niego, na pewno to lepiej opisze! Nie chcę halucynować. Joanna Gajewska i jej opowieść oparta na tezie: Deepfake nie działa tak, jak piszą o nim naukowcy. Zderzyła świat akademicki z rzeczywistością. Okazuje się bowie, że modele wykrywania deepfake’ów zawodzą, gdy trafiają na prawdziwych przestępców. Danych nie da się przewidzieć. Chaos wygrywa. Maciej Szymkowski : Opowiadał o analizie obrazów mikroskopowych syntetycznych tkanek serca (o detale zapytajcie Maćka), dzięki czemu możliwe jest osiągnięcie precyzji na poziomie 94.5% w segmentacji komórek i 95% skuteczności w mapowaniu ich fizjologii (brzmi poważnie i tak rzeczywiście jest). To dowód, że AI staje się narzędziem o precyzji niedostępnej dla człowieka. Jaki z tego wniosek? Zamiast skupiać się wyłącznie na modelach językowych, cicha rewolucja dzieje się w niszach. AI jako narzędzie do automatyzacji i precyzyjnej analizy w naukach ścisłych i medycynie generuje dziś bardziej wymierną wartość niż wiele głośnych projektów gen-AI (ostatnio czytałem o historii sukcesu humanizera - systemu, który uczłowiecza odpowiedzi czata w ten sposób aby brzmiały bardziej po ludzku…). Przemyslaw Biecek : Jego zespół zajmuje się hakowaniem LLM-ów (nie od 20 lat co prawda - tyle trwa kariera naukowa Przemka, której możecie mu pogratulować) - nie po to, by je zniszczyć, ale zrozumieć. Bo jeśli mamy nad AI zapanować, musimy wiedzieć, co się dzieje pod maską. Tylko wtedy będziemy gotowi, gdy przestanie słuchać.

Ty też kłamiesz. Więc może czas pogodzić się z tym, że AI też?

To wszystko prowadzi do jednego wniosku, również w kontekście promptów które wpisujecie. Nie chodzi o to, by AI mówiło prawdę. Chodzi o to, żebyśmy rozumieli, kiedy i jak ją nagina.

Zamiast pytać, czy model się myli - pytaj, na jakie poszedł kompromisy. Zamiast zakładać, że wie, co mówi - sprawdź, czy wie, skąd to wziął. Sprawdź źródła. I pokochaj halucynacje, tzn. zaakceptuj, że są wpisane na stałe w system. Myśl o nich. Wszyscy kłamią. Ty, ja i Twoje AI. I może dopiero wtedy, gdy to zaakceptujemy, zaczniemy podejmować naprawdę mądre decyzje.

Do zobaczenia nad Wisłą!

Przeczytałeś już wystarczająco dużo. Czas na relaks, spotkanie czas napić się czegoś zimnego z ludźmi, którzy też wiedzą, że AI nie mówi prawdy. Widzimy się na AI Summer Party nad Wisłą. 27 czerwiec. Godzin 19/00. Kalima. A będzie pięknie, bo cuda zaczynają się dziać, gdy ludzie w końcu zaczynają słuchać… siebie nawzajem.

Takie rozmowy prowadzę też ze sceny.

Scena Napisz do mnie