Dziś nie będzie zbyt oryginalnie – inspiracją do tego tekstu jest wyrok Krajowej Izby Odwoławczej, o którym mówi cała zamówieniowa Polska (KIO 3342/25), a który dotyczy skutków użycia sztucznej inteligencji bez nadzoru. „Sprawa Exdrogu” dobitnie uświadamia uczestnikom rynku, czym może zaowocować nadmierna wiara w nowe technologie. Opisywać jej szerzej chyba nie ma potrzeby, wystarczy parę słów: wykonawca złożył wyjaśnienia rażąco niskiej ceny wygenerowane przez AI, która wymyśliła sobie interpretacje podatkowe i inne dane. To pozwoliło konkurencji zakwestionować ten dokument i doprowadzić do wyeliminowania firmy z postępowania.

Co gorsza dla wykonawcy, który posłużył się tym dokumentem, konsekwencją wyroku nie jest „zwykłe” odrzucenie oferty z powodu rażąco niskiej ceny, ale coś znacznie boleśniejszego – wykluczenie z postępowania z powodu wprowadzenia w błąd zamawiającego na podstawie art. 109 ust. 1 pkt 10 Pzp. Boleśniejszego, bo to wykluczenie nie jest jednorazowe – wykonawca musi liczyć się z tym, że taka sama sankcja będzie spotykać go przez kolejny rok w innych postępowaniach, w których zamawiający powołają się na tę przesłankę wykluczenia (w związku z art. 111 pkt 6 Pzp). Jeden błąd będzie ciągnął się za nim dość długo.

Gdy poruszałem na łamach „szponów” wątek AI po raz pierwszy (przed kilkoma miesiącami), wskazywałem, że to narzędzie może się przydawać w bardzo ograniczonym zakresie. Że zapytane o prawdziwe problemy plecie bzdury i myli tematy. Gdy chciałem jakiś czas później pójść na skróty i znaleźć za pomocą takiego narzędzia jakąś publikację potwierdzającą dość niekontrowersyjny pogląd ekonomiczny, przywołało istniejącą publikację NBP, ale wymyśliło sobie cytat z niej (potem mętnie tłumaczyło się dlaczego to zrobiło). Gdy ostatnio musiałem się zastanowić, kiedy tak naprawdę mógłbym AI użyć w zamówieniach, wyszło mi, że tylko do czynności pomocniczych.

Jedną z pierwszych reakcji na wchodzenie AI w codzienne życie jaką zapamiętałem, była znaleziona gdzieś w odmętach sieci konstatacja: marzyłoby się, aby technologia odciążyła nas w codziennych obowiązkach i dała więcej czasu na pasje, tworzenie itp., tymczasem technologia zabiera się za to ostatnie, a jakoś nie chce za nas posprzątać chałupy. W życiu zawodowym jest jednak ciut inaczej – to właśnie obowiązek i korci, aby pójść na skróty, ułatwić sobie życie, o ile to jest możliwe. Gdzie jednak tak naprawdę możemy w tym momencie z tego skorzystać? Cóż, pisząc ten tekst z żadnych podpowiedzi nie korzystam, co najwyżej po jego napisaniu i poprawieniu zaprezentuję go takiemu narzędziu i poproszę o wskazanie błędów językowych (jednak każdą uwagę przeczytam, a zignoruję z pewnością jakieś 80% z nich – te dotyczące nadmiernych kolokwializmów w tekście)¹.

Jako zamawiający wyobrażam sobie użycie AI tak naprawdę w dwóch momentach. Po pierwsze w przygotowaniu dokumentów zamówienia, ale nie na zasadzie „napisz mi” – co najwyżej poprzez podesłanie mu jakiegoś wzorca i prośbie o zaznaczenie tych elementów, które muszą w tym przypadku ulec zmianie. Ale i z tym trzeba ostrożnie – nigdy nie ma gwarancji, że znajdzie wszystkie elementy, i tak trzeba będzie samemu przejrzeć. Wykorzystanie wygenerowanego przez AI dokumentu (co na pewno na koniec zaproponuje) to już proszenie się o kłopoty.

Drugą opcją jest stworzenie zamkniętego modelu, który pomógłby w wyszukiwaniu tez z orzecznictwa. Trzeba nakarmić model orzeczeniami KIO, pozwolić mu je sobie zindeksować i prosić o wskazanie orzeczeń i cytatów dotyczących naszego tematu wyłącznie z tego zakresu, który od nas otrzymał. Być może da się tutaj ograniczyć jego skłonność do halucynacji, choć i tak wciąż wymagałoby to sprawdzenia sygnatura po sygnaturze. Kłopot tylko w tym, że UZP w tym roku zaprzestał publikacji orzeczeń KIO na serwerze FTP, a zatem taki zorganizowany dostęp do bazy orzeczeń, który mógłby pozwolić na nakarmienie tego lokalnego modelu, w zasadzie został odcięty (ściąganie wyroków jeden po drugim to mrówcza robota, którą może wykonywać zespół pracowników, ale nazbyt pracochłonna w warunkach niewielkiego zamawiającego). Trudno nie oprzeć się wrażeniu, że w ten sposób UZP mimowolnie zadziałało na korzyść firm, które żyją z podobnych podpowiedzi (żeby nie szukać daleko – chociażby tej firmy, z której wywodzi się obecny dyrektor Biura Odwołań UZP). Szkoda.

Po stronie wykonawcy to drugie rozwiązanie także może być przydatne. Ale czy w innych sytuacjach? Nie skalkuluje za nas oferty, nie zrobi analizy rynku, może znowu pomóc w drobiazgach, ale niespecjalnie więcej (o czym Exdrog przekonał się boleśnie na własnej skórze).

Czy tak będzie zawsze? Nie wiem. Trudno powiedzieć, czy AI zyska na tyle dużą wiarygodność, aby powierzyć jej poważne zadania, czy też nie będzie cały czas jak leniwy człowiek – zawsze będzie szukało dróg na skróty, kłamało. Czas pokaże.

1. Niedawno dostałem do akceptacji swój artykuł poddany redakcji przez wydawnictwo. Niestety, wszystko wskazuje na to, że redaktor wrzucił go w AI i wykorzystał opcję „jeśli chcesz, to wygeneruję ten tekst poprawiony”. I to już nie był mój tekst. Nie tędy droga… ↩︎