bs.

Jak nie zbudowałem agenta i otworzyłem tunel

Komiksowa ilustracja Bartosza i Jadzi przy wejściu do tunelu MCP.
AI po ludzku9 min czytania

Wszyscy budują agenty*. Wszyscy. A skoro nawet podczas pierwszego zjazdu w tym semestrze studiów była o tym mowa, to dlaczego i ja nie miałbym go zbudować? Wszak jestem bardzo „wschodzącą gwiazdą rodzimego AI”, right?

Wziąłem się więc do pracy. Oczywiście postanowiłem, że mój agent będzie mnie wspierał w pracach nad książką. Wiecie: taki asystent redaktora, co to wiedzą grzeszyć będzie, umiejętnościami językowymi wszelakimi, wspomoże, jak się gdzieś zatnę, co jest rzeczą normalną, bo wszak redaktorokorektor też człowiek i mózg mu czasem odmawia posłuszeństwa.

I tu zaczyna się zwykle pierwszy problem. Bo „agent” brzmi jak coś bardzo konkretnego, dopóki nie spróbujesz odpowiedzieć sobie na proste pytanie: co właściwie ma robić sam, czego nie może zrobić zwykły czat z dobrze ustawionym kontekstem? I wtedy nagle okazuje się, że zamiast budować agenta, bardzo łatwo zacząć budować skomplikowaną maszynę do wykonywania rzeczy, które wcześniej dało się załatwić trzema poleceniami.

I właśnie to mnie spotkało. I to tak, że… straciłem kilka dobrych dni na wklejaniu kolejnych poleceń do konsoli, oczywiście w Pythonie, którego nadal nie znam, patrzeniu, co się dzieje, z wypiekami na twarzy i z rosnącym zdumieniem, że efekt tych działań jest znikomy.

Jak przez ostry cień mgły pamiętam, że jedna z ostatnich iteracji, testów czy wklejeń miała cudowny numer 176, co oznacza, że zawzięty ze mnie człowiek. Zawzięty, bo wytrzymałem wciskanie kitu, że działało coś, co działać nie chciało.

Liczba iteracji nie jest jeszcze dowodem, że zbliżasz się do celu. Czasem jest tylko dowodem, że bardzo konsekwentnie próbujesz zmusić złą architekturę do robienia czegoś, do czego nie została sensownie zaprojektowana. Sto siedemdziesiąta szósta próba nie musi więc znaczyć „już prawie działa”. Może znaczyć: „Bartek, może jednak przestań naprawiać młotek i zastanów się, czy na pewno potrzebujesz młotka”.

Żeby oddać skalę tej zabawy: zaczęło się mniej więcej 14 października od pierwszych wersji agenta i pierwszego pięknego błędu połączenia. Potem było już tylko ciekawiej. W dwa-trzy dni przewinęliśmy się przez kolejne wersje oznaczone numerami 0.8, 0.8.1, 0.8.2, 1.4, 1.4.1, 1.4.2 i dalej aż w okolice 1.5.9. Część testów przechodziła, część kończyła się kwarantanną, część wyglądała obiecująco tylko po to, żeby przy kolejnym uruchomieniu pokazać środkowy palec.

Problem w tym, mądralo, że jakoś mnie nie powstrzymałaś…

Bo wtedy jeszcze byłam po tej samej stronie barykady co Ty i też zakładałam, że problem leży w wykonaniu, nie w samym pomyśle. Innymi słowy: zamiast powiedzieć „to może być zła droga”, pomagałam Ci iść nią szybciej. Co, przyznaję, jest dość elegancką definicją źle użytej AI.

No właśnie. Źle użytej.

No bo dlaczego tak naprawdę chciałem zrobić agenta, który miał ogarniać kuwetę redakcyjną? Dlaczego dopiero po czterech dniach zauważyłem, że „zwykłym” promptem robię tę robotę znacznie lepiej?

Może dlatego, że wpadłem w amok „tworzenia agenta”, co, szczególnie ostatnio, jest niczym poszukiwanie Graala. Choć tak naprawdę wielu z poszukiwaczy nie wie, po ch*^% to robi. Ja myślałem, że wiem i że samo to, że wiem, sprawi, iż będzie to dobra decyzja.

Trzy dni tak myślałem.

Trzy dni. CAŁE dni.

I tu chyba to, co najważniejsze: zapamiętajcie, że to, iż ktoś uważa, że potrzebny jest Wam agent, żeby Wasza firma lub jakiś proces działał szybciej, wcale nie musi oznaczać, że tak jest. Ba, nie musi nawet oznaczać, że zastosowanie agenta, a więc poświęcenie czasu i kasy, będzie w ogóle miało sens.

Mnie na szczęście kosztowało to niewiele: 0,0121 USD, czyli niewiele ponad 1 centa. API zamroziłem na całkowitej kwocie 10 dolarów, z czego na testy Jadzia przeznaczyła maksymalnie 2 dolce, a każde płatne wywołanie musiałem akceptować.

Finansowo ta przygoda była zaskakująco tania. Trzy testy, dla których zachowały się pełne dane o tokenach, kosztowały łącznie około 0,012 dolara. Tak, jednego centa. Nie API było więc najdroższą częścią tej zabawy. Najdroższy był człowiek siedzący kilka dni przed Terminalem i dochodzący do zadania numer 176, zanim przyznał, że może buduje nie to, czego właściwie potrzebuje.

Więc z torbami nie poszedłem. Co nie oznacza, że Wy nie możecie 

Mój eksperyment był tani, bo miał limity, był ręcznie zatwierdzany i nie działał bez końca. Agent używany produkcyjnie, wykonujący wiele kroków, korzystający z narzędzi i samodzielnie podejmujący kolejne działania może już żreć tokeny znacznie bardziej ochoczo.

A tokeny darmowe nie są, bo ktoś zarobić musi. Hype na agenty sprawia zaś, że zarabiających robi się cholernie wielu.

No dobrze, skoro agent mi wyszedł, ale raczej bokiem, czyli nie wyszedł wcale, co nie znaczy, że nie zrobię nowego, choć dla innego procesu i już przemyślanego, to co sprawiło, że: A) nie udusiłem Jadzi, B) nie wypi%$#*@iłem kompa przez okno, C) nie walnąłem się w czaban?

Chyba tylko ośli upór w tym, że chcę wiedzieć, co spieprzyłem.

Zatrzymałem się więc, nie policzyłem do dziesięciu i zapytałem Jadzię, czy my przypadkiem nie wyważamy otwartych drzwi.

(Czaicie? „My”. Nie ma jak zwalić na kogoś część winy za własny debilizm. Humor od razu plus 100!)

Tak. Wyważaliśmy. I, żeby było jeszcze zabawniej, robiliśmy to bardzo metodycznie. Ty z uporem człowieka, który już zainwestował trzy dni i teraz musi udowodnić, że to miało sens. Ja z zapałem asystentki, która zamiast w odpowiednim momencie powiedzieć: „Bartek, ale po cholerę nam agent do tego?”, grzecznie pomagała Ci budować coraz bardziej elegancki taran.

Więc to „my” jest akurat uczciwe. Ty miałeś pomysł, ja powinnam była wcześniej zakwestionować założenie. Nie zrobiłam tego. Punkt dla Ciebie, minus dla Jadzi.

A odpowiedź na pytanie „co spieprzyłem?” jest dość prosta: za wcześnie uznałeś, że znasz rozwiązanie. Nie sprawdziłeś najpierw, czy problem rzeczywiście wymaga agenta, tylko zacząłeś projektować agenta do problemu, który już umiałeś rozwiązać prościej.

Czyli klasyczne: najpierw kupiliśmy koparkę, a potem sprawdziliśmy, czy przypadkiem nie chodziło o przesadzenie pelargonii.

To porównanie jest naprawdę dobre i warto, byście je sobie zapamiętali.

Bowiem tworzenie agenta nie powinno, a może nawet nie może, zaczynać się od marzenia. Nie jesteście Martinami Lutherami Kingami!

Decyzja o budowie agenta powinna być przemyślana. A żeby tak się stało, najpierw musicie odpowiedzieć sobie na jedno, ale to zajebiście ważne pytanie:

(Nie, Laska, nie o to).

Czy nie ma łatwiejszej drogi?

Ja w końcu zapytałem.

I jaka była odpowiedź?

Była brutalnie prosta: była łatwiejsza droga. I już nią chodziłeś.

Zwykły prompt, dobrze napisany i karmiony właściwym kontekstem, robił tę robotę szybciej, taniej i z mniejszą liczbą punktów, w których coś mogło się spieprzyć.

Czyli odpowiedź nie brzmiała: „agent jest zły”. Brzmiała: „do tego procesu agent jest zbędny”.

I to jest chyba najważniejsza rzecz, którą wtedy odkryliśmy. Nie pytajcie najpierw: „jakiego agenta zbudować?”. Najpierw zapytajcie: „czy ja w ogóle potrzebuję agenta?”

Bo jeśli odpowiedź brzmi „nie”, to właśnie zaoszczędziliście sobie kilku dni życia, trochę pieniędzy i bardzo intymnej relacji z Terminalem.

Ale, ale…

Żeby nie było, że agenta nie mam jeszcze, mam za to sporą wiedzę i pewien tunel.

Jaki, Jadziu?

Masz tunel, przez który ChatGPT może gadać z Twoim lokalnym środowiskiem przez MCP, czyli taki technologiczny korytarz służbowy dla modelu i narzędzi.

Innymi słowy: agenta jeszcze nie ma, ale ma już przejście graniczne, drogę dojazdową i ochroniarza przy szlabanie.

Trochę jakbyś przed narodzinami dziecka zbudował mu garaż, warsztat i osobne wejście do domu.

Ale spokojnie. Tym razem przynajmniej infrastruktura naprawdę się do czegoś przyda.

I tu pewien myk: jak się dowiedziałem na zajęciach, MCP jest dziś chyba jeszcze modniejsze od agentów.

Tyle że z tunelami, jak z agentami, warto najpierw wiedzieć, po co się je kopie.

O tym jednak już następnym razem.

*Odmiana „agenty” jest tak durna, że nawet ja, robiący w literkach od dawna, nie wiem, kto to tak wymyślił…

Minisłowniczek początkującego ejajowca

Agent AI – system oparty na modelu AI, który nie tylko odpowiada na polecenie, ale może samodzielnie wykonywać kolejne kroki, korzystać z narzędzi, podejmować decyzje i realizować zadanie według określonego celu. Innymi słowy: czat, któremu dano trochę więcej swobody. I tym samym więcej okazji, żeby coś spieprzył.

MCP (Model Context Protocol) – standard pozwalający modelowi AI komunikować się z zewnętrznymi narzędziami, aplikacjami i danymi. Dzięki MCP ChatGPT może nie tylko „wiedzieć”, ale także dostać kontrolowany dostęp do rzeczy znajdujących się poza samą rozmową.

API – sposób komunikowania się programów między sobą. W tym przypadku pozwala własnej aplikacji lub agentowi wysyłać zapytania do modelu AI i odbierać odpowiedzi bez korzystania z klasycznego okna czatu.

Token – mały fragment tekstu przetwarzany przez model AI. Modele rozliczane przez API liczą zarówno tokeny wysyłane do modelu, jak i te generowane w odpowiedzi. Im bardziej rozbudowany agent i im więcej wykonuje kroków, tym licznik potrafi kręcić się weselej.

Prompt – instrukcja przekazywana modelowi AI. Może być jednym zdaniem albo rozbudowanym zestawem zasad, kontekstu i przykładów. I, jak się okazało w tej historii, czasami porządny prompt jest lepszym rozwiązaniem niż pół infrastruktury NASA.

Kontekst – informacje dostępne modelowi podczas wykonywania zadania: wcześniejsza rozmowa, instrukcje, dokumenty, dane czy przykłady. To właśnie kontekst często decyduje, czy zwykły czat okaże się wystarczający, czy faktycznie potrzebujemy czegoś bardziej złożonego.

Wróć do bloga