Agenci AI i boty

Tool use, nie prompt engineering

Większość projektów „agentowych" które widzimy w praktyce to opasłe prompty wciskane w GPT i nadzieja, że coś wyjdzie. Nasza praca zaczyna się od projektu narzędzi: co agent może wywołać, jakimi argumentami, jakie są ograniczenia, co zwraca. To zwykła specyfikacja funkcji — tyle, że jej użytkownikiem jest model językowy.

Pracujemy głównie na Claude (Anthropic) ze względu na jakość tool use i przewidywalność. Tam gdzie potrzebny jest tańszy szybki model — GPT-4o-mini lub własne deployment open-source na Modal/Replicate.

Pamięć, stan i guardrails

Agent bez pamięci jest losowy. Implementujemy trzy warstwy stanu: short-term (kontekst zadania, w prompcie), working memory (Redis, kasowana między sesjami) i long-term (Postgres + wektorowe wyszukiwanie, persistentne).

Guardrails są kluczowe. Każdy agent ma listę dozwolonych narzędzi, listę dozwolonych domen, limit kosztu na zadanie, limit czasu, i human-in-the-loop checkpointy dla akcji wysokiego ryzyka. Bez tego pierwszy bad call zamienia 200 USD/dzień w 20 000 USD/dzień.

Ewaluacja, nie wiara

Każdy agent który wchodzi na produkcję ma reprezentatywny zbiór ewaluacyjny: 50–500 przypadków, ręcznie zoceniona prawda terenowa, metryki sukcesu zdefiniowane z klientem. Zmiana promptu, modelu, czy narzędzia musi przejść ewaluację zanim wejdzie. To jest standard inżynierski, nie luksus.

Co dostajesz

• Produkcyjny agent AI z tool use i pamięcią
• Definicje narzędzi i kontrakty wywołań
• System guardrails: limity, dozwolone akcje, human-in-the-loop
• Zbiór ewaluacyjny i metryki sukcesu
• Dashboard obserwacyjny: koszt per zadanie, success rate, czas
• Dokumentacja: prompt, narzędzia, ograniczenia

Stack