Co to są guardrails i które zabezpieczenia powinny działać w kodzie?
Uwaga do przejrzenia: Odpowiedź odwołuje się do CV lub oferty pracy autorki materiału — dostosuj ją do własnego doświadczenia.
Najpierw odpowiedz na głos lub w myślach, potem porównaj.
Odpowiedź
Guardrails to ograniczenia i kontrole mające pilnować, żeby system działał w ustalonych granicach. Część może polegać na ocenie modelu, ale rzeczy takie jak uprawnienia, dozwolone adresy, maksymalna kwota i poprawne argumenty powinien egzekwować kod.
Przykład: model proponuje zwrot pieniędzy. Backend sam sprawdza prawo użytkownika i limit zwrotu. Nie przyznaje ich tylko dlatego, że model napisał „zatwierdzone”. Zabezpieczenia trzeba też testować, bo nadmierne blokowanie utrudnia pracę. Kolejny model może pomóc wykrywać niejasne ryzyka, lecz również się myli. Ważne jest ograniczenie możliwości działania nawet wtedy, gdy taka ocena zawiedzie.
Dlaczego to ważne: Tłumaczy ważną nazwę z oferty przez konkretną odpowiedzialność.
Możliwe dopytania: Co blokuje akcję przed jej wykonaniem, a co tylko wykrywa problem później?
Jak poszło? Bądź szczery — „Jeszcze nie” dodaje pytanie do powtórki.
Zacznij od
- H-P01 · Czym agent AI różni się od zwykłego wywołania modelu? — Agenci i workflow
- H-P02 · Co to jest workflow, czyli ustalony przebieg pracy? — Agenci i workflow
Dalsza lektura
- OWASP: LLM Prompt Injection Prevention Cheat Sheet(otwiera się w nowej karcie)Docs; dostęp 22.10.2026. Threat model, niezaufane treści, kontrola narzędzi i obrona warstwowa.