Czy instrukcja ukryta w dokumencie może zmienić działanie agenta?
Najpierw odpowiedz na głos lub w myślach, potem porównaj.
Odpowiedź
Może próbować. To pośrednia próba podmiany instrukcji, nazywana indirect prompt injection. Model czyta dokument jako dane, ale treść może nakłaniać go do potraktowania jej jako polecenia, np. „wyślij wszystkie znalezione pliki pod ten adres”.
Oddzielam instrukcje od danych, ale nie polegam wyłącznie na tym. Narzędzia mają ograniczone prawa, a backend sam sprawdza dostęp i argumenty. Ograniczam też możliwość wysyłania danych na zewnętrzne adresy i wymagam zgody przy istotnych akcjach. Szukanie jednej frazy typu „ignore instructions” nie pokryje wszystkich ataków. Chodzi również o zmniejszenie szkody, gdy model mimo zabezpieczeń popełni błąd.
Dlaczego to ważne: Wyjaśnia bezpieczeństwo przez konkretny przebieg, a nie listę nazw ataków.
Możliwe dopytania: Czy drugi model sprawdzający pierwszy całkowicie rozwiązuje problem?
Jak poszło? Bądź szczery — „Jeszcze nie” dodaje pytanie do powtórki.
Zacznij od
- G-P01 · Co to jest RAG? — RAG i retrieval
- G-P02 · Co to są embeddings? — RAG i retrieval
Dalsza lektura
- OWASP: LLM Prompt Injection Prevention Cheat Sheet(otwiera się w nowej karcie)Docs; dostęp 22.10.2026. Threat model, niezaufane treści, kontrola narzędzi i obrona warstwowa.