카테고리 & 태그

LLM 응답을 사용자에게 돌려주기 전에 한 번 더 거르고, 관측 트레이스에 PII가 쌓이지 않게 하며, GDPR/PIPA 삭제권을 cascade delete로 흡수하는 마무리 단계를 정리합니다.

외부 LLM 트래픽을 LiteLLM Proxy·Cloudflare AI Gateway·Portkey로 한 곳에 모으고, zero-retention 계약과 audit log 위에 정규식 차단을 마지막 안전망으로 얹는 구조를 정리합니다.

도구 호출과 RAG 컨텍스트, MCP 메타데이터로 들어오는 인젝션과 PII 누출을 어떤 시스템 통제로 흡수할지 정리합니다.

사용자 입력에 섞인 PII를 외부 LLM에 보내기 전에 가리고, 응답에서 다시 원래대로 되돌리는 입력단 방어 패턴을 정리합니다.

외부 LLM API와 Agent를 운영할 때 개인정보가 어디서 새는지 사고 모델로 정리하고, 4등급 데이터 분류로 송신 경로를 결정하는 방법을 다룹니다.