카테고리 & 태그
주제별로 글을 찾아보세요. 검색과 태그 필터를 함께 쓸 수 있습니다.
LLM 보안(3) - Agent·RAG·MCP 단계 방어
도구 호출과 RAG 컨텍스트, MCP 메타데이터로 들어오는 인젝션과 PII 누출을 어떤 시스템 통제로 흡수할지 정리합니다.
에이전트 피드백 루프 설계 패턴
멀티에이전트 시스템의 Micro-Meso-Macro 3중 피드백 루프 설계와 동적 가중치 조정
LangGraph 에이전트 오케스트레이션: StateGraph 기반 멀티에이전트 시스템 설계
LangGraph StateGraph 기반 멀티에이전트 오케스트레이션과 Durable Execution 설계
LLM Agent Survey: 에이전트 아키텍처 종합
LLM 에이전트의 구성, 협력, 진화를 다루는 Build-Collaborate-Evolve 프레임워크 소개
Test-Time Compute Scaling: 추론 시간 최적화
훈련이 아닌 추론 시점에서 더 많은 계산을 투입하여 성능을 끌어올리는 패러다임
DeepSeek-R1: 오픈소스 추론 모델
OpenAI o1과 유사한 성능을 달성한 오픈소스 모델. 특히 R1-Zero는 순수 강화학습만으로 추론 능력이 자동 출현
OpenAI o1: 내부 추론 토큰의 혁명
기존 모델과 달리 사고 과정을 노출하지 않고, 내부적으로 깊은 추론 후 결과만 출력하는 '생각하는' AI
RAG: 검색 강화 생성
LLM의 내부 지식만 사용하는 대신, 외부 데이터베이스에서 관련 정보를 검색하여 응답 생성에 활용하는 기법
MADKE: 지식 강화 다중 에이전트 토론
Multi-Agent Debate에 공유 지식 풀을 도입하여 토론 품질을 높이는 확장 기법
Multi-Agent Debate: 토론을 통한 집단 지성
여러 AI 에이전트가 서로 토론하며 문제를 해결하는 방식. 다양한 관점과 상호 검증으로 더 나은 답에 도달한다
LATS: 통합 에이전트 프레임워크
ToT, ReAct, Reflexion, MCTS를 통합한 에이전트 프레임워크
CRITIC: 외부 도구를 통한 검증
모델 자체 판단이 아닌, 외부 도구(검색, 코드 실행, 계산기)를 사용해 답변을 검증하고 개선하는 기법
Self-Refine: 반복적 자기 개선
같은 모델에게 피드백을 요청하고, 그 피드백을 바탕으로 답변을 반복 개선하는 기법
Reflexion: 실패로부터 배우는 에이전트
실패를 언어로 분석하고 메모리에 저장하여 같은 실수를 반복하지 않는 자기 개선 기법
ReAct: 추론과 행동의 결합
Reasoning + Acting - 생각한 후 도구를 사용하고, 결과를 관찰하는 순환 구조
Chain of Thought (CoT): 단계별 추론의 시작
Let's think step by step - 일부 대형 모델의 복잡한 추론 성능을 크게 높인 프롬프팅 기법
AI Agent 진화사: 2022-2025 발전 타임라인
Chain of Thought부터 OpenAI o1까지 - AI 에이전트의 주요 발전 타임라인 정리
Tree of Thought (ToT): 다중 경로 탐색
하나의 경로가 아닌 여러 경로를 동시에 탐색하여 최적의 해결책을 찾는 추론 기법