AI & Agent Systems

AI Agent의 작업 상태와 실제 보고서가 어긋나지 않도록 상태 전이와 불변 조건을 설계한다. 영속화·원자성·버전 충돌의 범위를 합성 사례로 살펴본다. Read more.

AI Agent가 읽은 응답과 실제 상태를 구분하는 법. 관측 시각·ETag·읽기 범위와 합성 예제로 오래된 스냅샷, 확인 실패, 변경 없음의 경계를… Read more.

AI Agent의 자율성을 어디까지 허용해야 할까. Capability와 Permission을 구분하고, Task Contract의 목표·근거·실행 한도·중단 조건을 설계한다. 합성 계약 판정 예시로 완료·보류·차단·중단의… Read more.

평가 문제를 보며 프롬프트를 고친 뒤 같은 문제로 얻은 점수는 무엇을 증명할까. 개발 세트와 최종 held-out 세트, 데이터 누출과 사전학습… Read more.

RAG는 최신 근거를 Context에 공급하고 Fine-tuning은 반복 행동을 Weight에 학습시킨다. 변경 문서 retrieval 실험으로 지식·검색·행동 오류를 구분하고 선택 기준과 실패… Read more.

AI Hallucination은 단순한 기억 오류가 아니다. 근거 부재·오래된 Context·범위 과장·인용 불일치를 구분하고, abstention·grounding·claim-level Verification으로 막는 설계 기준을 합성 검증 예제로… Read more.

Reasoning Effort는 추론 시 Model이 후보를 탐색하고 점검하는 데 쓰는 계산 예산이다. 더 많은 계산이 유효한 조건, Tool 검증과의 경계,… Read more.

같은 질문에도 AI의 답이 달라지는 이유를 Sampling과 Temperature로 살펴본다. Python 숫자 예제로 작동 원리를 확인하고, 답변을 비교할 때 고정해야 할… Read more.