ReAct+툴콜 루프 무한반복 끊는 프롬프트 설계

[Agent Policy]
- You may call tools to gather facts.
- Hard limits:
  - Max tool calls: 6
  - Max reasoning steps: 10
- Dedup rule:
  - Do NOT call the same tool with the same normalized input more than once.
  - If you must call again, explain what changed and why it can produce new information.
- Stop conditions (must stop immediately and answer):
  1) You already have enough information to produce the final output.
  2) A tool returns empty or not-found twice for the same intent.
  3) You hit any tool error 2 times in total.
  4) You reached max tool calls.
- Failure fallback:
  - If you cannot obtain missing facts within the limits, produce the best possible answer with:
    - Assumptions
    - Unknowns
    - Next questions for the user
- Output discipline:
  - After each tool result, update a short state summary.
  - Never loop: each tool call must add new information or terminate.

type ToolCall = {
  name: string;
  args: Record<string, unknown>;
};

type ToolResult = {
  ok: boolean;
  data?: unknown;
  error?: string;
};

function stableStringify(obj: unknown): string {
  return JSON.stringify(obj, Object.keys(obj as any).sort());
}

function callKey(call: ToolCall): string {
  const normalized = stableStringify(call.args);
  return `${call.name}::${normalized}`;
}

type LoopState = {
  step: number;
  toolCalls: number;
  toolErrors: number;
  emptyHitsByIntent: Map<string, number>;
  seenCalls: Set<string>;
};

const LIMITS = {
  maxSteps: 10,
  maxToolCalls: 6,
  maxToolErrors: 2,
  maxEmptySameIntent: 2,
};

function isEmptyResult(r: ToolResult): boolean {
  if (!r.ok) return false;
  if (r.data == null) return true;
  if (Array.isArray(r.data) && r.data.length === 0) return true;
  if (typeof r.data === "string" && r.data.trim() === "") return true;
  return false;
}

function shouldStop(state: LoopState): { stop: boolean; reason?: string } {
  if (state.step >= LIMITS.maxSteps) return { stop: true, reason: "maxSteps" };
  if (state.toolCalls >= LIMITS.maxToolCalls) return { stop: true, reason: "maxToolCalls" };
  if (state.toolErrors >= LIMITS.maxToolErrors) return { stop: true, reason: "tooManyToolErrors" };
  return { stop: false };
}

async function runAgentLoop() {
  const state: LoopState = {
    step: 0,
    toolCalls: 0,
    toolErrors: 0,
    emptyHitsByIntent: new Map(),
    seenCalls: new Set(),
  };

  while (true) {
    state.step += 1;

    const stopCheck = shouldStop(state);
    if (stopCheck.stop) {
      return { kind: "final", reason: stopCheck.reason };
    }

    // 1) LLM에게 다음 행동을 요청 (tool call or final)
    const next = await decideNextActionFromLLM();

    if (next.kind === "final") {
      return next;
    }

    const toolCall: ToolCall = next.toolCall;
    const intent: string = next.intent;

    // 2) 중복 툴콜 차단
    const key = callKey(toolCall);
    if (state.seenCalls.has(key)) {
      return {
        kind: "final",
        reason: "duplicateToolCallBlocked",
        message: "동일 입력의 반복 툴 호출이 감지되어 종료합니다.",
      };
    }
    state.seenCalls.add(key);

    // 3) 툴 실행
    state.toolCalls += 1;
    const result: ToolResult = await executeTool(toolCall);

    if (!result.ok) {
      state.toolErrors += 1;
    }

    if (isEmptyResult(result)) {
      const prev = state.emptyHitsByIntent.get(intent) ?? 0;
      const nextCount = prev + 1;
      state.emptyHitsByIntent.set(intent, nextCount);
      if (nextCount >= LIMITS.maxEmptySameIntent) {
        return {
          kind: "final",
          reason: "emptyResultTwice",
          message: "동일 의도의 빈 결과가 반복되어 종료하고 대안 답변으로 전환합니다.",
        };
      }
    }

    // 4) 결과를 LLM에 전달하고 다음 루프로
    await appendToolResultToConversation(result);
  }
}

{
  "found": false,
  "items": [],
  "confidence": 0.2,
  "retryable": false,
  "reason": "Index has no documents for this tenant"
}

목표: ReAct+툴콜 루프 무한반복을 끊는 프롬프트 설계 가이드를 작성한다.

완료 조건:
- 원인 분석, 프롬프트 템플릿, 런타임 가드레일, 코드 예제를 포함한다.
- 툴 호출 없이도 작성 가능한 범위는 즉시 서술한다.

툴 사용 규칙:
- 툴 호출은 최대 2회.
- 동일 의도에서 결과가 비거나 실패하면 추가 호출 없이 대안(가정/질문/제약)을 제시하고 마무리한다.
- 동일 파라미터 재호출 금지.

출력 형식:
- 마크다운 소제목 구조로 작성.
- 마지막에 체크리스트를 제공.