Problem

You want to let the AI use tools — browse, write files, send messages — but only after you see what it intends to do and can stop or scope the action.

본 문서는 영어 원본을 기계 번역한 것입니다. 번역본과 영어 원본 사이에 내용이 상충할 경우 영어 원본이 우선합니다. 영어 원본 보기

AI가 실행하기 전에 제어하기

모든 에이전트 벤더는 "완전 자율성"을 말합니다. Caiioo의 계약은 그 반대입니다. 에이전트가 수행하려는 작업을 설명하면, 사용자가 작업별로, 대화별로 또는 영구적으로 허용 여부를 결정합니다. 전체 프로세스는 다음과 같습니다.

시작하기 전에

설정 > 도구를 열어 현재 모드에서 활성화된 도구를 확인하세요. 에이전트가 애초에 접근하지 않기를 바라는 도구는 비활성화하세요. 승인은 활성화된 도구에만 적용되며, 비활성화된 도구는 모델에게 절대 제안되지 않습니다.

에이전트가 도구를 사용하려고 할 때

도구를 사용하는 요청을 해보세요. "EU AI 법의 최근 변경 사항을 웹에서 검색해 줘", "내일 일정 목록 보여줘", "이 노트를 파일로 저장해 줘"와 같은 요청은 에이전트가 도구 호출을 제안하게 만듭니다.

에이전트는 스스로 진행하지 않습니다. 승인 필요라는 제목의 모달이 실행을 차단하고 다음 내용을 표시합니다.

의도 — 에이전트가 무엇을 하려고 하는지 자신의 언어로 설명한 한 줄입니다. 가장 먼저 눈에 띄는 부분입니다.
도구 이름 및 작업 — 예: googleCalendar.listEvents, fileSystem.writeFile.
위험 수준 — 색상으로 구분된 방패 아이콘: 낮은 위험의 읽기는 녹색, 쓰기는 황색, 파괴적이거나 송금 스타일의 작업은 적색입니다. 고위험 도구는 경고 배너도 표시합니다: "이것은 고위험 작업입니다. 수행 내용을 이해한 경우에만 승인하십시오."
상세 정보 — 정리된 인수가 포함된 확장 가능한 섹션입니다. 비밀 정보(API 키, 토큰, 비밀번호)는 표시 전에 제거됩니다. 내부의 원시 JSON 표시 토글을 통해 전송되는 정확한 페이로드를 확인할 수 있습니다.

위험도에 맞는 범위 선택

푸터에는 네 개의 버튼이 있으며, 각각 다른 신뢰 결정에 매핑됩니다.

버튼	기능
거부	이 단일 작업을 차단합니다. 에이전트는 거부 통보를 받고 다른 방법을 시도할 수 있습니다.
한 번 승인	이 특정 호출만 허용하고, 다음 호출 시 다시 묻습니다. 일회성 작업에 적합합니다.
대화 중 승인	현재 스레드 내에서 이 도구의 모든 사용을 허용합니다. 새 대화를 시작하면 초기화됩니다. "한 시간 동안 리서치를 할 테니 에이전트가 자유롭게 검색하게 두자"와 같은 일반적인 경우에 적합합니다.
항상 승인	모든 대화에 걸쳐 영구적인 전역 권한을 부여합니다. 고위험 도구의 경우 습관적으로 클릭하지 않도록 빨간색으로 표시됩니다. 계산기와 같이 지속적으로 사용하는 저위험 도구에 적합합니다.

실행 과정 지켜보기

승인되면 도구 호출이 실행되고 대화 옆 사이드패널에 실시간 상태(대기 중 → 실행 중 → 성공 또는 실패)와 함께 실제로 실행된 인수 및 결과가 표시됩니다. 사용자가 보지 못한 것은 실행되지 않으며, 백그라운드에서 몰래 실행되는 것도 없습니다.

언제든지 중단

승인한 도구가 잘못 작동하거나 대화가 의도하지 않은 방향으로 흘러간다면 작성기의 중지 버튼을 누르세요. 에이전트는 즉시 멈추고, 대기 중인 승인은 취소되며, 실행 중인 브라우저 세션은 깔끔하게 종료됩니다. 방치된 도구 호출이나 통제 불능의 루프는 발생하지 않습니다.

에이전트가 질문을 위해 멈출 때

승인은 에이전트가 허락을 구하는 것입니다. 때때로 에이전트는 입력이 필요합니다. 두 가지 경로 중 어느 것을 원하는지 확신이 없거나, 수십 개의 도구 호출을 실행하기 전에 계획에 대한 승인을 받고 싶을 때입니다. 이를 위해 에이전트는 실행을 일시 중단하고 직접 질문하는 별도의 'Human-in-the-loop' 패널을 사용합니다.

패널에는 제목, 마크다운으로 렌더링된 제안(에이전트의 계획, 초안, 질문), 그리고 네 개의 응답 버튼이 표시됩니다.

승인 — 제안된 대로 진행합니다.
승인하지만… — 나타나는 노트 필드에 입력한 수정 사항과 함께 진행합니다. 에이전트는 사용자의 가이드를 참조하여 동일한 턴을 계속합니다.
거부하지만… — 이 작업을 수행하지 말고, 그 이유(또는 대신 원하는 것)를 알려줍니다. 마찬가지로 사용자의 근거와 함께 동일한 턴을 계속합니다.
거부 — 이 방향을 완전히 포기합니다.

에이전트의 제안이 구체적인 옵션 세트를 제공하는 경우, 버튼 위에 퀵픽 칩으로 표시되어 타이핑 대신 클릭으로 답변할 수 있습니다. 고위험 제안은 본문 위에 빨간색 경고 배너가 표시됩니다. 사용자의 응답은 인라인으로 해결됩니다. 에이전트는 처음부터 다시 시작하지 않고 사용자의 답변을 컨텍스트에 포함하여 대화를 이어갑니다.

기본 설정으로 만들기: Caiioo에 신중 모드 생성을 요청하기

위의 워크플로는 작업별 버전입니다. 특정 클래스의 전체 작업에 대해 이를 기본 자세로 설정하고 싶다면 모드를 만드는 것이 가장 깔끔한 답입니다.

그냥 요청하세요. 작성 창에 다음과 같이 입력하세요.

"도구를 실행하기 전에 항상 계획을 제시하고, 내 승인을 구하며, 내가 확인하기 전까지는 진행하지 않는 '신중(Cautious)'이라는 새 모드를 만들어줘."

Caiioo는 내장된 구성 도구를 사용하여 시스템 프롬프트, 이름, 기본값 등 모드를 자동으로 생성합니다. 헤더 모드 선택기에서 해당 모드로 전환하면 모든 에이전트 실행이 계획과 함께 시작되고, 사용자의 승인을 기다린 후 도구를 사용합니다. 나중에 같은 방식으로 모드를 편집할 수 있습니다. "각 단계 후에 결과를 요약하도록 신중 모드를 업데이트해줘." 에이전트가 스스로를 편집합니다.

사용자 정의 모드를 생성하거나 업데이트하는 것은 Pro 티어 기능입니다. 시스템 프롬프트, 활성화된 도구, 변수 등 모드에서 구성할 수 있는 전체 내용은 모드 및 성격을 참조하세요.