Ini adalah terjemahan mesin dari dokumen asli berbahasa Inggris. Jika terjadi perbedaan antara terjemahan ini dan versi asli bahasa Inggris, maka versi bahasa Inggris yang akan berlaku. Baca versi asli bahasa Inggris

Kontrol apa yang dapat dilakukan AI sebelum ia melakukannya

Setiap vendor agen memberi tahu Anda "otonomi penuh!" Kontrak Caiioo adalah sebaliknya: agen menjelaskan apa yang akan dilakukannya, dan Anda memutuskan apakah akan membiarkannya — per tindakan, per percakapan, atau selamanya. Inilah tampilannya secara menyeluruh.

Sebelum Anda mulai

Buka Pengaturan > Alat untuk melihat alat apa yang saat ini diaktifkan untuk mode Anda. Nonaktifkan apa pun yang Anda tidak ingin agen akses sejak awal. Persetujuan hanya berlaku untuk alat yang diaktifkan — alat yang dinonaktifkan tidak akan pernah ditawarkan ke model.

Ketika agen ingin menggunakan alat

Minta sesuatu yang melatih alat. "Cari di web untuk perubahan terbaru pada UU AI UE," "daftar kalender saya untuk besok," "simpan catatan ini ke file" — semua ini akan menyebabkan agen mengusulkan panggilan alat.

Agen tidak melanjutkan sendiri. Modal berjudul Persetujuan Diperlukan memblokir jalannya proses dan menampilkan:

• Niat — satu baris yang menjelaskan apa yang coba dilakukan agen, dengan kata-katanya sendiri. Ini adalah hal pertama yang akan Anda lihat.
• Nama alat dan tindakan — misal, googleCalendar.listEvents, fileSystem.writeFile.
• Tingkat risiko — perisai berkode warna: hijau untuk pembacaan risiko rendah, kuning untuk penulisan, merah untuk operasi destruktif atau gaya pengiriman uang. Alat berisiko tinggi juga menampilkan spanduk peringatan: "Ini adalah operasi berisiko tinggi. Hanya setujui jika Anda memahami apa yang akan dilakukannya."
• Detail — bagian yang dapat diperluas dengan argumen yang telah dibersihkan. Rahasia (kunci API, token, kata sandi) dihapus sebelum ditampilkan. Sakelar Tampilkan JSON mentah di dalamnya mengungkapkan muatan asli jika Anda ingin melihat apa yang sebenarnya dikirim.

Pilih cakupan yang sesuai dengan risiko

Bagian bawah menawarkan empat tombol. Masing-masing memetakan keputusan kepercayaan yang berbeda:

Lihat prosesnya

Setelah disetujui, panggilan alat dieksekusi dan muncul di panel samping di sebelah percakapan dengan status langsungnya — menunggu → mengeksekusi → berhasil atau gagal — bersama dengan argumen yang benar-benar dijalankan dan hasil yang didapat. Tidak ada yang berjalan tanpa Anda lihat; tidak ada yang berjalan diam-diam di latar belakang.

Berhenti kapan saja

Jika alat yang Anda setujui berperilaku salah atau percakapan mengarah ke tempat yang tidak Anda inginkan, tekan tombol stop pada penyusun pesan. Agen segera berhenti, persetujuan yang tertunda dibersihkan, dan sesi browser yang sedang berjalan ditutup dengan bersih. Tidak ada panggilan alat yang terbengkalai, tidak ada loop yang tidak terkendali.

Ketika agen berhenti sejenak untuk mengajukan pertanyaan kepada Anda

Persetujuan adalah agen yang meminta izin. Terkadang agen membutuhkan masukan — ia tidak yakin mana dari dua jalur yang Anda inginkan, atau ia ingin Anda menyetujui sebuah rencana sebelum ia menghabiskan selusin panggilan alat untuk mengeksekusinya. Untuk itu, ia menggunakan panel human-in-the-loop terpisah yang menjeda giliran dan bertanya langsung kepada Anda.

Panel tersebut menampilkan judul, proposal berformat markdown (rencana agen, drafnya, pertanyaannya), dan empat tombol respons:

• Setujui — lanjutkan sesuai usulan.
• Setujui Tapi… — lanjutkan dengan penyesuaian yang Anda ketikkan di kolom catatan yang muncul. Agen melanjutkan giliran yang sama dengan panduan Anda terlampir.
• Tolak Tapi… — jangan lakukan ini, dan inilah alasannya (atau inilah yang lebih saya sukai). Sekali lagi, melanjutkan giliran yang sama dengan alasan Anda.
• Tolak — tinggalkan arah ini sepenuhnya.

Jika proposal agen menawarkan serangkaian opsi konkret, opsi tersebut muncul sebagai chip pilihan cepat di atas tombol sehingga Anda dapat mengklik jawaban alih-alih mengetik. Proposal berisiko tinggi mendapatkan spanduk peringatan merah di atas konten. Respons Anda diselesaikan secara inline — agen tidak memulai dari awal, ia hanya melanjutkan utas dengan jawaban Anda dalam konteks.

Jadikan sebagai default: beri tahu Caiioo untuk membuat mode waspada

Alur kerja di atas adalah versi per-tindakan. Jika Anda menginginkan ini sebagai sikap default untuk seluruh kelas tugas, jawaban yang paling bersih adalah sebuah mode.

Cukup minta. Di komposer, ketik sesuatu seperti:

"Buat mode baru bernama Waspada yang selalu menyajikan rencana sebelum mengeksekusi alat apa pun, meminta saya untuk menyetujui rencana tersebut, dan tidak melanjutkan sampai saya mengonfirmasi."

Caiioo akan menggunakan alat konfigurasi bawaannya untuk membuat mode tersebut untuk Anda — perintah sistem, nama, default. Beralih ke mode tersebut dari pemilih mode header dan setiap jalannya agen akan dimulai dengan rencana, berhenti sejenak untuk persetujuan Anda, dan baru kemudian menyentuh alat. Edit mode dengan cara yang sama nanti: "Perbarui mode Waspada untuk juga meringkas hasil setelah setiap langkah." Agen tersebut mengedit dirinya sendiri.

Membuat atau memperbarui mode khusus adalah kapabilitas tingkat Pro. Lihat Mode & Kepribadian untuk gambaran lengkap tentang apa yang dapat dikonfigurasi oleh mode — perintah sistem, alat yang diaktifkan, variabel, dan banyak lagi.

Lihat juga

• Alat & Integrasi — Apa yang ada di katalog alat dan cara mengaktifkan atau menonaktifkan masing-masing
• Mode & Kepribadian — Apa yang dapat dikonfigurasi oleh suatu mode, dan cara beralih di antaranya
• Privasi & Data — Mengapa kredensial yang digunakan oleh alat tetap berada di Keychain (atau setara) daripada di file konfigurasi bersama
• Mengapa desain ini — Postingan blog yang mengupas kontras keamanan dengan agen "otonom"