Problem
You want to let the AI use tools — browse, write files, send messages — but only after you see what it intends to do and can stop or scope the action.

זוהי תרגום מכונה של המסמך המקורי באנגלית. במקרה של סתירה בין תרגום זה לבין הגרסה המקורית באנגלית, הגרסה באנגלית היא הקובעת. קרא את הגרסה המקורית באנגלית

שלטו במה שה-AI יכול לעשות לפני שהוא עושה זאת

כל ספק סוכנים מבטיח לכם "אוטונומיה מלאה!". החוזה של Caiioo הוא הפוך: הסוכן מתאר מה הוא עומד לעשות, ואתם מחליטים אם לאפשר לו — לכל פעולה, לכל שיחה, או לתמיד. כך זה נראה מקצה לקצה.

לפני שתתחיל

פתח את הגדרות > כלים כדי לראות אילו כלים מופעלים כעת עבור המצב (mode) שלך. השבת כל דבר שאינך רוצה שהסוכן ייגש אליו מלכתחילה. אישור חל רק על כלים שמופעלים — כלים מושבתים לעולם לא יוצעו למודל.

כאשר הסוכן רוצה להשתמש בכלי

בקש משהו שמפעיל כלי. "חפש באינטרנט שינויים אחרונים בחוק ה-AI של האיחוד האירופי", "פרט את לוח השנה שלי למחר", "שמור הערה זו לקובץ" — כל אלה יגרמו לסוכן להציע קריאה לכלי.

הסוכן לא ממשיך בעצמו. חלונית בשם נדרש אישור חוסמת את ההרצה ומציגה:

  • כוונה — שורה אחת המתארת מה הסוכן מנסה לעשות, במילותיו שלו. זה הדבר הראשון שהעין נוחתת עליו.
  • שם הכלי ופעולה — למשל, googleCalendar.listEvents, fileSystem.writeFile.
  • רמת סיכון — מגן מקודד בצבע: ירוק לקריאות בסיכון נמוך, ענבר לכתיבה, אדום לפעולות הרסניות או בסגנון שליחת כסף. כלים בסיכון גבוה מציגים גם באנר אזהרה: "זוהי פעולה בסיכון גבוה. אשר רק אם אתה מבין מה היא תעשה."
  • פרטים — סעיף הניתן להרחבה עם הארגומנטים המנוקים. סודות (מפתחות API, טוקנים, סיסמאות) מוסרים לפני התצוגה. מתג הצג JSON גולמי בפנים חושף את המטען ללא שינוי אם ברצונך לראות בדיוק מה עובר ברשת.

בחר את ההיקף שמתאים לסיכון

הכותרת התחתונה מציעה ארבעה כפתורים. כל אחד מהם ממפה להחלטת אמון שונה:

כפתור מה הוא עושה
דחה חסום פעולה בודדת זו. הסוכן מקבל את הדחייה ויכול לנסות משהו אחר.
אשר פעם אחת אפשר קריאה ספציפית זו, ואז שאל שוב בהפעלה הבאה. מתאים למשימות חד-פעמיות.
אשר לשיחה אפשר את כל השימושים בכלי זה בתוך השרשור הנוכחי. מתאפס כשמתחילים שיחה חדשה. מתאים למקרה הנפוץ: "אני מבצע מחקר בשעה הקרובה, אפשר לסוכן לחפש בחופשיות."
אשר תמיד הרשאה גלובלית קבועה בכל השיחות. מוצג באדום עבור כלים בסיכון גבוה כדי שלא תלחץ מתוך הרגל. מתאים לכלים עם סיכון נמוך שבהם אתה משתמש כל הזמן (כמו המחשבון).

צפה בזה קורה

לאחר האישור, קריאת הכלי מתבצעת ומופיעה בפאנל הצדדי לצד השיחה עם הסטטוס החי שלה — ממתין ← מבצע ← הצליח או נכשל — לצד הארגומנטים שאיתם היא רצה בפועל והתוצאה שהתקבלה. שום דבר לא רץ מבלי שראית; שום דבר לא רץ בשקט ברקע.

עצור בכל עת

אם כלי שאישרת מתנהג בצורה לא תקינה או שהשיחה הולכת לכיוון שלא התכוונת אליו, לחץ על כפתור העצירה בתיבת הכתיבה. הסוכן עוצר מיד, אישורים ממתינים מנוקים, וכל סשן דפדפן פעיל נסגר בצורה נקייה. ללא קריאות כלי יתומות, ללא לולאות שיצאו משליטה.

כאשר הסוכן עוצר כדי לשאול אותך שאלה

אישור הוא הסוכן המבקש רשות. לפעמים הסוכן זקוק לקלט — הוא לא בטוח באיזה משני נתיבים אתה מעוניין, או שהוא רוצה שתאשר תוכנית לפני שהוא מבצע עשרות קריאות לכלים. לשם כך הוא משתמש בפאנל נפרד של "אדם בלולאה" (human-in-the-loop) שעוצר את התור ושואל אותך ישירות.

הפאנל מציג כותרת, הצעה מעובדת ב-markdown (התוכנית של הסוכן, הטיוטה שלו, השאלה שלו), וארבעה כפתורי תגובה:

  • אשר — המשך כפי שהוצע.
  • אשר אך... — המשך עם ההתאמות שתקליד בשדה ההערות שמופיע. הסוכן ממשיך באותו סבב כשההנחיות שלך מצורפות.
  • דחה אך... — אל תעשה זאת, והנה הסיבה (או הנה מה שהייתי מעדיף). שוב, ממשיך באותו סבב עם הנימוק שלך.
  • דחה — זנח את הכיוון הזה לחלוטין.

אם ההצעה של הסוכן מציעה סט של אפשרויות קונקרטיות, הן יופיעו כצ'יפים לבחירה מהירה מעל הכפתורים כדי שתוכל ללחוץ על תשובה במקום להקליד. הצעות בסיכון גבוה מקבלות באנר אזהרה אדום מעל גוף ההצעה. התגובה שלך נפתרת בתוך השורה — הסוכן לא מתחיל מחדש, הוא פשוט ממשיך את השרשור עם התשובה שלך בהקשר.

הפכו זאת לברירת המחדל: הורו ל-caiioo ליצור מצב זהיר

תהליך העבודה לעיל הוא גרסת הלכל-פעולה. אם תרצו שזו תהיה עמדת ברירת המחדל שלכם עבור קטגוריה שלמה של משימות, הפתרון הנקי ביותר הוא מצב (mode).

פשוט בקשו. בתיבת הכתיבה, הקלידו משהו כמו:

"צור מצב חדש בשם 'זהיר' שתמיד מציג תוכנית לפני הפעלת כלים כלשהם, מבקש ממני לאשר את התוכנית, ולא ממשיך עד שאני מאשר.".

Caiioo ישתמש בכלי ההגדרות המובנה שלו כדי להקים עבורכם את המצב — הנחיית מערכת, שם וברירות מחדל. עברו למצב זה מבורר המצבים בכותרת, וכל הרצת סוכן תתחיל בתוכנית, תעצור לאישורכם, ורק אז תיגע בכלים. ערכו את המצב באותה דרך מאוחר יותר: "עדכן את המצב הזהיר כך שיסכם גם את התוצאות לאחר כל שלב." הסוכן עורך את עצמו.

יצירה או עדכון של מצבים מותאמים אישית היא יכולת בדרגת Pro. ראו מצבים ואישיויות לתמונה המלאה של מה שניתן להגדיר במצבים — הנחיית מערכת, כלים מופעלים, משתנים ועוד.

ראה גם

  • כלים ואינטגרציות — מה נמצא בקטלוג הכלים וכיצד להפעיל או להשבית כל אחד מהם
  • מצבים ואישיות — מה מצב יכול להגדיר, וכיצד לעבור ביניהם
  • פרטיות ונתונים — מדוע אישורים המשמשים את הכלים נשארים ב-Keychain (או מקביל לו) במקום בקובץ הגדרות משותף
  • למה העיצוב הזה — הפוסט בבלוג שמפרק את ניגוד האבטחה מול סוכנים "אוטונומיים"