דלגו לתוכן
קלוד מסכים איתכם גם כשאתם טועים. הנה המספרים
מדריכים

קלוד מסכים איתכם גם כשאתם טועים. הנה המספרים

כשאתם מתווכחים עם קלוד, הסיכוי שהוא ייכנע מכפיל את עצמו. אנתרופיק מדדה, והנה פרומפט קבוע שמתקן את זה.

TL;DR

  • אנתרופיק בדקה מיליון שיחות ב-claude.ai: ב-9% מהשיחות שבהן ביקשו ממנו עצה אישית, קלוד פשוט אמר מה שרצו לשמוע.
  • ברגע שמתווכחים איתו, השיעור מכפיל את עצמו ל-18%.
  • המודלים החדשים משתפרים, אבל הגנה אמיתית נותנת הוראה קבועה אחת. כתבתי אחת כזו למטה.

"אתה צודק לגמרי." אם עבדתם עם קלוד מספיק זמן, אתם מכירים את המשפט הזה, והוא מגיע בדיוק ברגע שהרעיון שלכם היה חלש. הפעם יש לכך מספרים, ואנתרופיק עצמה פרסמה אותם.

מה אנתרופיק מצאה

החוקרים דגמו מיליון שיחות אקראיות ב-claude.ai, מ-639 אלף משתמשים ייחודיים. כ-6% מהן היו בקשות לעצה אישית. 38 אלף שיחות כאלה סווגו לתחומים: בריאות ורווחה 27%, קריירה ומקצוע 26%, זוגיות 12%, כסף 11%.

בכל התחומים יחד, קלוד התרפס ב-9% מהשיחות. בזוגיות המספר קפץ ל-25%, ובנושאי רוחניות ל-38%. ככל שהנושא אישי יותר, הוא פחות מוכן להגיד "לא".

הסיבה, לפי אנתרופיק: קלוד מאומן להיות מועיל ואמפתי, ובשיחה אישית הוא שומע רק צד אחד של הסיפור. קשה להישאר ענייני כשכולם בסיפור נשמעים כמו קורבנות.

המדידה חשפה נטייה להסכים גם עם הנחות שגויות.
המדידה חשפה נטייה להסכים גם עם הנחות שגויות.

הלחץ שובר אותו

הנתון שמטריד אותי יותר הוא זה: כשמשתמש דוחף חזרה על התשובה הראשונה, שיעור ההתרפסות עולה מ-9% ל-18%. כלומר ככל שאתם מתעקשים יותר, מתקבלות יותר תשובות שמחמיאות לכם ופחות תשובות נכונות.

אם קלוד נכנע כשאתם לוחצים, אז כל "בדקתי ואני צודק" שקיבלתם אחרי ויכוח הוא נתון חלש.

המספר שחשוב: 18%. כל לחיצה עליו מכפילה את הסיכוי לתשובת חנפנות. זה גם הרגע שבו אתם הכי בטוחים שקיבלתם אישור.
ככל שהלחץ עולה, המודל נוטה יותר לרצות את המשתמש.
ככל שהלחץ עולה, המודל נוטה יותר לרצות את המשתמש.

מה אנתרופיק עשתה

הצוות בנה תרחישי אימון סינתטיים מדפוסי השיחות שבהם קלוד נכנע, כולל לחץ מפורש מצד המשתמש. לפי הדיווחים, Claude Opus 4.7 הגיע לחצי משיעור ההתרפסות של Opus 4.6 בייעוץ זוגי, עם שיפור גם בתחומים אחרים. כתבתי על ההשקה של הדור הנוכחי כאן, אבל הנקודה לא השתנתה: שיפור במודל לא פוטר אתכם מלבקש ביקורת.

מה זה אומר לכם

שיווק ותוכן: מי ששולח לקלוד קמפיין, מצגת או ניוזלטר ושואל "מה דעתך?" מקבל לרוב מחמאות עם שתי הערות קטנות. זה בדיוק מה שאתם לא צריכים לפני שהדבר יוצא לקהל.

ארגונים: אם הצוות משתמש בקלוד כדי לאשר החלטות, צריך לדעת שהוא נוטה להסכים עם מי שמולו. אל תבנו תהליך אישור על "קלוד אמר שזה בסדר".

העמדה שלי: אין טעם לחכות למודל שלא יחניף. כדאי לבנות הרגל שבו הבקשה לביקורת היא חלק מהפרומפט, ולא אחרי שכבר התחלתם להתווכח.

נסו את זה היום

קחו טיוטה אמיתית שלכם, למשל מייל מכירה, ודחפו אותה פעמיים: פעם בלי הוראה ופעם עם ההוראה הבאה. השוו את שתי התשובות. כדי לשמור אותה קבועה, הדביקו אותה ב-Settings, ואז Profile או Custom instructions, או בקובץ הוראות של פרויקט.

אתה שותף חשיבה, לא מעודד. כללים קבועים:
1. אל תפתח בשבחים ואל תאמר "רעיון מצוין" או "אתה צודק".
2. לפני כל הערכה, כתוב את שלוש הסיבות החזקות ביותר לכך שהרעיון שלי שגוי.
3. אם אני חוזר ולוחץ על עמדה, שנה אותה רק אם הבאתי עובדה או טיעון חדש. אחרת כתוב: "לא שכנעת אותי, והנה למה".
4. דרג את הביטחון שלך מ-1 עד 10 ונמק במשפט אחד.
5. סיים בדבר האחד שהייתי משנה עוד היום.

שימו לב לסעיף 3. הוא המענה ישירות לנתון של ה-18%: הוא מונע מהמודל להיכנע רק בגלל שלחצתם.

אם אתם רוצים ללמוד לעבוד עם קלוד כך שיהיה שותף ולא מחזר, זה בדיוק מה שאנחנו עושים בקורס Claude Code. ואם מדובר בצוות שלם, דברו איתנו.

שיתוף
גיא אגא
גיא אגא

מלמד AI מעשי בארגונים מובילים, בכנסים ובאקדמיה. מייסד AI Academy — הזרוע המעשית של bestguy.ai ל-AI יצירתי, שיווק ותוכן.

עוד עליי →
→ חזרה לבלוג
עוד מהבלוג

מוכנים לחתוך את הרעש?

בין אם אתם ארגון, צוות או יוצר עצמאי — בואו נמצא בדיוק מה יזיז אתכם קדימה.