ההאק שחוסך 70% מחשבון ה-API של Claude

מפתח סיני שמכנה את עצמו teamchong פרסם השבוע בגיטהאב כלי בשם pxpipe שעושה משהו שנשמע כמו באג אבל הוא בעצם פיצ'ר: הוא לוקח את הקונטקסט הכבד שנשלח לקלוד – system prompt, תיעוד כלים, היסטוריית שיחה – וממיר אותו לתמונות PNG לפני שהוא יוצא מהמחשב שלכם. התוצאה, לפי הבנצ'מרקים שהמפתח עצמו פרסם: ירידה של 59 עד 70 אחוז בחשבון החודשי.

הפרצה: תמונה עולה פחות ממה שהיא באמת שווה

אנתרופיק מתמחרת טוקנים של תמונה לפי הממדים שלה בפיקסלים, לא לפי מה שכתוב בתוכה. זו החלטת תמחור סבירה כשמדובר בתמונה אמיתית – אבל אם דוחסים טקסט צפוף לתוך תמונה, מקבלים יחס אבסורדי: תמונה בגודל 1928×1928 פיקסלים עולה כ-4,761 טוקני חזון, ומצליחה להכיל בערך 92,000 תווים. זה יוצא כ-3.1 תווים לטוקן, לעומת בערך תו אחד לטוקן בטקסט רגיל. pxpipe פשוט מנצל את הפער הזה: הוא עוטף כל 92 אלף תווים בעמוד PNG אחד, שולח אותו לקלוד, והמודל "קורא" את הפיקסלים באותו ערוץ ראייה שאנתרופיק כבר בנתה בשביל יכולות ה-computer use.

המספרים מהשטח

בהדגמה שהמפתח פרסם, סשן קידוד זהה עלה 42.21 דולר בגרסה הרגילה מול 6.06 דולר עם pxpipe, כשההפרש הנוסף הוא שהגרסה הדחוסה סיימה עם 73.5 אלף טוקנים פנויים מתוך מיליון, בזמן שהגרסה הרגילה הגיעה ל-96% תפוסה. במבחן SWE-bench Lite שני הזרועות פתרו 10 מתוך 10 משימות, כשהגרסה הדחוסה חסכה 65% מגודל הבקשות. במבחן המחמיר יותר, SWE-bench Pro, הגרסה הדחוסה פתרה 14 מתוך 19 מול 15 מתוך 19 בגרסה הרגילה – הבדל שנופל בתוך רעש הריצה-לריצה, לא ירידה אמיתית באיכות.

הפער קיים כי תמחור החזון של המודלים המובילים עדיין לא התעדכן למה שהמודלים באמת מסוגלים לקרוא – וזה כנראה לא יימשך לנצח.

המחיר האמיתי: מה נשבר כשדוחסים

המפתח עצמו לא מסתיר את הבעיה, וזה מה שהופך את הפרויקט הזה לאמין: הדחיסה היא lossy, כלומר מאבדת מידע, וצורת הכישלון שלה מדאיגה במיוחד – היא לא זורקת שגיאה, היא ממציאה תשובה בביטחון מלא. במבחן שחזור מדויק של מחרוזות הקס בנות 12 תווים, קלוד Fable 5 הצליח ב-13 מתוך 15 ניסיונות מתוך תמונה דחוסה. Opus 4.8 הצליח ב-0 מתוך 15. בגלל זה pxpipe מפעיל את הדחיסה כברירת מחדל רק על Fable 5, ומשאיר את Opus כאופציה שצריך להפעיל ידנית – עם אזהרה מפורשת על שיעור טעות של כ-7%. המסקנה המעשית: כל מידע שחייב להיות מדויק – מזהים, האשים, סיסמאות, מספרי הזמנה – חייב להישאר טקסט רגיל, לא תמונה.

ברירת המחדל של הכלי מגבילה את עצמה לשני מודלים בלבד – claude-fable-5 ו-gpt-5.6 – ומשאירה את Opus כאופציה שדורשת הפעלה מפורשת. יש גם פתח מילוט מובנה: אם מריצים סוכני-משנה (subagents) על מודל שלא נמצא ברשימת האישור, הבקשה שלהם עוברת כטקסט רגיל בלי דחיסה, כדי שעבודה שדורשת דיוק תמיד תעבור בערוץ הבטוח.

מה זה אומר לכם

אם אתם בונים אוטומציות, אייג'נטים או כלי תוכן שרצים על ה-API של קלוד בהיקף גדול, החשבון החודשי הוא לא תיאורטי – הוא סעיף בתקציב. ראינו את זה גם אצל מטא, שעצרה השקעה של 73.7 טריליון טוקנים בחודש אחד כדי לבלום את קצב ההוצאה (קראו על זה במטא עצרה את מרוץ הטוקנים). הלקח האמיתי מ-pxpipe הוא לא "תתקינו את זה מחר בבוקר על production" – זה כלי חדש, לא בשל, ולא לכל תרחיש. הלקח הוא ההרגל שמאחוריו: המפתח מדד, פרסם בנצ'מרק כן שכולל גם את הכישלונות, ובנה מנגנון שמחליט אוטומטית מתי הדחיסה משתלמת ומתי לא. זו בדיוק הגישה שצריכה ללוות כל ניסוי חיסכון בעלויות AI – למדוד קודם, ורק אז לסמוך.

npx pxpipe-proxy
ANTHROPIC_BASE_URL=http://127.0.0.1:47821 claude

אם אתם ארגון שמריץ הרבה עבודה על סוכני AI ורוצים לבנות תשתית שמאזנת בין עלות לאמינות בלי לנחש, זה בדיוק סוג הדבר שכדאי לבדוק יחד איתנו – אפשר להתחיל כאן.