Egy Anthropic fejlesztő magyarázza el, miért érheted el túl gyakran a Claude tokenlimitjét, és hogy ez nem feltétlenül a túlzott használatnak köszönhető, hanem három hétköznapi szokásnak, amelyek rejtetten duplázzák meg a felhasznált tokenmennyiséget.
A bemutatóban megismerhetjük, hogyan dolgozik Claude a háttérben: minden üzenetváltásnál újból be kell olvasnia a teljes beszélgetést, ami indokolatlanul sok adatot generál. Az egyszerű példák jól szemléltetik, hogy minden kisebb változtatás a beszélgetés közepén valójában visszafordíthatatlanul újraépíti a teljes tokengyűjteményt.
Szóba kerülnek a cache-elés (gyorsítótárazás) előnyei, valamint az, hogy miként spórolhatunk a limittel, ha tudatosan szervezzük meg a munkát, megfelelően választjuk ki a használt modellt, és minimalizáljuk az egyszerre feltöltött instrukciókat. A különböző modellek cache-einek működése és a session-ök okos használata szintén hangsúlyos téma.
A videó számos tanácsot kínál a projektek felbontására, a túlzottan hosszú rendszerpromptok csökkentésére és arra, hogyan használja a fejlett felhasználó a Claude .md és a skill funkciókat, hogy ezzel is csökkentse a szükségtelen tokenhasználatot. Felmerül a progresszív feltárás (progressive disclosure) fogalma, valamint szó esik arról is, hogy a modellek fejlődésével a túl részletes útmutatók akár hátráltathatják is a mesterséges intelligenciát.









