Sokan azt feltételezik, hogy ha hatalmas fájlokat töltenek fel a ChatGPT-be vagy a Claude-ba, akkor az AI biztosan átolvassa és feldolgozza az összes információt. Valójában azonban az AI modellek gyakran csak a fájl egy részét tudják feldolgozni, anélkül, hogy ezt jeleznék a felhasználó felé.
Az egyik legnagyobb kihívás az, hogy mennyi információt tud „észben tartani” az AI, mielőtt az intelligenciája jelentősen visszaesne. Ez a probléma szinte minden iparágban jelentkezik, főleg, ha hosszú dokumentumok, sok fájl vagy különböző fájltípusok – például PDF-ek, prezentációk vagy táblázatok – kerülnek a képbe. A fájlméret mellett a típus is óriási szerepet játszik abban, mennyi adat fér bele az AI memóriájába.
Különböző modellek (mint a Claude, a GPT vagy a desktopos Codex) eltérő mennyiségű információt képesek kezelni, és az alkalmazási felület is számít: a desktop ügynökök például tokenmérőt is mutathatnak, ami segít kontrollálni a beszélgetés méretét.
Felmerül a kérdés, hogy miként lehet mégis hatékonyan nagy mennyiségű fájlt feldolgoztatni mesterséges intelligenciával. A videó bemutat egy háromlépcsős munkafolyamatot, amely során a felhasználó több, egymástól elkülönülő beszélgetést indít az AI-jal, hogy lépésenként, tudatosan vezesse végig a modellt az adathalmazon. Külön hangsúlyt kap a helyes struktúra, a célok pontos megfogalmazása, valamint az auditálhatóság biztosítása, hogy minden válasz nyomon követhető legyen.
A videó kitér olyan gyakorlati szempontokra is, hogy miként lehet lokálisan, például a OneDrive vagy a Google Drive szinkronizációval előkészíteni a fájlokat, és hogyan profitálhatnak csapatok abból, ha a desktopos AI-t a fájlokhoz hozzák, nem pedig fordítva.
