A videó a Cloudflare egyik új megközelítését, az úgynevezett code mode-ot vizsgálja, amely során a mesterséges intelligencia (LLM) TypeScript API-n keresztül hívja meg a különböző eszközöket, nem pedig közvetlenül, hagyományos eszközhívási módszerrel.
Részletes elemzés hangzik el arról, hogy miért képesek a nyelvi modellek hatékonyabban kezelni azokat a feladatokat, ahol API-ként leképezett funkciókat kell használniuk. Felmerül a kérdés, vajon az LLM-ek mélyebb tudásbázisa mennyire elősegíti ezt a folyamatot, vagy inkább csak bizonyos feladatokra korlátozódik.
Az előadó azt is boncolgatja, mennyire működik jól az, ha egymás után több eszközhívás történik, és mennyiben jelent problémát, ha az egyes eszközök válaszai nem teljesen determinisztikusak, vagy az egyes lépések során újra kell tervezni a folyamatot a kapott eredmények függvényében.
Felveti, hogy ugyan a code mode nagyon ígéretes, a való élet komplex, nem minden eszköz válasza egyértelmű, és gyakran közbeeső döntéseket is meg kell hozni, amelyekre a kezdeti kódban nem is lehetett felkészülni.
A videó izgalmas gondolatokat hoz be a „speculatív eszközhívások” koncepcióval kapcsolatban is: vajon egyes eszközhívások tömbösítése és azok eredményeinek későbbi felülvizsgálata javíthatja-e a folyamat hatékonyságát?
