Sok felhasználó elbizonytalanodik azzal kapcsolatban, mikor van igazán szükség a chatbot felület helyett az API alkalmazására. Általában fejlesztők használják az API-t, de a technológia fejlődésével egyre több hétköznapi felhasználóban is felmerül ez a kérdés.
Felmerül, milyen korlátozásai vannak a csevegőfelületnek, és hogy az API milyen többletfunkciókat kínál – például egyedi rendszerüzenetek beállítását, a modell „hőmérsékletének” szabályozását vagy nagyobb kontextusablakok használatát. Ezek a lehetőségek jelentős előnyt jelenthetnek komplexebb munkafolyamatoknál és automatikus integrációknál.
Sokan nincsenek tisztában azzal, hogy a chatfelület valójában csak egy „demó” változat, amely egyszerűbb, közönségbarát élményt biztosít, miközben az API teljes hozzáférést ad a modell képességeihez és a költségek pontosabb kézben tartásához.
További érdekes kérdés, hogy mikor érdemes az API felé fordulni, és milyen tipikus gátak, félelmek tartják vissza a felhasználókat ettől. A videó azt is vizsgálja, hogyan segíthetnek modern LLM-ek (nagy nyelvi modellek) abban, hogy saját magunk tanuljunk meg API-t használni, és hogyan lehet kihasználni az olyan extra szolgáltatásokat, mint az ügynökök vagy integrációs lehetőségek különböző szoftverekben.
A videó végigvezeti a gondolkodást azon, hogy mikor jelent valós előnyt az API, valamint rávilágít arra, hogy a döntés a felhasználó személyes igényein, munkafolyamatain és céljain múlik, nem pedig divaton vagy külső nyomáson.
