A
A
  • Angol
  • Magyar
  • 8 perc

Videószerkesztő app fejlesztése: kihívások és megoldások a tokenköltségek terén

Egy szoftverfejlesztő osztja meg tapasztalatait a videószerkesztő alkalmazás fejlesztéséről, az LLM alapú funkciók költségeiről, és egy különleges előfizetéses megoldás teszteléséről.

A fejlesztő elmeséli, hogy az utóbbi időben egy új projekten dolgozott, amelynek célja, hogy jelentősen leegyszerűsítse és felgyorsítsa a videóvágási munkafolyamatokat. Az alkalmazás, a Kiru, Rust nyelven készült, és már több fontos felhasználója is van.

Az egyik központi kihívás, amellyel szembe kellett néznie, a mesterséges intelligencia alapú funkciók fejlesztése során felmerülő jelentős tokenköltség volt, különösen az LLM modellekkel történő integrációk tesztelésekor és fejlesztésekor. Ez a kiadás nemcsak a költségvetést, hanem a fejlesztési folyamat tempóját is befolyásolta, hiszen minden iteráció extra költséggel járt.

Több megoldást is kipróbált, például helyi LLM modellek, mint a GLM 4.7 Flash és a Quen 3.5 bevetését, amelyek bizonyos szempontból költséghatékonyak, de végül a sebesség és a párhuzamosítás korlátai miatt nem bizonyultak hosszú távon ideálisnak.

Végül rátalált egy új előfizetéses modellre, a Firepass-ra, amely a Fireworks.ai szolgáltatása, és korlátlan tokenhasználatot ígér személyes fejlesztéshez és teszteléshez. Felvetődik a kérdés, hogy ez az all-you-can-eat hozzáférés vajon meddig maradhat ilyen feltételek mellett elérhető, és milyen egyéb felhasználási lehetőségeket rejt magában ez az innovatív ajánlat.