Az utóbbi időben egyre nagyobb hangsúlyt kapnak a helyi eszközön futtatható mesterséges intelligencia (MI) megoldások, amelyek egyszerűbbé és biztonságosabbá teszik a személyre szabott kereséseket vagy offline asszisztenseket.
Ebben a bemutatóban fókuszba kerül az SQLite új vector extension-je, amely lehetővé teszi szövegek vagy képek numerikus (embedding) ábrázolásának hatékony tárolását és keresését teljesen helyi környezetben. Ez jelentős előrelépés az adatvédelem, offline működés és alacsony erőforrás-igény szempontjából.
Praktikus példákon keresztül ismerhetjük meg, hogyan indítható el a rendszer, miként kell telepíteni az SQLite VE-t, a szükséges Python csomagokat, valamint hogyan használható a Google által fejlesztett embedding Jamaa modell a szövegvektorok generálásához. Kitér a különböző támogatott nyelvekre és a szerver- vagy gyors internetkapcsolat nélküli használatra is.
Egy valódi receptkereső alkalmazás példáján keresztül bemutatja, hogyan valósíthatók meg szemantikus keresések vagy testreszabható MI funkciók, GPU nélkül, akár mindössze processzorral is. Felvetődik a kérdés, miképp működnek ezek a keresések, milyen előnyei vannak a virtuális vektor-tábláknak, és milyen fejlesztői eszközökkel lehet még tovább bővíteni a lehetőségeket.
