A
A
  • Angol
  • Magyar
  • 12 perc

Ügynökalapú AI munkafolyamatok építése egyszerűen: SIM és Ollama használata otthoni környezetben

A videó bemutatja, hogyan építhetünk helyi AI munkafolyamatokat drag-and-drop módon a SIM és az Ollama segítségével, valamint hogyan integrálhatók különböző nyelvi modellek és bővíthetők egyéni funkciókkal.

Az ügynökalapú AI rendszerek üzleti értékének kiaknázásához túl kell lépni a hagyományos chatbotokon, és olyan munkafolyamatokat kell kialakítani, amelyek képesek külső adatforrásokat, más AI ügynököket és komplex folyamatokat integrálni. Ezeknek a munkafolyamatoknak párhuzamos, egymást követő, valamint feltételes lépéseket kell tartalmazniuk, ahogyan az igényesebb valós alkalmazásokban is.

A bemutatott videó egy új, nyílt forráskódú workflow-építő eszközt ismertet, amely lehetővé teszi az AI-alapú folyamatok könnyed összeállítását helyi környezetben, ráadásul az Ollama segítségével helyi nyelvi modellekkel is használható. A néző betekintést kap abba, hogyan lehet ezt az eszközt telepíteni Ubuntu rendszerre, hogyan állítható be dedikált GPU-val és milyen lehetőségek rejlenek a különböző AI modellek integrálásában, mint például a GPT OSS 20 Billion vagy a JAMA modell.

A felhasználó a vizuális, drag-and-drop felületen blokkokból építheti fel saját munkafolyamatát, ahol minden blokk külön funkciót, például adatfeldolgozást, feltételes logikát vagy külső szolgáltatással való integrációt valósít meg. A platform támogatja több ügynök, tudásbázis és router modulok hozzáadását, ezáltal bonyolultabb döntési logikákat is lehetővé téve.

Az eszköz rugalmasságot kínál adatfeltöltés, tudásbázis-építés, illetve eszközszintű kibővítés terén, beleértve az egyedi paraméterek, chat sablonok és változók alkalmazását is. A munkafolyamat tesztelhető a beépített chat felületen, és fejlett, vállalati integrációs lehetőségek is kialakíthatók rajta keresztül. A videó továbbá röviden bemutatja a Transformer Lab szolgáltatást is, amely LLM és diffúziós modellek tréningjét, finomhangolását és kiértékelését támogatja.