A
A
  • Angol
  • Magyar
  • 10 perc

Helyben futtatható AI kutatási asszisztens telepítése és használata egyszerűen

Leteszteltük, hogyan működik egy helyben futtatható, nyílt forráskódú mesterséges intelligencia kutatási asszisztens, amely díjmentes és magán kutatási lehetőséget kínál.

Az ismertetett videó egy nyílt forráskódú mesterséges intelligencia kutatási asszisztens működését mutatja be, amely teljes mértékben lokálisan, saját számítógépen futtatható API-kulcs használata nélkül. Végigvezet a telepítési lépéseken, és praktikus tanácsokat ad arról, hogyan kezdjünk hozzá a rendszer saját gépen történő elindításához, akár szerényebb GPU-val is.

Az eszköz összetett kutatási kérdések kezelésére képes: automatikusan keres az interneten, tudományos publikációkban és saját dokumentumaink között. Az eredményeket egy összevont, forrásokra hivatkozó jelentésbe rendezi, amelyet akár PDF formátumban is letölthetünk.

Külön érdekesség, hogy a platform több keresőmotort, például a SearXNG-t, és többnyelvű nagyméretű nyelvi modelleket (Ollama) használ, mindezt Docker-konténerek segítségével, teljesen helyben működtetve. Felmerül a kérdés, hogy mennyire versenyképes a rendszer az online megoldásokkal szemben, illetve hogyan használható a személyes tudásbázis hosszú távú építésére anélkül, hogy adataink harmadik félhez kerülnének.

Szó esik a használat során előforduló hibákról és azok megoldásáról, továbbá a rendszer fejlesztési lehetőségeiről, például különböző beállítási opciókról és modellválasztási lehetőségekről. A videó során több helyen is hangsúlyt kap a teljes adatvédelem, illetve hogy az eszköz ingyenes és privát kutatásokhoz is alkalmazható.