Képzelj el egy világot, ahol mesterséges intelligens ügynökeid futtatása már nem jár folyamatos költségekkel vagy API kulcsokkal. A videó bemutat egy közösségi alapú platformot, amely lehetővé teszi, hogy a helyi hálózatodban vagy közösségedben egymás között megoszthassátok a számítógépes erőforrásokat, akár régebbi, kihasználatlan gépeket is felhasználva. Ez a megközelítés új lendületet ad az AI-ügynökök helyi futtatásának, felvetve az önállóság, bizalom és adatvédelem kérdéseit.
A rendszer alapját az úgynevezett Shared Compute adja, mely révén egy nyílt forráskódú projekt (Mesh) fut a háttérben, amit a Buzz platform integrál. A videó három izgalmas funkciót mutat be: közösségi AI-modell használat, több modell egyidejű lekérdezése, illetve óriási, decentralizált modellek rétegezése több számítógép között. Felidézi a gyakorlatban elérhető különböző modelleket és azok automatikus kiválasztását a gép adottságai alapján.
Külön hangsúlyt kap a hálózat biztonsága: minden kérés titkosítva, közvetlenül jut el a modelleket futtató gépekhez, és csak megbízható közösségi tagok férhetnek hozzá a rendszerhez. Ennek ellenére a teljes adatbiztonság továbbra is a felhasználók közötti bizalmon alapul, hiszen a válaszokat adó gép tulajdonosa megismerheti a lekérdezéseket. A videó gyakorlati példákon keresztül mutatja be, hogyan indítható el és osztható meg a számítási kapacitás, valamint kitér a várható technikai hibákra, platformkorlátokra és a legjobb működéshez adott tanácsokra is.
Felmerülnek továbbá olyan kérdések: hogyan változtatja meg ez a modell a közösségek AI-hoz való hozzáférését? Mikor és milyen gépekkel érdemes csatlakozni? Milyen biztonsági kompromisszumokat vállalunk, amikor megosztjuk hardverünket?
