A mesterséges intelligencia fejlődése újabb mérföldkőhöz ért: egy fejlett, nyílt forráskódú modellt egyszerűen futtathatunk a saját számítógépünkön is. Sokan eddig az online felületen használták, azonban ez adatvédelmi aggályokat vet fel, mivel az adatokat külföldi szervereken tárolják.
A néző betekintést nyer abba, hogy milyen egyszerűen állítható be és futtatható az AI helyileg egy új eszköz és alkalmazás segítségével. Az is felmerül, hogy különböző modellek közül lehet választani a hardvererőforrások függvényében, ráadásul mindenki megtalálhatja a gépéhez illeszkedő verziót.
Foglalkozik azzal is, hogy milyen opciók állnak rendelkezésre, ha valaki nem szeretné a személyes adatait idegen szervereken tudni. Megtudhatjuk, mennyire kézenfekvő a helyi futtatás, és hogy az AI továbbra is hatékony válaszokat ad, akár kreatív feladatokra is.
Felmerülnek a modellek, kvantálási és teljesítménybeli különbségek, továbbá elhangzik, hogy milyen hardverigényei lehetnek a legfejlettebb változatoknak, illetve miként lehet tesztelni, hogy a gépünk alkalmas-e ezek futtatására. Érdekes kérdésként vetődik fel, hogy hosszú távon milyen előnyökkel járhat az AI ilyen módú privát és biztonságos használata.
