Sokan szeretnék kihasználni az otthoni gépeikben rejlő lehetőségeket mesterséges intelligenciával és nagyméretű nyelvi modellekkel (LLM) végzett munkához, legyen szó tanulásról, munkáról vagy csupán hobbi felhasználásról. Az AI egyre szervesebb részét képezi a hétköznapoknak, ezért mind többen gondolkodnak olyan PC építésén, amely teljes mértékben helyben, internetkapcsolat nélkül tud erős MI-t futtatni, maximális kontrollal a saját adataink felett.
A felvételen részletesen bemutatjuk, hogy milyen hardvereket érdemes választani egy helyi AI- és LLM-munkára szánt géphez. Kiemelt hangsúlyt kap az adattárolás kérdése és a gyors SSD meghatározó szerepe, mivel nagyméretű modellek esetén az elsődleges memória (VRAM) gyors megtelését követően a gyors SSD segíti a további adatok kezelését. A videó bemutatja, hogyan működik például egy rendkívül gyors PCIe Gen 5.0-ás Samsung 9100 Pro SSD ilyen terhelés alatt.
Szó esik a CPU, GPU és az alaplap megfelelő kiválasztásáról is, különös tekintettel arra, hogy mindegyik támogatja a legfrissebb technológiát – például a PCIe 5.0 szabványt. Emellett felmerül az is, hogy mekkora VRAM szükséges a GPU-ban ahhoz, hogy az aktuális AI modelleket gond nélkül használhassuk, és hogy miként kerüljük el a rendszer kritikus szűk keresztmetszeteit.
Mindeközben izgalmas kérdések merülnek fel: mik a valóban kritikus szempontok komponensválasztásnál, mennyire lehet a teljesítményt növelni egyáltalán helyi környezetben, és hogyan érdemes optimalizálni a számítógépet jövőbiztos módon az MI-fejlesztések rohamos fejlődése közepette?
