Különféle adattárolók sebességét hasonlítják össze a nagy nyelvi modellek (LLM-ek) betöltésének ideje alapján. A teszt során egy 18 GB méretű, előre betanított modellt töltenek be különböző meghajtókról: a leglassabb USB-s pendrive-tól kezdve, gyorsabb SSD-n keresztül egészen egy extrém teljesítményű PCIe Gen5 NVMe meghajtóig.
Az összehasonlítás szemlélteti, mennyire meghatározó az adattárolók olvasási sebessége a modellek betöltési idejénél, és bemutatja, milyen jelentős különbségek lehetnek a használt hardverektől függően. A felvillantott megoldások között szerepelnek külső és belső SSD-k, Thunderbolt 4/USB4 csatlakozók, valamint hálózati adattárolók (NAS és DAS), illetve ezek beüzemelési sajátosságai.
Felmerül a kérdés, milyen hátrányokat rejt a hálózati adattároló használata, és hogy mi határozza meg konkrétan a betöltési időket egy bonyolultabb rendszerben. Vizsgálják, hogy érdemes-e a modelleket gyorsabb helyi meghajtón tárolni, vagy megfelelő lehet a hálózati infrastruktúra fejlesztése, illetve mennyi ideig tart az adatok memóriába, majd onnan GPU-ra juttatása.
Az elhangzó példák jól illusztrálják, hogyan befolyásolja az adattároló teljesítménye a gépi tanulási alkalmazások fejlesztésének gyakorlati lépéseit, és milyen tényezőket érdemes előre figyelembe venni a projekt architektúrájának tervezésénél.
