Az adatok megfigyelése és elemzése napjaink DevOps világában kulcsfontosságú. Mérhetetlen mennyiségű telemetria – például CPU-használat, memóriafogyasztás, késleltetés, hibaarány és hálózati forgalom – áramlik folyamatosan a szerverekről és alkalmazásokról, ezek idősort alkotnak.
Az előadás középpontjában a DataDog új, Toto 2.0 nevű mesterséges intelligencia modellje áll, amely kifejezetten idősortípusú megfigyelési adatokat elemez. A modell megalkotásánál három innovatív elvet alkalmaznak: a folyamatos szakaszmaszkolást, a multivariáns előrejelzést és a kvantilis kimeneti fej szerkezetet. Ezek együttesen lehetővé teszik, hogy a mesterséges intelligencia egyszerre több egymáshoz kapcsolódó változót (például CPU, memória, hálózat) tekintsen át, és a lehetséges jövőbeli értékek szélesebb tartományát jósolja meg.
A videóban bemutatásra kerül a modellel kapcsolatos telepítési lépések sorozata, az Ubuntu rendszer használata, valamint egy Nvidia RTX A6000 GPU, de a modell kisebb verziója akár CPU-n is futtatható. Telepítés közben a modellek paraméterezéséről, adaptációjáról és adatelőkészítéséről esik szó – például batch méretekről, amely meghatározza, mennyi adatot kezel egyszerre.
Praktikus, valós példán keresztül az előadó először szintetikus, majd valódi rendszeradatokkal dolgozik egy Python-alapú környezetben. A rendszer előrejelzéseket készít például 512 előzményadat, majd 96 jövőbeli lépésre vonatkozóan, vizualizációval és bizonytalansági sávokkal együtt, amelyek azt mutatják, mennyire valószínű, hogy az egyes következő értékek bekövetkeznek.
Bővítésként a Toto 2.0 multivariáns előrejelzési képességeit valódi, egyszerre gyűjtött gépészeti adatokkal is szemlélteti: CPU-, memória-, GPU- és hálózathasználat adatokat kombinálva. A videó vége felé az élő műszerfal létrehozását demonstrálja, amely valós időben mutatja a rendszer állapotát, előrejelzésekkel és interaktív grafikonokkal.
