A
A
  • Angol
  • Magyar
  • 15 perc

GPT-OSS 20B: A mesterséges intelligencia otthoni telepítése és lehetőségei élőben

Áttekintés az OpenAI GPT-OSS 20B modell telepítéséről, erőforrásigényéről és főbb felhasználási területeiről, gyakorlati példákkal illusztrálva.

Különleges betekintést nyújt a videó az OpenAI által kifejlesztett GPT-OSS modellek új generációjába, fókuszban a 20 milliárd paraméteres változattal. Megismerkedhetünk a telepítési folyamattal, és azzal, mennyi erőforrást igényel az otthoni futtatáshoz, valamint hogy egy Nvidia H100 GPU-n például mennyi VRAM-ot használ.

Technikai témák is felmerülnek, mint a modernebb kevert szakértői architektúra, a 128 ezres kontextuskezelés, illetve az új, nyílt forráskódú tokenizer és a rendszerhangolás szerepe. A bemutató kitér olyan kérdésekre is, hogy valós időben miféle feladatokra képes ez a modell: kódgenerálás, realisztikus animációs vagy fizikai szimuláció, tűzijáték-effektus, valamint a többnyelvűség tesztelése.

Részletes próbának vetik alá a matematikai gondolatmenetét, a felhasználói biztonságot (például etikátlan kérdések elhárítása), sőt, a történetmesélés képessége is fókuszba kerül, ahol a főhős egy posztapokaliptikus világban vezet túlélőcsoportot. Felvetődik a kérdés is: melyik területen milyen erősségei és gyengeségei mutatkoznak a modellnek, illetve hol érdemes bevetni ezt a megoldást.