Egy új biztonsági moderációs modellt, a Qwen3Guard-ot mutatják be, amely a Qwen 3 család dekóder-transzformerére épül. Az új modell célja, hogy a felhasználói bemeneteket és modellkimeneteket automatikusan címkézze és szűrje előre meghatározott szabályzat szerint.
Külön figyelem irányul arra, hogyan integrálható a Qwen3Guard valós céges környezetben, például chatbotoknál, ahol az érzékeny, vitatott vagy jogilag problémás üzenetek szűrése kiemelten fontos lehet. Az elhangzott példákban többféle, potenciálisan bizalmas vagy etikátlan kérés értékelését is láthatjuk.
A bemutatóban szó esik arról, miként lehet különböző LLM-modellek (például Ollama vagy Llama 3) válaszait moderálni ezzel a megoldással. A folyamat során kiemelik a valós idejű, tokenszintű ellenőrzés előnyeit és a rendszer többnyelvű támogatását is.
Felszínre kerülnek olyan gyakorlati kérdések, mint a VRAM-felhasználás, a modell helyi telepítésének lépései, illetve annak rugalmassága különböző hardveres környezetekhez. A moderációs folyamat testreszabhatóságának és a céges irányelvekhez való illeszthetőségének lehetőségei is terítékre kerülnek.
