Az interneten egyre növekvő probléma az ártalmas, jogsértő és veszélyes tartalmak terjedése, amelyet az AI technológiák megjelenése még inkább súlyosbít. A mesterséges intelligencia nem csupán jóra, hanem rosszra is használható – a spamtől és célzott csalási kampányoktól egészen a beleegyezés nélküli intim képek létrehozásáig.
Glenn Wise, aki korábban az amerikai kormányzati szférában (például NSA, CIA, FBI) dolgozott nemzetbiztonsági területeken, majd a Facebook fenyegetési intelligencia csapatának tagja lett, saját tapasztalatai alapján felismerte, hogy a cégek többsége nehezen kezeli a platformjaikon zajló visszaéléseket. Ez adta az ötletet egy olyan központi platform létrehozásához, amely segíthet biztonságosabbá tenni az internetes közösségeket, miközben az innovációt sem hátráltatja.
Az induló vállalkozás, a Cinder, célja, hogy ügyfelei könnyedén meghatározhassák, milyen tartalmakat engedélyeznek vagy tiltanak platformjaikon, és ezeket a szabályokat hatékonyan érvényesíthessék. A szolgáltatás fontos missziójává vált, hogy megállítsa az online károkat, szabadságot adva ezzel az innovációnak.
A startup felépítése során számos kihívással kellett szembenézni: a kezdeti elképzeléseket folyamatosan igazítani kellett az ügyfelek valódi igényeihez, szembesülve azzal, hogy milyen nehéz minden tartalomtípusra és működési görbére megfelelő megoldást nyújtani. Emellett hatalmas motivációt jelentett a csapat számára a misszió, hiszen nap mint nap találkoznak az internet sötét oldalával, de hisznek abban, hogy meg lehet találni az egyensúlyt a biztonság és a technológiai haladás között.
Milyen keretek között lehet biztonságossá és fenntarthatóvá tenni az online tér innovációját? Miként tudnak kisebb és nagyobb cégek is eredményesen fellépni az egyre komplexebb visszaélések és károk ellen? Ezek azok a kérdések, amelyek köré a felvétel szerveződik, betekintést adva egy vezető AI-biztonsági startup világába.
