Az előadó tapasztalatai alapján, aki Fortune 500 vállalatok termékcsapataival és tanácsadókkal dolgozott együtt, rendszeresen ugyanazokkal a kihívásokkal találkozik, amikor csapatok a ChatGPT-t használják a munkafolyamatokban. Ezek a problémák nem csak fejlesztőket, hanem nem technikai felhasználókat is érintenek.
Felmerül a túlzott elvárások kérdése: gyakran feltételezzük, hogy a mesterséges intelligencia többre képes, mint amire valójában programozták, ami pontatlan vagy félrevezető válaszokat eredményez. A válaszok pontosítása helyett sokan túl hosszú utasításokat írnak, miközben a pontos sablonok vagy sémák használata lenne a megoldás.
Gyakori probléma, amikor egy apró javítást kérünk, de a modell alaposan átfogalmazza az egész szöveget, vagy amikor komplex feladatokra túl egyszerű, lényegtelen válaszokat ad. Az ilyen hibákat tudatos lépésekre bontással, folyamatok szakaszolásával lehet kiküszöbölni.
A megtévesztő magabiztosság és a „hallucináció” problémája is hangsúlyos: a ChatGPT néha meggyőzően ad elő olyan információkat, amelyek nem igazak vagy ellenőrizhetetlenek. Ez ellen jól meghatározott bizalmi szintek és ellenőrzési lépések beépítésével lehet védekezni.
A válaszok következetessége is problémás lehet, ha ugyanazokra az inputokra eltérő kimenetek születnek. Ezt precíz szabályokkal és egyértelmű bemenetekkel lehet kordában tartani. Végezetül, a túl sok háttérinformációs „zaj” gyakran rontja a kimenet minőségét, amiért a felhasználóknak csak a valóban szükséges kontextust érdemes biztosítaniuk.
