Az OpenAI láthatatlan digitális vízjelet tesz az Európai Unióban generált egyes ChatGPT- és Codex-szövegekbe. A változtatással az EU új AI-átláthatósági szabályainak akar megfelelni a vállalat, amelyek előírják, hogy a generatív AI által létrehozott tartalmak géppel felismerhetők legyenek.
A megoldás a textGrain nevű saját rendszerre épül. Ez nem látható jelölést vagy címkét helyez a szövegbe, hanem statisztikai mintázatot épít a modell szóválasztásába. Egy külön detektor ezeket a mintákat vizsgálva próbálja megállapítani, hogy a tartalom hordozza-e az OpenAI vízjelét. A vállalat szerint a textGrain tesztjeikben legalább olyan jól teljesített, mint más hasonló megoldások, például a szöveges SynthID. Az OpenAI ugyanakkor maga is hangsúlyozza, hogy az ideális tesztkörülmények között mért eredmények nem jelentik azt, hogy a rendszer minden valódi helyzetben megbízhatóan működik.
A rövidebb szövegek felismerése például nehezebb, ezeknél körülbelül 80 százalékos találati arányt mértek. Matematikai tartalmaknál szintén gyengébb lehet a detektálás, és a szöveg utólagos szerkesztése is ronthatja a vízjel felismerhetőségét. Az OpenAI a textGrain technológiáját később nyílt forráskódúvá tenné. A vízjelezés globálisan nem lesz automatikusan bekapcsolva. Az OpenAI közlése szerint alapértelmezetten az Európai Unióban létrehozott, jogosult ChatGPT- és Codex-kimeneteknél alkalmazzák majd, más piacokon pedig bizonyos modelleknél külön bekapcsolható lehet.
A felismeréshez szükséges detektort eleinte nem teszik széles körben hozzáférhetővé. Ehhez elsőként jóváhagyott kutatók és szakmai szervezetek férhetnek hozzá. A vállalat szerint a detektor nem azonosítja a felhasználót, és nem fedi fel a promptokat vagy a beszélgetések tartalmát. A lépés az EU AI Act 50. cikkéhez kapcsolódik, amely géppel felismerhetővé tenné a generatív AI-rendszerek által előállított szöveges tartalmakat. A már piacon lévő szolgáltatóknak a forrás szerint december 2-ig kell megfelelniük az új követelménynek.
