A lakmusz.hu-n megjelent cikkben azt a technikai problémát demonstrálják, amire a LeadStories portál bukkant a Google Gemini használata során. Bár a chatbot elvileg képes felismerni a Google AI-eszközeivel generált képekbe és videókba ágyazott, úgynevezett SynthID vízjelet, a működése megbízhatatlanná válik, ha egyazon beszélgetésen belül több tartalmat is ellenőriztetünk vele.

A tesztek szerint a rendszer hajlamos „beragadni”: az elsőként feltöltött fájlra adott választ ismételgeti a későbbi kérdéseknél is, a tartalom valós hátterétől függetlenül.

• Ha egy beszélgetést egy mesterségesen generált (AI) képpel indítunk, a Gemini később a valódi fotókat is generáltként azonosítja.

• Ha viszont egy valódi fotóval kezdünk, a chatbot a később feltöltött, valódi AI-képeknél sem fogja észlelni a vízjelet.

A LeadStories több tesztet futtatott le, ugyanazzal az eredménnyel. A tesztet pedig a lakmusz.hu szerkesztői is megismételte a Gemini felületén, saját tartalmakkal, és ugyanarra az eredményre jutottak. Az anomáliára felhívták a Google figyelmét, de reakciót egyelőre nem kaptak. A LeadStories ezért azt javasolja, ilyen jellegű kérdésnél mindig nyissunk új beszélgetést a Geminiben.

A Gemini saját leírása egyébként azt állítja a SynthID vízjelről, hogy a segítségével a chatbot képes felismerni a Google AI-eszközeivel generált képeket. Más AI-rendszerek azonosítására azonban nem alkalamas.

Az AI-tartalmak kiszűrése egyre nehezebb feladat, így a szakértők arra figyelmeztetnek, hogy az automatikus detektorok eredményeit soha nem szabad önmagukban készpénznek venni; azokat mindig érdemes más bizonyítékokkal, a kontextus vizsgálatával és megbízható forrásokkal is összevetni.