Több, halállal végződő fiatalokat érintő eset után a vállalat belátta, jobb ha a fiatalokra külön fejlesztett nyelvi modellel állnak elő.

Az OpenAI külön, tinédzserekre szabott ChatGPT-módot vezet be, amely a 13–17 év közötti felhasználóknál alapértelmezetten be is kapcsol: a ChatGPT Teens-re keresztelt nyelvi modell célja, hogy a fiatalok biztonságosabb környezetben használhassák a mesterséges intelligenciát, de közben a rendszer igyekszik fejleszteni a kritikus gondolkodást, a mélyebb megértést és a tudatos AI-használatot is.

A fejlesztés hátterében az OpenAI-t érő egyre nagyobb biztonsági és jogi nyomás áll. A vállalatot több olyan ügyben is támadták, amelyekben a ChatGPT veszélyes helyzetekben nem megfelelően reagált fiatal felhasználókra, köztük önkárosítással és veszélyes gyógyszerhasználattal kapcsolatos esetekben. A Teens mód ezekre a problémákra próbál rendszerszintű választ adni.

A tinédzserverzió szigorúbb korlátozásokat alkalmaz: bizonyos erőszakos, önkárosítással, valamint szexuális vagy romantikus szerepjátékkal kapcsolatos beszélgetéseket blokkol. Érzékeny témáknál, például evészavarok esetén figyelmeztetéseket és fontos információkat jelenít meg. Ha a rendszer veszélyes helyzetet érzékel, a szülőt vagy gondviselőt is értesítheti. Egyébként a 13 év alattiak az OpenAI szabályai szerint nem is használhatnák a szolgáltatást. A szülők emellett csendes órákat állíthatnak be a szolgáltatáson belül, amelyek meghatározzák, mikor használható egyáltalán a ChatGPT. A rendszer az egészségesebb és kiegyensúlyozottabb AI-használatot is támogatja, például az érzékeny képek feltöltésére való figyelmeztetéssel.

A fejlesztés az oktatást is érinti: a rendszer felismerheti, ha a diák egyszerűen a házi feladat megúszására használná az AI-t, a szülők pedig tanulási időszakokat állíthatnak be ekkor automatikusan aktiválódhat a ChatGPT Study, amelyet viszont a tanulás támogatására készített az OpenAI.

via HVG