A mesterséges intelligencia (MI) robbanásszerű fejlődésének köszönhetően az elmúlt években egyre több szöveg, kép, videó, hanganyag vagy multimédiás tartalom készült legalább részben MI segítségével. A technológia nyújtotta lehetőségeket sokan a hatékonyság, vagyis az idő- és energiaspórolás érdekében, mások vicces vagy éppen megtévesztő, manipulatív tartalmak gyártásához veszik igénybe. Ami amellett, hogy jelentős gazdasági károkkal és politikai következményekkel járhat, komoly etikai kérdéseket vet fel az MI használatának célját és eredményét illetően.
Ezzel párhuzamosan a felhasználóknak és a tartalomgyártóknak azzal is szembesülniük kell, hogy az MI bevetésével egyre kifinomultabb és tökéletesebb tartalmak hozhatók létre. Emiatt viszont gyakran nehéz megkülönböztetni egymástól az MI és az emberi elme generálta tartalmakat. Szerencsére azért még vannak olyan árulkodó jelek, amelyekkel az alapos és szemfüles emberek viszonylag gyorsan kideríthetik bizonyos képek, szövegek, videók vagy hanganyagok humán vagy mesterséges eredetét. Cikkünkben a továbbiakban kizárólag a szövegekre fókuszálunk. Merthogy legyen szó beadandó dolgozatról, diplomamunkáról, újságcikkről, ünnepi tósztról vagy egy egyszerű levélről; az MI új távlatokat nyitott a szövegalkotásban is.
Tévedhetetlenek-e a szoftverek?
Ugyan egyre kifinomultabb szövegfelismerő szoftverek léteznek (például a ChatGPT által generált szövegek felismerését célzó GPTZero), amelyek – a tartalomban megjelenő trendeket, mintákat és információkat felismerve, bizonyos kifejezések és szavak rendjéből, ismétlődéséből, a kreativitás meglétéből vagy hiányából, a mondatok hosszából és összetételéből – nagyjából képesek belőni, hogy emberi elme vagy mesterséges intelligencia alkotta tartalomról van-e szó, nem mindig érdemes ezek eredményére támaszkodni. Pontosabban, nem kizárólag ezek eredményére érdemes támaszkodni egy gyanús eredetű szöveg csekkolásakor.
Amint arra az East Central College összefoglalója is kitér, a szövegfelismerő szoftverek sem tévedhetetlenek. Érzékenységüktől függően esetenként olyan, ember által írt dokumentumokat is MI-generálta szövegként azonosíthatnak, amelyeknek semmi köze mesterséges intelligenciának. Az ECC példaként a Biblia vagy az amerikai alkotmány egyes részeit hozta, amelyeket tévesen MI-generálta szövegként is azonosítottak már.
Fotó: DepositPhotos.com
Árulkodó jelek, amelyekre érdemes figyelni
Mi magunk is elvégezhetjük egy-egy szöveg ellenőrzését – ha tudjuk, mire kell figyelnünk. Az egyesült államokbeli Capitol Technology University magánegyetem összefoglalója szerint az MI-generált szövegek felismerését segítheti például az ismétlődések és inkonzisztenciák (ellentmondások, következetlenségek) felfedezése.
A sokak által kedvelt és használt ChatGPT például alkalmanként értelmetlen vagy szerkezetileg furcsa mondatokat generálhat, amelyek nem tükröznek gondolati folytonosságot. A szövegek nem egységes hangneme, stílusa vagy a téma gyors váltakozása egy adott szövegrészen belül szintén árulkodó lehet: arra utalhat, hogy a koherens gondolatokat az MI vezérelte szöveggenerátornak nem sikerült megfelelően összefűznie.
Az emberek is gyakran változtathatják a mondatszerkezeteket a folytonosság fenntartása érdekében, de az ismétlődések ilyenkor jellemzően egy sajátos emberi mintát követnek.
Ami a kontextust és a tartalmat illeti: mesterséges intelligencia használatára utalhat, ha egy szöveg nincs tágabb kontextusba helyezve; olyan, mintha kiragadták volna egy teljesen más szövegkörnyezetből. Szintén gyanúra adhat okot, ha tágabb kontextus nélkül utal konkrét részletekre – és ezek között látszólag nincs összefüggés.
Sablonos szöveget bárki képes írni műfajtól és céltól függően, de az egyediség, a sajátos hangvétel és fogalmazásmód emberi jellemző, ami még az általános szövegeken is átjön. Ha egy szöveg ellenőrizhetetlen tényeket rejt, megbízhatatlan forrásra hivatkozik, vagy nyilvánvaló hazugságokat tartalmaz, akkor is érdemes mesterséges intelligencia használatára gyanakodni.
A nyelvtant és a szókincset illetően is számos árulkodó jel van. Ha például egy szövegben feltűnően sok a divatos kifejezés, a szakzsargon, akkor előfordulhat, hogy az MI ezekkel próbálta kitölteni a tények, tudásbeli hiányosságok kiesésével keletkező helyet. A CTU tájékoztatója szerint ez különösen látványos és tetten érhető például a marketinges tartalmakban.
Szintén árulkodó lehet – szövegtől függően – a tartalmilag, nyelvtanilag vagy formailag nem megfelelő idézetek beillesztése. Az olyan eszközök, mint például a ChatGPT, simán be tudnak tenni idézeteket a szövegfolyamokba, de ezek nem minden esetben odaillők – hívja fel a figyelmet a Capitol Technology University.
Amire még érdemes figyelni, az az érzelmek és a kreativitás megléte és/ vagy hiánya. Míg az ember által alkotott szövegek jellemzően nem érzelemmentesek, szerkezeti felépítésük egyedi gondolatmenetet követ, hangnemük pedig tükrözi írójuk személyiségét vagy gondolkodásmódját, addig a mesterséges intelligencia által generált tartalmak egységesek és tényszerűek, gyakran szárazak. Persze lehet rajtuk finomítani olyan utasításokkal, amelyek a személyes hangnemre vagy a véleményalkotásra helyezik a hangsúlyt, és ösztönzik az MI-vezérelte eszközt, de ehhez több energiát és munkát kell befektetni.
Miért fontos felismerni az MI által generált szövegeket?
Ha gyorsan szeretnénk tájékozódni egy adott témáról, a lehető legtöbb, neten található információhoz hozzájutva, akkor érdemes igénybe venni az MI segítségét. De jó, ha észben tartjuk a potenciális hibalehetőségeket: a mesterséges intelligencia által összerakott szövegek nem kizárólag megbízható, hiteles forrásokon alapuló információkat tartalmazhatnak.
Ezért tudatosan kell velük bánni, és minden esetben érdemes ellenőrizni a kapott szöveget. Nem személyes élményeken vagy tapasztalatokon alapulnak, nem saját véleményt tükröznek és nem alkalmasak arra, hogy kizárólag ezek alapján hozzunk meg egy döntést vagy foglaljunk állást valamilyen fontos kérdésben.
