A digitális világ úttalan útvesztőiben, ahol a technológia fénysebességgel halad, egy különösen aggasztó jelenség kezdett kibontakozni. Az Amazon piacterén egyre több egészségügyi könyv bukkan fel, amelyek látszólag szakértői tanácsokkal szolgálnak az ADHD kezelésére. Valójában azonban ezek a könyvek nem mások, mint mesterséges intelligencia által generált tartalmak, amelyek gyakran súlyos félretájékoztatást tartalmaznak. Egyes szakértők szerint ezek az írások akár veszélyesek is lehetnek, és valójában egy szabályozatlan, vadnyugati állapotot idéznek.

Az Originality.ai, egy amerikai vállalat, amely az ilyen tartalmak hitelességét vizsgálja, nyolc könyv mintáját elemezte, és megerősítette, hogy mindegyik 100%-osan MI által generált anyag. Az ilyen könyvek között megtalálható például a Navigating ADHD in Men: Thriving with a Late Diagnosis című mű, amely a késői diagnózissal való boldogulásról szól, valamint a Men with Adult ADHD: Highly Effective Techniques for Mastering Focus, Time Management and Overcoming Anxiety.

A veszélyes tanácsok világa

Michael Cook, a King’s College London kutatója, figyelmeztet arra, hogy az MI-rendszerek már korábban is adtak veszélyes tanácsokat, például mérgező anyagok elfogyasztására. Ez különösen aggasztó, amikor egészségügyi és mentális betegségekkel kapcsolatos könyvek jelennek meg ellenőrzés nélkül a digitális piactereken. Ezek a rendszerek ugyan orvosi szövegeken is tanultak, de áltudományos és fiktív tartalmakhoz is hozzáfértek, mondta Cook. Kritikus mérlegelésre képtelenek, emberi felügyelet nélkül nem szabadna egészséggel kapcsolatos tanácsokat adniuk.

A helyzetet tovább bonyolítja az Amazon üzleti modellje, amely lehetővé teszi, hogy minden eladott könyv után pénzt keressen, függetlenül a tartalom minőségétől. Shannon Vallor, az Edinburgh-i Egyetem Technomorális Jövő Központjának vezetője szerint az Amazonnak etikai kötelessége lenne, hogy ne járuljon hozzá a társadalmi kárhoz. Bár nem reális minden könyvért egyenként felelőssé tenni a forgalmazót, mégis fontos lenne, hogy a kiadóipar hagyományos védelmi mechanizmusait ne kerülhesse meg az MI.

Valós emberi történetek

A probléma nem csupán elméleti. Richard Wordsworth, aki nemrégiben kapott ADHD diagnózist, édesapja ajánlására vásárolt egy ilyen könyvet. Az olvasmány azonban zavarosnak tűnt számára: történelmi tévedések és érzelmileg bántó állítások sorjáztak a lapokon. Az egyik fejezet azt állította, hogy a dühkitörések okozta sebek örökkévalóak, amit a barátok nem bocsátanak meg, mondta Wordsworth. Ez nemcsak pontatlan, hanem káros is.

Wordsworth meglepődve tapasztalta, hogy a szerzőt nem lehetett nyomon követni, és a könyvben szereplő állítások, mint például az ADHD-t katasztrofális állapotként leíró részek, teljesen megalapozatlanok voltak. Ha a magasan képzett apámat is meg lehet vezetni egy ilyen könyvvel, akkor bárkit, tette hozzá.

Az Amazon válasza

Az Amazon szóvivője szerint a vállalatnak vannak tartalomra vonatkozó irányelvei, és folyamatosan fejleszti védelmi mechanizmusait, hogy eltávolítsa a problémás tartalmakat. Jelenleg azonban nincs jogszabály, amely előírná, hogy egy könyvet MI által írtként kellene feltüntetni. A Reklám Szabványügyi Hivatal szerint ezek az esetek panaszt tehetők, amennyiben a könyvet úgy reklámozzák, mintha emberi szerző írta volna.

Az MI által generált tartalmak árnyoldalai

Ezek az esetek rávilágítanak arra, hogy a mesterséges intelligencia térnyerése az irodalmi világban nemcsak lehetőségeket, hanem komoly kockázatokat is rejt. A könyvek, amelyek hitelesnek tűnnek, valójában megtévesztő információkat közvetíthetnek, és amint a technológia fejlődik, a jogi és etikai kereteknek is lépést kell tartaniuk vele.

Az MI által írt könyvek gyakran félrevezetőek lehetnek.

Az Amazon jelenlegi üzleti modellje elősegíti az ilyen tartalmak terjedését.

Nincs megfelelő jogi szabályozás az MI-tartalmak kezelésére.

Ahogyan Albert Einstein egyszer mondta: A technológia hatása az emberi kapcsolatokra attól függ, hogyan használjuk. Jelen esetben az a kihívás, hogy felelősségteljesen és etikusan alkalmazzuk a technológia nyújtotta lehetőségeket.

A tanulság

Az AI által generált könyvek világa egyelőre egy szabályozatlan terület, ahol az információk hitelességét nem mindig lehet garantálni. Az olvasóknak érdemes alaposan utánajárniuk a szerzők és a tartalmak hátterének, mielőtt teljes mértékben bíznának bennük. Végső soron mindannyiunk felelőssége, hogy a technológia fejlődésével lépést tartsunk, és olyan világot építsünk, ahol az információk nemcsak elérhetőek, hanem megbízhatóak is.