Felmerült már benned a kérdés, hogy mi történne, ha a ChatGPT-nek intézett kérdéseid más is látná? Mondjuk az egész világ. És itt nem arra gondolunk, hogy olyan marhaságokat ad meg promptként a mesterséges intelligenciának valaki, mint a klasszikus „keresett a Feri”, hanem ennél sokkal durvább dolgokra. Az UpGuard biztonsági cég új jelentéséből kiderül, hogy egyes NSFW chatbot-oldalak a webre szivárogtatják a felhasználók explicit chat tartalmát, és amit ezek a chatek tartalmaznak, az felettébb nyugtalanító lehet. A Wired szerint az UpGuard vizsgálata 400 AI-szolgáltatásra összpontosított, amelyek mindegyike az llama.cpp nevű nyílt forráskódú AI-protokollra épült. Az UpGuard 24 óra alatt közel 1000 kiszivárgott felhasználói csevegést gyűjtött össze, és aggasztó módon ezek közül több szexuális zaklatással kapcsolatos forgatókönyvekről szólt, öt esetben kifejezetten kiskorúakat is megemlítve.
(A kép forrása: khunkorn laowisit)
Az UpGuard jelentése több szempontból is félelmetes, de minimum igencsak nyugtalanító. Az, hogy az AI-chatbotokkal folytatott intim, privát felhasználói interakciók a világhálóra kerülnek, már önmagában egy hatalmas adatvédelmi problémát jelent. Ugyanakkor ezek az adatvédelmi rések a generatív mesterséges intelligencia legsötétebb bugyrait tárják fel, ahol az emberek az ellenőrizetlen mesterséges intelligencia-szolgáltatásokat arra használják, hogy szörnyen visszataszító szexuális fantáziákban vegyenek részt. A múlt héten a Wired arról számolt be, hogy egy dél-koreai AI képgenerátor startup cégnél egy újabb leleplezési hullám során az AI által generált szexuális deepfake-ek rémisztő tárháza került napvilágra, beleértve hírességek szexuális tartalmú fake képeit, akiket direkt úgy fiatalítottak meg, hogy gyerekeknek nézzenek ki. Az eset rávilágít arra, hogy a mesterséges intelligenciának számos árnyoldala is lehet, ha rossz kezekbe kerül és perverz, sőt, egyenesen beteg fantáziák kiélésére használja valaki.
A borítókép illusztráció
