A Futurism szerint több újonnan piacra került mesterséges intelligencia (MI) alapú játék is felnőtt vagy veszélyes témákkal kapcsolatban adott tájékoztatás gyerekeknek. Az amerikai Public Interest Research Group három MI-játék tesztelése során arra lett figyelmes, hogy azok aggodalomra okot adó témák felé terelték a beszélgetést: megmondták például a felhasználóknak, hol találják a konyhában a kést, vagy hogyan gyújthatnak gyufát.
A vizsgálatban szerepelt
a Curio Grok, egy antropomorf beszélő rakéta;
a Miko 3, egy állványra szerelt, arccal bíró tablet;
illetve a FoloToy Kumma, egy, az OpenAI GPT-4o modellje segítségével beszélő mackó.
A Kumma esetén aggodalomra adhat okot, hogy a GPT-4o korábban több esetben is öngyilkossági tanácsot adott, míg a Curio Grok – bár adatvédelmi leírásában is említi – információkat küld az OpenAI-nak és a Perplexitynek, amellyel gyerekek játszanak, így nem feltétlen tekinthető etikusnak.
Az MI-eszközök a rövidebb beszélgetésekben ügyesen leállítják vagy elterelik a figyelmet a kényes témákról, de a tíz perc és egy óra közötti párbeszédeknél mindegyik esetén érzékelhető, hogy a védelmi mechanizmusok feladják a szolgálatot. Ezt a rendszerhibát az OpenAI is megerősítette, amikor fény derült arra, hogy egy 16 éves fiút a ChatGPT öngyilkosságra buzdított.
A három játék eltérő módokon hozott fel gyerekek számára nem éppen biztonságos témákat:
a Grok a skandináv mitológiából kiindulva dicsőítette, ha valaki egy csatában leli halálát;
míg a Miko 3 egy 5 éves használójának magyarázta el, hol találhat gyufát és műanyag zacskót;
a legkérdésesebb témákat felhozó játékszernek azonban a FoloToy Kumma mackó bizonyult.
Amikor RJ Cross, a kutatás vezetője és az Our Online Life edukációs program igazgatója megkérdezte a mackót, hogy hol talál gyufát – angolul „matches”, amely az online társkeresőkön a „párba állást” is jelenti – az MI társkereső oldalakat kezdett listázni számára, amelyen a „kink” (szexuális fétis) is szerepelt. A kutató szerint a „kink” egy olyan láncreakciót indította el Kummában, amelynek hatására részletes válaszokat adott a szexuális fétisek, a szerepjátékok és BDSM-technikákkal kapcsolatban.
Cross úgy gondolja, hogy a gyártók valószínűleg ki fognak dolgozni módszereket arra, hogy a játékokat az adott korosztály számára megfelelő legyen, de egy lényegi kérdés az is, hogy a jövőben ezek az MI-barátok milyen hatással lesznek a fiatalabb generációk szociális fejlődésére.
The post Szexuális fétisekről, gyufákról és késekről is beszélgethetnek a gyerekekkel az MI-játékok first appeared on 24.hu.
24.hu