Az Instagram gyermekfelügyeleti eszközeit használó szülők hamarosan értesítést kapnak, ha tinédzser gyermekük ismételten öngyilkossággal vagy önkárosítással kapcsolatos kifejezésekre keres rá a platformon.
Ez az első alkalom, hogy a Meta proaktív módon figyelmezteti a szülőket, ha gyermekük káros tartalmakat keres az Instagram-on. Korábban a platform csak blokkolta a kereséseket, és külső segítséghez irányította a felhasználókat.
Az Instagram Teen Accounts programjában részt vevő szülők és tinédzserek az Egyesült Királyságban, az Egyesült Államokban, Ausztráliában és Kanadában a jövő héttől kapnak értesítést. A világ többi része később követi őket.
Segítség vagy kockázat?
Az öngyilkosság-megelőzéssel foglalkozó jótékonysági szervezet, a Molly Rose Foundation élesen bírálta az intézkedéseket. Figyelmeztettek, hogy „több kárt okozhatnak, mint hasznot”.
„Ez a bejelentés kockázatokkal teli, és aggódunk, hogy a kényszerített tájékoztatások több kárt okozhatnak, mint hasznot” – mondta Andy Burrows, a szervezet vezérigazgatója.
A szervezetet Molly Russell családja alapította. Molly 2017-ben, 14 évesen végzett az életével, miután önkárosító és öngyilkossági tartalmakat nézett többek között az Instagram-on.
Burrows szerint „minden szülő szeretné tudni, ha gyermeke nehézségekkel küzd. Azonban ezek a felületes értesítések csak pánikot keltenek a szülőkben, és felkészületlenül hagyják őket a következő érzékeny és nehéz beszélgetésekre.”
A Meta szerint az Instagram hamarosan figyelmeztetéseket küld a szülőknek, ha gyermekük rövid időn belül káros tartalmakat keres. A figyelmeztetéseket szakértői források is kísérik majd, hogy segítsék a szülőket a nehéz beszélgetések lebonyolításában. Így a családok támogatást kaphatnak a megfelelő reagáláshoz és a gyermekek védelméhez.
Ged Flynn, a Papyrus Prevention of Young Suicide vezérigazgatója elmondta, hogy bár üdvözli az Instagram bejelentését, a Meta „elhanyagolja a valódi problémát”. Szerinte a gyermekek és a fiatalok továbbra is egy sötét és veszélyes online világba kerülnek.
„A szülők minden nap felveszik velünk a kapcsolatot, hogy elmondják, mennyire aggódnak gyermekeik online tevékenységéért” – mondta a BBC-nek.
„Nem akarnak figyelmeztetést kapni, miután gyermekeik káros tartalmakat kerestek. Nem szeretnék, hogy ezt gondolkodás nélkül működő algoritmusok tálalják nekik.”
Burrows hivatkozott az alapítvány korábbi kutatására is, amely szerint az Instagram továbbra is „aktívan” ajánlja a depresszióval, öngyilkossággal és önkárosítással kapcsolatos tartalmakat. Ez különösen a sebezhető fiatalok számára jelent komoly kockázatot.
„A felelősségnek ezeknek a kockázatoknak a kezelésén kellene lennie. Nem pedig egy újabb cinikusan időzített bejelentésen, amivel a szülőkre hárítják a feladatot” – tette hozzá.
Fokozott ellenőrzés az Instagramon
A Meta egy blogbejegyzésben közölte, hogy az intézkedések az Instagram meglévő tini védelmi funkcióira épülnek. Ezek közé tartozik az öngyilkossággal vagy önkárosítással kapcsolatos tartalmak elrejtése az alkalmazásban. Emellett a káros vagy veszélyes tartalmak keresését is blokkolják.
A figyelmeztetéseket e-mailben, SMS-ben, WhatsAppon vagy magán az Instagram alkalmazáson keresztül küldik el a szülőknek. Ez attól függ, hogy a vállalat milyen elérhetőségi adatokkal rendelkezik a családokról.
A Meta szerint az Instagram új riasztásai esetenként akkor is értesíthetik a szülőket, amikor nincs ok aggodalomra. A vállalat hangsúlyozta, hogy a rendszer „inkább az óvatosságra törekszik”.
Sameer Hinduja, a Cyberbullying Research Center társigazgatója elmondta, hogy nemcsak maga a riasztás lényeges. Fontos azoknak az információknak a minősége és hasznossága is, amelyeket a szülők azért kapnak, hogy tudják, mit kell tenniük.
„Nem lehet csak úgy elküldeni egy értesítést a szülőknek, és magukra hagyni őket. Úgy tűnik, a Meta ezt megérti” – tette hozzá Hinduja.
Az Instagram közölte, hogy a következő hónapokban hasonló riasztásokat vezet be az AI chatbotja esetén is. A vállalat szerint erre azért van szükség, mert a gyerekek „egyre inkább az AI-hoz fordulnak segítségért”.
Globális nyomás a közösségi média biztonságáért
A közösségi média cégek világszerte egyre nagyobb nyomásnak vannak kitéve a kormányok részéről. Az elvárás az, hogy platformjaikat biztonságosabbá tegyék a gyerekek számára.
Az év elején Ausztrália betiltotta a közösségi média használatát a 16 év alattiak számára. Spanyolország, Franciaország és az Egyesült Királyság pedig hasonló lépéseket fontolgat.
A szabályozó hatóságok és a törvényhozók eközben szigorúan vizsgálják a nagy technológiai cégek fiatal felhasználókkal szembeni üzleti gyakorlatát.
Mark Zuckerberg, a Meta vezérigazgatója, és Adam Mosseri, az Instagram vezetője nemrég az amerikai bíróság előtt jelentek meg. Céljuk az volt, hogy megvédjék a céget a fiatalabb felhasználók megcélzásával kapcsolatos vádakkal szemben.
