הורים מקבלים התראות על חיפושים של מתבגרים לפגיעה עצמית

אינסטגרם השיקה כלי שמודיע להורים כאשר מתבגרים מבצעים חיפושים חוזרים של מונחים הקשורים לאובדנות או לפגיעה עצמית. ההודעה תופנה רק להורים שנרשמו לכלי ההשגחה של אינסטגרם בתוך חוויית Teen Accounts, וההשקה הראשונית מתוכננת בארצות הברית, בריטניה, אוסטרליה וקנדה - עם גלישת הפיצ'ר לשאר העולם בהמשך.

המערכת תזהה חיפושים חוזרים בתוך פרק זמן קצר ותשלח התראה להורה באמצעות הערוץ שברשות החברה - דואר אלקטרוני, הודעת טקסט, הודעת WhatsApp או התראה בתוך חשבון האינסטגרם של ההורה. יחד עם ההתראה יוצעו להורים משאבים מקצועיים שיסייעו בניהול שיחה רגישה עם המתבגר ובצעדים ראשונים לתמיכה.

אינסטגרם כבר החלה לחסום תוצאות חיפוש של תכנים על אובדנות ופגיעה עצמית בחשבונות של מתבגרים ולהפנות משתמשים שמחפשים נושאים אלה אל מוקדי סיוע. בחסות צעדים קודמים, החברה הרחיבה באוקטובר את המגבלות המבוססות גיל שחוסמות למשתמשים מתחת לגיל 18 תוצאות עבור מונחים כמו "אלכוהול" או "gore", ובאותו מסגרת ציינה שהיא מונעת חשיפה לחיפושים הקשורים להפרעות אכילה.

ההתראה מופעלת ברף שבחברה מכניםו תוצאה של "כמה חיפושים בתוך פרק זמן קצר" - המטרה, כך נמסר, היא להגיע לאיזון בין הכוונה לסייע ובין הימנעות מהצפה של הודעות שעלולות לאבד את יעילותן. ההודעות אמורות להקל על הורה להבחין בשינוי פתאומי בהרגלי החיפוש של הילד ולפעול עם כלים ומשאבים מותאמים.

חלק מהכלים המודרניים כוללים גם מעקב אחר שיחות עם מערכות בינה מלאכותית; החברה מסרה שההתראות יכללו מצבים שבהם מתבגר מנסה לקיים סוגי שיחה מסוימים עם ה-AI שמצביעים על סיכון, וכי יופיעו עדכונים נוספים בחודשים הקרובים. במקביל, החברה מצויה תחת בדיקה משפטית רחבה בקשר להשפעת הפלטפורמות על בריאות הנפש של צעירים; במהלך שאלות בבית המשפט ציין המנכ"ל שעד כה לא הוכח בצורה חד-משמעית שהרשתות החברתיות גורמות לנזק בריאותי.

קיימת גם ביקורת ציבורית: גורמים שטענו כי אלגוריתמים של הפלטפורמה ממשיכים להמליץ על תכנים מסוכנים לנערים פגיעים דורשים צעדים נוספים ושמים דגש שלא להעביר את כל האחריות להורים. החברה דוחה טענות אלה וטוענת שהיא פועלת להרחיב כלים לשמירה והגנה על מתבגרים.

עבור מי שזקוק למשאבים מיידיים: בארצות הברית ניתן להתקשר ל-1-800-273-8255 (TALK) או לשלוח טקסט עם המילה TALK למספר 741-741 לקבלת תמיכה רגשית חסויה סביב השעון. להורים בישראל הפתרון המעשי הראשון הוא לבדוק את הרשומות בהגדרות החשבון של הילד ולהירשם לכלי ההשגחה של אינסטגרם כדי לקבל את ההתראות ולהכין מראש שיחה רגועה וממוקדת עם המתבגר, ולהיוועץ במקצוענים מקומיים כשנדרשת סיוע ממשי.