סימון מתריע

סימון מתריע (באנגלית: Flagging או Reporting), הוא מנגנון דיווח על תוכן מקוון פוגעני או לא ראוי. מנגנון זה נמצא במרבית האתרים המאפשרים למשתמש לשתף ולהגיב לתוכן, כגון ברשתות החברתיות פייסבוק, טוויטר, Vine, פליקר, YouTube, Instagram ועוד. למנגנון הדיווח חשיבות רבה במציאות הדיגיטלית בה כמות התוכן עצומה והמידע מתפשט באופן נרחב ומהיר. לצד זאת, לנוכח האופי הסובייקטיבי של המנגנון, לעיתים קרובות הוא מעורר חילוקי דעות בקרב קהל המשתמשים הרחב.^[1][2]

מטרות וחשיבות המנגנון

האינטרנט בכלל והמדיה החברתית בפרט משמשים פלטפורמה זמינה וחופשית עבור משתמשים רבים ברחבי העולם, כאשר ישנם המנצלים לרעה מערכת פתוחה ונגישה זו. כך לדוגמה, יש המפרסמים דברי שטנה, הסטה, גזענות, פורנוגרפיה, שמועות שלא אומתו, צנזור תכנים על רקע פוליטי וכו'.^[2][3] לנוכח כך, מנגנון הדיווח מאפשר למשתמשים להתריע על חששותיהם מפני תוכן פוגעני או לא ראוי המצוי באינטרנט.^[2]

מנגנון הדיווח אינו מהווה רק פעולה טכנית, אלא שהוא מקיים יחסי גומלין בין משתמשים לפלטפורמות, בין בני אדם לאלגוריתמים ובין נורמות חברתיות וגופים מאסדרים למדיה חברתית.^[1] בהמשך לכך, למנגנון שתי מטרות אשר משמשות את הפלטפורמות: שימוש במשתמשים אמינים כמקור לאיתור וסינון של תוכן בלתי הולם, במטרה לאפשר התמודדות עם תוכן מסוג זה בתוך כמות התוכן האינסופית המאפיינת את האינטרנט ; ובמקביל, כאשר התוכן שנוי במחלוקת, ההחלטה האם להסירו נשארת בידי הפלטפורמה. כלומר, מצד אחד האחריות ניתנת במידה מסוימת למשתמשים, אם כי מצד שני הכוח והשליטה נשארים בידי הפלטפורמה.^[1]

בנוסף, למנגנון הדיווח תפקיד חשוב ביצירת המבנה הטכנו-תרבותי של רשתות חברתיות. מנגנון זה מהווה חלק ממכלול של כלים המאפשרים לספק, למדר ולכמת משובים של משתמשים על תכנים אינטרנטיים. כך לדוגמה, מנגנוני ה-"like" וה "share" של רשת הפייסבוק מאפשרים למשתמש להעביר את אישורו לתוכן מסוים או לפרסם אותו מחדש בפלטפורמה אחרת. דוגמה נוספת למנגנונים מסוג זה הם מנגנוני ה-"upvoting" וה "downvoting" של רשת ה-Reddit אשר מקבצים את תגובות המשתמשים על מנת להגדיל את הנראות של תוכן מסוים על פני תכנים אחרים. המשותף לכל המנגנונים הנ"ל הוא שכל אחד מהם מאפשר למשתמש להשתתף באופן שבו תוכן הפלטפורמה מאורגן, מדורג, מוערך ומוצג אצל אחרים.^[1] לנוכח כך, הם נושאים תפקיד חשוב בשמירה על השיח הציבורי,^[4][5] כשככאלה יש להם חובה לא רק כלפי הפרט המפרסם או הצופה, אלא כלפי האוכלוסייה הרחבה יותר.^[2]

גופים מאסדרים מתמודדים זה מכבר עם האתגר הטמון בהערכה ויישום של ערכי הקהילה בתוכן, כולל: סרט, טלוויזיה או ספרות. מרבית הממשלות חווות קושי רב להסדיר את פעילותם של אתרי מדיה חברתיים גדולים,^[1] כאשר עדיין אין גוף לאומי או בינלאומי המסוגל לפקח באופן סלקטיבי על כמויות התוכן האינסופיות המאפיינות אתרים אלו בזמן אמת .^[6] לפיכך, הדגלים מספקים מענה מעשי וסמלי בשמירה על מערכת של אסדרה עצמית.^[7][8]

אופן פעולת המנגנון

מנגנון הדיווח לא רק נותן במה לביטויי דאגה, אלא שהוא גם ממיר ומקודד אותם כחלק ממאגר הנתונים על המשתמש. בדיוק כפי שהמשתמשים מקודדים כפרופילים והניווט שלהם באתר מקודד כעקבות, דאגותיהם מקודדות גם הן כנתונים.^[1] הנתונים מנותחים באמצעות אלגוריתמים, או לחלופין הכלאה בין אלגוריתמים לעבודה אנושית, במטרה לסווג אותם כביטויים הניתנים/לא ניתנים לשליטה ולתעדף אותם בכל הנוגע לחוסר הולמות התוכן ולמוטיבציה המוסקת לדיווח. אלו עוצבו ותוכננו במטרה לדמות שיקול דעת אנושי בכל נוגע לחשיבות ולדחיפות הדיווח. במקביל, המשימה של מפעילים אנושיים בנוגע לדיווחים קשורה גם היא בקטגוריות ובתהליכי מיון, כאשר לבסוף ניתנת תגובה אלגוריתמית, מבוססת-חוק: מאושר / נדחה / עולה דרגה.^[1][9]

היישום הספציפי של מנגנון הדיווח משתנה בין פלטפורמות. כך, יחסי הגומלין בין עבודה אנושית לפעולה אלגוריתמית משתנה בין אתרים. כמו כן, בעוד שרשתות חברתיות מסוימות, כמו Twitter ו-YouTube, מסתמכות באופן בלעדי על ידיעות המשתמשים לבחינת תוכן אשר עשוי להיות פוגעני או לא ראוי, אתרים אחרים, כמו פייסבוק, עושים שימוש במנגנון הדיווח של המשתמשים לצד סקירת תוכן פרואקטיבית.^[1]

קונפליקטים הנוגעים למנגנון

מנגנון הדיווח פוגע במידה מסוימת בחופש הביטוי. אף על פי שפעולת הדיווח מפורשת כהקשבה למשתמשים, היא גם מטשטשת במידה רבה את השיח סביבה. לנוכח כך, לאור העובדה שנדרשת הודעה בודדת לסינון תכנים ובהתחשב בכמות העצומה של התכנים אליה נחשפים הצוותים האנושיים מדי שעה - לעיתים קרובות מתקבלות החלטות אטומות, לא מוסברות ואף שגויות בהקשר זה.^[5][1]

בנוסף, פעולת הסינון טומנת בחובה שאלות בדבר נורמות וערכים. לנוכח כך ולאור הטרוגניות המשתמשים, בלתי נמנע כי ייווצרו מחלוקות בנוגע לשאלה מה מהווה תוכן פוגעני או לא ראוי. כך לדוגמה, נשאלת השאלה מתי עירום גוף נחשב ל"אומנות" ומתי הוא נחשב ל"תוכן פוגעני", מדוע נשיקה בין הומואים אינה הולמת יותר מאשר נשיקה בין סטרייטים ועוד.^[1]

חילוקי דעות שכאלו מהווים למעשה משא ומתן ציבורי על קווי המתאר של השיח הציבורי עצמו. הם מהווים דיון על האופן שבו עלינו לדון: מה מותר לנו לראות, מה נקבל כחלק מהתרבות ותחת אילו תנאים צריך תוכן להיות חשוף לעיני הציבור.^[1]

הערות שוליים

1. .Crawford, K., & Gillespie, T, What is a flag for? Social media reporting tools and the vocabulary of complaint, New media & society 18, 2016, עמ' 410–428
2. Webb, H., Jirotka, M., Stahl, B. C., Housley, W., Edwards, A., Williams, M., et al., Digital wildfires: hyper-connectivity, havoc and a global ethos to govern social media, ACM SIGCAS Computers and Society 45, 2015, עמ' 193-201
3. עומר כביר, "פייסבוק מבוססת על שלטון האספסוף", באתר כלכליסט, 20 בדצמבר 2015
4. .Balkin, J, Media access: a question of design, George Washington Law Review 76, 2007, עמ' 933
5. .Baym, N., & Boyd, D, Socially mediated publicness: an introduction, Journal of Broadcasting & Electronic Media 56, 2012, עמ' 320–329
6. .Crawford, K., & Lumby, C, Networks of governance: users, platforms, and the challenges of networked media regulation, International Journal of Technology Policy and Law
7. .Price, M., & Verhulst, S, Self-Regulation and the Internet, The Hague: Kluwer Law International., 2005
8. .Verhulst, S, The regulation of digital content. In: Lievrouw L and Livingstone S (eds) Handbook of New Media: Social Shaping and Social Consequences of ICTs (Updated Student Edition), London: SAGE, 2010, עמ' 329–350
9. .Gillespie, T, The dirty job of keeping Facebook clean, Culture Digitally, 2014