בסוף השבוע, יוטיוב הפעיל מאט ווטסון הגיע לעמוד הראשון של Reddit עם סרטון על א מטריד תופעה שהוא גילה בפלטפורמת אירוח הווידאו של גוגל, מנוע החיפוש השני בגודלו בעולם. ווטסון הדגים כיצד הוא יכול ללחוץ על תוכן יוטיוב רגיל ומתאים לעבר סרטונים מרמזים של נערות צעירות. אף על פי שרבים מהסרטונים הללו, שמציגים צעירים לובשים ביקיני וערפדים בחדרי השינה שלהם, לא היו מיניים במפורש, רובם של המשתמשים הגיבו עם לכאורה פדופילית כוונה. חלק מהתגובות כללו חותמות זמן לרגעים ספציפיים שבהם הבנות הצעירות היו בעמדות מתפשרות. חלק מהתגובות כוללות קישורים לסרטונים פרטיים לא רשומים. הקליפים האלה יוטיוב יונו באמצעות מודעות עבור חברות כמו Grammarly וגוגל עצמה.
זמן קצר לאחר הסרטון של ווטסון, שהראה אותו מביע אימה מהתופעה, טיפס בדירוג Reddit, ארגוני תקשורת ומפרסמים הגיבו. הגבול דיווח על כך משחקים אפיים, החברה מאחורי פורטנייט, הוציאו את מודעות הקדם-רול שלהם מ-YouTube לאחר שהפוסט של ווטסון הפך ויראלי ופלוטון, התרגיל הפנימי חברת האופניים אמרה שהם עובדים כדי להבין מדוע המודעות שלהם נדחפות נגד בלתי הולם תוֹכֶן. יוטיוב גם הגיבה, עדכנה את "מערכת השביתה של הערוץ" שלה. מערכת זו, שלא עודכנה כבר עשור, מזהירה את המשתמשים שמתנהגים בצורה לא הולמת
זה היה משהו, אבל כמו פורבס, Mashable, Business Insider, ו הניו יורק טיימס כולם ציינו, זה לא היה פתרון לבעיה לכאורה אלגוריתמית, אנושית או למידת מכונה.
מעניין לציין שסרטונים רבים ווטסון צפה בו השביתו תגובות, מה שמרמז על מנהלי תוכן ביוטיוב הבחינו בשורת ההערות וניסו להקשות על פדופילים לנתח את אֲתַר. אבל כל המאמצים שאושרו היו מודעות לבעיה הבלתי פתורה.
למעשה, ברור שהבעיה מתחילה לפחות ב-2017. באותו חודש שבו ה"אלסאגט" המחלוקת התפוצצה, אנשים החלו לצלצל באזעקה על הערות מוזרות, מיניות במרומז על סרטונים של ילדים קטנים, שנועדו לילדים. מפרסמים גדולים אוהבים AT&T הפסיק לבזבז על פרסומות באתר כאשר ה-BBC דיווח כי הערות בלתי הולמות על סרטונים שיוצרו מונטיזציה של ילדים כללו לעתים קרובות חותמות זמן עבור רגעים שנייה של עמדות מרמזות וקישורים לסרטונים לא רשומים - ומפרסמים לא חזרו בהוצאות עד שהבעיה "תוקנה". עַל 21 בפברואר, AT&T, שבדיוק התחילו לפרסם שוב בפלטפורמה בינואר, אמרו שהם יפסיקו להוציא על מודעות בפלטפורמה. הסברו, נסטלה ודיסני הלכו כולם בעקבותיהם.
Elsagate אינו זהה לטבעת פדופיליה, אבל הבעיות קשורות. חוות תוכן ניצלו את מילות המפתח והציבו מודעות באופן אוטומטי על סמך מעורבות בערוץ וסינון AI עלוב, ויצרו קריקטורות שהשתמשו בדמויות ללא רישיון של ילדים פופולריים זיכיונות. הרבה מאלה "חוות תוכן" - כלומר, חברות שיצרו את הסרטונים האלה - ממוקמות במקומות כמו הו צ'י מין סיטי, וייטנאם. הם לא היו חינוכיים או ידידותיים לילדים, אבל גדלו ב-YouTube ילדים כסרטוני מונטיזציה.
יוטיוב שינו את הנחיות המונטיזציה שלהם אחרי השערוריות הכפולות של 2017. כיום, ליוצרי סרטונים חייבים להיות לפחות 1,000 מנויים והסרטונים שלהם צפו במשך 4,000 שעות. תקנות אלו הוקמו רק לאחר Elsagate וכעת החברה טוענת כי כל הסרטונים שיוצרו מונטיזציה ייבדקו על ידי בני אדם בפועל, לא בינה מלאכותית, על מנת לבלום פרסום בלתי הולם שמוצג (תחשוב: מודעה בגוגל המקדימה סרטון של נערה בינונית אוכלת סוכרייה על מקל שיש לה יותר ממיליון צפיות).
בגלל זה כל כך הרבה סרטונים של ילדים יש להשבית תגובות מתחת לסרטונים. 10,000 הסוקרים האנושיים של YouTube, המופקדים על סקירת 400 שעות הצילומים המועלים ליוטיוב בכל דקה, אחראים גם על ההסתכלות על המעורבות עם הסרטונים האמורים והשבתת הערות בלתי הולמות, קישורים לסרטונים לא רשומים או חותמות זמן של הילדים במרמז עמדות.
עשיתי חשבון YouTube חדש לאחר שגיליתי שהאלגוריתמים שלי כל כך מושרשים עד שקשה למצוא תוכן לא הולם, וחיפשתי אותו דבר ווטסון חיפש - "הובלת ביקיני". תוך 12 קליקים הייתי בתוך חור ארנב מוזר של סרטוני היאבקות של ילדים ושעות לילה של בנות שגרות. נתקלתי בסרטון אחד של 30 דקות ומעלה ומצאתי את זה:
בשעה 21:25, הילדה בסרטון התרחקה מהמצלמה ולבזק של שנייה בלבד נראתה המפשעה שלה.
נתקלתי גם בשלל סרטוני דוגמנות של נערות צעירות בבירור מתחת לגיל 18. המגיבים ציינו עד כמה הדוגמניות יפות וכמה הן נראו נהדרות בתחתונים, למרות העובדה שמדובר בילדים. אני לא אשתף את הסרטונים כי הם לא הולמים; אבל עובדה היא שלא רק שיש לעקוב אחרי ההערות הללו ארוכות, הן אולי לא צריכות להיות בכלל באתר. לא ננקטה כל פעולה נגד הערות אלה או הסרטון עצמו של קטינים המדגמנים תחתונים.
ובחורה אחרת פרסמה סרטון של שגרת הלילה שלה, אחרי המקלחת. הילדה, שדף היוטיוב שלה נקרא "חווית Fortnite של Makenzie" ומי שנראה שהיא לא יותר מ-13 שנים, מזיזה בטעות את המגבת שלה בצורה בסרטון שהצד של פלג גופה העירום מציג בסימן 2:47 דקות.
ברור שאף פעם לא היה צריך להעלות את הסרטון הזה. הבחורה בו היא בבירור לפני גיל ההתבגרות והיא לובשת מגבת, מסבירה את שגרת הלילה שלה. לסרטון הזה יש כ-51,000 צפיות. לשאר הסרטונים שלה יש בין שמונה ל-150 צפיות. אז למה זה קורה? האם היא יודעת למה 51,000 אנשים צפו בסרטון הזה ואף אחד מסרטוני Fortnite שלה או סרטוני יצירה מהנים? האם היא מבינה שיש אנשים בחוץ שלא מסתכלים על זה כי לא ממש אכפת להם משגרת הלילה שלה אבל רוצים לראות ילדה קטנה במגבת? אולי. אולי לא. היא ילדה. מישהו צריך לעקוב יותר מקרוב אחר השימוש שלה באינטרנט, אבל זה גם קשה. ושם YouTube צריך להיכנס, אבל לא. זהו תוכן לא הולם גם אם הוא לא מיני בעליל בגלל האופן שבו הוא צפוי לצרוך אותו. זה לא חומר מעורר, אלא אם כן אתה מסוג האנשים שבאופן ספציפי מוצאים את זה מרגש.
אף על פי שלא הופעלו מונטיזציה של סרטונים אלה לפרסומות, ברור שהם גם לא נוטרו על ידי בני אדם או בינה מלאכותית - לפחות לא ביעילות. חלק מהסרטונים לא אמורים להיות ב-YouTube בכלל, אבל יש להם מיליוני צפיות. אם הערות וניהול תוכן לא יעילים כפי שזה נראה, ילדים ימשיכו להיות נושא לעניין מיני בפלטפורמה, שתמשיך להיות כלי לטורפים.
ככל ש-YouTube הופך למקום שיותר ויותר ילדים צורכים וידאו, כמו גם למקום שבו הם מציגים את היצירות שלהם, האחראים על הפלטפורמה צריכה לקבל החלטה האם יש לנקוט מתינות למען הכחשה סבירה או למען ההגנה יְלָדִים. אם החברה תגיע למסקנה האחרונה - ובואו נקווה שכן - היא תצטרך לשקול מחדש הן את כוח האדם והן את התוכנה שלה. אם הם לא עושים זאת, עליהם לשקול מחדש איזה תפקיד הם רוצים למלא באינטרנט.
