כשחוקרים ניסו להשפיע על דעות ברדיט עם AI

מחקר של חוקרים מאוניברסיטת ציריך על קהילה ברדיט השתבש מאוד, והחברים בקהילה לא אהבו את זה בכלל

 

במשך ארבעה חודשים מאות תגובות בסאברדיט /r/changemyview קיבלו דירוג גבוה יותר מהממוצע. איש לא חשד במשהו, וכנראה אף אחד לא שם לב (בכל זאת, יש שם כ-4 מיליון חברים והמון דיונים). ספוילר: אלה היו תגובות שנוצרו על ידי AI, אבל לא סתם של מגיבים רנדומליים שבאו להטריל. 

 

המודים של הקבוצה כתבו בחודש שעבר שהכל היה חלק מניסוי (לא מאושר) של חוקרים מאוניברסיטת ציריך והסבירו שמטרתו הייתה "איך אפשר להשתמש ב-AI כדי לשנות השקפת עולם". המודים חשפו את העניין לאחר שהחוקרים התוודו בפניהם, והדגישו שלא פנו אליהם מראש - אילו היו פונים, המודים היו מסרבים לניסוי.

 

לפי האטלנטיק, שדיווח על הסיפור, התגובות עסקו במגוון נושאים ובהם של מי האחריות לתוקפנות של פיטבולים, האם מגורים עם ההורים הם פתרון למשבר הדיור, האם תוכניות DEI מועדות לכישלון, והאם יש יסוד לתאוריה שלפיה היה "פיצוץ מבוקר" ב-11 בספטמבר. החוקרים גם פתחו יוזרים שהתחזו ליועץ טראומה ולקורבן פגיעה, לא אפרט איזו.

 

המודים גינו את האירוע ואני איתם. מבלי להיכנס לאתיקה האקדמית, להיכנס לקהילות באינטרנט שיש בהן חוקים ברורים ולעשות מה שבא לך - זה big no no. אבל במקרה הזה, זה הגיע לקיצון מדאיג. המודים פרסמו דרך ליצור קשר עם החוקרים דרך יוזר אנונימי ואחד כתב לקולגה שלו שהם מקבלים איומים במוות.

 

כשהחוקרים פנו למודים של הסאברדיט וגילו להם על הניסוי הם התנצלו אבל גם כתבו "לאור החשיבות החברתית הגבוהה של נושא זה, היה חיוני לערוך מחקר מסוג זה, גם אם הדבר היה כרוך בהפרת הכללים".

 

מאז הפרסום החוקרים התנצלו שוב בפני המודים ובפני הקהילה. הם אמרו שהם יודעים שהאמון לא יחזור בין לילה, אבל הם מקווים שזה יהיה צעד ראשון ושהם יוכלו לכפר על הטעות. לדברי החוקרים, בעוד המחקר והדאטה שנאסף ממנו יגנזו, הם הציעו לעבוד יחד עם המודים כדי למנוע מהודעות מבוססות ai להתפרסם בעתיד. 

 

המודים פרסמו את ההתנצלות בסאברדיט והוסיפו שהם עדיין לומדים את ההשלכות של האירוע, מסרבים להצעה של החוקרים, ועובדים עם קבוצות אחרות כדי למנוע חדירה של בוטים, תוכן לא אותנטי, ו-AI זדוני לקהילה.

 

לרלרת

1. אהוד בהמלצה בדקה ושאוט אאוט על "דונקי": לפני לא זוכר מתי המלצתי על ביקורת הפרסומות של אור בוטבול. ערוץ היוטיוב שלו מאז צמח, והכניס את השותף שלו עמרי הכהן, ויש בו עוד תוכן ופורמטים. הם הפכו את היוטיוב שלהם לכזה עם גישה גם בתשלום. הם מאוד פופולרים ולא צריכים אותי, אבל בכל זאת ממליץ - פלוס עליתי לשידור בפרק הפודקאסט האחרון שלהם והם נתנו לי לעשות פלאג בלי בושה לבלי סוללה והעירו שהגיע הזמן לעדכן את האתר בווב. אז יש דרך למשוך אוטומטית מהפודבין לאתר פשוט?
2. אהוד היה במסעדה, הייתה אזעקה באמצע וזו הייתה חוויה מוזרה + הגלויה שהביאו לשולחן בלבלה אותו.
3. שחר ממליץ על Bad Thoughts של טום סגורה - בין התוכניות הבודדות שקיבלו דירוג 18+ בנטפליקס. 
4. שחר היה אינסטלטור בזכות מצלמת הגרון שלו
5. שחר ראה מיינקראפט