تلاش برای یافتن تیم ربات گریزان توییتر

توجهم را به دوبلین معطوف می‌کنم، جایی که فابیان (نام واقعی او نیست)، مدیر سابقی که تا اوایل سال جاری برای توییتر از طریق برون‌سپاری کار می‌کرد، پیدا کردم. شرکت CPL. برخلاف ناظم دیگری که برای توییتر کار می‌کرد، با او صحبت کردم، او به یاد می‌آورد که حساب‌هایی را دیده است که شرکت به‌عنوان «مشکوک» نام‌گذاری کرده بود. او نمی داند چه کسی – یا چه چیزی – به آن توییت ها برچسب زده است. او به من گفت: “حدس می زنم سیستم قبلاً این کار را انجام می داد.” “یا شاید تیمی وجود داشته باشد که به آن اختصاص داده شده است.” با صحبت کردن با او، مطمئن هستم که کسی، در جایی، ربات‌های توییتر را تعدیل می‌کند و این تلاش جدید است و فقط در چند سال گذشته شروع شده است.

سرنخ دیگری در اواخر اوت به دست می‌آید. ، در حالی که در تعطیلات تابستانی هستم. پیتر زاتکو (یا ماج)، رئیس سابق امنیت توییتر، تصمیم گرفته است به افشاگر تبدیل شود و گزارشی را که از یک شرکت مستقل سفارش داده است ارائه کند به کنگره ایالات متحده. این سند تیم‌های داخلی توییتر را که مسئول هرزنامه و سایر تلاش‌ها برای «دستکاری» پلتفرم در آن زمان بودند نام‌گذاری می‌کند—یکی به نام Site Integrity، دیگری Health and Twitter Services (دو تیمی که Twitter از آن زمان تاکنون ادغام شد). خط دیگری در گزارش به بیرون می پرد. در این متن آمده است: «تعدیل محتوا به فروشندگانی که اکثر آنها در مانیل هستند، برون سپاری شده است.»

تویتر مدت‌هاست از شرکت‌های برون سپاری برای استخدام افراد در فیلیپین مطالب خشونت و سوء استفاده جنسی را از سایت حذف کند. اما آیا آنها می توانند هرزنامه را نیز تعدیل کنند؟ در این صنعت، نام های بزرگ و قابل تشخیصی مانند Accenture و Cognizant وجود دارد. اما شرکت های کمتر شناخته شده ای مانند TaskUs مستقر در تگزاس نیز وجود دارند. در نهایت به شرکتی برخوردم که نامش را نشنیده‌ام: یک تجارت مستقر در نیوجرسی به نام Innodata. و برای اولین بار، شروع به شنیدن شرح شغل “مدیریت هرزنامه” می کنم.

با یکی از کارمندان Innodata صحبت می کنم که تأیید می کند شرکت در حال تعدیل هرزنامه ها برای توییتر است، اگرچه او کار می کند. در یک تیم دیگر دیگری می‌گوید که در «دسته‌بندی» حساب‌های جعلی دست داشته است، که برخی از آن‌ها به عنوان تیم‌های ورزشی معروف ظاهر شده‌اند. هر دو از ترس از دست دادن شغل خود درخواست می کنند که نام و مکان آنها منتشر نشود. طبق یک آگهی شغلی اخیر، Innodata حدود 4000 کارمند در کانادا، آلمان، هند، اسرائیل، فیلیپین، سریلانکا، ایالات متحده و بریتانیا دارد.

با جستجوی خاص. برای ناظران در Innodata، بالاخره جان را پیدا کردم، کارمندی که تصویر زن با لباس شنا را به اشتراک می گذارد. او توضیح می دهد که 33 کارمند تمام وقت برای تعدیل هرزنامه برای توییتر و بیش از 50 فریلنسر وجود دارد. او معتقد است که Innodata تا مارس 2021 شروع به تعدیل هرزنامه نکرده است.

جان می‌گوید هر روز تا 600 پست و حساب توییتر را در یک برنامه شخص ثالث به نام Appen بررسی می‌کند. علامت گذاری آنها به عنوان “هرزنامه” یا “ایمن”. (اپن یک شرکت استرالیایی است که از نیروی کار جهانی برای آموزش هوش مصنوعی مورد استفاده شرکت‌های فناوری بزرگ استفاده می‌کند.) او می‌گوید اکثر تیم جان در هند یا فیلیپین مستقر هستند. او معتقد است توییت‌هایی که ارسال می‌کند توسط هوش مصنوعی آموزش دیده برای جستجوی هرزنامه توییتر قبل از ارسال به تیمی از ناظران انسانی انتخاب می‌شوند.