مطلبی که در ادامه می‌خوانید، گزیده‌ای از مقاله‌ی بلندی است که در سایت Theverge  منتشر شده است. این مقاله  به اجرای قوانین معتدل سازی محتوای به اشتراک‌گذاری شده در دنیای مجازی، بالاخص شبکه‌های اجتماعی، اشاره دارد.

 قوانین معتدل سازی محتوا در شبکه‌های اجتماعی، آینده‌ی آزادی بیان را تحت تاثیر قرار می‌دهد.

داستانی که می‌خوانید از زبان جولی مورا بلانکو تعریف شده است. جولی بلانکو جوان با استعدادی است که تاکنون در شرکت‌های فناوری زیادی مثل یوتیوب و توییتر فعالیت کرده است.

یکی از روزهای گرم تابستان ۲۰۰۶ بود. او به تازگی از دانشگاه ایالتی کالیفرنیا و از رشته‌ی هنر فارغ‌التحصیل شده است. جولی بیشتر وقت خود را به مجسمه‌سازی می‌گذراند، البته تا وقتی که شانس کار در استارتاپ نوپای یوتیوب را پیدا می‌کند. بلانکو  بیشتر دوست داشت تا به عنوان یک مانکن و مدل مو شناخته شود و شاید اگر به دنبال همین کار می‌رفت درآمد خیلی بیشتری داشت.

جولی جز افرادی بود که برای توسعه سایت یوتیوب کار می‌کردند، سایتی که هنوز به سوددهی مالی نرسیده بود. افراد تیمی که جولی عضو ان بود، به SQUAD معروف بودند. SQUAD به معنی ایمنی، کیفیت و دپارتمان حمایت از حقوق کاربران می‌باشد.   

SQUAD در مجموع ۴ تا ۶ نفر عضو داشت. افرادی که صبح تا شب پشت مانیتورهای بزرگی می‌نشستند و فیلم‌های کاربران را کنترل می‌کردند.

تمامی فیلم‌ها باید بررسی می‌شد. برخی از تغییرات صبح انجام می‌شد  و برخی هم شب‌ها اعمال می‌شدند.

شغل این افراد حذف فیلم‌هایی بود که اجازه‌ی انتشار روی سایت را نداشتند.  یوتیوب به تازگی ظاهر شده بود و نباید محتوای ضد اخلاقی روی آن منتشر می‌شد.

موسسان یوتیوب می‌خواستند سایتی  بسازند تا همه‌ بتوانند فیلم‌های مورد نظر خود را روی آن بیایند. اما در مدت زمان کمی این سایت تبدیل شد به مخزنی از فیلم‌های پورنوگرافی، خشونت علیه حیوانات، کودک آزاری، برهنگی و فیلم‌های کشت‌وکشتار.

ویدئوهای بسیار زیادی برای این افراد ارسال می‌شود. بعد از تماشای ثانیه‌های اولیه‌ی این فیلم‌ها، اعضای SQUAD یکی از چهار دکمه‌ی روی صفحه نمایش خود را لمس می‌کنند. دکمه‌ی تایید برای اینکه ویدئو منتشر شود. دکمه‌ی مهیج، برای ویدئوهایی که برای سنین بالای ۱۸سال مناسب است. دکمه‌ی حذف بدون مجازات و بالاخره دکمه‌ی حذف ویدئو با حذف اکانت برای حذف حساب کاربری افرادی که آن را بارگذاری کرده است.

مورا چیزی را که آن روز صبح دیده است، کامل توصیف نمی‌کند. ویدئوی خشونت‌باری که تمام صبح مورا را به هم می‌زند. بعد از حذف ویدئو، اطلاعات حساب کاربری فرد مورد نظر برای CyberTipline    فرستاده می‌شود. CyberTipline سیستمی است که در سال ۱۹۹۸ توسط مرکز مبارزه با آزار و  اذیت کودکان  یعنی NCMEC راه‌اندازی شده است.

کار نظارت به نفع همه است.

مورا یکی از دو جین افرادی است که بعد از کار در شرکت‌های بزرگ فناوری مثل یوتیوب  و فیسبوک با ما و به صراحت در مورد معتدل سازی محتوای این شبکه‌های اجتماعی مصاحبه می‌کنند. تعداد بیشتری از این افراد دوست ندارند نام‌شان افشا شود. داستان‌هایی که این افراد بیان می‌کنند، نشان می‌دهد که چگونه ممکن است مرزهای آزادی بیان در طی برخی رخداد های سیاسی و فرهنگی، توسط همین شرکت‌ها جابجا شود.

جفری روزن، یکی از اساتید حقوق آمریکا، می‌گوید:

فیسبوک از سال‌ها پیش قدرت زیادی در تعیین مسائلی که مردم می‌توانند بشنوند دارد. این شرکت حتی می‌تواند تعیین کند که چه کسانی این حرف‌ها را بشنوند. 

یوتیوب در سال ۲۰۰۵ و توسط چاد هرلی، استیو چن و جاوید کریم راه‌اندازی شد. در ماه اکتبر این سال اولین ویدئوی یوتیوب منتشر شد که یک میلیون بازدید کننده داشت. این ویدئو فیلمی از تلاش رونالدینیو برای جفت کردن یک جفت کفش ورزشی طلا بود. موفقیت یوتیوب به همین روال ادامه داشت تا اینکه سال بعد گوگل ۱.۶۵ میلیارد دلار برای خرید این استارتاپ پرداخت کرد.

در روزهای اول، یوتیوب تعداد کمی کاربر داشت که فیلم‌های خانواده و دوستان خود را در آن به اشتراک می‌گذاشتند. اما وقتی این سایت شناخته شد، طیف وسیعی از ویدئوها در ان منتشر می‌شدند. فیلم‌های تجاری، موسیقی و حتی حجم عظیمی از پورنوگرافی، ویدئوهای کودک آزاری، ضرب و شتم و آزار و اذیت حیوانات نیز جز همین فیلم‌ها بودند.

در سال ۲۰۰۷ یوتیوب عملا قانون کپی رایت را قبول کرد. اما غربالگری محتوا به مراتب پیچیده تر بود و به کار بیشتری نیاز داشت. در این سال تیم SQUAD قوانین یوتیوب را به وضوح برای کاربران تعریف کرد: تصاویر پورنوگرافی، اعمال مجرمانه، خشونت، تهدید، هرزنامه ها و سخنان تنفرآمیز جایی در یوتیوب ندارند.

 

امروز کاربران میلیاردی یوتیوب در هر دقیقه بیش از ۴۰۰ ساعت ویدئو روی ان آپلود  می‌کنند. در هر ساعت کاربران اینستاگرام ۱۴۶ میلیون لایک می‌زنند و کاربران توییتر ۲۱ میلیون توییت می‌کنند. در ماه اوت گذشته نیز زاکربرگ اعلام کرد که برای اولین بار در یک روز یک میلیارد نفر از فیسبوک استفاده کرده‌اند.

به همین علت است که مسئولین این پلت‌فرم ها تاثیر قابل توجهی روی بر آزادی بیان، مخالفت با دولت، شکل دادن هنجارهای اجتماعی، ایمنی کاربر و معنای حفظ حریم خصوصی دارند.

اما سوال اینجاست:

چه محتوایی باید حذف شود؟ چه کسی تصمیم می‌گیرد که کدام محتوا باید حذف شود یا باقی بماند؟ کدامیک به عنوان تهدید یا صدمه تلقی می‌شوند؟

در حالیکه‌ بحث‌های جنجالی بر سر  سانسورهای دولتی و منع آزادی بیان مطرح می‌شود، اما در حقیقت این شرکت‌ها خیلی پنهانی و بدون اطلاع ما، خط مشی خود را طی می‌کنند و محتوایی را که خودشان صلاح می‌دانند، نشان‌مان می‌دهند. با وجود تلاش‌های مداوم فعالان جامعه مدنی برای بیشتر شدن شفافیت، رسانه‌های اجتماعی جزئیات زیادی از نظارت محتوای داخلی خود را منتشر نمی‌کنند.

 قوانینی که ما وضع کرده‌ایم به کاربران اجازه می‌دهد تا طیف وسیعی از محتوای مورد نظر خود را در محیطی امن و مطمئن به اشتراک بگذارند. اگر محتوای ارسالی این قوانین را نقض کند، ما حساب کاربری فردی را که محتوا را ارسال کرده، بررسی می‌کنیم و در صورت لزوم برخود لازم را انجام می‌دهیم.

در روزهای آغازین به وجود آمدن اینترنت، یکی از اهداف اصلی این بود که اطلاعات آزاد باشد و به راحتی در اختیار همه قرار گیرد. این ارتباطات زمینه‌ی رشد و خلاقیت را بین افراد ایجاد می‌کرد. اما متاسفانه همین اینترنت باعث دست به دست شدن آسانتر محتوای فجیع نیز شد. 

کار بلانکو و هم تیمی‌هایش مانع از پخش ویدئوهایی می‌شد که مفاهیم غیر اخلاقی داشتند. این افراد خودشان را در یک اتاق تاریک حبس می‌کردند و به مانیتورهای بزرگی که پیش رو داشتند خیره می‌شدند.

اما این سوال همیشه مطرح بوده است که تا چه زمانی می‌توان به این مانیتور ها خیره بود تا محتوای غیر اخلاقی این شبکه‌ها را حذف کرد؟

از طرفی یکی از کارشناسان رسانه‌های دیجیتال معتقد است بنیانگذاران بسترهای اینترنتی نه تنها در مقابل این محتوای غیر اخلاقی مقاومت نمی‌کنند، بلکه در درک عمل معتدل سازی نیز مشکل دارند.  

اما راه چاره چیست؟

روزانه‌ حجم بسیار زیادی از محتوا در پلت‌فرم‌های مختلف مجازی ردوبدل می‌شود. کار نظارت روی این حجم از اطلاعات، خیلی هم آسان نیست. برای همین ابزار های معتدل‌سازی محتوایی به وجود آمده‌اند که از ترکیب هوش انسانی و قدرت نرم‌افزاری کامپیوتر تشکیل شده اند. با این روش می‌توان حجم وسیعی از محتوایی را که کاربران منتشر می‌کنند، نظارت کرد.  در برخی از شرکت‌های بزرگ مانند یوتیوب، پینترست، فیسبوک و توییتر از هر دویِ تکنولوژی و راه‌حل‌های انسانی برای بهبود روش‌های  معتدل‌سازی استفاده می‌شود.