به این فکر کنید که چه مقدار از اطلاعات روزانه‌ی خود را از طریق وب بدست می‌آورید و این اطلاعات چه تاثیری روی رفتار شما می‌گذارد. آیا نتایج جست‌وجو یک عبارت یکسان، برای اعضای یک گروه تروریستی، شما و یک دانشمند بیولوژی مشابه است؟ مسلما اینگونه نیست. (به شرطی که دانشمند بیولوژی و یا تروریست نباشید!) الگوریتم‌های شخصی‌سازی مورد استفاده برای نمایش اطلاعات در وب، باعث می‌شوند تا محتوای نشان داده شده برای هر فرد متفاوت با دیگری باشد.

شخصی‌سازی به فرآیند جمع‌آوری، ذخیره‌سازی و تجزیه‌و‌تحلیل اطلاعات بازدیدکنندگان یک سایت برای ارائه‌ی اطلاعات صحیح و در زمان مناسب به او گفته می‌شود.

این فناوری دقیقا مانند کاری است که خبرنگاران و روزنامه‌نگاران برای انتشار مطالب خود انجام می‌دهند. مطالعه‌ای که در سال ۱۹۷۹ روی چند روزنامه‌نگار آمریکایی صورت گرفته نشان می‌دهد که نویسندگان بیشتر سعی می‌کنند مطالبی را منتشر کنند که باب میل مخاطبان است.   

البته الگوریتم‌های شخصی‌سازی هنوز جایگاه خود را پیدا نکرده است و به نظر می‌رسد بیشتر از آن‌ که روی خواسته‌های کاربر تمرکز کند به سود شرکت‌های فناوری کار می‌کند.  

الی پاریزر، روزنامه‌نویس آمریکایی در سال ۲۰۱۱ مقاله‌ای را درباره‌ی حباب فیلتر نوشته است که به موضوع مورد نظر ما اشاره دارد. در این حباب  فقط  محتوایی به کاربران ارائه می‌شود که براساس رفتارهای آنلاین قبلی آن‌ها می‌توان حدس زد مطابق میل‌شان باشد. با این کار فردی که به محتوای علمی بیشتر علاقه مند است، مقالات علمی را بیشتر از محتوای زرد اینترنت مشاهده خواهد کرد.

این روند مانند این است که چون قبلا به موزه نرفته‌اید، در سفر به شهر اصفهان به هیچ موزه‌ای هدایت نشوید. مشکل اینجاست که این مدل از شخصی‌سازی، ذهن را نه تنها باز نمی‌کند بلکه فکر را محدودتر می‌سازد.

مارک زاکربرگ:

سنجابی که جلوی خانه‌ی شما در حال مرگ است می‌تواند از کودکانی که در آفریقا بر اثر گرسنگی می‌میرند، مهم‌تر باشد.

پاریزر معتقد است که ایده‌ی شخصی‌سازی اطلاعات در واقع مسابقه‌ای را بر سر ارائه‌ی مطالب، سرگرمی، نظرات و تبلیغات مورد علاقه‌ی کاربران برای شرکت‌های فناوری ایجاد می‌کند، رقابت بر سر پیش‌بینی محتوایی که کاربر دوست دارد آن را ببیند.

در این میان فیس‌بوک، نت‌فلیکس، گوگل و حتی توییتر شرکت‌هایی هستند که بیشتر روی این زمینه کار کرده‌اند. نیوزفید شما در فیسبوک براساس رفتارتان در این شبکه‌ی اجتماعی شکل گرفته است. البته فیسبوک تنها جایی نیست که محتوای دیده شده برای کاربر را ویرایش می‌کند. گوگل نیز همین ویرایش نامرئی و الگوریتمی را روی محتوای خود انجام می‌دهد. اگر من موضوعی را همزمان با دوست خود در گوگل جست‌وجو کنم احتمالا نتایج متفاوتی را درباره‌ی آن خواهم دید. یکی از مهندسین گوگل در این‌باره گفته است:

حتی اگر وارد جیمیل خود نشده باشید، گوگل برای نمایش اطلاعات از منابع گوناگونی استفاده خواهد کرد. کامپیوتری که با آن به شبکه وصل شده‌اید، مرورگری که از آن استفاده می‌کنید و حتی موقعیت مکانی‌ کاربر روی نتایج جست‌وجو تاثیر می‌گذارد. جالب اینجاست که هیچ کس نمی‌فهمد نتایج جست‌وجوی او در گوگل با بقیه چه تفاوتی دارد.

مسئله‌ی مهم این است که الگوریتم‌های شخصی‌سازی مورد استفاده در موتورهای جست‌وجو، سایت‌های خبری و شبکه‌های اجتماعی تنها فرمول‌های ریاضی ساده برای نشان دادن مطالب جالب و خنده دار به ما نیستند. این الگوریتم‌ها می‌توانند روی نگاه ما به جهان تاثیر بگذارند و حتی راه خلاقیت و نوآوری ما را ببندند. حتی ممکن است محتوای خاصی صرفا برای عوض کردن رفتار کاربر از دید دیگری برای او مطرح شود.

به هر حال شفاف نبودن الگوریتم‌های مورد استفاده برای شخصی‌سازی اطلاعات تناقضی است که در این زمینه مطرح می‌شود. این الگوریتم‌ها در اختیار خود کاربر قرار نمی‌گیرد و شخص نمی‌داند که الگوریتم‌ها چگونه کار می‌کنند و چه اطلاعاتی روی آن‌ها تاثیر می‌گذارد.

مورد دیگر این است که الگوریتم‌های شخصی‌سازی به نفع سازمان‌های فناوری دستکاری می‌شوند. در اینصورت  علاقه‌ی کاربران در اولویت دوم قرارمی‌گیرد. این مسئله که به آن شکاف علاقه گفته می‌شود در واقع همان اختلافی است که بین محتوای مورد علاقه‌ی کار و محتوایی که تولید می‌شود وجود دارد.

به هر حال یکی از جنبه‌های آزاردهنده الگوریتم‌های صفحات وب این است که نمی‌دانیم چطور کار می‌کنند. در حقیقت ما فقط چیزی را می‌بینیم که الگوریتم تصمیم گرفته است و هرگز نمی‌فهمیم چه چیزهایی به ما نشان داده نشده است. از طرف دیگر این الگوریتم‌ها هنوز کامل نشده‌اند و نمی‌توانند حالات پیچیده‌ی انسانی را درک کنند. به همین علت بیشتر محتوایی که به کاربر نشان داده می‌شود نامربوط است.

ایده‌آل ترین حالت زمانی است که هر کس بتواند الگوریتمی را که خودش برای نحوه نمایش اطلاعات می‌پسندد انتخاب کند اما مشکل این است که چه کسی باید این الگوریتم‌های شخصی‌سازی شده برای انتخاب ما را تولید نماید؟

اگر قرار است الگوریتم‌ها دنیای ما را ساماندهی کنند و آن‎‌ها تصمیم بگیرند که چه چیزی را ببینیم و چه چیزی را نبینیم، باید به نفع کاربر طراحی شده‌ باشند نه شرکت‌های فناوری.