به تازگی داستانی تخیلی و کوتاه با نام "مشاور" به نوشته‌ی رابین اسلون برای همکاری با موسسه‌ی Data & Society در سایت مادربرد منتشر شده است. این داستان به عنوان بخشی از پروژه‌ی Intelligence & Autonomy، راه هایی را بررسی می‌کند که هوش مصنوعی بوسیله‌ی آن می‌تواند بر رفتار انسان مسلط شود. در این پروژه یافته های دنیای واقعی در زمینه‌ی هوش مصنوعی با داستان های علمی تخیلی به تصویر کشیده می‌شوند.
مطلبی که می‌خوانید در واقع قسمت دوم همین داستان است که موضوعات مطرح شده در داستان مشاور را به شکلی غیر روایی بیان می‌کند. در هر دوی این مقاله ها مسئله‌ی هوش مصنوعی از منظر جدیدی دیده می‌شوند و مباحثی بیان می‌شوند که به ناچار و در آینده ای نه چندان دور با آن روبرو خواهیم شد.
داستان مشاور از این قرار است که یک مرد ۹۵ ساله در برابر ماشین هوشمندی قرار می‌گیرد که خودش قبلا ساخته است. جالب اینجاست که جنگ میان این دو نفر یک جنگ روانی است و ماشین سعی دارد تا مرد را متقاعد کند که وقت مرگش رسیده و بهتر است به زندگی خود پایان دهد.
این ماشین مشاور سوال می‌پرسد و سکوت های معنی داری دارد. حتی به گونه ای طراحی شده است که از مذهب نیز برای قانع کردن بیمارش استفاده می‌کند. بیمار نیز سعی می‌کند تا تحت تاثیر گفته های او قرار نگرفته و برای زنده ماندن خود تلاش کند.
در این داستان علاوه براینکه یک دید کلی از آینده‌ی جهان هوشمند به کاربران داده می‌شود، سعی شده تا سیستم های مورد استفاده برای طراحی ماشین های هوشمند نیز تحلیل شود. نکته اینجاست که طراحان باید در انتخاب متدهایی که روی ماشین های هوشمند پیاده سازی می‌کنند، دقت بیشتری داشته و استفاده از برخی روش ها را کنار بگذارند.
این پرسش که چه چیزی باعث می‌شود که سیستمی خاصیت قانع کنندگی بخود بگیرد، پیچیده تر از آنست که به نظر می‌رسد. اما جالب است بدانید که در بسیاری از مواقع شما ممکن است توسط شخصی یا مکانیزمی قانع شوید بدون اینکه حتی بدانید که چه اتفاقی روی داده است.
امکان صحبت کردن در یک ماشین باعث می‌شود تا قدرت بیشتری در متقاعد کردن داشته باشد و رفتار خود را بر اساس واکنش کاربران تغییر دهد. ترفند ELIZA در علم کامپیوتر به معنای روشی است که در آن هوش مصنوعی تلاش می‌کند تا با یک سیستم ساده‌ی پرسش و پاسخ و از روی واکنش عاطفی کاربران، اطلاعات شخصی آن ها را استنتاج کند.
در نظر گرفتن جنسیت بخصوص جنس مونث برای ماشین های هوشمند تاثیر مثبتی روی قدرت قانع کنندگی آن ها دارد. طبق نتایج یک پروژه‌ی تحقیقاتی در دانشگاه MIT، کاربران در برابر رباتی با ظاهر یک انسان کمتر احساس خطر می‌کنند.
البته اخیرا مفاهیمی بیان شده است که نشان می‌دهد سیستم های هوشمند قدرتمند آن هایی هستند که بدون نیاز به یک بدن فیزیکی و یا شخصیت انسانی می‌توانند طرف مقابل خود را متقاعد کنند. برای مثال خبرخوان فیسبوک سیستم هوشمندی است که مطالب منتشر شده را براساس علایق کاربران به آن ها نمایش می‌دهد. الگوریتم به کار رفته در این نمایش می‌تواند روی نظر ما در انتخابات، احساسات و دیدگاه های مخالف‌مان در هر زمینه ای تاثیر زیادی داشته باشد.
این قدرت متقاعد کردن در ماشین ها می‌تواند بسیار خطرناک‌تر از سیستم ماشینی و بدون احساسی باشد که برای آینده‌ی جهان هوشمند تصور می‌شود. به هر حال هوش مصنوعی تنها به معنی ربات‌هایی با ظاهر انسان و یا یک ماشین الکترونیکی نیست. همین اتومبیل‌های بدون راننده‌ی امروزی و یا موتور های جست وجو نمونه‌ای ملموس از هوش مصنوعی هستند.
سیستم‌های هوشمند طراحانی دارند که درباره‌ی نحوه‌ی رفتار آن ها تصمیم گیری می‌کنند. در داستان مشاور، جنگ اصلی میان مرد بیمار و سیستمی است که خودش قبلا آن را طراحی کرده است. در این مدل طراحی، سازندگان سعی داشته‌اند تا رفتار کاربرانی را که از سیستم‌شان استفاده می‌کنند، تحت تاثیر قرار دهند.
به هر حال هوش مصنوعی از این دیدگاه سه چالش اساسی را پیش روی ما می‌گذارد. اول اینکه سیستم های هوشمند می‌توانند به گفته‌ی کاربران گوش داده و با نتیجه گرفتن از آن رفتارهای جدیدی را شکل دهند. شاید در گذشته کمتر روی این موضوع تاکید می‌شد اما ماشین های توانمند امروزی باید چنین قدرتی داشته باشند.
دوم اینکه ماشین های هوشمند ماندگار هستند. کاربران می‌توانند برای مدت طولانی با یک عامل هوشمند مانند سیری زندگی کنند. در گذشته دسترسی به سیستم ماشین ها و بهبود ان مشکل بود اما اکنون و مخصوصا با آمدن معماری ابری عمر مفید سیستم های هوشمند نسبت به گذشته افزایش قابل توجهی داشته است.
چالش سوم نیز این است که نمی‌توان به این راحتی ها و با پرسش و پاسخ هدف یک ماشین هوشمند را دریافت. تجربه‌ی تعامل با یک ماشین هوشمند بسیار دشوار است. مثلا یک کاربر به سختی می‌تواند تشخیص دهد که رفتار ماشین در طول زمان تغییر کرده است یا خیر.
این سه ویژگی تنها دلیل نگرانی ما برای آینده‌ی هوش مصنوعی نیست. تصمیمی که طراحان در نحوه‌ی پیاده سازی هوش مصنوعی می‌گیرند، بسیار مهم است. درست مانند اینکه به ماشین اجازه دهیم تا چه چیزی را بخرد و روی چه چیزی کلیک کند.
آنچه که در داستان مشاور کاملا مشهود است داشتن میزان قدرتی است که به ماشین هوشمند اجازه می‌دهد تا فعالیت متقاعد کننده ای را انجام دهد که برای انسان نامناسب است. در واقع مدل مشاوره ای این داستان مغایر با ضوابط پزشکی است. برای همین است که گفته می‌شود در آینده ای نزدیک تدوین ابزارهای مختلف برای دادن توانایی متقاعد کردن به ماشین های هوشمند، به یکی از دغدغه های اصلی طراحان تبدیل خواهد شد. البته باید در نظر بگیریم که این توانایی برای کمک به استقلال و همچنین باهوش تر شدن ماشین ها به آن ها داده می‌شود.
اینکه این اختیار وسیع‌تر و قدرتمند تر از توانایی انسان باشد یا نه، تصمیم مهمی است که باید در اینباره گرفته شود. بهترین تصمیم در این خصوص این است که برای ماشین های هوشمند اختیار محدودتری را در نظر بگیریم تا انسان ها استقلال بیشتری در تصمیم گیری های خود داشته باشند.
به نظرم اجتناب ناپذیره
به خصوص اینکه عقیده دارم رفتار ما جبریه و اختیاری وجود نداره مثل یه کامپیوتر و ما خیلی راحت بوسیله کسی که اصول روانشناسی رو بدونه قابل هدایتیم بدون اینکه خودمون متوجه بشیم و کی روانشناس تر از هوش مصنوعی!