بنگاه خودتنظیم؛ وقتی رئیس تان شلوار آهنی می پوشد

بخش روشنگری شماره ۱۱ (ژوئن ۲۰۱۵) مجله کسب و کار هاروارد، به رابطه بین انسان و روبات ها در عصر ماشین پرداخته است. این چهارمین و آخرین مقاله این بخش است.

 

بنگاه خودتنظیم؛ وقتی رئیس تان شلوار آهنی می پوشد

درس هایی از خط مقدم تحقیقات انسان-ربات

والتر فریک

 

کیت دارلینگ محقق دانشگاه MIT، در کنفرانس رباتیک ۲۰۱۳ از شرکت کنندگان دعوت کرد با دایناسورهای اسباب بازی متحرک به نام پلئو بازی کنند که تقریباً اندازه یک چیلهواوا بودند. به شرکت کنندگان گفته شد که برای ربات های خود اسم بگذارند و با آن ها تعامل کنند. آن ها خیلی زود دریافتند که پلئوها قادر به برقراری ارتباط هستند: دایناسورها با حرکات و حالت های صورت خود نشان می دادند که دوست دارند نوازش شوند و دوست ندارند آن ها را از دم بلند کنند. بعد از یک ساعت، دارلینگ به شرکت کنندگان استراحت داد، وقتی ان ها بازگشتند، او به آن ها چاقو و تیشه داد تا دایناسورها را شکنجه داده و آن ها را قطعه قطغه کنند.

دارلینگ برای کمی مقاومت آماده بود، اما با مخالفت یکپارچه گروه با صدمه زدن به ربات ها رو به رو شد. برخی از مشارکت کنندگان حتی پلئوها را با دست هایشان مخفی می کردند تا کسی نتواند به آن ها آسیب بزند. او در سخنرانی اش در ۲۰۱۳ چنین نتیجه گرفت که «ما به نشانه های اجتماعی که این ماشین های زنده مانند از خود بروز می دهند، پاسخ می دهیم ، با وجود اینکه می دانیم واقعی نیستند.»

این بینش موج بعدی خودکارسازی را شکل خواهد داد. همانطور که اریک برینیالفسون و اندرو مکافی در کتاب عصر ماشینی دوم توضیح می دهند، «ماشین های متفکر» در حال ورود به محل کار هستند و می توانند ارزش زیادی برای کسب وکارها و جامعه ایجاد کنند- از ربات های مستقل که به سرعت وظایف جدید را در کارخانه یاد می گیرند گرفته تا نرم افزارهایی که می‎توانند متقاضیان یک شغل را ارزیابی کرده یا یک استراتژی برای شرکت پیشنهاد دهند. اما گرچه محدودیت های تکنولوژیک در حال برطرف شدن هستند، محدودیت‎های اجتماعی باقی می مانند. چگونه می توانید تیم خود را قانع کنید که به هوش مصنوعی اعتماد کنند؟ یا یک ربات را به عنوان همکار یا حتی مدیر بپذیرند؟ آیا اگر آن ربات را جایگزین کنید، روحیه کارکنان پایین می آید؟

پاسخ به این سوالات نیازمند فهم این است که انسان ها چگونه با ماشین های متفکر کار کرده و ارتباط برقرار می‎کنند. تحقیقات منسجم در حال گسترش دادن دانش ما و رساندن ما به بینش های جدید و مهمی در این زمینه هستند. وقتی این ماشین ها از ابزار به همکار تبدیل شوند، یک چیز روشن خواهد بود: پذیرش آن ها چیزی فراتر از به کارگیری یک فناوری خواهد بود.

 


کی به الگوریتم ها اعتماد می کنیم و کی نه

اولین چالش در کار با ماشین های متفکر این است که آن ها بیشتر از ما می دانند. این یافته ۲۰۱۴ را در نظر بگیرید: محققان وارتون یک سری آزمایش انجام دادند که در آن شرکت کنندگان در ازای پیش بینی های خوب پاداش مالی می گیرند و می توانند یا خودشان این پیش بینی را انجام دهند یا آن را به یک الگوریتم بسپارند. مثلاً، در یک آزمایش به شرکت کنندگان داده های پذیرش گروهی از دانشجویان MBA داده شد و از آن ها خواسته شد برآورد کنند که هر دانشجو چه عملکردی طی دوره داشته است. بیشتر افراد ترجیح دادند از قضاوت شخصی خود به جای الگوریتم ها استفاده کنند.

این پدیده «پرهیز از الگوریتم» نام دارد و در مطالعات دیگر هم مورد بررسی قرار گرفته. افراد چه در تشخیص بیماری و چه در قضاوت های سیاسی افراد قضاوت انسان- خود یا کس دیگر- را به الگوریتم ترجیح می دهند و اغلب تصمیمات بدتری می گیرند. پیام برای مدیران این است که کمک به انسان برای اعتماد کردن به ماشین های متفکر امری ضروری است.

متاسفانه نشان دادن اینکه الگوریتم ها چقدر خوب عمل می کنند، باعث نمی شود به آن ها اعتماد کنند. وقتی محققان وارتون حدس شرکت کنندگان، حدس خود ان ها و پاسخ های صحیح را به ایشان نشان دادند، شرکت کنندگان دریافتند که قضاوت الگوریتم ها بهتر بوده است اما دیدن نتایج به معنی دیدن خطاهای الگوریتم هم بود که بر اعتماد اثر می گذاشت. برکلی دایتورست یکی از این محققان می گوید «وقتی افراد خطاهای الگوریتم ها را می بینند اعتماد خود را به آن ها از دست می دهند. با اینکه اشتباهات انسان خیلی بیشتر از الگوریتم ها است، افراد اعتماد خود را به قضاوت انسانی از دست نمی دهند. به عبارت دیگر اشتباهات یک الگوریتم خیلی بیشتر از اشتباهات انسان به چشم ما می آیند. طبق گفته دایتورست دلیل این است که ما فکر می کنیم قضاوت انسان می تواند بهبود یابد اما قضاوت الگوریتم نه.

پرهیز از الگوریتم در کارهایی که انسان آن را پیچیده تر و شهودی تر از محاسبات عددی می داند بیشتر دیده می شود. محققان دانشکده کسب وکار هاروارد از کارکنان روی سایت مکانیکال ترک خواستند انواع مختلفی از وظایف را انجام دهند؛ به برخی گفته شد که وظایف نیازمند «شناخت» و «استدلال تحلیلی» هستند و به برخی گفته شد که نیازمند «احساس» و «پردازش عواطف» هستند. سپس از شرکت کنندگان پرسیده شد آیا حاضرند این نوع کار به ماشین ها سپرده شود. کسانی که به آن ها گفته شده بود کار عاطفی است مقاومت بیشتری در برابر این پیشنهاد نشان دادند تا کسانی که تصور می کردند کار تحلیلی و منطقی است. مایکل نورتون یکی از محققان می گوید «فکر کردن اغلب شبیه ریاضی حل کردن است و خب حل مسائل ریاضی توسط ربات امری پذیرفته شده است. اما از نظر شرکت کنندگان احساس کردن برای ربات ها پذیرفتنی نیست، چون در این صورت آن ها به انسان بودن خیلی نزدیک می شوند»

نورتورن معتقد است تحلیلی نامیدن و پنداشتن یک وظیفه می تواند به از بین بردن بدبینی انسان نسبت به الگوریتم کمک کند. در مطالعه ی دیگری او و آدم واتیز از کلاگ دریافتند وقتی به افراد گفته می شود که تدریس ریاضیات نیاز به «مهارت های تحلیلی برای تدریس فرمول ها و الگوریتم ها به دانش آموزان» دارد راحت تر انجام آن توسط یک ربات را می پذیرند، تا اینکه به آن ها گفته شود که نیازمند «توانایی برقرار ارتباط با جوانان» است.

دایتورست و همکارانش در وارتون پاسخ دیگری ارائه می دهند. اگر افراد قضاوت خود را به قضاوت الگوریتم ترجیح می دهند، چرا اولی را در دومی تعبیه نکنیم؟ در یک آزمایش آن ها به شرکت کنندگان اجازه دادند خروجی یک الگوریتم را کمی دستکاری کنند. از آن ها خواسته شد بر اساس داده های مختلف برآورد کنند که یک دانش آموز دبیرستانی در یک امتحان استاندارد ریاضی چه نمره ای کسب کرده است. به جای اینکه به آن ها گفته شود بین قضاوت خود و الگوریتم یکی را انتخاب کنند، به آن ها اجازه داده شد که برآورد الگوریتم را کمی بالا و پایین کرده و آن را به عنوان قضاوت خود ارائه دهند. محققان دریافتند که افرادی که این امکان به آن ها داده شده، احتمال بیشتری دارد که به الگوریتم اعتماد کنند. دایتورست معتقد است دلیل این است که در این حالت انسان ها احساس نمی کنند که تمام قدرت و کنترل خود را روی آن برآورد از دست داده اند.

ـــــ
وقتی افراد خطاهای الگوریتم ها را می بینند اعتماد خود را به آن ها از دست می دهند. با اینکه اشتباهات انسان خیلی بیشتر از الگوریتم ها است، افراد اعتماد خود را به قضاوت انسانی از دست نمی دهند. به عبارت دیگر اشتباهات یک الگوریتم خیلی بیشتر از اشتباهات انسان به چشم ما می آیند.
ـــــ

 

ادامه دارد…


 

این مقاله از شماره ۱۱ (ژوئن ۲۰۱۵) مجله کسب و کار هاروارد انتخاب شده است. برای دانلود رایگان کل مجله، اپلیکیشن مجله هاروارد را دانلود و نصب نمایید.

Copyright 2016 - 2017 | All rights reserved