جاروی وظیفه‌شناس گوته

این ایده که آفریده‌ای هوشمند به انسان‌ها آسیب می‌رساند، بارها در عرصهٔ هنر و نظر مطرح شده است: در رمان فرانکشتاین[۱]Frankenstein; or, The Modern Prometheus نوشتهٔ مری شلی[۲]Mary Shelley، مصنوع دکتر فرانکشتاین از کنترلش خارج شده و دست به جنایت می‌زند؛ در فیلم ۲۰۰۱: اودیسهٔ فضایی[۳]۲۰۰۱: A Space Odyssey محصول مشترک استنلی کوبریک[۴]Stanley Kubrick و آرتور کلارک[۵]Arthur C. Clarke، کامپیوتر هوشمند سفینه—موسوم به هال ۹۰۰۰—ارزیابی مرگ‌باری از شرایط مأموریت ارائه می‌دهد؛ در ماتریس[۶]The Matrix محصول برادران واچوفسکی[۷]The Wachowskis، جهان تحت سلطهٔ ماشین‌هایی هوشمند قرار گرفته که انسان‌ها را به انقیاد خود درآورده‌اند؛ در نابودگر[۸]The Terminator به کارگردانی جیمز کامرون[۹]James Cameron، شبکهٔ آسمان—موسوم به اسکای‌نت—قصد نابودی بشریت را دارد. این‌ها چند نمونه از مواردی هستند که می‌شناسم، وگرنه مثال‌ها به مراتب بیشترند.

استیون هاوکینگ[۱۰]Stephen Hawking—که به تازگی درگذشت؛ روحش شاد—گفته بود «دستگاه‌های هوشمند می‌توانند پایان گونهٔ انسان را رقم بزنند.» اگر روزگاری فقط نخبگان فکری نسبت به پیشرفت فن‌آوری و انقیاد انسان هشدار می‌دادند، امروز حتی کارآفرین‌های خوش‌بینی نظیر الون ماسک[۱۱]Elon Musk هم نگران پیشرفت‌های سریع در حوزهٔ هوش مصنوعی هستند: ماسک خطر هوش مصنوعی را از سلاح‌های هسته‌ای بیشتر می‌داند و خواستار ایجاد نهادهایی برای کنترل آن شده است.

اغلب ما، وقتی به ماشین‌هایی با توانایی فرا-انسانی می‌اندیشیم، ویران‌شهری[۱۲]dystopian را تصویر می‌کنیم که در آن ماشین‌ها علیه انسان‌ها شوریده‌اند، تو گویی اراده‌ای ضدبشری در آن‌ها شکل گرفته است.[آ]این تصویر کمی اغراق‌آمیز است، اما نسخهٔ واقع‌گرایانه‌‌تر آن‌را می‌توان چنین در نظر گرفت که خطر ماشین‌های هوشمند وقتی در اختیار دولت‌ها یا تروریست‌ها قرار بگیرند به شکلی غیرقابل پیش‌بینی زیاد است. اما در این صورت آن‌ها هنوز تحت کنترل انسان‌ها هستند و گونهٔ خودمختاری از ابزارها تلقی نمی‌شوند. اما، نِیت سورس[۱۳]Nate Soares، از انستیتوی تحقیقات هوش ماشینی[۱۴]Machine Intelligence Research Institute می‌گوید که این تصویر کاملی نیست. به نظر او ویران‌شهر ناشی از ماشین‌های هوشمند احتمالاً شباهت زیادی به ماتریس یا نابودگر ندارد. در این داستان‌ها ماشین‌های هوشمند قصد جان آدم‌ها را کرده‌اند؛ اما دلیلی ندارد هوش مصنوعی رویکردی منفی علیه انسان‌ها داشته باشد. در عوض سورس خطر اصلی را در این می‌داند که هوش مصنوعی وظیفهٔ محول شده به خود را بیش از حد خوب انجام دهد؛ همراه با خلاقیتی مستقل، ولی از نظر ما نامطلوب. به نظر او چالش بزرگی که پیش روی ما قرار دارد این است که بفهمیم هوش مصنوعی چگونه کار می‌کند و بتوانیم عملکرد آن‌را در جهت مورد نظرمان هدایت کنیم. اما هوش مصنوعی، اگر به مرحلهٔ قابل مقایسه با هوش انسانی برسد، دارای ابتکار عمل‌های ویژهٔ خود خواهد شد و پیش‌بینی و مهار این ابتکار عمل‌ها به شیوه‌ای که مطلوب ما باشد دشوار است.

یوهان ولفگانگ گوته[۱۵]Johann Wolfgang von Goethe تصنیفی دارد به نام «شاگرد جادوگر»[۱۶]The Sorcerer’s Apprentice; 1797. استاد جادوگر برای کاری از کارگاه بیرون می‌رود. شاگرد که وظیفه دارد کارگاه را تمیز کند، به کمک جادویی که هنوز به خوبی نیاموخته، جاروی دستی‌اش را وادار می‌کند که به جای او کار کند؛ اما کم‌کم متوجه می‌شود که مشکلی وجود دارد. جارو متوقف نمی‌شود و مصرانه به آوردن آب از چاه ادامه می‌دهد. از آن‌جا که او به هیچ‌وجه نمی‌تواند جارو را متوقف کند، با تبر آن‌را دو نیمه می‌کند. اما نیمه‌ها، خود به جاروهایی کامل تبدیل می‌شوند و به آب آوردن ادامه می‌دهند. عاقبت در حالی که اوضاع به کلی از کنترل شاگرد خارج شده است، استاد به کارگاه باز می‌گردد و طلسم را می‌شکند. کمپانیِ والت‌دیسنی، در روزهایی که هنوز هنر را می‌فهمید، پویانمایی بلندی تولید کرد به نام «فانتزیا»[۱۷]Fantasia; 1940 که یکی از ماندگارترین قسمت‌های آن بر اساس همین شعر گوته ساخته شده است.[۱۸]Fantasia Sorcerer’s Apprentice — https://www.youtube.com/watch?v=3hKgEylk8ks

شاید خطر هوش مصنوعی بیشتر شبیه جاروی بیش‌ از حد وظیفه‌شناس داستان گوته باشد. شاگرد جادوگر، در ساختن جارویی که آب می‌آورد موفق بود؛ اما جارو بیش از حد وظیفه‌شناس و خلاق بود و او را غافلگیر کرد. جارو دشمن شاگرد نبود، بلکه قصد داشت وظیفه‌ای که به او محول شده بود را انجام دهد و در این‌کار هوش و درایت خود را به کار گرفت؛ با این‌حال نتیجهٔ کارش ویرانی بود. ماشین‌های فوق هوشمندی را در نظر بگیرید که برای ارائهٔ خدمات به جامعه طراحی شده‌اند و کارشان را نیز به خوبی انجام می‌دهند. اما پیچیدگی زیادشان به اتخاذ ابتکارعمل‌هایی منجر شود که از نظر ما غیرقابل قبول هستند و در عین حال راهی برای مهار فوری آن‌ها نداریم. از این نظر، هال ۹۰۰۰ داستان اودیسهٔ فضایی، در مقایسه با شبکهٔ آسمان فیلم نابودگر، آیندهٔ ویران‌شهری باورپذیرتری را نمایندگی می‌کند.


  1. Frankenstein; or, The Modern Prometheus 

  2. Mary Shelley 

  3. ۲۰۰۱: A Space Odyssey 

  4. Stanley Kubrick 

  5. Arthur C. Clarke 

  6. The Matrix 

  7. The Wachowskis 

  8. The Terminator 

  9. James Cameron 

  10. Stephen Hawking 

  11. Elon Musk 

  12. dystopian 

  13. Nate Soares 

  14. Machine Intelligence Research Institute 

  15. Johann Wolfgang von Goethe 

  16. The Sorcerer’s Apprentice; 1797 

  17. Fantasia; 1940 

  18. Fantasia Sorcerer’s Apprentice — https://www.youtube.com/watch?v=3hKgEylk8ks 


  1. آ) این تصویر کمی اغراق‌آمیز است، اما نسخهٔ واقع‌گرایانه‌‌تر آن‌را می‌توان چنین در نظر گرفت که خطر ماشین‌های هوشمند وقتی در اختیار دولت‌ها یا تروریست‌ها قرار بگیرند به شکلی غیرقابل پیش‌بینی زیاد است. اما در این صورت آن‌ها هنوز تحت کنترل انسان‌ها هستند و گونهٔ خودمختاری از ابزارها تلقی نمی‌شوند. 

اندکی کمتر، آهسته‌تر، ملایم‌تر!

تأثیرِ فن‌آوری‌های جدید بر جامعه همگن نیست. برخی گروه‌ها بیشتر از سایرین از آن بهره می‌برند؛ گاهی هم آمدن یک فن‌آوری گروه‌هایی را دچار زیان و خسارت جدی می‌کند. در این صورت طبیعی خواهد بود اگر صدای بازندگان بلند شود. این مخالفت می‌تواند شکل‌های مختلفی داشته باشد. برخی نظریه‌پردازی می‌کنند، برخی به شیوه‌های مدنی مخالفت، برخی هم که کارد به استخوانشان رسیده به خشونت متوسل می‌شوند.

لُودایت‌ها[۱]Luddites گروهی از کارگران صنعت نساجی در بریتانیای اوایلِ قرن نوزدهم بودند که احساس کرده بودند ماشین‌آلاتِ جدیدِ خودکار، جای شغل‌های آن‌ها را خواهند گرفت؛ چون کارگران بی‌تجربه و کم‌مهارت‌ نیز می‌توانستند با آن‌ها کار کنند. آن‌ها با هدف متوقف کردن روند یاد شده، تعدادی از کارخانه‌ها و ماشین‌آلات نساجی را به آتش کشیدند و تخریب کردند. جنبش آن‌ها توسط دولت بریتانیا سرکوب شد، اما نام آن‌ها مرادفِ مخالفت با فن‌آوری‌ شده و گاه برای تحقیر منتقدان فن‌آوری‌های جدید نیز به کار گرفته می‌شود. اَشکال امروزی‌تر این نگرش را نولُودیسم[۲]Neo-Luddism می‌نامند. نولُودیست‌ها نگران تأثیر فن‌آوری‌های جدید بر افراد،‌ اجتماع‌ها و محیط هستند. آن‌ها می‌گویند باید به اصل احتیاط[۳]precautionary principle توجه کنیم و تا وقتی که تأثیراتِ نامعلوم فن‌آوری‌های جدید مشخص نشده، نباید آن‌ها را در جامعه ترویج کنیم.

بخش بزرگی از درآمد شرکت‌های اینترنتی از طریق آگهی‌ است. اما میلیون‌ها نفر از کاربران علاقه‌ای به دیدن آگهی ندارند و با نصب افزونه‌های ضدآگهی[۴]Ad-blocking مانع از نمایش آن‌ها می‌شوند. به چشم شرکت‌هایی نظیر گوگل و فیس‌بوک، آن‌ها نولُودایت‌‌هایی هستند که می‌خواهند جلوی تبلیغات هدفمند[۵]Targeted advertising را بگیرند. تعداد نسبتاً اندک، اما روزافزونی از افراد جامعه به این نتیجه می‌رسند که حضور دائمی تلفن‌های همراه، اینترنت و انواع صفحهٔ نمایش، مخل آسایش روانی آن‌هاست. بعضی‌ در ساعت‌ها یا روزهای معینی روزهٔ تلفن یا روزهٔ اینترنت می‌گیرند. این‌‌ها لزوماً فیلسوف نیستند، بلکه همه نوع آدمی بین‌شان پیدا می‌شود. خیلی از پدر و مادرها سعی می‌کنند دسترسی کودکان‌شان به تلفن‌های همراه و صفحه‌های لمسی را محدود کنند و این‌جا یا آن‌جا زمزمه‌های پراکنده‌ای با نام‌هایی شبیهِ زندگی آهسته، فن‌آوری آهسته، خانوادهٔ آهسته، مطالعهٔ آهسته و غیره شنیده می‌شود. تعداد کسانی که زندگی در اجتماع‌های «جدا از شبکه»[۶]off-grid یا «اکو-دهکده»[۷]eco-village را تجربه می‌کنند در حال رشد است. فصل مشترک این ابتکارعمل‌ها—صرف‌نظر از میزان موفقیت‌شان—این است: کمتر، آهسته‌تر، ملایم‌تر!

لُودایت‌ها صرفاً نگران شغل و معیشت‌شان بودند و اگر فن‌آوری‌های آن‌ روزگار را خطری برای خود نمی‌دیدند، آن‌طور اعتراض نمی‌کردند. اعتراض تاکسی‌ران‌های اروپایی به اوبر[۸]Uber یا تاکسی‌ران‌های ایرانی به اسنپ و تاپسی را هم باید از همین منظر تفسیر کرد. این اعتراض‌ها در کلمبیا به درگیری با پلیس انجامید. در ژوهانسبورگ دو خودروی اوبر به آتش کشیده شدند و سی تاکسی‌ران معترض بازداشت شدند. تصور کنید فن‌آوری جدیدتری نظیر خودروهای بدون‌ سرنشین به بازار بیاید. عده‌ای از این تحول سود خواهند برد و تعدادی شغل در حوزه‌های روباتیک، هوش مصنوعی، یادگیری ماشینی و غیره ایجاد می‌شود. اما راننده‌های حرفه‌ای، به خصوص آن‌ها که در سنین میان‌سالی یا بالاتر هستند، بازنده خواهند بود. آن‌ها نمی‌توانند با سرعت کافی خودشان را با شرایط جدید تطبیق دهند و با رقبای جوان‌تر که دارای مهارت‌های مناسب هستند رقابت کنند. آیا انتظار داریم سکوت کنند؟

طی چند سال، تد کزینسکی[۹]Ted Kaczynski شانزده بمب به مراکز مختلف ارسال کرد، سه نفر را کشت و ده‌ها نفر را مجروح نمود. او که درس‌خواندهٔ هاروارد بود و مدتی نیز در برکلی تدریس کرده بود، به تدریج در باور خود که فن‌آوری‌های جدید ویران‌گر تمدن هستند رادیکال شده بود. او تنها نبود. هر ماه شاهد نمونه‌های کوچک و بزرگی از این نوع اعتراض‌های خشونت‌بار هستیم. وقتی افراد به این نتیجه برسند که ماشین‌ها رهایی‌بخش نیستند، بلکه باعث افت شرایط زندگی و سرکوب می‌شوند، ممکن است دست به هر اقدامی بزنند. اگر حتی بخشی از وعده‌های فن‌آورانهٔ جدید محقق شود، می‌توانیم مطمئن باشیم که لُودایت‌ها باز خواهند گشت و دولت‌ها نامشان را کنارِ آشوب‌گران و تروریست‌ها خواهند نوشت. هیچ‌کس خشونت و تخریب اموال خصوصی و عمومی را دوست ندارد. لُودایت‌های قرن نوزدهم موفق نشدند؛ خشونت کورِ لُودایت‌های امروز هم ختم به خیر نمی‌شود. اما در جهان فن‌آورانه‌ای که سرعت، دین و دنیای انسان‌ها را شکل می‌دهد، اندکی لُودایت‌ بودن نشانهٔ سلامتی روان است؛ نجوایی مهربان که بگوید «لطفاً اندکی کمتر، آهسته‌تر، ملایم‌تر!»


  1. Luddites 

  2. Neo-Luddism 

  3. precautionary principle 

  4. Ad-blocking 

  5. Targeted advertising 

  6. off-grid 

  7. eco-village 

  8. Uber 

  9. Ted Kaczynski 

نابینایی شعف‌آلود فن‌شیفته‌ها

خیلی از آدم‌های جدید علاقهٔ خاصی به فن‌آوری‌های جدید دارند. فن‌آوری را نشانهٔ تجدد و پیشرفت می‌دانند؛ گاهی وقت‌ها تنها نشانهٔ آن. اما آیا فن‌آوری‌های جدید همیشه خوب هستند؟ چه وقت باید به استقبالِ آن‌ها برویم و چه وقت باید نسبت به آن‌ها شکاک باشیم؟ اگر این سؤال‌ها به نظرتان بیهوده یا زاید می‌رسند، احتمالاً شما یک فن‌شیفته[۱]technophile هستید. اشکالی هم ندارد. فن‌شیفته‌ها هم بخشی از جامعه هستند و نظرشان محترم است. اما این حق برایِ بقیهٔ جامعه محفوظ است که سؤال‌هایی که لازم می‌دانند را مطرح کنند.

نیلز پُستمن[۲]Nils Postman معتقد است که ما باید دستِ کم شش پرسشِ مهم را دربارهٔ هر فن‌آوریِ جدیدی مطرح کنیم.[۳]Postman, N., 2000. Building a Bridge to the 18th Century: How the Past Can Improve Our Future, 1 edition. ed. Vintage, New York. این پرسش‌ها به ما کمک خواهند کرد که گفتگویِ سالمی ایجاد کنیم و تصمیم‌هایِ فردی و اجتماعیِ بهتری بگیریم. پرسش‌ها، ذاتاً بی‌طرفند و جهت‌گیری یا ارزش‌گذاریِ معینی ندارند، اما پاسخ‌‌ها بسته به خاستگاهِ اقتصادی، اجتماعی یا نظری پاسخ‌دهنده ممکن است فرق داشته باشند:

(۱) این فن‌آوری قرار است چه مشکلی را حل کند؟
(۲) این مشکلِ چه کسانی است؟
(۳) چه افراد یا نهادهایی ممکن است در اثرِ این فن‌آوری دچارِ آسیب‌ جدی شوند؟
(۴) در اثرِ حلِ‌ این مشکل،‌ چه مشکلاتِ جدیدی ممکن است ایجاد شوند؟
(۵) در اثر به کارگیری این فن‌آوری، چه نوع افراد و نهادهایی ممکن است نفوذ و قدرتِ اقتصادی و سیاسیِ ویژه‌ای کسب کنند؟
(۶) فن‌آوری جدید چه نوع تغییراتی را بر زبان تحمیل می‌کند؟ در اثرِ این تغییرات چه چیزی از دست می‌رود و چه چیزی به دست می‌آید؟

این پرسش‌ها اگر چه هم‌پوشانی‌هایی با هم دارند، اما زمینه را برای گفتگو دربارهٔ طیفِ وسیعی از موضوعاتی که می‌توانند به تأثیراتِ یک فن‌آوری مربوط شوند فراهم می‌کنند. تردیدی نیست که گروه‌های مختلفِ اجتماعی، اعم از طرفداران و منتقدانِ یک فن‌آوریِ جدید پاسخ‌هایِ متفاوتی به این پرسش‌ها می‌دهند، اما نفسِ مطرح شدن آن‌ها مهم است.

گاهی فن‌آوری‌هایِ جدید پدیده‌هایی منفک نیستند، بلکه بخشی از یک روندِ تاریخی هستند که در مقیاسی بزرگ عمل می‌کند. این نوع فن‌آوری‌ها خواه‌ناخواه خواهند آمد؛ حالا کمی دیرتر یا زودتر. برای مثال تصور کنید اواخرِ قرنِ هجدهم است و شما ساکنانِ روستایی در جنوبِ بریتانیا هستید. مهم نیست شما چقدر در مخالفت خود با انقلابِ صنعتی راسخ باشید، احتمالاً نخواهید توانست مانع از بلعیده شدنِ روستایان توسطِ ماشین‌های بخار، کارخانه‌ها، ذوب‌آهن، لوکوموتیوها و امثالهم شوید. انقلابِ صنعتی موجِ تاریخی عظیمی بود که یک روستا یا یک شهر نمی‌توانست از تبعاتِ آن برکنار بماند. با این‌حال، روستاییانِ مذکور حتماً از مطرح کردنِ این پرسش‌ها بهره می‌بردند؛ به واسطهٔ آن‌ها نه تنها دربارهٔ سودها و زیان‌هایِ احتمالیِ ورودِ انقلابِ صنعتی به روستایشان گفتگو می‌کردند، بلکه شاید می‌توانستند خود را برای رویارویی با برخی از تحولاتِ شگرفی که پیش‌روی‌شان بود بیشتر آماده کنند.

اما بسیاری از فن‌آوری‌هایِ جدید از جنسِ انقلابِ صنعتی نیستند؛ بلکه نوآوری‌های منفکی هستند که به واسطهٔ سازوکارهایِ پیچیدهٔ سرمایه و سیاست و کارآفرینی مطرح می‌شوند. در بسیاری موارد گروهی که پشتیبانِ توسعهٔ یک فن‌آوریِ نوین هستند، نمی‌خواهند هزینهٔ مربوط به توسعه (و اثراتِ جانبی) آن‌ را پرداخت کنند، بلکه دنبالِ راهی می‌گردند که آن‌ها را بر جامعه تحمیل کنند (و اثراتِ جانبی را ناچیز نشان دهند). طبعاً آن‌ها سعی می‌کنند آن‌را به صورتِ یک نیازِ‌ ضروری جلوه دهند، اما شما باید به این فکر کنید که این فن‌آوری‌‌ کدام مشکلِ شما را حل می‌کند؟ آیا تحولاتِ احتمالیِ ناشی از این فن‌آوری به سود یا زیانِ شما خواهند بود؟ مثلاً آیا قرار است مهارت‌های مربوط به شغل و معیشت شما را تقویت کند یا آن‌ها را بی‌ارزش سازد؟ آیا باعث بسط و تعمیق و تثبیتِ آرامش و آسایش شما می‌شود یا امن و آسایش‌تان را نیز به مخاطره خواهد انداخت؟ اگر احتمال می‌دهید فن‌آوری جدید به سودِ شما باشد، خیلی هم خوب خواهد بود که به استقبالِ آن بروید. اما اگر احتمال می‌دهید بازندهٔ این فن‌آوری جدید باشید، حداقل کاری که می‌توانید بکنید این است که مانندِ آن صوفیِ ساده‌دلِ داستانِ مولوی نباشید که بی‌اطلاع از این‌که خرش را فروخته‌اند و بزمی راه انداخته‌اند، از همهٔ مهمانان بلندتر آواز می‌خواند که «خر برفت و خر برفت و خر برفت!»

اشکالِ بزرگِ فن‌شیفته بودن در این است که فرد نسبت به فن‌آوری‌هایِ جدید دچارِ نوعی نابینایی می‌شود. او قادر به تمیز دادن بین فن‌آوری‌هایی که به سود یا زیانِ او عمل می‌کنند نیست. او چنان مسحورِ فریبندگی فن‌آوری‌های جدید است که حتی اگر زیرِ پایش را خالی کنند و هویت و هستی‌اش را از او بگیرند از صمیم دل و از سر شوق فریاد می‌زند «خر برفت و خر برفت و خر برفت!»


  1. technophile 

  2. Nils Postman 

  3. Postman, N., 2000. Building a Bridge to the 18th Century: How the Past Can Improve Our Future, 1 edition. ed. Vintage, New York.