کارگاه

این ایده که آفریده‌ای هوشمند به انسان‌ها آسیب می‌رساند، بارها در عرصهٔ هنر و نظر مطرح شده است: در رمان فرانکشتاین^{[۱]Frankenstein; or, The Modern Prometheus} نوشتهٔ مری شلی^{[۲]Mary Shelley}، مصنوع دکتر فرانکشتاین از کنترلش خارج شده و دست به جنایت می‌زند؛ در فیلم ۲۰۰۱: اودیسهٔ فضایی^{[۳]۲۰۰۱: A Space Odyssey} محصول مشترک استنلی کوبریک^{[۴]Stanley Kubrick} و آرتور کلارک^{[۵]Arthur C. Clarke}، کامپیوتر هوشمند سفینه—موسوم به هال ۹۰۰۰—ارزیابی مرگ‌باری از شرایط مأموریت ارائه می‌دهد؛ در ماتریس^{[۶]The Matrix} محصول برادران واچوفسکی^{[۷]The Wachowskis}، جهان تحت سلطهٔ ماشین‌هایی هوشمند قرار گرفته که انسان‌ها را به انقیاد خود درآورده‌اند؛ در نابودگر^{[۸]The Terminator} به کارگردانی جیمز کامرون^{[۹]James Cameron}، شبکهٔ آسمان—موسوم به اسکای‌نت—قصد نابودی بشریت را دارد. این‌ها چند نمونه از مواردی هستند که می‌شناسم، وگرنه مثال‌ها به مراتب بیشترند.

استیون هاوکینگ^{[۱۰]Stephen Hawking}—که به تازگی درگذشت؛ روحش شاد—گفته بود «دستگاه‌های هوشمند می‌توانند پایان گونهٔ انسان را رقم بزنند.» اگر روزگاری فقط نخبگان فکری نسبت به پیشرفت فن‌آوری و انقیاد انسان هشدار می‌دادند، امروز حتی کارآفرین‌های خوش‌بینی نظیر الون ماسک^{[۱۱]Elon Musk} هم نگران پیشرفت‌های سریع در حوزهٔ هوش مصنوعی هستند: ماسک خطر هوش مصنوعی را از سلاح‌های هسته‌ای بیشتر می‌داند و خواستار ایجاد نهادهایی برای کنترل آن شده است.

اغلب ما، وقتی به ماشین‌هایی با توانایی فرا-انسانی می‌اندیشیم، ویران‌شهری^{[۱۲]dystopian} را تصویر می‌کنیم که در آن ماشین‌ها علیه انسان‌ها شوریده‌اند، تو گویی اراده‌ای ضدبشری در آن‌ها شکل گرفته است.^{[آ]این تصویر کمی اغراق‌آمیز است، اما نسخهٔ واقع‌گرایانه‌‌تر آن‌را می‌توان چنین در نظر گرفت که خطر ماشین‌های هوشمند وقتی در اختیار دولت‌ها یا تروریست‌ها قرار بگیرند به شکلی غیرقابل پیش‌بینی زیاد است. اما در این صورت آن‌ها هنوز تحت کنترل انسان‌ها هستند و گونهٔ خودمختاری از ابزارها تلقی نمی‌شوند.} اما، نِیت سورس^{[۱۳]Nate Soares}، از انستیتوی تحقیقات هوش ماشینی^{[۱۴]Machine Intelligence Research Institute} می‌گوید که این تصویر کاملی نیست. به نظر او ویران‌شهر ناشی از ماشین‌های هوشمند احتمالاً شباهت زیادی به ماتریس یا نابودگر ندارد. در این داستان‌ها ماشین‌های هوشمند قصد جان آدم‌ها را کرده‌اند؛ اما دلیلی ندارد هوش مصنوعی رویکردی منفی علیه انسان‌ها داشته باشد. در عوض سورس خطر اصلی را در این می‌داند که هوش مصنوعی وظیفهٔ محول شده به خود را بیش از حد خوب انجام دهد؛ همراه با خلاقیتی مستقل، ولی از نظر ما نامطلوب. به نظر او چالش بزرگی که پیش روی ما قرار دارد این است که بفهمیم هوش مصنوعی چگونه کار می‌کند و بتوانیم عملکرد آن‌را در جهت مورد نظرمان هدایت کنیم. اما هوش مصنوعی، اگر به مرحلهٔ قابل مقایسه با هوش انسانی برسد، دارای ابتکار عمل‌های ویژهٔ خود خواهد شد و پیش‌بینی و مهار این ابتکار عمل‌ها به شیوه‌ای که مطلوب ما باشد دشوار است.

یوهان ولفگانگ گوته^{[۱۵]Johann Wolfgang von Goethe} تصنیفی دارد به نام «شاگرد جادوگر»^{[۱۶]The Sorcerer’s Apprentice; 1797}. استاد جادوگر برای کاری از کارگاه بیرون می‌رود. شاگرد که وظیفه دارد کارگاه را تمیز کند، به کمک جادویی که هنوز به خوبی نیاموخته، جاروی دستی‌اش را وادار می‌کند که به جای او کار کند؛ اما کم‌کم متوجه می‌شود که مشکلی وجود دارد. جارو متوقف نمی‌شود و مصرانه به آوردن آب از چاه ادامه می‌دهد. از آن‌جا که او به هیچ‌وجه نمی‌تواند جارو را متوقف کند، با تبر آن‌را دو نیمه می‌کند. اما نیمه‌ها، خود به جاروهایی کامل تبدیل می‌شوند و به آب آوردن ادامه می‌دهند. عاقبت در حالی که اوضاع به کلی از کنترل شاگرد خارج شده است، استاد به کارگاه باز می‌گردد و طلسم را می‌شکند. کمپانیِ والت‌دیسنی، در روزهایی که هنوز هنر را می‌فهمید، پویانمایی بلندی تولید کرد به نام «فانتزیا»^{[۱۷]Fantasia; 1940} که یکی از ماندگارترین قسمت‌های آن بر اساس همین شعر گوته ساخته شده است.^{[۱۸]Fantasia Sorcerer’s Apprentice — https://www.youtube.com/watch?v=3hKgEylk8ks}

شاید خطر هوش مصنوعی بیشتر شبیه جاروی بیش‌ از حد وظیفه‌شناس داستان گوته باشد. شاگرد جادوگر، در ساختن جارویی که آب می‌آورد موفق بود؛ اما جارو بیش از حد وظیفه‌شناس و خلاق بود و او را غافلگیر کرد. جارو دشمن شاگرد نبود، بلکه قصد داشت وظیفه‌ای که به او محول شده بود را انجام دهد و در این‌کار هوش و درایت خود را به کار گرفت؛ با این‌حال نتیجهٔ کارش ویرانی بود. ماشین‌های فوق هوشمندی را در نظر بگیرید که برای ارائهٔ خدمات به جامعه طراحی شده‌اند و کارشان را نیز به خوبی انجام می‌دهند. اما پیچیدگی زیادشان به اتخاذ ابتکارعمل‌هایی منجر شود که از نظر ما غیرقابل قبول هستند و در عین حال راهی برای مهار فوری آن‌ها نداریم. از این نظر، هال ۹۰۰۰ داستان اودیسهٔ فضایی، در مقایسه با شبکهٔ آسمان فیلم نابودگر، آیندهٔ ویران‌شهری باورپذیرتری را نمایندگی می‌کند.

1. Frankenstein; or, The Modern Prometheus ↩

2. Mary Shelley ↩

3. ۲۰۰۱: A Space Odyssey ↩

4. Stanley Kubrick ↩

5. Arthur C. Clarke ↩

6. The Matrix ↩

7. The Wachowskis ↩

8. The Terminator ↩

9. James Cameron ↩

10. Stephen Hawking ↩

11. Elon Musk ↩

12. dystopian ↩

13. Nate Soares ↩

14. Machine Intelligence Research Institute ↩

15. Johann Wolfgang von Goethe ↩

16. The Sorcerer’s Apprentice; 1797 ↩

17. Fantasia; 1940 ↩

18. Fantasia Sorcerer’s Apprentice — https://www.youtube.com/watch?v=3hKgEylk8ks ↩