کارگاه

در کشور چین طرحی ملی به نام «نظام اعتبار اجتماعی»^{[۱]Social Credit System} در جریان است که هدفش ایجاد معیاری همگن برای سنجشِ اعتبارِ شهروندان و کسب‌و‌کارها از لحاظ رفتار اجتماعی و اقتصادی‌شان است. این سیستم مبتنی بر تحلیل کلان‌داده‌هایی^{[۲]big data} است که از شهروندان و کسب‌و‌کارها گردآوری می‌شود و ضمن سنجش اعتبار آن‌ها در حوزه‌هایی نظیر «صداقت با دولت»، «درست‌کاری در دادوستد»، «درست‌کاری در روابط اجتماعی» و «اعتبار قضایی» به آن‌ها نُمره می‌دهد. دولت چین هدفِ خود از این طرح را ایجاد یک «اقتصاد سوسیالیستی ایده‌آل» اعلام کرده که منطبق با شعار رئیس‌جمهور این کشور^{[۳]President’s Xi Jinping} نیز است: «یک‌ بار قابل اعتماد نبودن، همیشه محدود بودن»^{[۴]once untrustworthy, always restricted}. با وجودی‌‌که طرح هنوز به صورت کامل اجرا نشده، اما هدف دولت چین این است که تا سال ۲۰۲۰ تقریباً همهٔ شهروندان چینی را در برگیرد.^{[۵]Munro, K., China’s social credit system ‘could interfere in other nations’ sovereignty’. The Guardian, 2018.} شهروندانی که اطلاعات غلط در جامعه پخش کرده‌اند، از بلیط فاقد اعتبار استفاده کرده‌اند، در قطار سیگار کشیده‌اند یا جریمه‌شان را پرداخت نکرده‌اند ممکن است تا یکسال حق استفاده از قطار و هواپیما را نداشته باشند. بر اساس آمارهای دولتی تا کنون چندین میلیون شهروند چینی به این وسیله تنبیه شده‌اند.^{[۶]Reuters, China to bar people with bad “social credit” from planes, trains. Reuters, 2018.} از سوی دیگر، شهروندانی که اعتبار اجتماعی بالایی داشته باشند و نمرهٔ بهتری دریافت کنند پاداش دریافت می‌کنند: دسترسی ارزان به سالن‌های ورزشی، صفِ انتظار کوتاه‌تر در بیمارستان‌های دولتی، و دریافت وام با شرایط بهتر.

چین بزرگ‌ترین بازار دوربین‌های مدار بسته در جهان است. در حال حاضر ۲۰۰ میلیون دوربین مداربسته در این کشور نصب شده و گسترش سیستم نظارتِ هوشمند به این معناست که تا ۲۰۲۰ این تعداد به ۳۰۰ میلیون خواهد رسید. نصب گستردهٔ این دوربین‌ها، مجهز کردن‌‌ بسیاری از آن‌ها به فن‌آوری تشخیص چهره و وصل کردن‌شان به کلان‌داده‌‌های مربوط به شهروندان به این معناست که الگوریتم‌های خودکار می‌توانند شهروندانی که از «خط خارج می‌شوند» را در میان جمع شناسایی کنند و اطلاعات آن‌ها را در اختیار پلیس یا مراجع دیگر قرار دهند. چندی پیش، یکی از افراد پلیس به کمک عینکِ مجهز به سیستم تشخیص چهره موفق شد یک قاچاق‌چی را در ایستگاه قطار شهر جن‌جاو^{[۷]Zhengzhou} شناسایی کند. در یک کارناوال سالیانه در شهر چین‌‌دآئو^[۸]Qingdao، پلیس توانست گروهی از مجرمان را به کمک دوربین‌های مداربسته شناسایی و دستگیر کند. در شهر ووهو^[۹]Wuhu یک فرد متهم به قتل حین خرید از یک فروشگاه شناسایی و نهایتاً دستگیر شد. در برخی از شهرهای چین، چهرهٔ همهٔ افرادی که از ایستگاه‌های قطار عبور می‌کنند برای شناسایی متهمانِ تحت تعقیب پلیس اسکن می‌شود و مشخصات متخلفان راهنمایی‌ورانندگی یا کسانی که دارای بدهی پرداخت نشده هستند ممکن است در صفحه‌های بزرگِ عمومی نمایش داده شود. در تابستان گذشته، در یکی از پرترددترین نقاط شهر شان‌یانگ^{[۱۰]Xiangyang}، پلیس بیلبوردِ صفحهٔ نمایشیِ بزرگی نصب کرد که چهره، نام و شمارهٔ ملیِ افراد خاطی را (با تأخیری چند روزه) نمایش می‌داد: «حتی اگر فرد تصویرِ خودش را نبیند، همسایه‌ها و آشنایانش آن را خواهند دید و درباره‌اش حرف خواهند زد.» ایدهٔ این طرح کاهش تخلفات از طریق شرمسار کردنِ خاطیان است. حدود ۲۰ تا ۳۰ میلیون نفر در بانک اطلاعاتی ملی چین «ستاره‌دار» شده‌اند و رفتار آن‌ها باید تحت نظر باشد. دلیل ستاره‌دار شدن این افراد متفاوت است، اما عمدتاً مشکوک به تروریسم، جنایت، توزیع مواد مخدر و فعالیتِ غیرمجاز سیاسی هستند. رصد کردن این تعداد بسیار بیشتر از ظرفیت فعلی دوربین‌ها و الگوریتم‌هاست، اما هدف افزایش آن به حد کفایت است.^{[۱۱]Mozur, P., Inside China’s Dystopian Dreams: A.I., Shame and Lots of Cameras. N. Y. Times, 2018.}

شیوهٔ به کارگیری این فن‌آوری‌ها و گسترش پدیدهٔ «حکمرانی الگوریتمی»^{[۱۲]algorithmic governance} انسان را به یاد زندان‌های مجهز به سراسربینِ^{[۱۳]Panopticon} جرمی بنتام^{[۱۴]Jeremy Bentham} و میشل فوکو^{[۱۵]Michel Foucault} و ویران‌شهرهای توصیف شده توسط جورج اورول^{[۱۶]George Orwell} و فرانتس کافکا^{[۱۷]Franz Kafka} می‌اندازد. اما اگر فکر می‌کنید این نوع فن‌آوری‌ها فقط در نظام‌های سیاسی بسته‌ای مانند چین به کار گرفته می‌شوند، یا کاربرد آن‌ها فقط در این نوع نظام‌ها خطرناک است، سخت در اشتباه هستید. این روزها همهٔ شهروندان کشورهای توسعه‌یافته و کشورهای در حال توسعه‌ای نظیر ایران دارای پرونده‌های دیجیتالِ مرکزی در سازمان‌هایی نظیر ثبت‌و‌احوال، مالیات، پلیس و غیره هستند. علاوه بر این، اطلاعات زیادی از رفتارِ شهروندان در سیستم‌های مختلف کامپیوتری شرکت‌های خصوصی گردآوری و نگهداری می‌شود؛ مثلاً بانک‌ها و شرکت‌های بیمه اطلاعات گسترده‌ای از مشتری‌هایشان—که در جوامع صنعتی و حتی در حال توسعه بخش بزرگی از جامعه را تشکیل می‌دهند—نگهداری می‌کنند و از اطلاعاتِ خُردی نظیر این‌که چه کسی، با چه شغلی، با چه سنی، با چه جنسیتی، چه کالایی را، در چه زمانی، از کجا خریداری می‌کند، الگوها و الگوریتم‌هایی کُلی‌تر برای پیش‌بینی رفتار و سنجش اعتبار افراد استخراج می‌کنند.این کار به کمک فن‌آوری‌هایی نظیر هوش مصنوعی^{[۱۸]Artificial Intelligence}، یادگیری ماشین^{[۱۹]Machine Learning}، داده‌کاوی^{[۲۰]Data Mining}، تحلیل پیش‌گویانه^{[۲۱]predictive analytics} و انواع فن‌آوری‌های دیگری که به سرعت در حال گسترش هستند انجام می‌شود. مجموعاً در دورانی به سر می‌بریم که فن‌آوری‌های شبکه‌ای اطلاعات و قدرت بی‌سابقه‌ای را در اختیار دولت‌ها و شرکت‌های خصوصی قرار داده‌اند. سرعت این تحولات به حدی زیاد است که عرف‌های اجتماعی و نهادهای مدنی که وظیفهٔ پاسداری از شأن و حقوق افراد جامعه را دارند نمی‌توانند همراه با آن‌ها تغییر کنند و معمولاً پاسخ‌گوی شرایط جدید نیز نیستند. متعاقباً روزبه‌روز فاصلهٔ بین آن‌چه دولت‌ها و شرکت‌های خصوصی «قادر به انجام دادنش هستند» و آن‌چه به حکم عرف یا قانون «مجاز به انجام دادنش نیستند» بیشتر می‌شود. علاوه بر این، بسیاری از افراد جامعه شناختِ اندکی از ابعاد و عواقبِ احتمالی این نوع فن‌آوری‌ها دارند، بنابراین صرف‌نظر از جنبه‌‌های قهری، ممکن است به انتخاب خود به آن ها خوش‌آمد گفته و رفتار اجتماعی، اقتصادی و سیاسی‌شان را مطابقِ خواستِ الگوریتم‌ها تنظیم کنند. نتیجه تبدیل شدن بخش بزرگی از افراد جامعه به اتباعی رام، سربه‌زیر و عمیقاً ناتوان است که عملاً عنان اختیارشان را به دست الگوریتم‌ها سپرده‌اند و شوق و بیم‌ و خواسته و نیازشان از آن‌چه نرم‌افزارها تعیین می‌کنند تجاوز نمی‌کند. این تقلیل تدریجی انسان به موجودی مفلوک و زیردستِ الگوریتم‌ها کابوس همهٔ آزاداندیشان انسان‌گراست.

1. Social Credit System ↩

2. big data ↩

3. President’s Xi Jinping ↩

4. once untrustworthy, always restricted ↩

5. Munro, K., China’s social credit system ‘could interfere in other nations’ sovereignty’. The Guardian, 2018. ↩

6. Reuters, China to bar people with bad “social credit” from planes, trains. Reuters, 2018. ↩

7. Zhengzhou ↩

8. Qingdao ↩

9. Wuhu ↩

10. Xiangyang ↩

11. Mozur, P., Inside China’s Dystopian Dreams: A.I., Shame and Lots of Cameras. N. Y. Times, 2018. ↩

12. algorithmic governance ↩

13. Panopticon ↩

14. Jeremy Bentham ↩

15. Michel Foucault ↩

16. George Orwell ↩

17. Franz Kafka ↩

18. Artificial Intelligence ↩

19. Machine Learning ↩

20. Data Mining ↩

21. predictive analytics ↩