سیاست و اقتصاد | اقتصاد و تکنولوژی | هوش مصنوعی

| در حال حاضر یک سیستم واحد برای ارزیابی و امتیازدهی در چین هنوز به عنوان یک دغدغه به حساب نمی‌آید.

JAMIE HORSLEY ، Foreignpolicy.com

دوربین‌های امنیتی هوش مصنوعی که از فناوری تشخیص چهره بهره می‌برند در چهاردهمین نمایشگاه بین‌المللی ایمنی و امنیت عمومی چین به نمایش درآمده است.

«اعتبار اجتماعی» چین، که برای نخستین بار در سراسر جهان از سیستم داده‌ها سرچشمه گرفته، سیستم هشدار صوتی است. در سخنرانی 4 اکتبر، معاون رئیس‌جمهور ایالات متحده، مایک پنس، این فناوری را به عنوان «یک سیستم اورولین(ظالمانه) مبتنی بر کنترل تقریبی تمام جنبه‌های زندگی بشر» توصیف کرد. اما یک مشکل کوچک وجود دارد. این سیستم حقیقتا وجود خارجی ندارد، حداقل به این صورت کلی که به تصویر کشیده است.

تعجب آور نیست که افسانه‌ها و اسطوره‌های بسیاری در مورد این سیستم در حال گسترش هستند؛ اسطوره‌هایی که برطبق آنها چین می‌تواند جامعه‌ی مدنی، حقوق قانونی، سخنرانی‌ها، خبرنگاری تحقیقاتی، و عقاید مذهبی را تحت الشعاع خود قرار دهند. این سیستم نوعی سیستم گسترده‌ی نظارتی است که همه جا را تحت کنترل درمی‌آورد و حزب کمونیست چین بر استفاده از هوش مصنوعی گسترده در دستگاه‌های دولتی تأکید دارد. دولت چین در حال جمع‌آوری اطلاعات گسترده‌ای از شهروندان است، و سیستم اعتبار اجتماعی در داخل و خارج چین نگرانی‌های شدیدی به همراه دارد. اما برخلاف روایت رسانه‌ها، مقامات چین قادر نیستند امتیاز مشخصی به این سیستم بدهند که تعیین کننده‌ی تمام جنبه‌های زندگی شهروندی باشد. حداقل تا کنون نتوانسته‌اند.

درست است که بر اساس نوآوری‌های پیشین، شورای دولتی چین یک نقشه‌ی راه را در سال 2014 برای ایجاد یک سیستم گسترده‌ی اعتبار اجتماعی منتشر کرد که بتواند تا پیش از سال 2020 سیستم «اعتبار اجتماعی» دور از دسترس را پایه‌گذاری کند. مفهوم اعتبار اجتماعی (shehui xinyong) در مدارک دولتی چین تعریف نشده است، اما ماهیت آن مطابق با ملزومات قانون اجتماعی، اقتصادی و قراردادی است. هدف اصلی این سیستم این است که با بهره‌گیری از اطلاعات جمع‌آوری شده‌ی متنوع و سیستم‌های تبلیغاتی در سطوح مختلف حکومتی  وضعیت حکمرانی و نظارت صحیح بر بازار را بهبود بخشد، آن هم در کشوری که همچنان کلاهبرداری و تقلب در آن وجود دارد.

با این سیستم، تمام سازمان‌های دولتی در تمام بخش‌ها، قسمت‌ها، و مناطق تحت کنترل قرار خواهند گرفت و با جمع‌آوری اطلاعات عمومی مبتنی بر قوانین و مقررات ویژه، قوانین و موافقت‌نامه‌های مشخص شده، تمام افراد، شرکت‌ها، سازمان‌های اجتماعی، نهادهای دولتی، و سیستم قضایی نظارت خواهند شد. مجرمان خطرناک ممکن است در لیست سیاه قرار گرفته و بر اساس پلتفرمی ملی به نام تأمین چین تحت فشار شدید حکومتی قرار گیرند. این امور اغلب توسط سازمان‌های مختلف تحت مجوزهای اداری شامل مالیات، محیط زیست، حمل و نقل، تجارت الکترونیک، ایمنی صنایع غذایی و مشارکت‌های اقتصادی خارجی و همچنین عدم اجرای تصمیمات دادرسی، به اجرا درمی‌آیند.

اینگونه مجازات اغلب برای ترویج موارد قانونی تحت شعار «هرکس قوانین را نقض کند، همه جا با محدودیت مواجه خواهد شد» تکرار شده‌اند. از سوی دیگر «لیست قرمز» نیز از طرف تأمین چین منتشر شده و در اختیار عموم قرار خواهد گرفت که در آن افراد قابل اعتماد را مشخص شده‌اند.

دامنه، مقیاس، تنوع، و زبان در حال گسترش سیستم باعث ایجاد سردرگمی‌های بسیاری شده است، به ویژه در مورد وجود امتیاز اعتبار اجتماعی واحد. چیزی به عنوان «امتیاز اعتبار اجتماعی» ملی وجود ندارد. چند شهرک و شهر در چین، همچنین تعدادی از شرکت‌های خصوصی، برنامه‌هایی نظیر این برای مشتریان خود اعمال کرده‌ اند که از طریق برنامه‌هایی خاص به آن‌ها امتیاز می‌دهد. همین مسئله نیز به بخشی از سردرگمی دامن می‌زند. به عنوان مثال، برنامه‌ی اعتباری‌مالی آنت که از سیستم عامل‌های گوناگون و قابل دسترس بهره می‌برد، اغلب به عنوان پیشگام برنامه ریزی دولتی شناخته می‌شود؛ در حالی که این برنامه صرفا در حد یک شرکت خصوصی است.

دولت تمامی کدهای مربوط به اعتبار اجتماعی را به شرکت‌ها و سازمان‌هایی اختصاص می‌دهد که برای ثبت نام، پرداخت مالیات، و سایر خدمات از کد شناسایی استفاده کنند؛ در حالی که هر کدام از این افراد کد ملی مشخصی دارند. لیست‌های سیاه از این کدهای شناسایی که تقریبا برای تمام فعالیت‌ها در چین کاربرد دارند استفاده می‌کنند. اما این کدها ربطی به امتیاز و درجه بندی ندارند. شرکت‌ها و نهادهای مختلف ممکن است بر اساس مشارکت‌های اقتصادی و قوانین مشخص درجه بندی شوند. با این حال، سیستم اعتبار اجتماعی نمی‌تواند به خودی خود اعتبار اجتماعی «خوب» یا «بد» را ایجاد کند. در عوض، افراد و شرکت‌هایی که جرائم بزرگ نظیر کلاهبرداری و آلودگی شدید محیط زیست را در کارنامه‌ی خود دارند در لیست سیاه قرار می‌گیرند. برای اطمینان بیشتر، چین حقوق مدنی را به گونه‌ای تنظیم می‌کند که مجرمان با محدودیت روبرو شوند و استفاده از سیستم اعتبار اجتماعی این امر را محقق خواهد می‌سازد.

“شرکت‌ها و نهادهای مختلف ممکن است بر اساس مشارکت‌های اقتصادی و قوانین مشخص درجه بندی شوند. با این حال، سیستم اعتبار اجتماعی نمی‌تواند به خودی خود اعتبار اجتماعی «خوب» یا «بد» را ایجاد کند. در عوض، افراد و شرکت‌هایی که جرائم بزرگ نظیر کلاهبرداری و آلودگی شدید محیط زیست را در کارنامه‌ی خود دارند در لیست سیاه قرار می‌گیرند.“

سیستم گزارش اعتبار چین، که گزارش‌های مالی‌اش جزء اصلی «اعتبار اجتماعی» محسوب می‌شود، ممکن است به گسترش این اسطوره کمک کرده باشد. نخستین مشکل این سیستم این است که اصطلاح چینی گزارش اعتباری (xinyong zhengxin) اغلب به صورت «امتیازدهی اعتباری» ترجمه می‌شود. با این حال، سیستم گزارشی اعتبار مالی برای افراد و شرکت‌های تحت نظارت بانک مرکزی جمهوری خلق چین (PBOC) نمی‌تواند بر اساس استاندارد «امتیازدهی»، اعتبار تخصیص دهد. مرکز اعتبار مالی بانک مرکزی خلق چین، مانند مؤسسات اعتباری خصوصی، امتیاز اعتبار مالی (xinyong pingfen) ارائه می‌دهد.

برنامه‌هایی که به طور گسترده اعتبار ادارات خصوصی، مانند شرکت مالی آنت را گزارش می‌دهند، تعاملات اقتصادی را به عنوان تاریخچه‌ای از امتیاز مشتری در نظر می‌گیرند. بانک مرکزی خلق چین در نظر دارد پوشش اعتباری مشتریان خود را با استفاده از دریافت اطلاعات از طریق اینترنت و سایر منابع غیرسنتی گسترش دهد. در سال 2015، هشت شرکت مجاز، که بعضی از آن‌ها برنامه‌های اعتباری مشتریان خود را کنترل می‌کردند، مجوز خود را تمدید کردند. هیچ کدام از این شرکت‌ها واجد شرایط نبودند.

با این وجود، بانک مرکزی جمهوری خلق چین در سال جاری، به یک مؤسسه‌ی ملی به نام اعتبار بایهانگ (Baihang Zhengxin) ، به عنوان سهامدار در کنار هشت شرکت، مجوز داد تا گزارش خدمات اعتباری را به مشتریان ارائه دهد و اطلاعات دقیق وام دهندگان اینترنتی را جمع‌آوری کند. بایهانگ ممکن است امتیاز اعتباری محصولات را ارائه دهد، اما این امتیازات، با اطلاعاتی که بر اساس آن به دست می‌آیند، همچنان در تناقض است.

دومین مشکل بزرگ این است که این سیستم اعتبار اجتماعی داده‌های تک تک شهروندان را جمع‌آوری می‌کند. دولت اطلاعات قانونی تمام شرکت‌ها و سازمان‌ها را جمع‌آوری می‌کند و نهادهای گوناگون از پرونده‌های افراد مختلف نگهداری می‌کنند. برخی از این داده‌ها و اطلاعات عمومی  بر اساس سیستم اعتبار اجتماعی‌فرهنگی هستند. با این وجود، در حال حاضر، اولویت سیستم درجه بندی به اشتراک گذاشتن داده‌های عمومی، اطلاعات قانونی، و تصمیم گیری‌های ناعادلانه‌ی قضایی در بخش‌های کلیدی است. اطلاعات اشخاص فعلا در این برنامه کنترل نمی‌شوند، مگر افرادی که تنها مالک و تنها نماینده‌ی شرکت‌ها باشند، وام یا کارت اعتباری دریافت کرده باشند، قوانین را نقض کرده باشند و یا در دادگاه مجرم شناخته شده باشند.

“در حال حاضر، اولویت سیستم درجه بندی به اشتراک گذاشتن داده‌های عمومی، اطلاعات قانونی، و تصمیم گیری‌های ناعادلانه‌ی قضایی در بخش‌های کلیدی است. اطلاعات اشخاص فعلا در این برنامه کنترل نمی‌شوند، مگر افرادی که تنها مالک و تنها نماینده‌ی شرکت‌ها باشند، وام یا کارت اعتباری دریافت کرده باشند، قوانین را نقض کرده باشند و یا در دادگاه مجرم شناخته شده باشند.“

سومین خطای رایج باور به این مسئله است که رفتار اجتماعی، عادات مصرف و وفاداری سیاسی بر اعتبار اجتماعی تأثیر گذاشته و مبنایی برای اعمال مجازات قرار می‌گیرند. این باور نادرست نیز، مجددا، از برنامه‌های پاداش دهی شرکت‌های خصوصی، که رفتار تجاری مشتریان را مبنای امتیاز قرار می‌دهند، نشأت می‌گیرند. اسناد دولتی، مقررات حکومتی و مجازات‌هایی که تا کنون بر اساس استانداردهای ویژه منتشر شده‌اند، برای انطباق با قوانین و مقرراتی که توسط سیستم اعتبار اجتماعی به اجرا درمی‌آیند با تناقض روبرو هستند.

نگرانی‌های قانونی بسیاری وجود دارد. بخش وسیعی از داده‌هایی که جمع‌آوری و به اشتراک گذاشته شده‌اند خطر هک شدن و درز کردن اطلاعات شخصی را افزایش می‌دهد. امنیت اطلاعات مشکلی بزرگ در چین است. در نظرسنجی اخیر، 85 درصد از پاسخ‌دهندگان از درج اطلاعات حساب بانکی و شماره‌ تلفن اظهار نارضایتی کردند. اعتبار اجتماعی ملی و محلی و سایر اسناد و مدارک، برای حفظ حریم خصوصی و افزایش امنیت اطلاعات، ضروری هستند. با این وجود، چین هنوز از عدم وجود قانونی برای حفظ حریم خصوصی، و یا توانایی اجرای آن، رنج می‌برد.

استفاده‌ی عمومی سیستم اعتبار اجتماعی از لیست سیاه، که یکی از محققان آن را «مکانیسم‌های شهرت» می‌نامد، در کنار مکانیسم مجازات مشترک که ذاتا یکی دیگر از لایه‌های اجرای مجازات برای جرایم قانونی است، مشکل ساز و بحث برانگیز است. استانداردهای قرارگیری در لیست سیاه، که توسط ادارات گوناگون و در سطوح مختلف اجرا می‌شوند، همیشه حوزه‌ی اجرای قضایی مشخصی ندارند. اهداف همواره مشخص نیستند و این مسئله فرصتی برای رقابت در این لیست را ایجاد می‌کند.

بعضی از افراد که در لیست سیاه قرار دارند، حتی پس از پرداخت بدهی‌ها و گذراندن دوران محکومیت خود، همچنان با محدودیت‌هایی مواجه خواهند بود. مثلا شخصی که از ارائه‌‌ی اطلاعات به بانک برای دریافت کارت اعتباری خودداری می‌کند و یا دانشجویی که برای نپرداختن بدهی وام دانشجویی ادعا می‌کند پدرش توان مالی ندارد، در این لیست جای خواهند گرفت. راه‌اندازی چنین سیستم گسترده‌، پیچیده و کارآمدی که بتواند اشتباهات را کاهش دهد با چالش‌های فنی بسیاری همراه است.

خطری که دولت چین با آن مواجه است تلاش برای ایجاد سیستم جهانی امتیاز شهروندی و شروع استفاده از الگوریتم‌های مبهم برای تعیین اعتبار برای اهداف مختلف سیاسی، مالی و نظارتی است. چین مجازاتی نظیر اعلان تظاهرات، گسترش شایعات در فضای مجازی، و بلند کردن «ریش غیرمتعارف» در سینکیانگ را اعمال می‌کند و سیستم اعتبار اجتماعی می‌تواند مجازات مربوط به اینگونه جرائم را تحت کنترل قرار دهد. با این وجود، دولت چین از ابزارهای دیگری برای رسیدگی به امور امنیت عمومی و سیاسی بهره می‌برد. علاوه بر این، با در نظر گرفتن استانداردهای متنوعی که برای ارزیابی قانونی و ورود به لیست سیاه وجود دارند، استفاده از سیستم اعتبار اجتماعی چالشی بزرگ در سطح جهانی را به دنبال دارد.

در حال حاضر یک سیستم واحد برای ارزیابی و امتیازدهی در چین هنوز به عنوان یک دغدغه به حساب نمی‌آید.