مقاله

مقالات موضوع هوش مصنوعی را اینجا می‌توانید بخوانید.

سیستم اعتبار اجتماعی چین

سیستم اعتبار اجتماعی چین حقیقت ندارد

سیاست و اقتصاد | اقتصاد و تکنولوژی | هوش مصنوعی

| در حال حاضر یک سیستم واحد برای ارزیابی و امتیازدهی در چین هنوز به عنوان یک دغدغه به حساب نمی‌آید.

JAMIE HORSLEY ، Foreignpolicy.com

دوربین‌های امنیتی هوش مصنوعی که از فناوری تشخیص چهره بهره می‌برند در چهاردهمین نمایشگاه بین‌المللی ایمنی و امنیت عمومی چین به نمایش درآمده است.

«اعتبار اجتماعی» چین، که برای نخستین بار در سراسر جهان از سیستم داده‌ها سرچشمه گرفته، سیستم هشدار صوتی است. در سخنرانی 4 اکتبر، معاون رئیس‌جمهور ایالات متحده، مایک پنس، این فناوری را به عنوان «یک سیستم اورولین(ظالمانه) مبتنی بر کنترل تقریبی تمام جنبه‌های زندگی بشر» توصیف کرد. اما یک مشکل کوچک وجود دارد. این سیستم حقیقتا وجود خارجی ندارد، حداقل به این صورت کلی که به تصویر کشیده است.

تعجب آور نیست که افسانه‌ها و اسطوره‌های بسیاری در مورد این سیستم در حال گسترش هستند؛ اسطوره‌هایی که برطبق آنها چین می‌تواند جامعه‌ی مدنی، حقوق قانونی، سخنرانی‌ها، خبرنگاری تحقیقاتی، و عقاید مذهبی را تحت الشعاع خود قرار دهند. این سیستم نوعی سیستم گسترده‌ی نظارتی است که همه جا را تحت کنترل درمی‌آورد و حزب کمونیست چین بر استفاده از هوش مصنوعی گسترده در دستگاه‌های دولتی تأکید دارد. دولت چین در حال جمع‌آوری اطلاعات گسترده‌ای از شهروندان است، و سیستم اعتبار اجتماعی در داخل و خارج چین نگرانی‌های شدیدی به همراه دارد. اما برخلاف روایت رسانه‌ها، مقامات چین قادر نیستند امتیاز مشخصی به این سیستم بدهند که تعیین کننده‌ی تمام جنبه‌های زندگی شهروندی باشد. حداقل تا کنون نتوانسته‌اند.

 

درست است که بر اساس نوآوری‌های پیشین، شورای دولتی چین یک نقشه‌ی راه را در سال 2014 برای ایجاد یک سیستم گسترده‌ی اعتبار اجتماعی منتشر کرد که بتواند تا پیش از سال 2020 سیستم «اعتبار اجتماعی» دور از دسترس را پایه‌گذاری کند. مفهوم اعتبار اجتماعی (shehui xinyong) در مدارک دولتی چین تعریف نشده است، اما ماهیت آن مطابق با ملزومات قانون اجتماعی، اقتصادی و قراردادی است. هدف اصلی این سیستم این است که با بهره‌گیری از اطلاعات جمع‌آوری شده‌ی متنوع و سیستم‌های تبلیغاتی در سطوح مختلف حکومتی  وضعیت حکمرانی و نظارت صحیح بر بازار را بهبود بخشد، آن هم در کشوری که همچنان کلاهبرداری و تقلب در آن وجود دارد.

با این سیستم، تمام سازمان‌های دولتی در تمام بخش‌ها، قسمت‌ها، و مناطق تحت کنترل قرار خواهند گرفت و با جمع‌آوری اطلاعات عمومی مبتنی بر قوانین و مقررات ویژه، قوانین و موافقت‌نامه‌های مشخص شده، تمام افراد، شرکت‌ها، سازمان‌های اجتماعی، نهادهای دولتی، و سیستم قضایی نظارت خواهند شد. مجرمان خطرناک ممکن است در لیست سیاه قرار گرفته و بر اساس پلتفرمی ملی به نام تأمین چین تحت فشار شدید حکومتی قرار گیرند. این امور اغلب توسط سازمان‌های مختلف تحت مجوزهای اداری شامل مالیات، محیط زیست، حمل و نقل، تجارت الکترونیک، ایمنی صنایع غذایی و مشارکت‌های اقتصادی خارجی و همچنین عدم اجرای تصمیمات دادرسی، به اجرا درمی‌آیند.

اینگونه مجازات اغلب برای ترویج موارد قانونی تحت شعار «هرکس قوانین را نقض کند، همه جا با محدودیت مواجه خواهد شد» تکرار شده‌اند. از سوی دیگر «لیست قرمز» نیز از طرف تأمین چین منتشر شده و در اختیار عموم قرار خواهد گرفت که در آن افراد قابل اعتماد را مشخص شده‌اند.

دامنه، مقیاس، تنوع، و زبان در حال گسترش سیستم باعث ایجاد سردرگمی‌های بسیاری شده است، به ویژه در مورد وجود امتیاز اعتبار اجتماعی واحد. چیزی به عنوان «امتیاز اعتبار اجتماعی» ملی وجود ندارد. چند شهرک و شهر در چین، همچنین تعدادی از شرکت‌های خصوصی، برنامه‌هایی نظیر این برای مشتریان خود اعمال کرده‌ اند که از طریق برنامه‌هایی خاص به آن‌ها امتیاز می‌دهد. همین مسئله نیز به بخشی از سردرگمی دامن می‌زند. به عنوان مثال، برنامه‌ی اعتباری‌مالی آنت که از سیستم عامل‌های گوناگون و قابل دسترس بهره می‌برد، اغلب به عنوان پیشگام برنامه ریزی دولتی شناخته می‌شود؛ در حالی که این برنامه صرفا در حد یک شرکت خصوصی است.

دولت تمامی کدهای مربوط به اعتبار اجتماعی را به شرکت‌ها و سازمان‌هایی اختصاص می‌دهد که برای ثبت نام، پرداخت مالیات، و سایر خدمات از کد شناسایی استفاده کنند؛ در حالی که هر کدام از این افراد کد ملی مشخصی دارند. لیست‌های سیاه از این کدهای شناسایی که تقریبا برای تمام فعالیت‌ها در چین کاربرد دارند استفاده می‌کنند. اما این کدها ربطی به امتیاز و درجه بندی ندارند. شرکت‌ها و نهادهای مختلف ممکن است بر اساس مشارکت‌های اقتصادی و قوانین مشخص درجه بندی شوند. با این حال، سیستم اعتبار اجتماعی نمی‌تواند به خودی خود اعتبار اجتماعی «خوب» یا «بد» را ایجاد کند. در عوض، افراد و شرکت‌هایی که جرائم بزرگ نظیر کلاهبرداری و آلودگی شدید محیط زیست را در کارنامه‌ی خود دارند در لیست سیاه قرار می‌گیرند. برای اطمینان بیشتر، چین حقوق مدنی را به گونه‌ای تنظیم می‌کند که مجرمان با محدودیت روبرو شوند و استفاده از سیستم اعتبار اجتماعی این امر را محقق خواهد می‌سازد.

 

شرکت‌ها و نهادهای مختلف ممکن است بر اساس مشارکت‌های اقتصادی و قوانین مشخص درجه بندی شوند. با این حال، سیستم اعتبار اجتماعی نمی‌تواند به خودی خود اعتبار اجتماعی «خوب» یا «بد» را ایجاد کند. در عوض، افراد و شرکت‌هایی که جرائم بزرگ نظیر کلاهبرداری و آلودگی شدید محیط زیست را در کارنامه‌ی خود دارند در لیست سیاه قرار می‌گیرند.

 

سیستم گزارش اعتبار چین، که گزارش‌های مالی‌اش جزء اصلی «اعتبار اجتماعی» محسوب می‌شود، ممکن است به گسترش این اسطوره کمک کرده باشد. نخستین مشکل این سیستم این است که اصطلاح چینی گزارش اعتباری (xinyong zhengxin) اغلب به صورت «امتیازدهی اعتباری» ترجمه می‌شود. با این حال، سیستم گزارشی اعتبار مالی برای افراد و شرکت‌های تحت نظارت بانک مرکزی جمهوری خلق چین (PBOC) نمی‌تواند بر اساس استاندارد «امتیازدهی»، اعتبار تخصیص دهد. مرکز اعتبار مالی بانک مرکزی خلق چین، مانند مؤسسات اعتباری خصوصی، امتیاز اعتبار مالی (xinyong pingfen) ارائه می‌دهد.

برنامه‌هایی که به طور گسترده اعتبار ادارات خصوصی، مانند شرکت مالی آنت را گزارش می‌دهند، تعاملات اقتصادی را به عنوان تاریخچه‌ای از امتیاز مشتری در نظر می‌گیرند. بانک مرکزی خلق چین در نظر دارد پوشش اعتباری مشتریان خود را با استفاده از دریافت اطلاعات از طریق اینترنت و سایر منابع غیرسنتی گسترش دهد. در سال 2015، هشت شرکت مجاز، که بعضی از آن‌ها برنامه‌های اعتباری مشتریان خود را کنترل می‌کردند، مجوز خود را تمدید کردند. هیچ کدام از این شرکت‌ها واجد شرایط نبودند.

با این وجود، بانک مرکزی جمهوری خلق چین در سال جاری، به یک مؤسسه‌ی ملی به نام اعتبار بایهانگ (Baihang Zhengxin) ، به عنوان سهامدار در کنار هشت شرکت، مجوز داد تا گزارش خدمات اعتباری را به مشتریان ارائه دهد و اطلاعات دقیق وام دهندگان اینترنتی را جمع‌آوری کند. بایهانگ ممکن است امتیاز اعتباری محصولات را ارائه دهد، اما این امتیازات، با اطلاعاتی که بر اساس آن به دست می‌آیند، همچنان در تناقض است.

بیشتر بخوانید:  آیا تلفن هوشمند، بخشی از وجود ماست؟

دومین مشکل بزرگ این است که این سیستم اعتبار اجتماعی داده‌های تک تک شهروندان را جمع‌آوری می‌کند. دولت اطلاعات قانونی تمام شرکت‌ها و سازمان‌ها را جمع‌آوری می‌کند و نهادهای گوناگون از پرونده‌های افراد مختلف نگهداری می‌کنند. برخی از این داده‌ها و اطلاعات عمومی  بر اساس سیستم اعتبار اجتماعی‌فرهنگی هستند. با این وجود، در حال حاضر، اولویت سیستم درجه بندی به اشتراک گذاشتن داده‌های عمومی، اطلاعات قانونی، و تصمیم گیری‌های ناعادلانه‌ی قضایی در بخش‌های کلیدی است. اطلاعات اشخاص فعلا در این برنامه کنترل نمی‌شوند، مگر افرادی که تنها مالک و تنها نماینده‌ی شرکت‌ها باشند، وام یا کارت اعتباری دریافت کرده باشند، قوانین را نقض کرده باشند و یا در دادگاه مجرم شناخته شده باشند.

 

در حال حاضر، اولویت سیستم درجه بندی به اشتراک گذاشتن داده‌های عمومی، اطلاعات قانونی، و تصمیم گیری‌های ناعادلانه‌ی قضایی در بخش‌های کلیدی است. اطلاعات اشخاص فعلا در این برنامه کنترل نمی‌شوند، مگر افرادی که تنها مالک و تنها نماینده‌ی شرکت‌ها باشند، وام یا کارت اعتباری دریافت کرده باشند، قوانین را نقض کرده باشند و یا در دادگاه مجرم شناخته شده باشند.

 

سومین خطای رایج باور به این مسئله است که رفتار اجتماعی، عادات مصرف و وفاداری سیاسی بر اعتبار اجتماعی تأثیر گذاشته و مبنایی برای اعمال مجازات قرار می‌گیرند. این باور نادرست نیز، مجددا، از برنامه‌های پاداش دهی شرکت‌های خصوصی، که رفتار تجاری مشتریان را مبنای امتیاز قرار می‌دهند، نشأت می‌گیرند. اسناد دولتی، مقررات حکومتی و مجازات‌هایی که تا کنون بر اساس استانداردهای ویژه منتشر شده‌اند، برای انطباق با قوانین و مقرراتی که توسط سیستم اعتبار اجتماعی به اجرا درمی‌آیند با تناقض روبرو هستند.

نگرانی‌های قانونی بسیاری وجود دارد. بخش وسیعی از داده‌هایی که جمع‌آوری و به اشتراک گذاشته شده‌اند خطر هک شدن و درز کردن اطلاعات شخصی را افزایش می‌دهد. امنیت اطلاعات مشکلی بزرگ در چین است. در نظرسنجی اخیر، 85 درصد از پاسخ‌دهندگان از درج اطلاعات حساب بانکی و شماره‌ تلفن اظهار نارضایتی کردند. اعتبار اجتماعی ملی و محلی و سایر اسناد و مدارک، برای حفظ حریم خصوصی و افزایش امنیت اطلاعات، ضروری هستند. با این وجود، چین هنوز از عدم وجود قانونی برای حفظ حریم خصوصی، و یا توانایی اجرای آن، رنج می‌برد.

استفاده‌ی عمومی سیستم اعتبار اجتماعی از لیست سیاه، که یکی از محققان آن را «مکانیسم‌های شهرت» می‌نامد، در کنار مکانیسم مجازات مشترک که ذاتا یکی دیگر از لایه‌های اجرای مجازات برای جرایم قانونی است، مشکل ساز و بحث برانگیز است. استانداردهای قرارگیری در لیست سیاه، که توسط ادارات گوناگون و در سطوح مختلف اجرا می‌شوند، همیشه حوزه‌ی اجرای قضایی مشخصی ندارند. اهداف همواره مشخص نیستند و این مسئله فرصتی برای رقابت در این لیست را ایجاد می‌کند.

بعضی از افراد که در لیست سیاه قرار دارند، حتی پس از پرداخت بدهی‌ها و گذراندن دوران محکومیت خود، همچنان با محدودیت‌هایی مواجه خواهند بود. مثلا شخصی که از ارائه‌‌ی اطلاعات به بانک برای دریافت کارت اعتباری خودداری می‌کند و یا دانشجویی که برای نپرداختن بدهی وام دانشجویی ادعا می‌کند پدرش توان مالی ندارد، در این لیست جای خواهند گرفت. راه‌اندازی چنین سیستم گسترده‌، پیچیده و کارآمدی که بتواند اشتباهات را کاهش دهد با چالش‌های فنی بسیاری همراه است.

خطری که دولت چین با آن مواجه است تلاش برای ایجاد سیستم جهانی امتیاز شهروندی و شروع استفاده از الگوریتم‌های مبهم برای تعیین اعتبار برای اهداف مختلف سیاسی، مالی و نظارتی است. چین مجازاتی نظیر اعلان تظاهرات، گسترش شایعات در فضای مجازی، و بلند کردن «ریش غیرمتعارف» در سینکیانگ را اعمال می‌کند و سیستم اعتبار اجتماعی می‌تواند مجازات مربوط به اینگونه جرائم را تحت کنترل قرار دهد. با این وجود، دولت چین از ابزارهای دیگری برای رسیدگی به امور امنیت عمومی و سیاسی بهره می‌برد. علاوه بر این، با در نظر گرفتن استانداردهای متنوعی که برای ارزیابی قانونی و ورود به لیست سیاه وجود دارند، استفاده از سیستم اعتبار اجتماعی چالشی بزرگ در سطح جهانی را به دنبال دارد.

در حال حاضر یک سیستم واحد برای ارزیابی و امتیازدهی در چین هنوز به عنوان یک دغدغه به حساب نمی‌آید.

هوش مصنوعی

آیا تلفن هوشمند، بخشی از وجود ماست؟

سیاست و اقتصاد | اقتصاد و تکنولوژی | هوش مصنوعی

| اگر گوشی شما بخشی از هویت شما باشد، پس احتمالاً باید بیشتر شبیه جسد خود تا یک وسیله با آن رفتار کنید. بنابراین اگر کسی گوشی هوشمند شما را بشکند و محتوای آن را پاک کند، شاید مجرمان باید همانگونه مجازات شوند که گویی آسیب به سر رسانده اند.

:Karina Vold، Aeon

آیا تمام ماهیت شما فقط در محدوده جسم شما قرار دارد یا گوشی هوشمندتان نیز بخشی از وجود شما را تشکیل می‌دهد؟

در نوامبر سال ۲۰۱۷، مردی مسلح وارد کلیسای شهر سادرلند اسپرینگ (Sutherland Spring) در ایالت تگزاس شد. او ۲۶ نفر را کشت و۲۰ نفر دیگر را زخمی ‌کرد. مرد، سوار بر اتومبیل خود از محل گریخت و تحت تعقیب شدید پلیس و ساکنان منطقه قرار گرفت تا اینکه کنترل خود را از دست داد و به داخل گودالی پرتاب شد. زمانی که  پلیس به محل اتومبیل رسید، او مرده بود.  این اپیزود بدون پایان ناخوشایند آن به اندازه کافی می‌تواند دلهره آور باشد. طبق گزارشات، درجریان تحقیقات FBI، آنها انگشت مرد مسلح را برروی سنسور تشخیص اثر انگشت آیفون او فشار دادند تا قفل آن را باز کنند.

صرف نظر از اینکه چه کسی تحت تاثیر قرارگرفته،‌ این نگران کننده است که پلیس از یک جسد برای نفوذ به فضای مجازی دیجیتالی فردی پس از مرگ او استفاده کند. بیشتر قوانین اساسی یک حکومت دموکراتیک، از ذهن و جسم ما در برابر نفوذهای ناخواسته محافظت می‌کند. آن‌ها همچنین به حقوق ما در آزادی اندیشه و حفظ حریم شخصی ارج می‌نهند. به همین دلیل است که داروهای شیمیایی مغز واعصاب که عملکردهای شناختی را مختل می‌سازند، نمی‌توانند بر خلاف اراده‌ی فرد به کار روند مگر این که یک توجیه پزشکی روشن وجود داشته باشد. به طور مشابه، طبق نظر پژوهشگران، ماموران اجرای قانون نمی‌توانند فردی را وادار به انجام تست دروغ سنج نمایند؛ چراکه این می‌تواند تجاوز به حریم شخصی و نقض حق سکوت باشد.

اما در دوران تکنولوژی رو به گسترش عصر حاضر،‌ فلاسفه در حال طرح این سوال هستند که آیا حقیقتاً این تنها آناتومی ‌زیستی بدن است که تمامیت وجود ما را تشکیل می‌دهد و با توجه به نقشی که تکنولوژی در زندگی ما ایفا می‌کند، آیا وسائل ما سزاوار حمایت‌هایی مشابه با مغز و بدن ما نیستند؟

بیشتر بخوانید:  ماشین‌های بدون راننده باید چه کسی را بکشند؟

به هر حال، گوشی هوشمند شما خیلی بیشتر از یک گوشی کارآیی دارد. گوشی شما می‌تواند بهتر از یک دوست صمیمی‌ به شرح خصوصیات شما بپردازد. هیچ قطعه سخت افزار دیگری در تاریخ، حتی مغز شما قابلیت اینگونه نگهداری کمی ‌و کیفی اطلاعات موجود در گوشی شما را ندارد. گوشی شما می‌داند با چه کسی حرف می‌زنید، چه چیزی می‌گویید، کجا هستید،‌ خریدهای شما،‌ عکس‌ها، اطلاعات بیولوژیکی، حتی نوشته‌های شما برای خودتان را و تمام اینها به سال‌ها قبل برمی‌گردد.

در سال ۲۰۱۴، دادگاه عالی ایالات‌ متحده از این مشاهده برای توجیه این تصمیم که پلیس باید قبل از جستجو در گوشی‌های هوشمند ما دارای مجوز باشد، استفاده کرد. این وسایل «درحال حاضر، بخشی فراگیر و پرتقاضا از زندگی روزمره ما را تشکیل می‌دهند؛ به طوری که مریخی‌های معروف ممکن است به این نتیجه برسند که آنها(گوشی‌های هوشمند) ویژگی مهمی ‌از آناتومی‌ بدن انسان بودند»، چیزی که رئیس دادگاه،  قاضی جان رابرتز (John Roberts) در عقیده نوشتاری خود عنوان کرده بود.

رئیس دادگاه، احتمالاً یک موضوع متافیزیک و پیچیده خلق نکرده؛ اما زمانی که فلاسفه، اندی کلارک (Andy Clark) و دیوید چالمرز( David Chalmers)  با نظریه «ذهن گسترش‌ یافته» (۱۹۹۸) بر سر این موضوع که  تکنولوژی واقعاً بخشی از وجود ما را تشکیل می‌دهد، بحث می‌کردند‌ به نکته ای پیچیده اشاره کردند. بر اساس علوم شناختی سنتی، «تفکر» فرآیندی است از دستکاری نمادها یا محاسبات عصبی که توسط مغز انجام می‌گیرد. کلارک  و چالمرز به طور گسترده این نظریه محاسباتی ذهن را پذیرفتند، اما ادعا کردند که این ابزارها می‌توانند به آسانی با چگونگی تفکر ما یکپارچه شوند. اشیائی مانند گوشی‌های هوشمند یا نوت‌پدها،  اغلب از نظر کارایی به همان اندازه که سیناپس‌ها در سر ما فعال می‌شوند، برای ادراک ما ضروری هستند. آنها با افزایش قدرت شناختی ذهن و آزاد سازی منابع داخلی، ذهن ما را تقویت و گسترده می‌سازند.

اگر نظریه  «‌ذهن گسترش یافته» پذیرفته شود، فرضیات گسترده فرهنگی درمورد ماهیت نقض نشده اندیشه به خطر می‌افتند؛ چیزی که در قلب بسیاری از هنجارهای قانونی و اجتماعی قرار دارد. همانطور که دیوان عالی ایالات متحده در سال 1942 اعلام کرد: «آزادی در فکر کردن در ذات خود مطلق است». ظالمانه ترین دولت در کنترل و نظارت بر فعالیت‌های درونی ذهن ناتوان است. این دیدگاه ریشه در نظرات متفکرانی همچون جان لاک و  رنه دکارت دارد،‌ کسانی که استدلال می‌کنند، روح انسان در یک جسم فیزیکی قفل شده است؛ اما افکار ما در دنیایی غیرمادی و غیرقابل دسترس برای دیگران است. بنابراین زندگی درونی هر شخص زمانی نیاز به محافظت دارد که  مثلاً  از طریق گفتار برون‌زایی شود.  بسیاری از محققان علوم شناختی هنوز هم به این مفهوم دکارتی وفادار هستند که در حال حاضر فقط  قلمرو خصوصی حوزه تفکر است که با فعالیت مغزی منطبق می‌باشد.

اما نهادهای حقوقی امروزه در برابر این مفهوم کوته فکرانه به سختی تلاش می‌کنند. آنها می‌کوشند تا به درکی  درباره چگونگی تغییر فناوری، معنای انسان بودن و ایجاد مرزهای جدید هنجاری برای روبرو شدن با این واقعیت برسند. قاضی رابرتز ممکن است درمورد ایده ذهن گسترش یافته شناخت نداشته باشد؛ اما این نظریه از مشاهده غیرعادی او درباره گوشی‌های هوشمند که به بخشی از جسم ما تبدیل شده اند، پشتیبانی می‌کند. اگر در حال حاضر، ذهن ما شامل گوشی‌های ما نیز شود، ما اساساً سایبورگ‌ها ( انسان مکانیکی) هستیم:  بخشی  زیستی،  بخشی تکنولوژی.

با توجه به این که گوشی‌های هوشمند ما بیش از آن چیزی که زمانی وظایف  مغزهایمان بود، انجام می‌دهند، در به یادآوری داده‌ها، شماره تلفن‌ها، آدرس‌ها، شاید داده‌هایی که آنها نگه می‌دارند باید با اطلاعاتی که در سر نگه می‌داریم یکسان تلقی شوند.  بنابراین اگر هدف قانون حفظ حریم شخصی است، باید مرزهای آن به بیرون هل داده شود تا به آناتومی ‌سایبورگی ما همان حفاظتی را دهد که به مغزهایمان داده می‌شود.

بیشتر بخوانید:  انقلاب عاشقانه در زمانه تکنولوژی

این خط از استدلال منجر به برخی از نتایج بالقوه افراطی می‌شود. برخی از فیلسوفان، این موضوع را که بعد از مرگ، دستگاه های دیجیتال ما باید به عنوان بقایای جسم ما باقی بمانند، مورد بحث قرار داده اند. اگر گوشی شما بخشی از هویت شما باشد، پس احتمالاً باید بیشتر شبیه جسد خود تا یک وسیله با آن رفتار کنید.  به همین ترتیب، ممکن است شخصی استدلال کند که دور انداختن تلفن هوشمند شخص دیگری می‌تواند به عنوان یک “تجاوز” بزرگ، معادل با ضربه به سر تلقی شود و نه فقط تخریب اموال. اگر حافظه شما بر اثر حمله با یک چماق پاک شود، دادگاه هیچ مشکلی برای عنوان کردن این اتفاق به عنوان یک حادثه خشونت آمیز ندارد. بنابراین اگر کسی گوشی هوشمند شما را بشکند و محتوای آن را پاک کند، شاید مجرمان باید همانگونه مجازات شوند که گویی آسیب به سر رسانده اند.

 

برخی از فیلسوفان، این موضوع را که بعد از مرگ، دستگاه های دیجیتال ما باید به عنوان بقایای جسم ما باقی بمانند، مورد بحث قرار داده اند. اگر گوشی شما بخشی از هویت شما باشد، پس احتمالاً باید بیشتر شبیه جسد خود تا یک وسیله با آن رفتار کنید.  به همین ترتیب، ممکن است شخصی استدلال کند که دور انداختن تلفن هوشمند شخص دیگری می‌تواند به عنوان یک “تجاوز” بزرگ، معادل با ضربه به سر تلقی شود و نه فقط تخریب اموال.

 

نظریه ذهن گسترش یافته همچنین نقش قانون را در حفاظت از محتوا و ابزار تفکر که همان حفاظت از نحوه تفکر ما در برابر تاثیرات بیجاست به چالش می‌کشد. قوانین، مانع دخالت غیر توافقی در نروشیمی ‌بدن ما می‌شوند (به عنوان مثال از طریق داروها)؛ چراکه در محتوای ذهن ما دست برده می‌شود. اگر شناخت و اندیشه‌های ذهنی، دستگاه‌ها را نیز در بر گیرند، پس مسلماً آنها نیز تابع همین محدودیت‌ها باید باشند. شاید برخی از تکنیک‌هایی که تبلیغ کنندگان به صورت آنلاین برای ربودن توجه ما، جهت ترغیب تصمیم گیری ما و یا دست بردن در نتایج جستجو استفاده می‌کنند باید به عنوان نفوذ در فرآیند شناختی ما شمرده شوند.

به طور مشابه، در مواردی که قوانین ابزارهای تفکر را محافظت می‌کنند، ممکن است دسترسی به تضمین در استفاده از ابزارهایی مانند گوشی‌های هوشمند نیز نیاز باشد. به همین شیوه  که آزادی بیان از حق مردم نه فقط برای نوشتن یا صحبت کردن محافظت می‌کند، بلکه همچنین باید برای استفاده از رایانه‌ها و انتشار گفتار در اینترنت نیز استفاده شود.

دادگاه‌ها هنوز هم تا رسیدن به چنین تصمیماتی فاصله دارند. علاوه بر موارد اصلی تیترهای خبری در تیراندازی‌های جمعی، هر ساله هزاران نمونه وجود دارند که در آن مقامات پلیس سعی می‌کنند به دستگاه‌های رمزنگاری شده دسترسی پیدا کنند. اگرچه اصلاحیه پنجم قانون اساسی ایالات‌ متحده از حق افراد برای حفظ سکوت محافظت  می‌کند (و بنابراین رمز عبور داده نمی‌شود)، قضات در چندین ایالت حکم کرده‌‌اند که پلیس می‌تواند به زور از اثر انگشت برای باز کردن قفل تلفن کاربر استفاده کند. (با ویژگی جدید تشخیص چهره روی آیفون X، پلیس تنها ممکن است به یک کاربر بی‌خبر برای نگاه کردن به تلفن خود نیاز داشته باشد). این تصمیمات منعکس‌ کننده این مفهوم سنتی هستند که حقوق و آزادی‌‌های فردی در محدوده پوست فرد به پایان می‌رسد.

اما مفاهیم حقوق و آزادی‌های شخصی که موسسات حقوقی ما را هدایت می‌کنند، کهنه و قدیمی ‌شده اند. این حقوق بر اساس مدل یک فرد آزاد ساخته شده اند که از یک زندگی درونی غیرقابل دسترس لذت می‌برد. به هر حال،  امروزه افکار ما می‌توانند حتی قبل از اینکه پیشرفتی داشته باشند، مورد تجاوز قرار گیرند و به شکلی، شاید این چیز جدیدی نباشد. ریچارد فاینمن (Richard Feynman) فیزیکدان برنده جایزه نوبل می‌گوید که با نوت بوکش فکر می‌کند. بدون خودکار و مداد، یک بازتاب و تحلیل پیچیده  خوب هیچ گاه امکان پذیر نخواهد بود. اگر دیدگاه ذهن گسترش یافته درست باشد، حتی فناوری‌های ساده مانند این نوت بوک‌ها، شایسته تشخیص و محافظت شدن به عنوان بخشی ضروری از جعبه ابزار ذهن هستند.

ماشین خودران

ماشین‌های بدون راننده باید چه کسی را بکشند؟

سیاست و اقتصاد | اقتصاد و تکنولوژی | هوش مصنوعی

| اگر شما پشت فرمان ماشینی باشید که در حال تصادف است، ترجیح می‌دهید با تعدادی گربه تصادف کنید یا تعدادی کودک؟ حال، انتخاب ماشین‌های خودران چه باید باشد؟

:Vice – Tracey Lindeman

طبق یک نظرسنجی گسترده، ماشین‌های بدون راننده در موقعیت‌های اجتناب ناپذیرِ تصادف در مقابل افراد جوان و سالمند، باید از جوان‌تر‌ها دوری کنند.

در “آزمایش ماشین اخلاقی” در میان بیش از 2 میلیون شرکت کننده از 233 کشور، مردم ترجیح دادند که انسان‌ها را در مقابل حیوانات، جوان‌تر‌ها را در مقابل سالمندان و تعداد آدم بیشتر در مقابل تعداد کمتر را نجات دهند.

اگر شما پشت فرمان ماشینی باشید که در حال تصادف است، ترجیح می‌دهید با تعدادی گربه تصادف کنید یا تعدادی کودک؟ ترجیح می‌دهید با برخورد به یک مانع بتنی، خود و دیگر سرنشینان ماشین را بکشید و یا تعدادی سالمند را که در حال عبور از خیابان هستند؟

اگر به جای افراد سالمند، یک خانم باردار به همراه یک کودک بود چطور؟ و یا دو مجرم؟ و یا سه فرد بی خانمان؟ و یا تعدادی رییس تجاری؟

این‌ها تعدادی از سوال‌هایی است که افراد تیم تحقیقاتی ادموند ایواد، فوق دکترای دانشگاه ام.آی.تی، سعی کردند در مقاله جدیدشان به نام “آزمایش ماشین اخلاقی” به آن‌ها پاسخ دهند که در مجله “نیچر” چاپ شد. هدف تحقیق این بود که بررسی کنند از نظر مردم، خودروهای خودران (بدون سرنشین)، اگر و وقتی نیاز بود، چگونه باید تصمیم بگیرند که چه کسی را بکشند؟ تحقیق آن‌ها بر اساس پاسخ بیش از 2 میلیون شرکت کننده از 233 کشور مختلف است.

بیشتر بخوانید:  ربات‌ها چگونه دردسرساز می‌شوند؟

تیم تحقیقاتی ایواد متوجه شدند که در اکثر مواقع، مردم ترجیح می‌دهند که انسان‌ها را در مقابل حیوانات، جوان‌تر‌ها را در مقابل سالمندان و تعداد آدم بیشتر در مقابل تعداد کمتر را نجات دهند. البته در مواردی مردم طبق فرهنگشان جواب متقاوتی برای اولویت نجات افراد می‌دادند.

به عنوان مثال، مردمی که در آمریکای لاتین زندگی می‌کردند ترجیح می‌دادند افراد جوان تر را نجات دهند در حالی که افرادی که در آسیا زندگی می‌کردند پاسخشان برعکس این افراد بود. با این حال، به نظر می‌رسد بیشتر افراد ترجیح می‌دهند که افراد پیاده در حال عبور را نجات دهند تا سرنشینان خودرو، و یا نجات افرادی را که قانونمند هستند بر افرادی که بدون استفاده از پل هوایی یا خط کشی خیابان از آن عبور می‌کنند ارجح می‌دانستند. به جز در کشورهای فقیرتر که راننده‌ها عموما در مقابل اینجور افراد صبورتر هستند.

 

در اکثر مواقع، مردم ترجیح می‌دهند که انسان‌ها را در مقابل حیوانات، جوان‌تر‌ها را در مقابل سالمندان و تعداد آدم بیشتر در مقابل تعداد کمتر را نجات دهند. البته در مواردی مردم طبق فرهنگشان جواب متقاوتی برای اولویت نجات افراد می‌دادند.

 

پاسخ افراد شرکت کننده توسط ماشین اخلاقی در یک نظرسنجی طراحی شده توسط ایواد در سال 2016 ثبت می‌شدند تا محققان بتوانند ابتدایی‌ترین غریزه کشتن را در ما بررسی کنند.

بازی ماشین اخلاقی شبیه مسئله ترولی (مسئله تراموا) است که البته مشهور هم نیست (و یا به عبارتی آیا یک نفر را می‌کشید که پنج نفر را نجات دهید؟)، که البته برای خودروهای خودران سنجیده می‌شوند. عظیم شریف، که در نوشتن این مقاله همکاری کرده است و یکی از محققان کانادا در زمینه روانشناسی اخلاقی در دانشگاه کلمیبا است، در یک مصاحبه عنوان کرده است که راننده‌ها در موقعیت‌های خطرناکی مانند این‌ها، از روی غریزه واکنش نشان می‌دهند در حالی که ماشین‌های خودران این انتخاب را دارند که با بررسی کردن موقعیت واکنش نشان دهند.

شریف گفته است:«آن‌ها تصمیماتی می‌گیرند که باعث می‌شود ریسک موجود بین افراد مختلف داخل خیابان تقسیم شود.»

شرکت کنندگان در یک دو راهی اخلاقی گیر کرده بودند که هرچه زندگی اتوماتیک پیشرفت می‌کند، بیشتر اذهان عمومی را درگیر می‌کند: چقدر قدرت باید به ماشین آلات داده شود؟ این اتفاقات مربوط به مسئله ترولی که در زندگی واقعی می‌افتند – هرچند احتمال بروزشان بسیار ناچیز باشد – ترس مداوم مردم برای تصمیمات بین مرگ و زندگی را هدف قرار می‌دهد.

شریف می‌گوید:«اینطور به نظر می‌آید که سال 2018 سالی بود که مردم شروع به مخالفت با تکنولوژی‌های نوظهور کردند. (خودروهای خودران) احتمالا اولین محصولاتی هستند که می‌توان آن‌ها را طوری برنامه ریزی کرد که زندگی مالک خود را به عمد و برخلاف خواست خودش در معرض خطر قرار دهند.»

شریف معتقد است که دوراهی اخلاقی مخصوصا در مورد خودرو‌ها مطرح است چون ما زمان زیادی از وقت خود را در آن‌ها و میزان زیادی از پولمان را برای آن‌ها خرج می‌کنیم.

به علاوه، تقریبا هرکسی که به طور مستمر رانندگی می‌کند، با چنین موقعیت‌های پرخطری که باید در کسری از ثانیه تصمیم مهمی برایش گرفته شود، رو به رو شده است. در سال 2010، خانمی از کبک کانادا، اما شورنوبج، ماشین خود را وسط اتوبان متوقف کرد که یک خانواده اردک را نجات دهد و باعث مرگ دو نفر موتورسوار شد.

بیشتر بخوانید:  سیستم آموزش عالی فنلاند چگونه کار می‌کند؟

شریف معتقد است که این تحقیقات “بزرگترین مطالعه در زمینه روانشناسی اخلاقی که تا به حال انجام شده است” محسوب می‌شود. وقتی وایس و بقیه، داستان‌هایی در مورد بازی ماشین اخلاقی نشر دادند، مشهور و همه‌گیر شد و از سالی که تاسیس شد و شروع به کار کرد، بیش از 40 میلیون تصمیم را ضبط و ثبت کرده است.

شریف در مکالمه تلفنی به من گفت:«اوباما یک بار در موردش صحبت کرد که به ما کمک کرد. بعد از آن تعدادی از یوتیوبرها ویدیوهایی از خودشان در حال انجام این بازی منتشر کردند. یک زوج که کارشان مرور و بازدید از بازی‌های کامپیوتری است، یک ساعت و نیم وقت گذاشتند و در مورد تمام 13 سناریوی موجود در بازی ماشین اخلاقی صحبت کردند.»

او گفت که همکارانش که در نوشتن این مقاله با او همکاری کرده اند امیدوار هستند که تحقیقاتشان آژانس‌های نظارتی و سازندگان خودرو‌ها را درمورد نحوه چگونگی برخورد با این مسئله ی اخلاقی آگاه کند – و به آن‌ها نشان دهد چرا انقدر حیاتی و مهم است که آحاد مردم را در اینگونه تصمیمات مشارکت دهند.