سیاست و اقتصاد | اقتصاد و تکنولوژی | هوش مصنوعی

| هوش مصنوعی، می‌تواند بسیاری از مزایای عملی دموکراسی را از بین برده و آرمان‌های آزادی و برابری را نابود سازد. اگر ما قدمی برای متوقف کردن آن برنداریم، [تکنولوژی]، قدرت را به میزان بیشتری در یک نخبۀ کوچک، متمرکز خواهد کرد.

نگرانیِ فزاینده از نامربوطی [احساس تعلق نداشتن]

هیچ چیز اجتناب‌ناپذیری در مورد دموکراسی، وجود ندارد. برای هر موفقیتی که دموکراسی در طول قرن گذشته یا قبل‌تر از آن، به دست آورده است، شواهد محکمی در طول تاریخ وجود دارد. سلطنت، الیگارشی [گروهه‌سالاری] و دیگر اشکال فرمانرواییِ قدرت‌طلبانه، رایج‌ترین شیوه‌های حکومت کردن انسان‌ها بوده‌اند. ظهور دموکراسی‌های لیبرال با [ظهور] آرمان‌های آزادی و برابری، همراه بوده، که ممکن است بدیهی و غیرقابل انکار به نظر برسد. اما این آرمان‌ها، بسیار شکننده‌تر از آن هستند که ما باور داریم. موفقیت آن‌ها در قرن بیستم به شرایط منحصربه‌فرد تکنولوژی بستگی داشت که زودگذر بود. در دهۀ دوم قرن بیست و یکم، لیبرالیسم شروع به از دست دادن اعتبار خود کرد. و نگرانی‌ها در مورد اینکه آیا دموکراسی لیبرال، قابلیت اجرا شدن در طبقۀ متوسط را دارد، بیشتر از قبل شد؛ سیاست‌ها قبیله‌ای شدند؛ و رهبرانِ بیشتر کشورها، به عوام‌فریبی و دیکتاتوری روی آوردند. دلایل این تغییر سیاسی، پیچیده هستند؛ اما به نظر می‌رسد که با پیشرفت‌های تکنولوژی کنونی، در هم تنیده و مرتبط باشند. تکنولوژی‌ای که طرفدار دموکراسی بود، در حال تغییر یافتن است و تا زمانی که هوش مصنوعی، در حال توسعه است، ممکن است بیشتر هم تغییر یابد.

فناوری اطلاعات، همچنان رو به جلو حرکت می‌کند؛ بیوتکنولوژی، شروع به باز کردن پنجره‌ای به زندگی درونی ما کرده است یعنی هیجان‌ها، افکار و انتخاب‌های ما. فناوری اطلاعات و بیوتکنولوژی با یکدیگر، انقلابی بی‌سابقه را در جوامع انسانی، بر پا خواهند کرد، قدرت عاملیت [فاعلیت] انسانی را از بین خواهند برد و احتمالاً تمایلات انسانی را نیز دگرگون می‌کنند.

ممکن است مردم عادی، هوش مصنوعی و بیوتکنولوژی را با جزییات درک نکنند؛ اما می‌توانند احساس کنند که آینده، آن‌ها را کنار خواهد گذاشت. در سال 1938، شرایط عمومی مردم در شوروی، آلمان و یا ایالات‌متحده، شاید خیلی اسفبار بود اما دائم به مردم گفته می‌شد که مهم‌ترین و باارزش‌ترین موجودِ این دنیا هستند و سازندۀ آیندۀ جامعه هستند. این مرد به پوسترهای پروپاگاندایی، نگاه می‌کرد (که معمولاً کارگرهای معدن و پولادگرها را با ژست‌های قهرمانانه نشان می‌داد) و خود را در کنار آن‌ها تجسم می‌کرد و می‌گفت: من هم، درون آن پوسترم! من قهرمان آینده‌ام!

در سال ۲۰۱۸، عموم مردم، احساس فزاینده‌ای از نامربوطی [بی‌تعلقی] را تجربه می‌کنند. عبارات عجیب‌وغریب زیادی را در سخنرانی‌های TED، در اتاق‌فکرهای دولت و در کنفرانس‌های فناوری پیشرفته می‌شنویم؛ مثل جهانی‌شدن، بلک‌چین، مهندسی ژنتیک، هوش مصنوعی، یادگیری ماشین و …؛ اما عموم مردم، چه مرد و چه زن، ممکن است که تردید زیادی داشته باشند در مورد اینکه به‌راستی، کدام‌یک از این عبارات، در مورد آن‌هاست.

در قرن بیستم، تودۀ مردم علیه استثمار قیام کردند و خواستند که نقش حیاتی خود در اقتصاد را به قدرت سیاسی تبدیل کنند. حالا تودۀ مردم از احساس بی‌تعلقی و نامربوطی می‌ترسند و در آستانۀ استفاده از قدرت سیاسی باقیمانده‌شان هستند، قبل از اینکه خیلی دیر شود. برکسیت (خروج بریتانیا از اتحادیه اروپا) و روی کار آمدن دونالد ترامپ، ممکن است نوعی اعتراض جنگ‌طلبانه به انقلاب‌های سوسیالیستی سنتی باشد. انقلاب‌های روسیه، چین و کوبا توسط مردمی رخ داد که برای اقتصاد، مهره‌ای حیاتی بودند اما قدرت سیاسی نداشتند؛ در سال ۲۰۱۶، ترامپ و برکسیت، توسط مردمی حمایت شدند که هنوز از قدرت سیاسی‌شان لذت می‌بردند اما می‌ترسیدند که ارزش اقتصادی‌شان را از دست بدهند. شاید در قرن 21، پوپولیست‌ها (عوام‌گراها)، علیه یک نخبۀ اقتصادی که مردم را استثمار می‌کند قیام نکنند؛ اما علیه یک نخبه اقتصادی قیام خواهند کرد که دیگر به آن‌ها [پوپولیست‌ها]، احتیاجی ندارد. البته احتمال زیادی هست که این جنگ را ببازند؛ [چون] جنگ علیه نامربوطی، بسیار سخت‌تر از جنگ علیه استثمار است.

انقلاب فناوری اطلاعات و بیوتکنولوژی، هنوز در مرحلۀ اولیه خود به سر می‌برد و بسط موضوع تا اینجا که آیا این‌ها، مسئول بحران کنونی لیبرالیسم هستند یا نه، جای بحث دارد. اکثر مردم در بیرمنگام، استانبول، سن‌پترزبورگ و میامی، خیلی کم از فناوری اطلاعات و بیوتکنولوژی، میزان پیشرفت هوش مصنوعی و تأثیر بالقوۀ آن در زندگی‌شان، آگاهند و یا اینکه اصلاً آگاهی ندارند. به‌هرحال، جای شکی نیست که با سرعتی که این دو حوزه در حال پیشرفت هستند، طی چند دهۀ آینده، بشریت را با چنان امتحانات و چالش‌هایی مواجه می‌سازند که تابه‌حال نمونۀ آن را ندیده‌اند.

طبقۀ اجتماعیِ جدید بی‌مصرف

اجازه دهید بحث را با مشاغل و درآمدها شروع کنیم، زیرا که چهرۀ فلسفی دموکراسی هر چه که باشد، قدرت وسیعش را از مزیت عملی خود، به دست آورده است: داشتن دیدگاه غیرمتمرکز [توزیعی] به تصمیم‌گیری (هم در سیاست و هم در اقتصاد)، به دموکراسی‌ها این قابلیت را داده است که همدیگر را به‌صورت خودکار، تکمیل کنند و دارایی و ثروت فزاینده‌ای را به مردمشان برسانند.

رشد اقتصادی، احتمال دارد که نتواند مشکلات اجتماعی‌ای ما را که این تحول تکنولوژیکی، به وجود آورده است، حل کند؛ زیرا چنین رشدی به میزان زیادی در [هنگام] ابداع بیشتر تکنولوژی‌های تحول‌آفرین، پیش‌بینی شده بود.

ترس از اینکه ماشین‌ها، افراد را از بازار کار، بیرون کنند چیز جدیدی نیست و در گذشته، ثابت شده بود که چنین ترس‌هایی، بی‌پایه و اساس است؛ اما هوش مصنوعی، با ماشین‌های قدیمی، فرق دارد. در گذشته، ماشین‌ها، اساساً در مهارت‌های یدی، توسط انسان‌ها تکمیل می‌شدند. اما اکنون، ماشین‌ها شروع به رقابت با ما در مهارت‌های شناختی کرده‌اند. و ما هیچ‌چیزی از هر نوع مهارت نوع سومی نمی‌دانیم (یعنی فرای مهارت‌های یدی و شناختی)، چون‌که در این زمینه، انسان‌ها همواره دارای حد نهایی و محدودیت هستند.

حداقل تا چند دهه بعد، احتمال دارد که هوش انسانی در بسیاری از زمینه‌ها، از هوش کامپیوتر، بسیار برتر باشد. یعنی تا زمانی که کامپیوترها مشاغل شناختیِ روتین‌تری را بر عهده دارند، مشاغلِ خلاقانۀ جدید برای انسان‌ها، پدید خواهد آمد. بسیاری از این مشاغل جدید، احتمالاً بستگی به مشارکت انسان‌ها و هوش مصنوعی دارد، بیشتر از اینکه به رقابت این دو، نیاز داشته باشد. و تیم‌های متشکل از انسان و هوش‌مصنوعی، احتمالاً نه‌تنها از انسان‌ها، بلکه از کامپیوترها هم، برتر است.

به‌هرحال، اکثر مشاغل جدید، احتمالاً به سطوح بالایی از تخصص و نبوغ، نیاز خواهند داشت و مسئلۀ کارگرانِ بی‌مهارتِ بیکار و یا کارگرانی را که با حقوق خیلی پایینی می‌توانند استخدام شوند حل نخواهد کرد. علاوه بر این، تا زمانی که هوش مصنوعی در حال توسعه است، ممکن است مشاغلی که هوش و نبوغ خیلی بالایی را نیاز دارند نیز، رفته‌رفته محو شوند. دنیای شطرنج، مثالی است از اینکه اوضاع ممکن است به چه سویی پیش برود. بعد از گذشت چندین سال، پس‌ازاینکه کامپیوتر شطرنج (دیپ بلو) شرکت آی‌بی‌ام، قهرمان شطرنج جهان، گری کاسپاروف را در سال 1997، شکست داد، شطرنج‌بازهای انسانی، هنوز در حال پیشرفت هستند و برای آموزش دادن نوابغ انسانی [شطرنج]، از هوش مصنوعی استفاده می‌شود و تیم‌های متشکل از انسان و کامپیوتر، بر کامپیوترهایی که به‌تنهایی بازی می‌کنند، برتری دارند.

در سال‌های اخیر، کامپیوترها درزمینۀ بازی شطرنج، چنان پیشرفت کرده‌اند که شریک انسانی‌ها آن‌ها، ارزشش را از دست داده است و ممکن است به‌زودی به فردی نامربوط، تبدیل شود. در ششم دسامبر 2017، اتفاق حیاتی دیگری رخ داد؛ زمانی که نرم‌افزار آلفای زیروی گوگل، نرم‌افزار استاک‌فیش ورژن ۸ را شکست داد. استاک‌فیش 8، در سال ۲۰۱۶، یک قهرمان شطرنج کامپیوتری را شکست داده بود. این نرم‌افزار [استاک‌فیش]، به قرن‌ها تجربۀ انسانی در شطرنج و دهه‌ها تجارب کامپیوتری، دسترسی داشته است. برعکس، به نرم‌افزار آلفازیرو، توسط خالقان انسانی‌اش، هیچ آموزش شطرنجی (حتی آموزش استانداردهای گشایش^[1]) داده نشده بود. این نرم‌افزار، از آخرین اصول یادگیری ماشین استفاده کرده بود و خودش با بازی مقابل خودش، شطرنج را یاد گرفت. در ۱۰۰ بازی آلفازیرو در مقابل استاک‌فیش ۸، آلفازیرو، 28 بازی را برد و ۷۲ تا را مساوی کرد و حتی یک بازی را هم نباخت. ازآنجایی‌که آلفازیرو، هیچ‌چیزی را از یک انسان، نیاموخته است، بسیاری از حرکاتِ برنده و استراتژی‌هایش، برای انسان‌ها، غیرمعمولی است. این حرکات می‌توانند نوعی خلاقیت دیده شوند، اگر که نخواهیم آن‌ها را نبوغ خالص بدانیم.

آیا می‌توانید حدس بزنید که آلفازیرو چه مدت‌زمانی را صرف کرده است تا شطرنج یاد بگیرد، با استاک‌فیش 8 به رقابت بپردازد و غرایز نابغه‌گونه‌اش را توسعه دهد؟ چهار ساعت. برای قرن‌ها، شطرنج، یکی از افتخارات شکوهمندِ هوش انسانی محسوب می‌شد. آلفازیرو در چهار ساعت، بدون راهنمایی هیچ انسانی از ناآگاهی کامل به [درجۀ] استادی خلاقیت رسید.

آلفازیرو، تنها نرم‌افزار ساخته‌شده نیست. یکی از راه‌هایی که امروزه به‌وسیلۀ آن، متقلبان را در تورنمنت‌های شطرنج، تشخیص می‌دهند، نظارت بر درجۀ اصالتی هست که بازیکنان، نشان می‌دهند. اگر آن‌ها حرکت خلاقانۀ منحصربه‌فردی را اجرا کنند، داوران، مشکوک خواهند شد که این حرکت، حرکت یک کامپیوتر است و حرکت یک انسان نیست. حداقل، در بازی شطرنج، هم‌اکنون خلاقیت، مشخصۀ کامپیوترهاست تا انسان‌ها. پس اگر شطرنج، قناریِ معدن^[2] ما است [ملاک ما برای احساس خطرِ جدی است]، ما به‌موقع، اخطار دادیم که قناری، در حال مردن است. اتفاقی که امروزه برای تیم‌های متشکل از انسان و هوش مصنوعی، در شطرنج افتاده است [بی‌استفاده شدن انسان]، ممکن است به‌زودی برای تمامی تیم‌های متشکل از انسان و هوش مصنوعی در زمینه‌های انتظامی (پلیسی)، پزشکی، بانکداری و بسیاری از زمینه‌های دیگر، رخ دهد.

دیگر اینکه هوش مصنوعی، دارای توانایی‌های منحصربه‌فرد غیرانسانی‌ است که این موضوع، تفاوت بین یک کارگر انسانی و هوش مصنوعی را بسیار فاحش می‌کند. دو مورد از توانایی‌هایِ اختصاصی و غیرانسانیِ مهمِ هوش مصنوعی، توانایی اتصال هم‌زمان (ارتباط هم‌زمان) و به‌روز شدن است. برای مثال، بسیاری از رانندگان، با قوانین عبور و مرورِ متغیرِ جاده‌هایی که در آن تردد دارند، آشنا نیستند و اکثراً آن‌ها را زیر پا می‌گذارند. علاوه بر این، ازآنجایی‌که هر راننده‌، هویتی منحصربه‌فرد دارد، هنگامی‌که دو راننده، به‌صورت هم‌زمان، به یک تقاطع می‌رسند، گاهی راننده‌ها، در تبادل قصد و نیت خود با یکدیگر، دچار سوءبرداشت می‌شوند و تصادف می‌کنند. در مقابل، ماشین‌های بدون سرنشین و خودران، تمام قوانین عبور و مرور را می‌دانند و هرگز به‌صورت آگاهانه، آن‌ها را زیر پا نمی‌گذارند و این قابلیت را دارند که به یکدیگر، متصل شوند. وقتی‌که دو خودروی بدون سرنشین، به یک تقاطع می‌رسند، در حقیقت، آن‌ها دو وجود یکتا ندارند و جزئی از یک الگوریتم هستند. بنابراین، احتمال اینکه آن‌ها دچار سوءبرداشت شوند و تصادف کنند، بسیار پایین‌تر است.

مشابه با موضوع بالا، اگر سازمان بهداشت جهانی (WHO)، یک بیماری جدید را شناسایی کند و یا یک آزمایشگاه، دارویی جدید را تولید کند، نمی‌توان سریعاً تمام دکترهای انسانی دنیا را به‌روز کرد. اما اگر شما میلیاردها دکترِ هوش مصنوعی [غیرانسانی] داشته باشید و هرکدام هم در حال نظارت بر وضعیت سلامت فردی خاص باشند، بازهم شما می‌توانید، تمامی آن‌ها را در کسری از ثانیه، آپدیت کنید. و تمامی آن‌ها قادر خواهند بود تا ارزیابی‌هایشان را در مورد دارو و بیماری جدید، با یکدیگر تبادل کنند. این مزیت‌های بالقوه در ارتباط و آپدیتِ هم‌زمان، این‌قدر مهم هستند که حداقل در بعضی از بخش‌های برخی مشاغل، منطقی به نظر می‌رسد که تمامی انسان‌ها را با کامپیوترها، جایگزین کنیم، حتی اگر بعضی از انسان‌های آن بخش، کارشان را بهتر از کامپیوترها انجام دهند.

همان تکنولوژی‌ای که ممکن است میلیاردها انسان را ازنظر اقتصادی، نامربوط کند، ممکن است کاری کند تا آن‌ها (این انسان‌های نامربوط‌شده) را راحت‌تر بتوان نظارت و کنترل کرد.

همه این‌ها به نتیجه‌ای خیلی مهم منجر می‌شود: انقلاب اتوماسیون (خودکارسازی)، تنها یک نقطۀ عطف و تاریخی نیست که در بازار کار، تعادلی جدید را به وجود آورد، بلکه سلسله‌مراتبی از تحولات بزرگ‌تر است. مشاغل قدیمی، محو می‌شوند و مشاغل جدید، پدیدار می‌شوند اما این مشاغل جدید نیز، به‌سرعت، تغییر می‌کنند و ناپدید می‌شوند. افراد، مجبورند نه یک‌بار، بلکه بارها و بارها خود را بازآموزی کنند.

“ انقلاب اتوماسیون (خودکارسازی)، تنها یک نقطۀ عطف و تاریخی نیست که در بازار کار، تعادلی جدید را به وجود آورد، بلکه سلسله‌مراتبی از تحولات بزرگ‌تر است. مشاغل قدیمی، محو می‌شوند و مشاغل جدید، پدیدار می‌شوند اما این مشاغل جدید نیز، به‌سرعت، تغییر می‌کنند و ناپدید می‌شوند. افراد، مجبورند نه یک‌بار، بلکه بارها و بارها خود را بازآموزی کنند.“

در همین قرن گذشته، دولت‌ها یک سیستم آموزشی کلان را برای افراد جوان، اجرا کردند. در قرن ۲۱، دولت‌ها، احتیاج پیدا خواهند کرد تا سیستم دیگری را نیز برای بازآموزی بزرگ‌سالان اجرا کنند. اما آیا این کافی خواهد بود؟ تغییر، همیشه استرس‌آور است و دنیای گیج‌کنندۀ قرن بیست و یکم، یک وضعیت استرس‌آورِ همه‌گیر جهانی را ایجاد کرده است. به هر میزانی که احتمال نابودی شغل، بالا برود، آیا بازهم مردم، قادر به مقابله هستند؟ تا سال 2050، ممکن است یک طبقۀ [اجتماعی] بی‌استفاده شکل بگیرد؛ نه‌تنها به علت کمبود شغل یا عدم وجود تحصیلات مرتبط، بلکه به علت اینکه توانایی ذهنی کافی برای یادگیری مهارت‌های جدید، وجود نخواهد داشت.

افزایش دیکتاتوری‌های دیجیتال

زمانی که افراد، ارزش اقتصادی خود را از دست می‌دهند، ممکن است که قدرت سیاسی خود را هم از دست بدهند. همان تکنولوژی‌ای که ممکن است میلیاردها انسان را ازنظر اقتصادی، نامربوط کند، ممکن است باعث شود تا انسان‌ها را راحت‌تر بتوان نظارت و کنترل کرد. هوش مصنوعی، افراد زیادی را ترسانده است؛ زیرا انسان‌ها نمی‌توانند اطمینان داشته باشند که هوش مصنوعی برای همیشه، تابع خواهد ماند. فیلم‌های علمی‌تخیلی، در میزانی که کامپیوترها و ربات‌ها، ممکن است آگاهی‌شان را افزایش دهند، اغراق می‌کنند و اندکی پس‌ازآن [افزایش آگاهی]، سعی خواهند کرد تا تمام انسان‌ها را بکشند. علت خاصی وجود ندارد که بتوان باور کرد که هوش مصنوعی هرچقدر باهوش‌تر شود، توانایی آگاهی‌اش هم بالاتر می‌رود. ما باید از هوش مصنوعی بترسیم چون‌که احتمالاً همیشه از اربابان انسانی‌اش تبعیت خواهد کرد و هرگز شورش نخواهد کرد. هوش مصنوعی یک وسیله و ابزار است اما شبیه آن‌هایی که تا به حال، انسان‌ها ساخته‌اند نیست؛ آن، قطعاً به افراد قدرتمند، این توانایی را خواهد داد که قدرت خود را مستحکم‌تر کنند.

“تا سال 2050، ممکن است یک طبقۀ [اجتماعی] بی‌استفاده شکل بگیرد؛ نه‌تنها به علت کمبود شغل یا عدم وجود تحصیلات مرتبط، بلکه به علت اینکه توانایی ذهنی کافی برای یادگیری مهارت‌های جدید، وجود نخواهد داشت.“

سیستم‌های نظارتی را در نظر بگیرید. کشورهای زیادی در سرتاسر دنیا، مشغول ساخت سیستم‌های نظارتی بی‌نظیری هستند. برای مثال، رژیم صهیونیستی که پیشگام تکنولوژی نظارت است، در کرانۀ باختری رود اردن، نمونۀ اولیۀ در حال اجرایی را از یک رژیم نظارت همگانی، ساخته است. امروزه اگر فلسطینی‌ها، یک تماس تلفنی بگیرند، چیزی را در فیس‌بوک بنویسند، پست کنند یا از یک شهر به شهر دیگری سفر کنند، احتمالاً در حال نظارت شدن با میکروفن‌ها، دوربین‌ها، پهپادها و یا نرم‌افزارهای جاسوسی هستند. الگوریتم‌ها، دیتای جمع‌آوری‌شده را آنالیز می‌کنند و به نیروهای امنیتی اسراییل کمک می‌کنند تا با دقت بالایی، آنچه را که تهدیدی بالقوه در نظر می‌گیرند، مشخص و نابود کنند. فلسطینی‌ها شاید مدیریت چند شهر و روستا را در کرانۀ باختری رود اردن، در اختیار داشته باشند، اما این رژیم اشغالگر است که آسمان، رسانه‌ها و فضای سایبری را در اختیار دارد. به طرز شگفت‌آوری [سیستم نظارتی اسراییل]، تعداد خیلی کمی سرباز اسراییلی نیاز دارد تا به‌طور مؤثری، تقریباً دو و نیم میلیون فلسطینی ساکن در کرانۀ باختری رود اردن را کنترل کند.

در یک اتفاق، در اکتبر سال 2017، یک کارگر فلسطینی، عکسی را از خودش، کنار یک بولدوزر در محل کارش، در صفحۀ شخصیِ فیس‌بوکش منتشر کرد. او در کپشن عکسش نوشت: «صبح‌به‌خیر!». الگوریتم ترجمۀ فیس‌بوک، زمانی که حروف عربی را ترجمه می‌کرد، یک خطای کوچک را مرتکب شد و لغت Ysabechhum که به معنی صبح‌به‌خیر است را Ydbachhum  که به معنی به آن‌ها آسیب بزن است، تشخیص داد. سیستم نظارتی، فکر کرده بود که او قصد دارد با بولدوزر از روی اسرائیلی‌ها، رد شود. نیروی امنیتی اسرائیل، سریعاً او را دستگیر کرد و زمانی که متوجه شدند در الگوریتم، یک خطا رخ داده است، او را آزاد کردند. حتی پست او از روی فیس‌بوک، پاک شد. هرگز نمی‌توانید بیش‌ازحد، مراقب باشید. آنچه فلسطینی‌ها اکنون در کرانۀ باختری رود اردن تجربه می‌کنند ممکن است فقط پیش‌نمایشی اولیه از آن چیزی باشد که میلیاردها انسان درنهایت، در سرتاسر سیاره، تجربه خواهند کرد.

 ” ما باید از هوش مصنوعی بترسیم چون‌که احتمالاً همیشه از اربابان انسانی‌اش تبعیت خواهد کرد و هرگز شورش نخواهد کرد. هوش مصنوعی یک وسیله و ابزار است اما شبیه آن‌هایی که تا به حال، انسان‌ها ساخته‌اند نیست؛ آن، قطعاً به افراد قدرتمند، این توانایی را خواهد داد که قدرت خود را مستحکم‌تر کنند. “

برای لحظه‌ای تجسم کنید که رژیم کنونی در کرۀ شمالی به ورژن پیشرفته‌تری از این تکنولوژی دست یابد. ممکن است مردم مجبور شوند گردنبند بیومتریکی را بپوشند تا بر هر چیزی که انجام می‌دهند، می‌گویند، فشارخون و فعالیت‌های ذهنی‌شان نظارت شود. با استفاده از دانش فزاینده در مورد ذهن انسان و استفاده از قدرت بی‌نظیرِ یادگیری ماشین، حکومت کرۀ شمالی ممکن است درنهایت، قادر شود تا هر چیزی که هر شهروندی در هرلحظه‌ای به آن می‌اندیشد را بسنجد و قضاوت کند. اگر یک کره‌ای به‌عکس کیم جونگ اون نگاه کند و سنسورهای بیومتریکیِ خبرچین، نشانه‌هایی از خشم را ثبت کنند (فشارخون بالاتر و افزایش فعالیت در آمیگدالا)، احتمالاً آن فرد، روز بعد در گولاگ^[3] خواهد بود.

تعارض بین دموکراسی و دیکتاتوری، [تعارض بین دو سیستم اخلاقی متفاوت نیست بلکه] درواقع، تعارض بین دو سیستم پردازش داده است. هوش مصنوعی، ممکن است بازی را به نفع دیکتاتوری، تغییر دهد.

هنوز استفاده از چنین تکنیک‌های سفت و سختی، علناً ثابت نشده است. هنوز یک نمای ظاهری از انتخاب آزاد و رأی دادن آزاد، ممکن است در بعضی از کشورها، باقی مانده باشد و عموم مردم، کمتر به‌طور واقعی، کنترل شوند. مطمئناً تلاش برای دستکاری احساسات رأی‌دهندگان، چیز جدیدی نیست، اما روزی که کسی در سانفرانسیسکو، پکن یا مسکو توانایی دستکاری قلب (اراده) انسان‌ها را به‌صورت قابل‌اعتماد و ارزان، پیدا کند، [آن روز] سیاست‌های دموکراتیک، به یک نمایش عروسکی احساسی، تبدیل خواهد شد.

در دهه‌های پیش رو، احتمالاً با شورش ماشین‌های بااحساس، روبه‌رو نخواهیم شد؛ اما احتمالاً مجبور خواهیم شد تا با ارتشی از ربات‌ها مقابله کنیم که بهتر از مادرمان می‌دانند که چگونه دکمه‌های کنترل احساس ما را فشار دهند. آن‌ها از این تواناییِ کنترل عجیب‌وغریب را تحت فرمانِ انسانی نابغه، استفاده خواهند کرد با هدف اینکه، چیزی مثل یک ماشین، سیاست‌مدار یا ایدئولوژی را به ما بفروشند. این ربات‌ها احتمالاً عمیق‌ترین ترس‌ها، نفرت‌ها و امیال ما را تشخیص خواهند داد و از آن‌ها علیه ما استفاده خواهند کرد. ما یک چشمه (پیش‌نمایشی) از این کار را در انتخابات و رفراندوم‌های اخیر در سراسر دنیا دیدیم، وقتی‌که هکرها توانستند اطلاعات کاربران را آنالیز کنند و از پیش‌داوری‌های آن‌ها برای تغییر دادن رأیشان، سوءاستفاده و بهره‌برداری کنند. فیلم‌های علمی تخیلی، آخرالزمان‌هایی را نمایش می‌دهند که غرق در آتش و دود است، اما ما احتمالاً در واقعیت، با آخرالزمانی معمولی روبه‌رو هستیم که باید با کلیک کردن، با آن مواجه شویم.

بزرگ‌ترین و وحشتناک‌ترین تأثیر انقلاب هوش مصنوعی، ممکن است کارآمدی نسبی دموکراسی‌ها و یا دیکتاتوری‌ها باشد. از دیدگاه تاریخی، دیکتاتورها، برای ایجاد نوآوری و تحول اقتصادی، با مشکل مواجه بوده‌اند. در اواخر قرن بیستم، دموکراسی‌ها، از دیکتاتوری‌ها، عملکرد بهتری داشتند؛ چون‌که در پردازش اطلاعات، خیلی سرآمدتر بودند. ما تمایل داریم که تعارض بین دموکراسی و دیکتاتوری را تعارض بین دو سیستم اخلاقی ببینیم؛ اما درواقع، این تعارض، بین دو سیستم متفاوت پردازش داده است. دموکراسی، قدرت را در پردازش اطلاعات، توزیع می‌کند و تصمیم‌گیری‌ها توسط مردم و مؤسسات انجام می‌شود، درحالی‌که دیکتاتوری، اطلاعات و قدرت را در یک مکان، متمرکز می‌کند. با توجه به وضعیت تکنولوژی در قرن بیستم، اینکه این مقدار از قدرت و اطلاعات، در یکجا، متمرکز شود، کارآمد نبود. هیچ‌کس این توانایی را نداشت که همۀ اطلاعات موجود را با سرعت کافی، پردازش کند و تصمیمات درستی را اتخاذ کند. این، یکی از دلایلی است که شوروی، تصمیمات خیلی بدتری را نسبت به ایالات‌متحده، اتخاذ کرد و اقتصادش به‌شدت از آمریکا، عقب افتاد.

به‌هرحال، هوش مصنوعی ممکن است به‌زودی، نتیجه را به نفع دیکتاتوری، تغییر دهد. هوش مصنوعی، این را امکان‌پذیر می‌سازد که حجم بالایی از اطلاعات، به‌طور متمرکز، پردازش شود. در حقیقت، هوش مصنوعی، ممکن است سیستم‌های متمرکزی را ایجاد کند که از سیستم‌های پراکنده، بسیار کارآمدتر باشند، به علت اینکه سیستم یادگیری ماشین، عملکرد بهتری دارد نسبت به سیستمی که اطلاعات زیادی را باید پردازش کند. اگر شما تمام نگرانی‌های مربوط به حریم خصوصی را کنار بگذارید و تمام اطلاعات موجود در مورد یک میلیارد انسان را در یک دیتابیس، ذخیره کنید، الگوریتم‌های خیلی بهتری را خواهید داشت نسبت به زمانی که به حریم خصوصی احترام بگذارید و در دیتابیستان، اطلاعات جزئیِ یک‌میلیون انسان را ذخیره کنید. یک حکومت دیکتاتوری که به تمام شهروندانش دستور می‌دهد تا اطلاعات مربوط به توالی DNA و داده‌های پزشکی‌شان را با مقام مرکزی، به اشتراک بگذارند، منفعت بی‌پایانی را درزمینۀ تحقیقات پزشکی و ژنتیک، خواهد برد؛ چون‌که اطلاعات پزشکی شهروندان، اطلاعاتی کاملاً شخصی هستند. نقص بزرگ رژیم‌های دیکتاتوری در قرن بیستم که نمی‌توانستند تمام اطلاعات و قدرت را در یک مکان، متمرکز کنند، ممکن است در قرن بیست و یکم، رفع شود.

تکنولوژی‌های جدید، ظهور خواهند کرد و البته برخی از آن‌ها ممکن است که توزیع اطلاعات و قدرت را به‌جای تجمیع آن، تشویق کنند. تکنولوژی بلک‌چین و استفاده از ارز رمزی (دیجیتال) که به‌وسیلۀ آن به وجود آمد، در حال حاضر به‌عنوان وزنۀ تعادلی برای [جلوگیری] از تمرکز قدرت، عمل می‌کند. اما تکنولوژی بلک‌چین، هنوز در مراحل ابتدایی خود به سر می‌برد و معلوم نیست که می‌تواند وزنۀ تعادلی مناسبی برای تمایل هوش مصنوعی (متمرکز کردن قدرت) باشد یا نه. به یاد دارید که اینترنت هم، در روزهای ابتدایی‌اش، یک نوشداروی طرفدار آزادی بود که می‌خواست مردم را از همۀ سیستم‌های متمرکز، رها کند؛ اما حالا به ابزاری سمی تبدیل شده است که در حال قدرتمندتر کردن مقام مرکزی، بیش از هر زمان دیگری است.

“ یک حکومت دیکتاتوری که به تمام شهروندانش دستور می‌دهد تا اطلاعات مربوط به توالی DNA و داده‌های پزشکی‌شان را با مقام مرکزی، به اشتراک بگذارند، منفعت بی‌پایانی را درزمینۀ تحقیقات پزشکی و ژنتیک، خواهد برد؛ چون‌که اطلاعات پزشکی شهروندان، اطلاعاتی کاملاً شخصی هستند. نقص بزرگ رژیم‌های دیکتاتوری در قرن بیستم که نمی‌توانستند تمام اطلاعات و قدرت را در یک مکان، متمرکز کنند، ممکن است در قرن بیست و یکم، رفع شود. “

تفویض (انتقال) قدرت به ماشین‌ها

حتی اگر بعضی از جوامع، به‌ظاهر دموکرات مانده باشند، افزایش کارآمدی الگوریتم‌ها، هنوز هم قدرت بیشتری را روزبه‌روز از انسان‌ها گرفته و به ماشین‌های شبکه‌شده، منتقل می‌کند. ممکن است ما به‌عمد و هوشیارانه، اختیار بیشتری را از خودمان گرفته و به ماشین‌ها بدهیم؛ چون‌که براثر تجربه، یاد گرفته‌ایم که به الگوریتم‌ها بیشتر از احساسات خودمان، اعتماد کنیم؛ که [این وضعیت]، درنهایت باعث می‌شود توانایی‌مان را در بسیاری از تصمیم‌گیری‌ها از دست بدهیم. به فرایند این تغییر، لحظه‌ای فکر کنید. در کمتر از دو دهه، میلیاردها انسان به الگوریتم سرچ گوگل، اعتماد کردند و یکی از بزرگ‌ترین وظایف را به او سپردند: جستجوی اطلاعات مرتبط و قابل‌اطمینان. تا زمانی که ما برای یافتن پاسخ‌هایمان، بیشتر و بیشتر بر گوگل، تکیه کنیم، توانایی ما برای اینکه اطلاعات را به‌صورت مستقل، ذخیره‌سازی کنیم، کاهش می‌یابد. امروزه، معنای واژۀ «اعتماد»، به‌وسیلۀ نتایج برتر جستجوی گوگل، تعیین می‌شود. این فرایند، همچنین، توانایی‌های فیزیکی ما را نیز تحت‌تأثیر قرار داده است.، مثل هدایتگرهای مسیر. مردم، از گوگل می‌خواهند که نه‌تنها برایشان اطلاعات را جستجو کند، بلکه می‌خواهند که آن‌ها را در امور مختلف، هدایت هم بکند. ماشین‌های خودران و پزشکانی که با هوش مصنوعی، طراحی شده‌اند، این مسئله را با وضوح بیشتری به ما نشان می‌دهند: علاوه بر اینکه، این ابتکارات، راننده‌ها و پزشک‌های انسانی را بیکار می‌کند، پیامد بدتر آن‌ها این است که به‌طور مداوم در حال تفویض اختیارات و مسئولیت‌ها به ماشین‌هاست.

انسان‌ها عادت کرده‌اند که به زندگی، به‌عنوان درامای [میدان] تصمیم‌گیری، نگاه کنند. دموکراسی، انسان‌ها را عاملانی خودمختار می‌داند که دائم در حال تصمیم‌گیری در مورد دنیا هستند. دنیای هنر را در نظر بگیرید، نمایشنامه‌های شکسپیر، رمان‌های جین آستن یا کمدی‌های دل‌چسب هالیوودی، اکثراً همگی، حول محور قهرمانی می‌چرخند که باید تصمیمات حیاتی‌ای را بگیرد. بودن یا نبودن (انجام دادن یا ندادن)؛ به حرف همسرم گوش فرا دهم و پادشاه دانکن را به قتل رسانم یا اینکه به ندای وجدانم گوش دهم و او را ببخشایم؟؛ با آقای کولینز ازدواج کنم یا آقای دِرسی؟. در ایدئولوژی‌های مسلمانان و مسیحی‌ها، بر روی تصمیم‌گیری، تأکید می‌شود و سعادت غایی در زندگیِ جاویدان، به انتخاب‌های درست، بستگی دارد. برای این ایدئولوژی، چه اتفاقی می‌افتند وقتی‌که ما هرروزه بیشتر بر هوش مصنوعی تکیه می‌کنیم تا تصمیمات بیشتری را به‌جای ما بگیرد؟ حتی همین‌الان هم، به پیشنهادهای نت‌فلیکس، اعتماد می‌کنیم تا به ما سریال پیشنهاد بدهد و از اسپاتیفای می‌خواهیم تا موزیک‌های موردعلاقۀ ما را جمع‌آوری کند. اما آیا میزان تأثیرگذاری هوش مصنوعی، به همین‌جا ختم می‌شود؟

هرساله، میلیون‌ها دانشجو، نیاز به تصمیم‌گیری دارند که چه رشته‌ای را ادامه دهند. این یک تصمیم خیلی مهم و سخت است که باید در زیر فشار والدین، دوستان، و اساتیدی که علایق و نظرات گوناگونی دارند، گرفته شود. این تصمیم، توسط ترس‌های شخصی دانشجو و فانتزی‌هایش که توسط فیلم‌ها، رمان‌ها و تبلیغات، شکل گرفته‌اند نیز، تحت تأثیر قرار می‌گیرد. مسائلی هستند که موضوع را پیچیده‌تر می‌کنند، مثل‌اینکه فرد نمی‌داند چه رشته‌ای را باید انتخاب کند تا در شغل آینده‌اش موفق باشد یا اینکه به‌طور واقع‌بینانه، نقطه‌های قوت و ضعفش را نمی‌شناسد. زیاد دور نخواهد بود روزی که هوش مصنوعی، نسبت به از ما تصمیمات بهتری را درزمینۀ شغل، و حتی روابط، اتخاذ کند؛ اما زمانی که ما قدرت تصمیم‌گیری درزمینۀ اینکه چه رشته‌ای را بخوانیم، کجا کار کنیم، با چه کسی قرار رمانتیک بگذاریم و حتی این را که با چه کسی ازدواج کنیم به دست هوش مصنوعی بدهیم؛ زندگی انسانی، دیگر میدان تصمیم‌گیری‌ها نیست و ما مجبور خواهیم شد که دیدگاه و برداشتمان را نسبت به زندگی، تغییر دهیم. به همین نسبت، انتخابات دموکراتیک، اقتصاد بازارآزاد و همچنین، بیشتر مذاهب و کارهای هنری نیز، از بین خواهد رفت. تصور کنید آنا کارنینا، گوشی تلفن همراهش را دست گرفته و از دستیار سیری (SIR)، می‌پرسد که با کارنین بماند یا اینکه با ورونسکی فرار کند؟ یا اینکه نمایشنامۀ موردعلاقه خود از شکسپیر را تصور کنید که تمام تصمیمات سخت آن، توسط الگوریتم گوگل گرفته می‌شود. هملت و مکبث، زندگی بهتری را خواهند داشت؛ اما این چه نوع زندگی‌ای خواهد بود؟ آیا شما مدلی را برای ارائه دارید که چنین زندگی‌هایی، منطقی به نظر برسد؟

آیا پارلمان‌ها و جلسات سیاسی، می‌توانند به این چالش‌ها غلبه کنند و سناریوهای تاریک آینده را پیش‌بینی کنند؟ در حال حاضر که چنین چیزی، محتمل به نظر نمی‌رسد. تحول تکنولوژیکی، در برنامه‌های سیاسی، اصلاً موضوع مهمی نیست. در طی رقابت‌های انتخاباتی در سال ۲۰۱۶، نهاد مسئول تحول تکنولوژیکی، دغدغه‌اش مسائلی بود که هیلاری کلینتون با استفاده از ایمیل شخصی‌اش درست کرده بود و علی‌رغم تمام صحبت‌هایی که در مورد از دست دادن مشاغل و … شد، هیچ کاندیدایی به‌طور مستقیم به تأثیرات سیاسی، اتوماتیک‌سازی امور، اشاره نکرد. دونالد ترامپ به رأی‌دهندگان هشدار داد که مشاغل مکزیکی‌ها باید حفظ شود و آمریکا باید دیواری را در مرز جنوبی خودش، بنا کند. او هرگز به رأی‌دهندگان هشدار نداد که الگوریتم‌ها هستند که مشاغل آن‌ها را خواهند گرفت و اینکه حتی پیشنهاد نداد که فایروالی (دیوارۀ آتشی) را به دور کالیفرنیا، بنا کند.

با این اوضاع، چه کاری از ما ساخته است؟ برای شروع، ما باید مطالعۀ در مورد اینکه ذهن انسان چگونه کار می‌کند را در اولویت خیلی بالاتری قرار دهیم. در مورد اینکه چگونه می‌توان خرد و شفقت موجود در ما را تولید کرد. اگر ما درزمینۀ هوش مصنوعی خیلی زیاد سرمایه‌گذاری کنیم و برای توسعۀ ذهن انسان، خیلی کم؛ آن موقع ممکن است کامپیوترهای هوش مصنوعی که خیلی پیچیده هستند، تنها برای قدرتمندتر کردن حماقت طبیعی انسان‌ها، و بدترین و شاید قدرتمندترین تکانه‌های ما مثل تکانۀ حرص و نفرت، به کار گرفته شوند. برای اجتناب از چنین پیامدی، به ازای هر دلار و دقیقه‌ای که برای بهبود هوش مصنوعی، سرمایه‌گذاری می‌کنیم، باید عاقل باشیم و یک دلار و یک دقیقه را هم برای کاوش و توسعۀ هوشیاری انسان‌ها، سرمایه‌گذاری کنیم.

به‌طور عملی‌تر و سریع‌تر، اگر ما می‌خواهیم که از متمرکز شدن این‌همه ثروت و قدرت در دست‌های یک نخبۀ کوچک، جلوگیری کنیم، باید حق مالکیت داده‌ها را تعدیل کنیم. در زمان باستان، زمین، مهم‌ترین دارایی بود؛ به همین دلیل سیاست‌مداران به دنبال کنترل زمین‌ها بودند؛ در عصر مدرن، کارخانه‌ها و ماشین‌آلات، از زمین مهم‌تر شدند؛ به همین دلیل، سیاست‌مداران تلاش‌هایشان را بر روی کنترل این ابزارهای ارزشمند تولید، متمرکز کردند. در قرن ۲۱، دیتاها، ارزشمندتر از زمین و ماشین‌آلات شده‌اند؛ بنابراین سیاستمداران در حال جنگیدن برای جمع‌آوری داده‌ها و جلوگیری از انتشار آن هستند.

متأسفانه ما تجربه لازم درزمینۀ تعدیل مالکیت داده‌ها را نداریم، چون‌که این کار، در ذات خود، بسیار سخت‌تر از تعدیل مالکیت زمین و ماشین‌آلات است. دیتا می‌تواند در آن واحد، در همه‌جا باشد و در هیچ جا نباشد؛ می‌تواند با سرعت نور، حرکت کند؛ می‌توانید از آن‌ها هر تعداد کپی که می‌خواهید، تهیه کنید. دیتایی که در مورد دی‌ان‌ای من، زندگی من و مغز من، جمع‌آوری شده است به من تعلق دارد یا به دولت، یک مؤسسه یا مجموع انسان‌ها؟

مسابقه جهت جمع‌آوری داده‌ها، هم‌اکنون شروع شده است و غول‌هایی همچون گوگل، فیس‌بوک و در چین، بایدو و تنسنت، از بقیه جلوتر هستند. بسیاری از این کمپانی‌ها مثل «تاجران توجه» هستند، آن‌ها توجه ما را به‌وسیلۀ اطلاعات، خدمات و سرگرمی‌های رایگانی که برای ما فراهم می‌کنند، به دست می‌آورند، و این توجه کسب‌شده را به تبلیغ‌دهندگان می‌فروشند. البته، تجارت واقعی آن‌ها، فروش آگهی نیست، بلکه با به دست آوردن توجه ما، آن‌ها مقدار بی‌پایانی از داده‌های تجمعی را در مورد ما به دست می‌آورند که خیلی ارزشمندتر از فروش آگهی است. ما مشتریان آن‌ها نیستیم، ما کالاهای آن‌ها هستیم.

مردم عادی، مقاومت در مقابل این فرایند را خیلی دشوار می‌دانند. در حال حاضر، بسیاری از ما بسیار خوشحال هستیم که باارزش‌ترین دارایی‌مان (داده‌های شخصی‌مان) را ازدست‌داده‌ایم و در عوض آن به سرویس‌های رایگان ایمیل و ویدیوهای خنده‌دار در مورد گربه‌ها رسیده‌ایم. اما اگر از این به بعد، همین مردم عادی تصمیم بگیرند که جلوی نشر داده‌هایشان را بگیرند، قطعاً با مشکل، روبه‌رو خواهند شد؛ چراکه، ممکن است آن‌ها به شبکه‌ها (اینترنت)، متکی باشند برای اینکه به آن‌ها در تصمیم‌گیری، کمک کند. حتی این وابستگی ممکن است درزمینۀ سلامتی و زنده ماندن نیز، باشد.

ملی‌سازی داده‌ها توسط حکومت‌ها، می‌تواند یک راه‌حل باشد. این روش، قطعاً قدرت کمپانی‌های بزرگ را کاهش می‌دهد. اما تاریخ، ثابت کرده است که ما در دستان مقتدر حکومت‌ها نیز، وضعیت بهتری را نخواهیم داشت؛ بنابراین بهتر است که توجه دانشمندان، فیلسوف‌ها، وکیل‌ها و حتی شاعران‌مان را به این سؤال بزرگ، جلب کنیم و از آن‌ها بپرسیم: چگونه، حق مالکیت داده‌ها را تعدیل کنیم؟

در حال حاضر، این ریسک وجود دارد که انسان‌ها، مثل حیوان‌های خانگی شوند. ما گاوهایی را پرورانده‌ایم که مقدار زیادی شیر می‌دهند اما از نیاکان وحشی خود، بسیار پست‌تر و تحت‌فرمان‌ترند. آن‌ها، کنجکاوی و چابکی خیلی کمتری را دارند. ما در حال تولید انسان‌های رام‌شده‌ای هستیم که مقادیر زیادی داده تولید می‌کنند و عملکردشان مثل چیپ‌های کارآمد، در درونِ یک ماشینِ تحلیل‌گر داده است؛ اما با سختی بسیار پتانسیل انسانی خود را به حداکثر می‌رسانند. اگر که مراقب نباشیم، به مشابه کامپیوترهای قدیمی و ناکارآمدی می‌شویم که با کامپیوترهای جدید، جایگزین شده‌اند و بار سنگینی برای خودشان و دنیا هستند.

اگر دیدگاه‌های ارائه‌شده [در این مقاله] را هشداردهنده و آگاهی‌بخش، یافتید، اگر از زندگی در یک دیکتاتوری دیجیتالی و یا یک جامعه پست، متنفر هستید، بیشترین همکاری‌ای که می‌توانید بکنید این است که راه‌هایی را پیدا کنید که از اینکه حجم بالایی از داده‌ها، در دستان افراد خیلی اندکی جمع شود، جلوگیری کند؛ و همچنین، راه‌هایی را پیدا کنید که سیستم پردازش دادۀ توزیع‌شده نسبت به سیستم پردازش دادۀ متمرکز، برتری یابد و این برتری، حفظ شود. این‌ها، اهداف ساده‌ای نیستند اما رسیدن به آن‌ها، ممکن است بهترین محافظ دموکراسی باشد.

[1] به مجموعه حرکات ابتدای بازی شطرنج گفته می‌شود که هدف از آن گسترش اولیه نیروها و ورود آنان به کارزار است.

[2] در زمان‌های قدیم برای آگاهی یافتن از میزان متان و کربن مونوکسید در معدن‌ها، قناری‌ای را با خود به معدن می‌بردند و اگر میزان، این مقادیر در هوا زیاد بود، قناری زودتر از اینکه این مقادیر به حد بحرانی و خطرناک برسند، می‌مرد.

[3] اداره کل اردوگاه‌های کار و اصلاح که سرواژه آن به زبان روسی واژه «گولاگ» را تشکیل می‌داد، نام نهادی بود که اردوگاه‌های کار اجباری در نواحی دورافتاده اتحاد جماهیر شوروی از قبیل سرزمین سردسیر و یخبندان سیبری و استپ‌های قزاقستان، بیابان‌های ترکمنستان را در زمان حکومت ژوزف استالین اداره می‌کرد.