چه چیزی دربارۀ خطرات هوش‌مصنوعی می‌دانیم؟
تیتر سی‌‌اِن‌اِن این بود:« کره‌ی شمالی را فراموش کنید، هوش‌مصنوعی جنگ‌جهانی سوم را آغاز خواهد کرد» و در ادامه‌ی بحث که با ایلان ماسک شروع می‌شد ترس‌های زیادی از پی‌آمدهای ناخواسته‌ی توسعه‌ی الگوریتم‌هایی نشان داده شد که معلوم نیست بتوانیم کنترل‌شان کنیم یا نه.
همان‌طور که سم هریس در یکی از سخنرانی‌هایش اشاره کرده، زمانی که یک فناوری جدید معرفی می‌شود دیگر نمی‌توان آن را مخفی کرد یا به حالت قبل از اختراع برگرداند. او ادعا می‌کند که نمی‌توان جلوی آهنگ پیشرفت را گرفت، حتی اگر بشریت بتواند به صورت دسته‌جمعی چنین تصمیمی بگیرد. در حالی که بیل گیتس، استیون هاکینگ و افراد متعدد دیگری به شدت با ماسک و هریس موافق هستند، بعضی از متفکران برجسته در صنعت می‌گویند که هوش‌مصنوعی( مثل هر فناوری دیگری) به لحاظ ارزشی خنثی یا بی‌اثر است. هر چه باشد باروت هم برای اولین بار در آتش‌بازی‌ها استفاده می‌شد.
برای مثال ری کرزویل ادعا می‌کند که « هوش‌مصنوعی فناوری اساسی در دستیابی پیشرفت (انسانی) است. برای تشخیص این وعده یک الزام اخلاقی داریم، البته باید خطرات آن را هم کنترل کنیم.» از نظر او بشریت وقت زیادی برای توسعه‌ی راهبردهای اخلاقی و استانداردهای نظم‌دهنده دارد. هم‌چنانکه جهان به سمت مرزهای تکینگی می‌رود، فناوری آینده محدود به بهبود تجربیات انسانی است و این بر گردن ماست تا مطمئن شویم برای فردایی بهتر باشد.
منتقدان و هواداران هوش‌مصنوعی بر سر یک چیز توافق دارند: انفجار هوش‌مصنوعی، دنیا را فراتر از تصورات تغییر خواهد داد. وقتی به آینده فکر می‌کنم، استعاره‌ی ورنور وینج از برنامه‌ی پادکست Invisibilia در ذهنم تداعی می‌شود:« ادغام کامپیوترها با ما و بدن‌هایمان چنان قابلیت‌های ما را تغییر خواهد داد که یک روز، امروز خود را مثل ماهی‌قرمز می‌بینیم.» اگر این وسعت واقعی مورد توقع از فرگشت با نیروی محرکه‌ای چون فناوری باشد، آن‌وقت عرف و هنجارهای فعلی ما کاملا دست‌خوش تغییر خواهند شد.
حتی اگر پیش بینی‌های دقیق هم ناموفق باشند، نباید حداقل تلاش کنیم تا خطرات فناوری‌های نمایی را به کار بگیریم تا فرضیات پایه‌ای خود را بررسی کرده، بنیان‌های رفتار انسانی را زیر سوال برده و تشکیلات اجتماعی خود را موشکافی کنیم؟ وعده‌ی هوش‌مصنوعی می‌تواند یک آخر‌الزمان یا سعادتی ابدی یا چیزی بین این دو باشد. زمانی که راجع به خروجی‌های کار گمانه‌زنی می‌کنیم قضاوتی ارزشی هم انجام می‌دهیم. اینجاست که باید قابلیت سوگیری فرافکنی(projection bias) خود را تشخیص بدهیم که ما را ترغیب می‌کند چهارچوب فکری امروز را در آینده اعمال کنیم.
با قرار دادن واژه‌های جنگ و هوش‌مصنوعی در یک جمله، جنبه‌ی انسانی برای آن قائل شده‌ایم. وقتی راجع به بیکاری انبوهی که توسط ربات‌ها و ماشین‌ها ایجاد می‌شود ابراز نگرانی می‌کنیم، باید بدانیم که این نوع اضطراب تنها در صورتی توجیه می‌شود که نیروی انسانی یک لازمه‌ی اقتصادی باقی مانده باشد. وقتی می‌گوییم پیشرفت خارج از کنترل فنی، نابرابری‌های بیشتری درست می‌کند، تصور می‌کنیم که ایده‌ی دارایی شخصی، ثروت و پول از انقلاب چهارم صنعتی جان سالم به در برده است. تعریف عبارات بنیادی از زیر سوال بردن آن‌ها کار دشوارتری است ولی شاید اجرای چند عدد از سناریوها بتواند تمرین خوبی در دور زدن سوگیری فرافکنی را ثابت کند.
رقابت و همکاری
هسته‌ی انتخاب طبیعی، رقابتی چندبعدی از ویژگی‌ها و رفتارها است و خود را به صورت یک ذات رقابتی اصلی نشان می‌دهد که انسان‌ها همگی با آن آشنا هستند. روان‌شناسی فرگشتی فرض می‌کند که نیروی‌محرکه‌ی( گرداننده‌ی) رفتار انسان، نیازی برای جاودان‌ساختن ژن‌های یک نفر است. بنابراین انسان‌های خردمند رشد کردند تا برای جفت رقابت کرده و برای منابع بجنگند تا فرزندان خود را سیر کنند؛ همگی با یک هدف تا احتمال انتقال ژن خود را به حداکثر برسانند.
از سوی دیگر طبق گفته‌های ادوارد او. ویلسون، ما « یکی از چند خطوط حیوانی‌ای هستیم که بالاترین حد از تشکیلاتِ جامعه‌جویی را توسعه می‌دهند، سطح اصلی بعدی از سازمان‌های زیستی بالای سازواره‌ای. در آن‌جا اعضای گروه در طی دو یا چند نسل در کنار هم می‌مانند، همکاری می‌کنند، از جوانان خود مراقبت و کارها را تقسیم می‌کنند…» به عبارت دیگر شاید مجبور باشیم موفقیت خیره‌کننده‌ی گونه‌هایمان را به تعادل ظریفی که بین غریزه‌های رقابت و همکاری حفظ می‌کنیم نسبت بدهیم.
چه هوش ماشینی کلی، قریب‌الوقوع یا حتی دست‌یافتنی باشد، ایده‌ی اقتصاد پساکمیابی(post-scarcity) در حال به دست آوردن پایه و اساس است. هرگاه خودکارسازی تقریبا همه‌چیز، دنیایی درست کند که در آن نیروی انسانی فراوان باشد، پی‌آمدهای وسیع‌تر برای سیستم ارزشی و تشکیلات اجتماعی‌مان چه خواهد بود؟ وقتی الگوریتم‌ها در تصمیم‌گیری بهتر از انسان عمل کنند و بخش اعظمی از استقلال خود را به آن‌ها واگذار کنیم، غریزه‌ی رقابتی ما چطور خواهد شد؟
هدف رقابت منابع در دنیایی از فراوانی چه خواهد بود؟ آیا این احتمال وجود خواهد داشت که غریزه‌ی ما برای رقابت به عنوان یک ساختار مفید به آهستگی از بین برود؟ آیا می‌توانیم بدون آن زندگی کنیم؟ برخلاف مورچه‌ها و زنبورهایی که براساس تشریفات سفت و سخت همکاری می‌کنند، ما انسان‌ها در قابلیت‌های همکاری‌مان به طرز خارق‌العاده‌ای وفق‌پذیر هستیم. طبق گفته‌های یووال هراری، این چیزی است که در نهایت زیرساخت قیام انسان‌های خردمند در حکم‌فرمایی بر زمین را ایجاد کرد. آیا می‌توان تصور کرد وقتی تغییر شکل‌های فنی که توسط کرزویل توصیف شد کم‌کم شکل مادی به خود بگیرد، احتیاج به رقابت به یک نیاسانی(نیاکان‌گرایی) تبدیل شود؟
اقتصاد
چطور می‌توانیم مطمئن باشیم که ارکان تفکرات اقتصادی‌مان(مثل دارایی شخصی، مالکیت، سرمایه، ثروت و امثال آن) از پساکمیابی جان سالم به در ببرند؟ در ۱۰۰ سال آینده، آیا کسی به بهره‌وری کار انسانی اهمیتی می‌دهد؟ وقتی تمام بشریت از « تلاش‌های» ماشین‌ها بهره‌وری بی‌هزینه می‌برد، سیاست‌های مشوقانه‌ی اشتغال ما چقدر وابسته و مربوط خواهد بود؟ وقتی بنیان عرضه و تقاضا به لرزه در بیاید، چه چیزی برای ما باقی می‌ماند؟
برای شخصی که امروز به اشتغال مشغول است و از آن سود می‌برد، چشم‌انداز اوقات فراغت نامحدود، بیشتر از آن که یک موهبت باشد بیشتر شبیه یک مصیبت است. اگر از دیدگاه انتخاب طبیعی نگاه کنیم این احساس با عقل جور در می‌آید: در گذشته همکاری‌های اقتصادی توسط افرادی که قادر به این کار بودند نسبت به بیکاری و بیهودگی مرجح بوده است. ولی آیا باید همین گرایش را برای آینده هم در نظر بگیریم؟ شاید چیزی که امروز انحطاط و تنزل در نظر می‌گیریم در دنیایی که دیگر با نیروهای اقتصادی که فعلا شناخته‌شده، پشتیبانی نمی‌شود، به طرز کاملا متفاوتی تعبیر شود.
تصورات کاری این است که هر طور باشد یک نفر باید مالک دستگاه‌ها بوده و برای سرویس‌ها و اجناس پول خرج کند. با این حال دارایی و پول چیزی بیشتر از یک ساختار اجتماعی نیست. اگر مالکیت دیگر اهمیتی نداشته باشد و پول دیگر واحد معتبری برای معامله نباشد، چطور می‌توانیم به صورت جمعی وضعیت یا پایه و مقام را تعریف کنیم؟
سوالات زیاد و جواب‌ها کم هستند. به شخصه در جایگاهی نیستم که پیشنهادهایی منسجم بدهم یا از استدلال‌های نظری دفاع کنم. حرف آخرم این است که ما با عزمی راسخ در مسیر براندازی نیروهای فرگشت هستیم که از آغاز حیات گرداننده‌های اصلی رفتار ما بوده‌اند. اصول و عقاید سیاسی و دینی تغییر کرده است ولی اصل بنیادی اقتصاد باقی مانده و با تلاش‌های انسانی، احتیاجات و خواسته‌هایمان را برطرف کرده است. اگرچه با کنار گذاشتن تکینگی، آن نیروهای بنیادی مشخصا به وسیله‌ی آهنگِ در حال شتاب‌گیری پیشرفت‌های فنی مورد تهدید قرار گرفته است.
ایده‌های مطرح شده در این مقاله شاید آرمانی و ساده‌لوحانه به نظر برسند. در پایان شاید حق با ایلان ماسک باشد: اختراع هوش مصنوعی می‌تواند پایان نژاد بشری را کلید بزند. بنابراین این مسئولیت شگفت‌انگیز انسان‌ها است تا نظارت مناسبی بر طراحی هوش مصنوعی داشته و قبل از اینکه در آن غرق شویم به عواقبش فکر کنیم. با این حال باید از محدودیت‌های درکِ خود، آگاه باشیم و از این رو از تخیلات‌مان استفاده کنیم؛ مشخصه‌ای کاملا انسانی. حداقل برای امروز.
ترجمه: امیرحسین سلیمانی/ سایت علمی بیگ بنگ
متاسفیم که این مطلب نتوانسته نظر شما را جلب کند. لطفا با نظرات و پیشنهادات خود، ما را در بهبود همیشگی سایت یاری دهید.