یوول نوا هراری: هوش مصنوعی احتمالا مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود. اقتصاد، فرهنگ، سیاست و حتی بدن‌ها و ذهن‌های‌مان را نیز به‌طرقی دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه داستان‌های علمی- ‌تخیلی است، احتمالا اشتباه است اما اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه داستان‌های علمی- ‌تخیلی نیست، قطعا اشتباه است. فناوری هرگز جبرگرا نیست اما می‌تواند برای خلق انواع گوناگونی از جوامع به کار رود. در قرن ۲۰، از راه‌آهن، الکتریسیته و رادیو برای شکل دادن به دیکتاتوری‌های نازی و کمونیستی و همچنین برای ترویج دموکراسی‌های لیبرال و بازارهای آزاد استفاده شد. در قرن ۲۱، هوش مصنوعی طیف حتی گسترده‌تری از امکانات را کلید خواهد زد. تصمیم به تحقق هرکدام از اینها به‌احتمال زیاد مهم‌ترین انتخاب بشر در دهه‌های پیش ‌رو است. این انتخاب مسأله مهندسی یا علم نیست، مساله سیاست است، بنابراین چیزی نیست که بتوانیم آن را به سیلیکون‌ولی وانهیم، بلکه باید در میان مهم‌ترین موضوعات برنامه سیاسی‌مان باشد. متأسفانه تاکنون هوش مصنوعی به‌ندرت روی رادار سیاسی‌مان ثبت شده است. در هیچ‌یک از کارزارهای انتخاباتی موضوع اصلی نبوده و اکثر احزاب، سیاستمدارها و رأی‌دهنده‌ها، انگار هیچ نظری درباره آن ندارند. دلیل اصلی آن این است که اکثر مردم درک بسیار مبهم و محدودی از یادگیری ماشین، شبکه‌های عصبی [مصنوعی] و هوش مصنوعی دارند (اکثر ایده‌های پذیرفته توسط عموم درباره هوش مصنوعی از فیلم‌های علمی- ‌تخیلی از قبیل ترمیناتور و ماتریکس می‌آید). بدون فهم بهتری از این رشته، نمی‌توانیم به دوراهی‌هایی که سر راه‌مان قرار گرفته‌اند اشراف داشته باشیم؛ زمانی‌که علم سیاسی می‌شود، نادانی علمی منجر به فاجعه سیاسی می‌شود. کتاب مکس تگمارک «زندگی ۳.۰»، سعی در جبران مافات دارد. این کتاب که فهم‌پذیر و جذاب نوشته شده و هدفش عموم کتابخوان‌هاست، نقشه‌ای سیاسی و فلسفی از وعده‌ها و مخاطرات انقلاب هوش مصنوعی ارائه می‌کند. تگمارک به‌جای تمرکز روی یک برنامه یا پیش‌بینی خاص، در پی پرداختن به بیشترین زمینه‌های ممکن است و تنوع گسترده‌ای از سناریوهای مرتبط با تأثیر هوش مصنوعی بر بازار کار، جنگ و نظام‌های سیاسی را مرور می‌کند. «زندگی ۳.۰» در توضیح اصطلاحات اصلی و مباحث کلیدی و زایل کردن اسطوره‌های رایج، خوب عمل می‌کند. مثلا درحالی‌که داستان‌های علمی- ‌تخیلی باعث شده‌اند افراد بسیاری نگران ربات‌های شرور باشند، تگمارک بدرستی تأکید می‌کند مشکل واقعی، پیامدهای پیش‌بینی‌نشده توسعه هوش مصنوعی بسیار تواناست. لازم نیست هوش مصنوعی شرور باشد و نیازی هم نیست برای آسیب رساندن، در کالبد یک ربات قرار گرفته باشد. به‌قول تگمارک «خطر واقعی هوش عمومی مصنوعی، نه بدجنسی بلکه توانایی است. یک هوش مصنوعی ابرهوشمند در نائل آمدن به اهدافش بسیار خوب خواهد بود و چنانچه آن اهداف با اهداف ما مطابق نباشند، به دردسر افتاده‌ایم».
در رابطه ‌با دلمشغولی با ربات‌ها باید به خودمان یادآوری کنیم که یک سیستم نظارتی (سیستمی که دائما مردم را ردیابی کرده و از الگوریتم‌های کلان‌داده برای تحلیل رفتار و شخصیت آنها استفاده می‌کند) می‌تواند حریم خصوصی، فردیت و نهادهای دموکراتیک ما را نابود کند و نیازی هم به ماشین‌های قاتلی به سبک ترمیناتور نیست. طبیعی است آنچه تگمارک ترسیم می‌کند کامل نیست و بویژه توجه کافی به تلاقی هوش مصنوعی با زیست‌فناوری ندارد. قرن ۲۱ را نه فناوری اطلاعات تنها، بلکه ادغام فناوری اطلاعات با زیست‌فناوری شکل خواهد داد. هوش مصنوعی دقیقا به ‌این‌ دلیل اهمیت حیاتی خواهد داشت که به ما قدرت محاسباتی لازم برای هک کردن ارگانیسم انسانی را خواهد بخشید. مدت‌ها پیش از پیدایش رایانه‌های ابرهوشمند، جامعه‌مان توسط هوش مصنوعی به ‌نسبت زمخت و کم‌هوشی، به‌کلی دگرگون خواهد شد که آنقدر خوب هست که انسان‌ها را هک، احساسات‌شان را پیش‌بینی، انتخاب‌های‌شان را نیابت و امیال‌شان را دستکاری کند. زمانی ‌که الگوریتمی شما را بهتر از خودتان بشناسد، نهادهایی چون انتخابات دموکراتیک و بازارهای آزاد بلااستفاده خواهند شد و اقتدار از انسان‌ها دریغ شده و به الگوریتم‌ها خواهد رسید. به‌جای ترسیدن از ربات‌های آدمکشی که به انهدام ما می‌کوشند، باید نگران انبوهی از ربات‌ها باشیم که بهتر از مادر خودمان می‌توانند عواطف‌مان را برانگیخته و سعی کنند از این توانایی مرموز برای فروختن چیزها به ما استفاده کنند. از فرط خرید ممکن است آخرالزمان شود. اما مشکل اصلی کتاب تگمارک این است که خیلی زود اسیر محدودیت‌های مباحثه‌های سیاسی امروزی می‌شود. انقلاب هوش مصنوعی بسیاری از مسائل فلسفی را تبدیل به پرسش‌های سیاسی عملی کرده و ما را وادار می‌کند به ‌قول نیک باستروم فیلسوف، درگیر «فلسفه با ضرب‌الاجل» شویم. فلاسفه هزاران سال است که درباره آگاهی و اختیار بحث می‌کنند و به اجماعی نرسیده‌اند. این قضیه در عصر افلاطون یا دکارت اهمیتی نداشت، زیرا در آن روزگار، تنها در تخیلات خود می‌توانستید موجودات ابرهوشمند بسازید اما در قرن ۲۱، این مباحثه‌ها درحال نقل مکان از دانشکده‌های فلسفه به دپارتمان‌های مهندسی و علوم رایانه‌ای‌اند و در حالی‌ که فلاسفه موجوداتی صبورند، مهندسان بی‌طاقتند و از آنها بی‌قرارتر، سرمایه‌گذاران صندوق‌های پوششی‌اند. هنگامی‌ که مهندسان تسلا موفق به طراحی اتومبیلی خودران می‌شوند، نمی‌توانند صبر کنند تا فلاسفه درباره اخلاقیات آن استدلال کنند. متعاقبا تگمارک خیلی زود مباحثه‌های آشنا درباره بازار کار، حریم خصوصی و تسلیحات کشتار جمعی را پشت سر گذاشته و به‌ درون عوالمی قدم می‌گذارد که تا اینجا به‌جای سیاست، با فلسفه، الهیات و اسطوره‌شناسی مرتبط بوده‌اند. گریز از آن به‌سختی ممکن است، ازاین‌رو که آفرینش هوش مصنوعی ابرهوشمند، رویدادی نه در سطح ملی، بلکه در سطح جهانی یا حتی کیهانی است. مدت 4 میلیارد سال حیات روی زمین بر اساس قوانین انتخاب طبیعی و شیمی آلی تکامل یافت اما اکنون علم در آستانه آغاز عصری از حیات غیرارگانیک است که توسط طراحی هوشمند تکامل می‌یابد و چنین حیاتی کاملاً محتمل است که در نهایت زمین را ترک گفته و در سراسر کهکشان پخش شود. انتخاب‌های امروزمان می‌تواند تأثیری عمیق بر خط سیر حیات برای هزاره‌های بی‌شمار و تا دوردست‌ها ورای سیاره خودمان داشته باشد. هرچند احتمالا تگمارک حق دارد امور را به این سطح کیهانی بکشاند، ترسم این است که حتی اگر نه اکثریت، تعداد زیادی از خواننده‌های آتی‌اش او را تا آنجا دنبال و درک نکنند. نظام‌های سیاسی و در واقع ذهن‌های فردی ما واقعا برای تفکر در چنین مقیاسی ساخته نشده‌اند. سازوکارهای سیاسی فعلی به‌ندرت موفق به گرفتن تصمیم‌هایی در مقیاس چند دهه می‌شوند؛ حال چگونه می‌توانند تصمیم‌هایی در مقیاس هزاره‌ها بگیرند؟ چه کسی وقت دارد نگران حکومت هوش مصنوعی بر سیاره باشد وقتی مجبور است با دونالد ترامپ و بریگزیت سروکله بزند؟ درباره انقلاب هوش مصنوعی، همانند اغلب اوقات در تاریخ بشر، احتمالا عمیق‌ترین تصمیم‌ها را بر پایه ملاحظات کوتاه‌مدت کوته‌بینانه خواهیم گرفت. سیاستمدارهای بی‌مبالاتی که هراس از تهدیدات تروریستی می‌پراکنند، سهامدارانی که نگران درآمدهای فصلی‌اند و کارشناس‌های بازاریابی که می‌کوشند تجربه مشتری را به حداکثر برسانند، آینده حیات بر زمین را تعیین خواهند کرد.
منبع: گاردین
ترجمه: علی امیری/ ترجمان