وقتی کامپیوترها باهوش‌تر از ما شوند، چه خواهد شد؟

وقتی کامپیوترها باهوش‌تر از ما شوند، چه خواهد شد؟

پروفسور نیک بوستروم (Nick Bostrom)  استاد فلسفه در دانشگاه آکسفورد است که از او بیش از ۲۰۰ کتاب و مقاله در موضوعات گوناگونی همچون اخلاق بهسازی انسانی، خطرات هوش مصنوعی ، سودگرایی و غیره به چاپ رسیده است. او در سال‌های ۲۰۰۹ و ۲۰۱۵ به انتخاب نشریه فارین پالسی به‌عنوان یکی از ۱۰۰ متفکر برتر جهان معرفی شد. 

file-video-icon1

پخش ویدئو

.  در سال‌های اخیر  بوست روم تأملات خود را بر  ریسک‌هایی که هوش مصنوعی  برای زندگی بشر در پی خواهد داشت متمرکز کرده است. در همین زمینه کتاب پرفروش  «ابر هوش: راه‌ها، خطرات، راهبرد‌ها» از او منتشرشده است. افکار این فیلسوف محدود به فضای فلسفی و علمی باقی نمانده  و  افراد پیشرو در فناوری همچون ایلان ماسک و بیل گیتس تحت تأثیر بوستروم از خطرات گسترش هوش مصنوعی ابراز نگرانی کرده‌اند.

بوستروم در سخنرانی فوق  بیان می‌کند اگرچه هوش مصنوعی هم‌اکنون فاصله بسیار فراوانی باهوش انسانی دارد اما با تلاش فراوان محققان این حوزه  و ظهور مدل‌های جدید همچون یادگیری ماشین امید می‌رود که هوش مصنوعی بتواند باهوش انسانی معادل گردد. اما هوش مصنوعی به‌هیچ‌وجه در آن سطح متوقف نخواهد شد و به‌سرعت هوشمندی و قدرت خود را  افزایش می‌دهد که  این می‌تواند اثرات مخربی داشته باشد به‌خصوص اگر هوش مصنوعی را به‌عنوان یک فرآیند بهینه‌سازی برای رسیدن به یک هدف در نظر بگیریم. درواقع در طی این فرآیند بهینه‌سازی هوش مصنوعی می‌تواند از ابزار‌ها و وسایل به نحوی کمک بگیرد که با بسیاری از ارزش‌های ما در تناقض قرار گیرد. ازنظر بوستروم محدود کردن هوش مصنوعی ممکن نیست و ما هیچ‌گاه نباید به توانایی‌هایمان برای نگه‌داشتن غول هوش مصنوعی درون چراغ مطمئن باشیم چراکه او درنهایت فرار خواهد کرد!. از ین رو معتقد است تنها راه ما برای مواجه با چنین وضعیتی خلق هوش مصنوعی است که از ابتدا مبتنی بر ارزش‌های ما عمل کند و به دنبال اجرای اقداماتی باشد که پیش‌بینی می‌کند ما آن را تأیید می‌کنیم. اگرچه این ایده با دشواری‌هایی روبرو است اما بوستروم خوش‌بین است ما بتوانیم این کار را انجام دهیم و این کار بزرگ‌ترین لطفی است که در حق نسل‌های آتی بشر خواهیم کرد.

 

ترجمه و زیرنویس : حسین تاجمیر ریاحی 

#اخلاق-و-فناوری

#بهسازی-انسان#کامپیوتر#هوش-مصنوعی