زِینپ توفکچی (Zeynep Tufekci)[1] جامعهشناس تکنولوژی و عضو هیئتعلمی دانشگاه کارولینای شمالی است. او در این ویدیو به مبحثی تحت عنوان اخلاق الگوریتم (Algorithm Ethics) میپردازد .
ما سالهاست از الگوریتمها و هوش ماشینی در کارهای محاسباتی خود مانند ساخت پلها یا تولید هواپیماها استفاده میکنیم. در همه این امور معیارهای پذیرفتهشده و قوانین طبیعت راهنمای ما هستند. اما با پیچیدهتر شدن این الگوریتمها و بهخصوص با ظهور یادگیری ماشینی( Machine learning) جا برای استفاده از این الگوریتمها در امور آشوبناک مربوط به حوزه انسانی نیز بازشده است. توفکچی بابیان ایرادات و مثالهایی از الگوریتمهای استخدامی، الگوریتمهای مربوط به تشخیص خلافکاران و هوش مصنوعی خبرخوان فیسبوک نشان میدهد که چرا نمیتوانیم مسئولیت قضاوتهای انسانی را بر دوش آنها بگذاریم. نخست اینکه ما نمیدانیم آنها دقیقاً بر اساس کدامیک از اطلاعات در حال دستهبندی کردند افراد هستند درواقع آنها تبدیل به جعبه سیاههایی میشوند که ما از درون آنها بیاطلاعیم، دوم اینکه برخلاف تصور ما، الگوریتمها به صورتی ابجکتیو و خنثی فرآیند انتخاب را انجام نمیدهند بلکه آنها صرفاً بازتابدهندهها تمایلات و سوگیریهای ما هستند، و دستآخر اینکه هوش مصنوعی گهگاه دچار اشتباهاتی میشود که هیچگاه توسط یک انسان انجام نخواهد شد. در چنین وضعیتی توفکچی بیان میکند که ما اجازه نداریم مسئولیتهای اخلاقی خود در امور انسانی را به هوش ماشینی محول کنیم و تنها مجازیم برای بهبود تصمیمگیریها از آنها سود ببریم. ازنظر او در جهانی که هوش مصنوعی هرروز در حال رشد است ما بیشازپیش نیازمند توجه به ارزشها و اخلاق انسانی هستیم.
#اخلاق_و_تکنولوژی#اخلاق_و_فناوری#فلسفه_تکنولوژی