جمعه , ۱ آذر ۱۳۹۸
صفحه اول » دانش و تکنولوژی » سه تهدید جدی فناوری‌های مبتنی بر هوش مصنوعی

سه تهدید جدی فناوری‌های مبتنی بر هوش مصنوعی

از دیدگاه شما هوش مصنوعی تهدید است یا فرصت؟ به‌نظر می‌رسد درکنار همه‌ی فرصت‌ها، باید درمقابل تهدیدهای سیستم‌های مبتنی بر هوش مصنوعی نیز آگاه باشیم.

اندریو ان‌جی دانشمند اهل چین معتقد است هوش مصنوعی همچون کشف الکتریسیته جریان‌ساز و نوآور است. شاید شما نیز بعد از خواندن این جمله، در ذهنتان هوش مصنوعی را با جریان الکتریسیته مقایسه می‌کنید.

جریان الکتریسیته در ۱۰۰ سال گذشته در کل جهان موجب پیشرفت‌های علمی بسیاری شده است؛ اما با نگاهی دقیق‌تر به هوش مصنوعی و جریان برق متوجه می‌شویم هر دو صنعت ناگفته‌هایی دارند که شنیدنشان خالی از لطف نیست.

مقاله‌های مرتبط:

شاید افراد کمی درباره‌ی این موضوع آگاه باشند که انقلاب الکتریکی کِی و چگونه آغاز شد. این انقلاب نیز همچون هر تغییر انقلابی جنبه‌های مختلفی داشت که خیلی از افراد از آن بی‌اطلاع هستند؛ ولی فراموش نکنیم وقتی تاریخ فراموش شود، ناگزیر به تکرار آن خواهیم بود.

کتاب‌های تاریخی فجایع و تهدیدهای منتج‌شده از جریان الکتریسیته را دفن کرده‌اند. وقتی تاریخ توسعه‌ی صنعت برق را مرور می‌کنیم، تنها به برخی موضوعات بدیهی مثل مشکلات بین تسلا و ادیسون اشاره شده است؛ اما از آتش‌سوزی خانه‌ها در اثر نشت جریان برق یا ضعیف‌بودن عایق‌های الکتریکی خبری نیست. حتی کمتر درباره‌ی کارهای عجیب و خارق‌العاده‌‌ی انجام‌شده‌ی نیروی برق صحبت به‌میان آمده است؛ مثلا درباره‌ی فردی که می‌تواند جریان برق ۶۶۰۰ ولتی را از بدنش عبور دهد، سخنی گفته نمی‌شود.

تصور می‌کنیم چنین اخبار و اطلاعاتی مربوط‌به گذشته‌های دور هستند و به ما ارتباطی ندارند؛ اما درعمل، هنوز چنین اتفاقاتی به‌وفور در‌حال‌وقوع است. ایلان ماسک معتقد است هوش مصنوعی می‌تواند ذاتا برای انسان‌ها خطرهایی به‌دنبال داشته باشد. وظیفه‌ی ما این است که عاقلانه‌تر و قدرتمندتر و دقیق‌تر باشیم تا بتوانیم باتوجه‌به همه‌گیر بودن فناوری‌های مبتنی بر هوش مصنوعی، از خطرهای ناشی از این فناوری در امان بمانیم. در این مطلب، قصد داریم برخی از خطرها و تهدیدهای مربوط‌به فناوری‌های مبتنی بر هوش مصنوعی را معرفی کنیم.

 

تهدید اول: تجهیزات نظامی مبتنی بر هوش مصنوعی 

بی‌شک شما نیز برخی از کاربردهای نظامی فناوری‌های مبتنی بر هوش مصنوعی را در فیلم‌های کلاسیک مانند War Games و حتی برخی از خطرهای مربوط‌به این فناوری را دیده‌اید. نیل فریزر درباره‌ی تلاش خود برای استفاده از شبکه‌های عصبی در دهه‌ی ۱۹۸۰ با هدف شناسایی تانک‌های دشمن مقاله‌ای به‌ رشته‌ی تحریر درآورد که در آن، داده‌های ورودی تانک‌های دشمن درمقابل درختان در دو روز متفاوت جمع‌آوری شد.

نتیجه‌ی نهایی چه بود؟ شبکه‌های عصبی به‌‌دلیل جهت‌گیری اشتباه داده‌ها، به درختان حمله کردند. این داستان در بسیاری از رسانه‌ها به‌عنوان موضوعی تهدیدآمیز درباره‌ی شبکه‌های عصبی مطرح شد؛ اما چند دهه‌ بعد، انسان خودش را در محاصره‌ی انبوهی از سیستم‌ها و دستگاه‌های مبتنی بر هوش مصنوعی دید.

«ربات‌های قاتل» موضوعی نیست که در افسانه‌ها و فیلم‌های هالیوودی شاهد آن باشیم؛ بلکه به خبر روز جهان تبدیل شده است. چینی‌ها استعدادهای باهوش‌ و نابغه‌‌ی خود را در برنامه‌های توسعه‌ی سلا‌ح‌های مبتنی بر هوش مصنوعی به‌کار گرفته‌اند. ایالات متحده‌ی آمریکا و چین و بسیاری از کشورهای دیگر مشغول رقابت برای توسعه‌ی برنامه‌های کاربردی و مرگ‌بار مبتنی بر هوش مصوعی هستند. شاید دشوار به‌نظر برسد؛ ولی با فناوری حساس و خطرناکی همچون سلاح‌های هسته‌ای مواجه هستیم. دولت‌های بزرگ جهان سعی می‌کنند از فناوری‌های مبتنی بر هوش مصنوعی استفاده کنند و برای استفاده‌ی درست از این فناوری ایده‌هایی را دنبال می‌‌کنند. ایالات متحده‌ی آمریکا از سرویس‌هایی از شرکت‌های بزرگی مانند مایکروسافت استفاده کرده که به بُروز ناآرامی‌هایی در داخل این شرکت‌ها منجر شد.

تهدید دوم: حمله‌ی سایبری هوش مصنوعی

یکی دیگر از تهدیدهای مربوط‌به سیستم‌های مبتنی بر هوش مصنوعی که ممکن است درباره‌اش چندان صحبت‌ نشده باشد و درمقایسه‌با تهدید اول خطر کمتری دارد، کاربردهای نظامی و مدنی از سیستم‌های مبتنی بر هوش مصنوعی برای انجام حمله‌های سایبری است. بسیاری از ویروس‌های کامپیوتری را افرادی باهوش برنامه‌ریزی می‌کنند و می‌توانند به‌شکلی روی سیستم قرار بگیرند که شناسایی‌شدنی نباشند. اغلب ویروس‌ها و کرم‌ها زمانی شناسایی می‌شوند که حمله‌ی سایبری رخ داده و مشکلی پیش آمده باشد. برای مثال، برخی از ویروس‌های تروجان در طول ساعت‌های کاری در حالت خنثی قرار دارند و شناسایی‌شدنی نیستند. ولی وقتی فعال شوند، می‌توانند مشکل‌ساز باشند.

هوش مصنوعی می‌تواند نقش مهمی در دفاع سایبری و جلوگیری از حملات اینترنتی ایفا کند. Darktrace برخی از این حملات را معرفی کرد. با سیستم‌های مبتنی بر هوش مصنوعی با هجمه‌ی جدیدی از ویروس‌های کامپیوتری رو‌به‌رو خواهیم بود؛ ازاین‌رو، برای مقابله باید امنیت سایبری پیشتازتر از هکرها عمل کنند.

تهدید سوم: سیستم‌های دست‌کاری‌شده با هوش مصنوعی 

در ۱۰ سال آینده، ممکن است با سیستم‌هایی رو‌به‌رو باشیم که ندانیم حین صحبت یا چت، طرف مقابل هویت انسانی دارد یا رباتی است که بسیار شبیه به انسان طراحی شده است. شاید کمی دورازذهن به‌نظر برسد؛ ولی یادگیری ماشینی می‌تواند با استفاده از AI News Anchors صدا و تصویری صددرصد مشابه انسان تولید کند. هوش مصنوعی به‌سرعت در‌حال رشد و توسعه است. درنتیجه، این موضوع بسیار باورپذیر است که در ۱۰ سال آینده، سیستم‌های مبتنی بر هوش مصنوعی بتوانند تعاملات انسانی را مدیریت کنند.

مقاله‌های مرتبط:

مت چسن درباره‌ی ظهور چنین فناوری‌هایی مطالبی نوشته و آن‌ها را MADCOMs (ابزار ارتباطی ماشینی) نام‌گذاری کرده است. تصور کنید فرد متخصصی در حوزه‌ی سیاست دارید که بسیار بانفوذ است. چنین سیستم‌هایی می‌توانند از پروفایل و اثرانگشت و روان‌شناسی پیشرفته‌ی MADCOM استفاده کنند و این نفوذ را ۱۰۰ برابر کنند. می‌توانید به‌صورت مستقیم از علایق شخصی خودتان در قالب تبلیغات صحبت کنید و کارهایی انجام دهید که قبلا هرگز دیده نشده است.

تبلیغات یکی از روش‌هایی است که اکنون نیز در شبکه‌های اجتماعی استفاده می‌شود و می‌تواند داده‌های بزرگ را تحت‌تأثیر قرار دهد. برخی اوقات تفاوت بین ربات‌ها و کاربر انسانی اصلا تشخیص‌دادنی نیست. گاهی به‌سختی می‌توان تشخیص داد عقیده‌ای را واقعا کاربران انسانی تأیید می‌کنند یا تبلیغات MADCOM چنین صحه‌گذاری و تأییدی را ایجاد کرده است. چسن درباره‌ی چنین وضعیتی می‌گوید:

واقعیت مقبول مقیاس اصلی می‌شود.

کنگره‌ی ایالات متحده‌ی آمریکا پیش‌از‌این، قانون مقابله با تبلیغات غیرواقعی و انتشار اخبار کذب را بررسی کرده است؛ اما با توسعه‌ی هوش مصنوعی، ممکن است نیاز به بررسی بیشتری درباره‌ی وضوح و صحت اطلاعات وجود خواهد داشت.

چرا باید از سیستم‌های مبتنی بر هوش مصنوعی فرار کنیم؟ 

انسان‌ها به‌صورت طبیعی از حوزه‌هایی فرار می‌کنند که درباره‌ی آن‌ها شناختی ندارد و برایشان ناشناخته است. علاوه‌بر خطرها و تهدیدهای سیستم‌های مبتنی بر هوش مصنوعی، ممکن است حتی با خطرها و تهدیدهایی ساده‌تر نیز رو‌به‌رو باشیم و به آن‌ها توجه نکنیم و اصلا به‌نظرمان هم نرسد. تعداد بسیار زیادی از توسعه‌دهندگان همچون ارگانیسم‌های چندسلولی مشغول فعالیت در این حوزه هستند. داده‌های آپلودشده‌ی خود را روی فضای اَبری سامان‌دهی می‌کنند؛ میزبانی مستقل که وقتی کارمان را درست انجام دهیم، به ما نیازی ندارد.

سیستم‌های مبتنی بر هوش مصنوعی باعث می‌شود موفق‌تر باشیم و با کمک چنین سیستم‌هایی می‌توانیم محصولاتی هوشمند دراختیار داشته باشیم. OpenAI.com تلاش نمی‌کند الگوریتم‌هایی برای شناسایی ناامیدی‌ یا حالات یا برنامه‌های عملیاتی ایجاد کند. چنین برنامه‌هایی تلاش می‌کنند مسئله‌ی مربوط‌به هوش عمومی را حل کنند. بیشتر مردم تمایل دارند به‌جای حرکت‌کردن پای خود را روی ترمز قرار دهند و برای کاهش خطرها و تهدیدها کاری کرده باشند؛ اما کشتی فناوری‌های نوین باسرعت در حرکت است.

یکی از کارهای هوشمندانه‌‌ای که هرکس می‌تواند در این حوزه انجام دهد، آموزش فردی است. شاید مَثَل قدیمی که می‌گوید «دشمن خودت را نزدیک خودت نگه‌دار»، زیاد هم بی‌ارتباط با این موضوعات نیست؛ چراکه اگر تنها چند شرکت بزرگ، هدایت سکان فناوری‌های مبتنی بر هوش مصنوعی را در دست بگیرند، سرنوشت هوش مصنوعی در دست آن‌ها و در کنترل تنها همان چند شرکت قرار خواهد گرفت. دراصل، سرنوشت همه‌ی ما در دست همان شرکت‌ها خواهد بود. مطالعه و داشتن اطلاعات در حوزه‌ی هوش مصنوعی می‌تواند به کاهش تهدیدها و خطرهای مربوط‌به این حوزه منجر شود و آگاهی‌بخشی می‌تواند در این مسیر بسیار کمک‌کننده باشد.