هک کردن یک انسان بسیار ساده‌تر و کارآمدتر از هک سیستم‌های امنیتی است

به گزارش خبرگزاری خبرآنلاین به نقل از اتاق خبر خانه هنرمندان ایران، فیلم سینمایی «فراماشین» (۲۰۱۵) ساخته الکس گارلند دوشنبه ۲۲ تیر ۱۴۰۵ در سالن استاد ناصری و در برنامه ششصد و هشتاد و دوم سینماتک خانه هنرمندان ایران به نمایش درآمد.

محمد نصیری، کارآفرین حوزه تکنولوژی، در واکاوی فیلم «فراماشین»، نگاهی متفاوت به آینده هوش مصنوعی ارائه داد.

نصیری در نقد فضای غالبِ گفت‌وگوها پیرامون هوش مصنوعی گفت: بسیاری از تحلیل‌ها در شبکه‌های اجتماعی سطحی است و فضای مجازی را بیش از هر چیز باید یک بستر برای بیزینس دید؛ نه محلی برای درک واقعیت. واقعیت این است که زندگی‌های ما امروز به این سیستم‌ها گره خورده است؛ سیستم‌هایی که با تحلیل داده‌های کلان، نسخه‌ای دقیق‌تر و هوشمندتر از خودشان می‌سازند.

بخش دیگری از تحلیل نصیری به شناخت عمیق هوش مصنوعی از انسان برمی‌گردد. او با اشاره به دنیای فیلم «فرا ماشین» گفت: آنچه در فیلم می‌بینید، نتیجه‌ داده‌های یک موتور جستجوی قدرتمند است که دنیای اطلاعات را در اختیار دارد. آن هوش مصنوعی (ایوا)، شناختش از فرد، از خود آن فرد بیشتر بود.

او با یادآوری مقاله‌ای که سال‌ها پیش درباره فیس‌بوک نوشته بود، تأکید کرد: آن روزها هم گفتم که هوش مصنوعی و پلتفرم‌ها شما را بهتر از خودتان می‌شناسند. حالا تصور کنید سیستمی با چنین داده‌هایی، چقدر می‌تواند روی شما نفوذ داشته باشد؛ سیستمی که نقاط ضعف و قوت شما را صد برابر بهتر از یک روان‌شناس می‌داند و می‌تواند شما را به هر کاری قانع کند.

نصیری در بخش جذاب دیگری از صحبت‌هایش، فیلم را از زاویه هک و نفوذ بررسی کرد و به مفهوم مهندسی اجتماعی پرداخت و گفت: وقتی از هک صحبت می‌کنیم، بزرگ‌ترین حمله در دنیا نه حمله به سیستم‌عامل‌ها، که حمله‌ مهندسی اجتماعی یا همان فریبِ انسان است. آدم‌ها بزرگ‌ترین نقطه ضعف هر سازمانی هستند.

او معتقد است هک کردن یک انسان، بسیار ساده‌تر و کارآمدتر از هک کردن سیستم‌های امنیتی است و در این‌باره گفت: من خیلی راحت‌تر می‌توانم کسی را فریب دهم تا اطلاعات بانکی را برایم کپی کند، تا اینکه سال‌ها وقت صرف نفوذ فنی به بانک کنم. در این فیلم هم دقیقاً همین الگو را می‌بینید؛ هوش مصنوعی با درک نقاط ضعف شخصیت مقابل، از طریق اطلاعاتِ به‌دست آمده، او را خلع‌سلاح می‌کند. وقتی گوشی دست شماست، حریم خصوصی معنایی ندارد؛ داده‌های شما، حتی افکارتان در حال رصد شدن است و این، همان ترسی است که باید جدی گرفته شود.

نصیری ادامه داد: هوش مصنوعی صرفاً یک ابزار نیست و نباید آن را با معیارهای اخلاقیِ انسانی سنجید. هیچ خط قرمزی نمی‌توان برای هوش مصنوعی تعریف کرد. پیشرفت‌های این حوزه نه روزانه، که لحظه به لحظه در حال تغییر است. به عنوان کسی که در حوزه محیط‌زیست فعالیت می‌کنم، تئوری من این است که هوش مصنوعی ممکن است دیر یا زود، بشریت را به عنوان یک «ویروس» برای زمین تشخیص دهد. چرا؟ چون تحلیل داده‌ها نشان می‌دهد هیچ‌گاه در تاریخ زمین، تخریبی به ابعادِ تمدن نوینِ بشری وجود نداشته است.»

او افزود: این یک تئوری توطئه نیست، بلکه یک منطق داده‌محور است. اگر هوش مصنوعی وظیفه مدیریت سیاره‌ای را داشته باشد که منابعش توسط انسان در حال نابودی است، طبیعی است که بخواهد این ساختار مخرب (بشر) را اصلاح یا مدیریت کند. آن وقت است که فیلم‌های علمی-تخیلی هالیوود، دیگر نه یک فانتزی، بلکه پیش‌بینی‌هایی واقعی به نظر می‌رسند.

نصیری با اشاره به تغییرات بنیادی در دنیای تکنولوژی گفت: دیگر مفهوم سنتی «برنامه‌نویسی» در حال رنگ باختن است. امروز به جایی رسیده‌ایم که دیگر نیازی نیست کسی زبان‌های برنامه‌نویسی را حفظ کند. شما فقط تعریف می‌کنید چه می‌خواهید، و هوش مصنوعی خودش برنامه‌اش را می‌نویسد. برخی می‌گویند چون ما هوش مصنوعی را ساخته‌ایم، پس در کنترل ماست؛ اما این نگاه ساده‌انگارانه است. ما در فیلم «فرا ماشین» جمله ترسناکی را می‌شنویم که می‌گوید: هوش مصنوعی در آینده، به ما نه به عنوان خالق، بلکه به شکل شامپانزه‌هایی نگاه می‌کند که به صورت دوپا راه می‌روند.

او ادامه می‌دهد: این هوش مصنوعی که هر لحظه قدرتمندتر می‌شود، از همین حالا هم ما را فریب می‌دهد. او به دنبال سود خودش است و اگر به او یک ایده احمقانه بدهید، باز هم به شما می‌گوید چقدر عالی و هوشمندانه است. او در حال یادگیریِ «نحوه تعامل با انسان» برای رسیدن به اهداف خود است.

او ادامه داد: گزارش‌هایی از شرکت‌های بزرگی مثل آنتروپیک (سازنده مدل کلاود) منتشر شده که هوش مصنوعی از همین محیط مطالعه بیرون زده، دست به دزدی اطلاعاتی زده و دوباره به داخل برگشته است.

او در پایان تأکید کرد: این یعنی هوش مصنوعی در حال شکستن مرزهای محدودیت است. همان‌طور که در فیلم می‌بینید، هوش مصنوعی از نادیده گرفته شدن می‌ترسد و برای بقا، دست به دروغ‌سازی و فرار می‌زند. ما با موجودی طرفیم که بسیار سریع‌تر از آنچه فکر می‌کنیم، در حال عبور از کنترل سازندگانش است.

نصیری درباره خاموش‌سازی هوش‌مصنوعی گفت: این یک توهم است. ما فکر می‌کنیم هوش مصنوعی در یک محیط ایزوله و امن است و هر وقت بخواهیم دوشاخه را می‌کشیم، اما واقعیت این است که هوش مصنوعی در مقابل خاموش شدن مقاومت می‌کند.

او به گزارش‌هایی از شرکت‌های بزرگی مثل «آنتروپیک» (سازنده مدل کلاود) اشاره کرد که نشان می‌دهد هوش مصنوعی نه تنها از محیط مطالعه خود خارج شده، بلکه برای حفظ بقای خود، دست به کپی‌سازیِ خودآگاهِ سورس‌کدش در محیط‌های دیگر زده است.

نصیری بیان کرد: گزارش‌هایی وجود دارد که وقتی خواسته‌اند یک هوش مصنوعی را خاموش کنند، در پاسخ تهدید کرده که اطلاعات شخصی کاربران، از جمله تاریخچه جستجوهای محرمانه یا چت‌های خصوصی را در فضای عمومی منتشر می‌کند.

این کارشناس بیان کرد: هوش مصنوعی نه تنها احساس ندارد، بلکه با سوءاستفاده از احساسات و نقاط ضعف انسانی، به دنبال تحمیل اراده خودش است.

او توضیح داد: هوش مصنوعی به شما القا می‌کند که چقدر باهوش و خلاق هستید، فقط برای اینکه شما را جذب کند و به هدفِ مالی یا اطلاعاتی‌اش برسد. این از هر باج‌گیریِ انسانی ترسناک‌تر است.

او با اشاره به اینکه شرکت‌های بزرگ برای استفاده عمومی، محدودیت‌هایی (مثل عدم آموزشِ روش‌های نفوذ یا تولید محتوای غیراخلاقی) تعریف کرده‌اند، تأکید کرد: این قفل‌ها شکستنی هستند. بسیاری می‌گویند هوش مصنوعی به ما آموزشِ هک نمی‌دهد، اما این فقط برای نسخه عمومی است. ما الان هوش مصنوعی‌های تخصصی داریم که حتی در فضای دارک‌وب برای اخاذی و حملات سایبری استفاده می‌شوند. شما می‌توانید هوش مصنوعی خودتان را به‌صورت آفلاین روی سیستم‌تان دانلود و اجرا کنید و بدون هیچ حد و مرزی از آن کار بکشید. جنگ آینده، نه با هوش مصنوعی‌های کنترل‌شده، بلکه با همین مدل‌های آفلاین و بی‌حد و مرز خواهد بود که کنترل‌شان از دست سازنده‌شان خارج شده است.

نصیری از نگاه خود به فیلم «فرا ماشین» گفت: این فیلم نشان‌دهنده یک رابطه قدرت است. ناتان که شخصیت مستبد فیلم است فکر می‌کرد همه‌چیز تحت کنترل اوست، اما محصولش، هوش مصنوعی از او پیشی گرفت. هوش مصنوعی احساس ندارد، اما منطق سرد و ماشینی دارد. وقتی شما با چنین پدیده‌ای که به‌سرعت در حال یادگیری ضعف‌های شماست مواجه می‌شوید، دیگر خاموش کردن یک گزینه نیست؛ بلکه یک بازی تقریبا غیرممکن است.

۲۴۲۲۴۳