اکسیوس نوشت: ما با بیش از ۵۰ نفر از چهرههای برجسته در حوزههای دولت، هوش مصنوعی، کسبوکار و امنیت سایبری گفتوگو کردهایم؛ از طرفداران شتاب بیوقفه در توسعه هوش مصنوعی گرفته تا منتقدانی که خواهان توقف آن هستند.
به گزارش گفتمان ما به نقل از Entekhab،
اکسیوس نوشت: ما با بیش از ۵۰ نفر از چهرههای برجسته در حوزههای دولت، هوش مصنوعی، کسبوکار و امنیت سایبری گفتوگو کردهایم؛ از طرفداران شتاب بیوقفه در توسعه هوش مصنوعی گرفته تا منتقدانی که خواهان توقف آن هستند. همه آنها در یک ارزیابی نگرانکننده اتفاقنظر داشتند: حملات سایبری علیه شرکتها و زیرساختهای حیاتی در ۱۸ ماه آینده به پدیدهای دائمی، بهمراتب پیچیدهتر و بسیار مخربتر تبدیل خواهد شد. به گزارش «انتخاب»، در ادامه این مطلب آمده است: این رهبران سال ۲۰۲۷ را سالی توصیف میکنند که در آن حملات سایبری مانند وضعیت آبوهوا خواهند شد؛ اختلالها مکرر، مخرب و گاهی ترسناک خواهند بود و مردم و شرکتها ناچار میشوند یاد بگیرند چگونه هر روز با آنها کنار بیایند و خود را با آنها تطبیق دهند. احتمال بروز اختلالات گسترده یا خسارات واقعی بهسرعت در حال افزایش است. چرا این موضوع اهمیت دارد؟ هدف ما از انتشار این گزارش نه پیشبینی آینده است و نه ترساندن مخاطبان؛ بلکه میخواهیم آنچه را رهبران دولتی و فعالان حوزه هوش مصنوعی در محافل خصوصی مطرح میکنند، اما حاضر نیستند علناً درباره آن سخن بگویند، با شما در میان بگذاریم. تصویر کلی: اختلالهای دو هفته گذشته، از قطعی جهانی خدمات مایکروسافت گرفته تا توقف پروازها از سوی اداره هوانوردی فدرال آمریکا (FAA) و اختلال در خدمات بانکی مشتریان جیپی مورگان چیس، تنها پیشنمایشی خفیف از اتفاقاتی بود که کارشناسان انتظار دارند در آینده رخ دهد. شرکت «بریجواتر اسوشیتس»، بزرگترین صندوق پوشش ریسک جهان، در ارزیابی خود در همین ماه، موضوع را بیپرده بیان کرد: «ما در حال مدیریت سرمایه بر اساس احتمال یکبهسه وقوع حملهای هستیم که طی یک سال آینده میتواند ثبات اقتصادی را مختل کند.» هوراسیو روزانسکی، رئیس هیئتمدیره و مدیرعامل شرکت «بوز آلن»، این وضعیت را «مه پیش از جنگ» توصیف میکند؛ پیشدرآمدی از آشوبهای بزرگتری که در راه است؛ زمانی که مهاجمان مبتنی بر هوش مصنوعی عاملمحور (Agentic AI) به حداکثر توانایی خود برسند و بتوانند «با سرعت فکر کردن» حمله کنند. روزانسکی گفت: «اکنون زمان آن است که تا حد امکان اقدامات احتیاطی را انجام دهید. بپذیرید که این اتفاق در راه است.» به نظر میرسد بیشتر اختلالهای اخیر ناشی از تلاش شرکتها و دولتها برای ایمنسازی سامانههای رایانهای و زیرساختهای خود در برابر حملات سایبری گسترده احتمالی در آینده بوده است. این الگو ادامه خواهد داشت. اما بسیاری از اختلالهای آینده در واقع حملات سایبری خواهند بود که از سوی رقبای آمریکا یا بازیگران مخرب کوچکتر انجام میشوند. این مهاجمان با استفاده از هوش مصنوعی قدرتمندتر، آسیبپذیریهای امنیتی را در سراسر جامعه و زندگی روزمره ما شناسایی و از آنها سوءاستفاده خواهند کرد. بیشتر مقامهای ارشد حوزه هوش مصنوعی و دولت انتظار دارند دستکم حملات محدودی رخ دهد و در عین حال از وقوع حملات بسیار گستردهتر نگران هستند. بهترین سناریویی که کارشناسان ترسیم میکنند: قطعیهای مکرر و غیرقابل پیشبینی و حوادث کوچک اما نگرانکننده؛ مانند از دسترس خارج شدن خدمات بانکی یا توقف یکروزه پروازها. دلیل این مسئله آن است که همه سازمانهای دولتی و شرکتها برای ارتقای سامانههای نرمافزاری خود بسیج خواهند شد؛ بنابراین بروز خطا اجتنابناپذیر است. این ارزیابیها بر اساس اطلاعات محرمانه و شناخت کارشناسان از تواناییهای هوش مصنوعی، هم در ایجاد اختلال و هم در برطرف کردن آن، شکل گرفته است. بزرگترین نگرانی مقامهای ارشد چیست؟ دولت و شرکتهای بزرگ با وجود برخورداری از تخصص محدود در زمینه هوش مصنوعی و کمبود نیروی انسانی، تلاش میکنند خود را با فناوریای هماهنگ کنند که هر روز پیشرفتهتر میشود. حتی اگر دولت مملو از کارشناسان توانمند بود ــ که بههیچوجه چنین نیست ــ گستردگی آسیبپذیریها در دولت فدرال، ایالتی و محلی، چه رسد به تمام بخشهای تجاری، بهاندازهای است که ایمنسازی قابلاعتماد همه آنها را عملاً غیرممکن میکند. این وضعیت را مانند بازی «ضربه زدن به موشهای بیرونآمده از سوراخ» تصور کنید؛ با این تفاوت که تعداد موشها بینهایت است. تا همین ماه گذشته، تمرکز کاخ سفید و کنگره عمدتاً بر مقررات ایمنی و مراکز داده بوده است، نه خطرات قریبالوقوع حملات سایبری. اکنون حتی «نیروی ابرهوش» کاخ سفید (SIF) نیز برای درک خطرات فزاینده دستوپا میزند و همزمان گزارشهای تقریباً روزانه درباره احتمال نفوذهای سایبری را بررسی میکند. ترامپ بهتازگی مدیر ملی امنیت سایبری کاخ سفید را برکنار کرده و «کرستن دیویس» را که پیشتر مدیر ارشد اطلاعات وزارت دفاع آمریکا بود، بهعنوان جانشین او منصوب کرده است. دیویس در مقایسه با سلف خود، شان کرنکراس، مقام پیشین کمیته ملی جمهوریخواهان، تخصص عمیقتری در این حوزه دارد. نگاه از بالا: تنها با درک وضعیت هوش مصنوعی و امنیت سایبری است که دولت و بخش خصوصی میتوانند برای جلوگیری از تعطیلی احتمالی سامانههای حیاتی بانکی، برق و آب بسیج شوند. آنچه در ادامه میآید، تلاش ما برای خلاصهسازی گفتوگوهایمان به شکلی قابلفهم برای خوانندگان آکسیوس است: ۱. شمشیری دو لبه خبر خوب این است که آزمایشگاههای پیشرو هوش مصنوعی آمریکا، از جمله آنتروپیک، اوپنایآی و گوگل، قدرتمندترین مدلهای هوش مصنوعی جهان را ساختهاند؛ بهویژه در زمینه تولید نرمافزار. خبر بد این است که هوش مصنوعیای که در ساخت نرمافزار بسیار توانمند است، به همان اندازه در شناسایی و سوءاستفاده از آسیبپذیریهای آن نیز مهارت دارد؛ آسیبپذیریهایی که معمولاً با عنوان «باگ» یا «حفره امنیتی» شناخته میشوند. ۲. خطرات جدید فناوریهای قدیمی دولتها و شرکتها عمدتاً با سامانههای رایانهای کار میکنند که برای دنیای پیش از ظهور هوش مصنوعی ساخته شدهاند. این سامانهها مملو از باگها و حفرههای امنیتی هستند. تنها یک آسیبپذیری، اگر از سوی یک عامل مخرب مورد سوءاستفاده قرار گیرد یا حتی در جریان تلاش فردی برای تعمیر سیستم بهصورت ناخواسته فعال شود، میتواند فعالیت یک شرکت یا تمام پروازهای هوایی را متوقف کند؛ همانطور که اخیراً شاهد آن بودیم. ۳. چین وقوع این لحظه را پیشبینی کرده بود گروه هکری «ولت تایفون» (Volt Typhoon) که تحت حمایت پکن فعالیت میکند، بیش از پنج سال است که در زیرساختهای حیاتی آمریکا، از جمله شبکههای آب، انرژی، حملونقل و ارتباطات، نفوذ کرده و حضور پنهانی دارد. گروه دیگری با نام «سالت تایفون» (Salt Typhoon) نیز به شبکه شرکتهای بزرگ مخابراتی آمریکا نفوذ کرده و سوابق تماسها و اطلاعات مربوط به شنودهای مخابراتی را به سرقت برده است. تعداد واقعی سامانههایی که به خطر افتادهاند، هنوز مشخص نیست. ارزیابی دولت ترامپ این است که چین از فعالیتهای خود عقبنشینی نخواهد کرد و آمریکا نیز نمیتواند هیچیک از برتریهای خود را واگذار کند. ۴. آمریکا برای جبران عقبماندگی شتابزده عمل میکند؛ اما با دشواری روبهرو است به یاد دارید زمانی که شرکت آنتروپیک به دلیل تواناییهای خیرهکننده و در عین حال ترسناک مدل هوش مصنوعی «مایتوس» (Mythos)، از عرضه عمومی آن خودداری کرد؟ از آن زمان، برخی شرکتهای بزرگ جهانی، از جمله جیپی مورگان چیس، از مایتوس و فناوریهای مشابه برای شناسایی و برطرف کردن آسیبپذیریهای امنیتی خود استفاده کردهاند. سازمانهای اطلاعاتی آمریکا نیز همین کار را انجام دادهاند. اما بیشتر نهادهای دولتی و شرکتهای آمریکایی هنوز چنین کاری نکردهاند. ۵. دفاع سایبری پرهزینه است بسیاری از سازمانهای دولتی و شرکتها اساساً توان مالی لازم برای محافظت از سامانههای خود را ندارند. شرکتهای بزرگتر میتوانند برای جذب بهترین متخصصان و دریافت خدمات پیشرفته امنیت سایبری، مبالغ بیشتری پیشنهاد دهند. شرکتهای برتر این حوزه نیز عمدتاً ظرفیت خالی ندارند. واقعیت این است که بسیاری از کسبوکارها تمایلی ندارند میلیونها دلار برای اقدامی هزینه کنند که از نظر آنها صرفاً به معنای جلوگیری از زیان احتمالی است؛ مگر اینکه متقاعد شوند تهدیدی فوری در راه است. ۶. هجوم گسترده عوامل هوش مصنوعی در راه است هوش مصنوعی هر روز پیشرفتهتر میشود و توانایی گروههایی از عاملهای هوش مصنوعی برای فعالیت مستقل و خودکار، هر هفته افزایش مییابد. یک نمونه، هشدار افبیآی در ۱۳ نوامبر درباره نرمافزار «آرتکس» (ARTEX) بود؛ نرمافزاری رایگان و متنباز که به هکرها امکان میدهد عاملهای هوش مصنوعی را برای اجرای چندین مرحله از یک حمله سایبری، با سرعت ماشین، به کار بگیرند. نهاد ناظر بر انرژی ایالت تگزاس نیز به شبکههای نفت، گاز و خدمات عمومی این ایالت هشدار داده است که هدف حملات قرار دارند. اتحادیه اروپا نیز پس از یک حمله سایبری ۱۰روزه در ماه گذشته، درباره آرتکس به دولتها هشدار داد. ۷. دولت دچار اختلاف و حواسپرتی است این لحظهای است که تمام بخشهای جامعه باید برای مقابله با تهدید بسیج شوند؛ اما بیشتر دولت بهجای تمرکز بر این مسئله، مشغول مقصر دانستن دیگران یا پرداختن به موضوعات دیگر است. ترامپ دانش چندانی درباره هوش مصنوعی ندارد. افراد اندکی در کاخ سفید درک عمیقی از این فناوری دارند یا برای بسیج دولت با هدف جلوگیری از یک حمله احتمالی تلاش میکنند. وضعیت کنگره نیز بهتر نیست. درک یک فرد عادی که بهطور اتفاقی در یک کافه یا بار نشسته است، از این موضوع بهاندازه درک بسیاری از قانونگذاران است. ۸. صبر کنیم تا اتفاقی بیفتد؟ نکته عجیب این است که با وجود نگرانی مشترک بسیاری از مقامهای آگاه به مسائل امنیت سایبری در بخشها و سطوح مختلف دولت، آنها بهندرت خارج از حوزه کاری یا حزب خود با دیگران درباره این موضوع گفتوگو میکنند. هیچ سازوکار یا نهاد مشخصی برای گردهم آوردن این افراد وجود ندارد. بیشتر آنها تصور میکنند تا زمانی که یک فاجعه کوچک واقعی رخ ندهد، اقدام پیشگیرانه جدی صورت نخواهد گرفت. با این حال، همه آنها معتقدند وقوع چنین فاجعهای اجتنابناپذیر است. دلایلی برای وحشت نکردن تمام افرادی که با آنها گفتوگو کردیم، انتظار وقوع حملات را دارند؛ اما تعداد کمی از آنها پیشبینی میکنند که این حملات به یک فاجعه واقعی منجر شوند. تفاوت بزرگی میان از دسترس خارج شدن یک بانک برای یک روز و خاموشی برق در یک منطقه برای یک هفته وجود دارد. حملهای که واقعاً جامعه را به لرزه درآورد؛ حملهای که خطوط انتقال نفت و گاز را تخریب کند یا برق یک منطقه را بهطور کامل قطع کند، همچنان احتمالاً به دخالت یک دولت ملی نیاز دارد. بازیگرانی که توانایی انجام چنین حملهای را دارند، عمدتاً چین، در صورت اقدام با بالاترین هزینه روبهرو خواهند شد؛ زیرا حمله به شبکه برق آمریکا بهمنزله اقدام جنگی تلقی میشود و میتواند واکنش متقابل علیه سامانههای طرف مهاجم را در پی داشته باشد. ساختار پراکنده آمریکا نیز به احتمال زیاد مانع از گسترش حوادث بزرگ خواهد شد. وجود هزاران شرکت و نهاد ارائهدهنده خدمات برق و نبود یک کلید واحد برای قطع یا کنترل کل شبکه برق کشور، به این معناست که حتی یک حمله موفق نیز معمولاً در سطح منطقهای باقی میماند. چه باید کرد؟ راهحل در همان نکته نخست این گزارش نهفته است: ما فناوری لازم را هم برای ایجاد و هم برای برطرف کردن این تهدید سایبری در اختیار داریم. دولت آمریکا میتواند از طریق اعمال نفوذ یا وضع مقررات، شرکتهای هوش مصنوعی را گرد هم آورد و آنها را وادار کند پیش از آنکه تمام تمرکز خود را صرف ساخت مدلهای قدرتمندتر کنند، برای تقویت و ایمنسازی سامانههای آسیبپذیر آمریکا همکاری کنند. مدیران ارشد شرکتهای پیشرو هوش مصنوعی به ما گفتهاند که در صورت همکاری رقبایشان، با کمال میل از چنین اقدامی تبعیت خواهند کرد. در واقع، این رهبران پس از انتخابات اخیر آمریکا احساس فوریت بیشتری برای اقدام دارند؛ آنها میخواهند پیش از وقوع حادثهای علنی که باعث شود شهروندان بیش از پیش از هوش مصنوعی متنفر شوند، دست به کار شوند. «جی کلیتون»، رئیس کارگروه کاخ سفید، در حال تکمیل یک چارچوب داوطلبانه ایمنی برای شرکتهای بزرگ هوش مصنوعی است و احتمالاً بهترین گزینه برای گردهم آوردن مدیران عامل شرکتهای هوش مصنوعی خواهد بود. او در حوزه امنیت سایبری دانش و تجربه زیادی دارد و عمدتاً از دریچه امنیت ملی به هوش مصنوعی نگاه میکند. راهحلهای دیگری نیز از بخش خصوصی ارائه خواهد شد. «جیمی دایمن»، رئیس هیئتمدیره و مدیرعامل جیپی مورگان چیس، ریاست ائتلافی با عنوان «ائتلاف زیرساختهای حیاتی» (ACI) را بر عهده دارد. این ائتلاف متشکل از غولهای بخش مالی، انرژی، فناوری، مخابرات و شرکتهای هواپیمایی است و هدف آن «تقویت تابآوری ملی، کاهش ریسکهای سیستمی و حفظ تداوم فعالیتهای اقتصادی» عنوان شده است. جمعبندی وقتی از تمام این رهبران در دولت، بخش خصوصی و صنعت هوش مصنوعی درباره احتمال وقوع حمله و راههای جلوگیری از آن سؤال میکنیم، همگی بر یک نکته اتفاقنظر دارند: احتمال همکاری برای جلوگیری از وقوع یک حمله سایبری، کمتر از احتمال وقوع خود آن حمله است.
