چگونه هوش مصنوعی مولد امنیت سایبری را در دنیای بدون اعتماد افزایش می‌دهد

CISO ها و CIOها همچنان به ارزیابی مزایای استفاده از هوش مصنوعی مولد به عنوان یک موتور یادگیری پیوسته که دائماً داده های رفتاری، تله متری، نفوذ و نقض را در مقابل خطراتی که ایجاد می کند، می سنجید. هدف دستیابی به یک «حافظه ماهیچه‌ای» جدید از هوش تهدید است تا به پیش‌بینی و توقف نقض‌ها و در عین حال ساده‌سازی گردش‌های کاری SecOps کمک کند.

با این حال، اعتماد به نسل AI متفاوت است. VentureBeat اخیراً با چندین CISO در طیف گسترده‌ای از صنایع تولیدی و خدماتی صحبت کرد و فهمید که علیرغم پتانسیل افزایش بهره‌وری در بازاریابی، عملیات و به ویژه امنیت، نگرانی‌های به خطر افتادن مالکیت معنوی و محرمانه بودن داده‌ها یکی از ریسک‌هایی است که اغلب اعضای هیئت‌مدیره وجود دارند. صورت. درخواست درباره

همگام شدن در مسابقه تسلیحاتی

غریزه عمیق نظرسنجی اخیر هوش مصنوعی و امنیت سایبری مولد: آینده روشن میدان نبرد تجاری؟ روندهایی را که VentureBeat در مصاحبه های CISO می شنود کمیت می کند. این مطالعه نشان داد که در حالی که ۶۹ درصد از سازمان‌ها ابزارهای هوش مصنوعی مولد را به کار گرفته‌اند، ۴۶ درصد از متخصصان امنیت سایبری احساس می‌کنند که هوش مصنوعی مولد، سازمان‌ها را در برابر حملات آسیب‌پذیرتر می‌کند. هشتاد و هشت درصد از CISO و رهبران امنیتی می گویند که حملات تسلیحاتی هوش مصنوعی اجتناب ناپذیر است.

هشتاد و پنج درصد بر این باورند که ژنرال هوش مصنوعی به احتمال زیاد حملات اخیر را تقویت کرده است، با استناد به تجدید حیات WormGPT، یک هوش مصنوعی مولد جدید که در انجمن های زیرزمینی برای مهاجمانی که علاقه مند به راه اندازی حملات فیشینگ و ایمیل های تجاری هستند تبلیغ می شود. ابزارهای هوش مصنوعی نسل جدید برای فروش در وب تاریک و تلگرام به سرعت به پرفروش ترین ها تبدیل می شوند. یک مثال این است که چقدر سریع FraudGPT تا جولای به ۳۰۰۰ اشتراک رسید.

Sven Krasser، دانشمند ارشد و معاون ارشد در CrowdStrike، به VentureBeat گفت که مهاجمان در حال تسریع تلاش ها برای تسلیح مدل های زبان بزرگ (LLM) و هوش مصنوعی مولد هستند. کراسر تأکید کرد که مجرمان سایبری از فناوری LLM برای فیشینگ و بدافزار استفاده می‌کنند، اما «در حالی که این امر سرعت و حجم حملاتی را که دشمن می‌تواند انجام دهد افزایش می‌دهد، کیفیت حملات را تغییر قابل توجهی نمی‌دهد».

کراسر ادامه داد: «امنیت مبتنی بر ابر که سیگنال‌های سراسر جهان را با استفاده از هوش مصنوعی مرتبط می‌کند، همچنین یک دفاع مؤثر در برابر این تهدیدات جدید است. او مشاهده کرد که «هوش مصنوعی مولد وقتی صحبت از این تکنیک‌های مخرب می‌شود، سطح را بالاتر نمی‌برد، بلکه میانگین را بالا می‌برد و کارآمدتر شدن دشمنان کمتر ماهر را آسان‌تر می‌کند».

کسب و کارها باید قبل از اینکه هوش مصنوعی تهاجمی به جریان اصلی تبدیل شود، هوش مصنوعی سایبری را برای دفاع پیاده سازی کنند. هنگامی که به جنگ الگوریتم ها علیه الگوریتم ها تبدیل می شود، تنها پاسخ خودکار قادر به مقابله با سرعت ماشین برای توقف حملات تقویت شده با هوش مصنوعی خواهد بود. گفت ماکس هاین مایر، مدیر شکار تهدید در تاریکی.

موارد استفاده از هوش مصنوعی مولد بازار رو به رشدی را هدایت می کند

توانایی ژنرال هوش مصنوعی در یادگیری مداوم یک مزیت قانع کننده است. به خصوص هنگام رمزگشایی مقادیر عظیمی از نقاط پایانی داده ایجاد شده. به‌روزرسانی مداوم ارزیابی تهدید و الگوریتم‌های اولویت‌بندی ریسک، موارد استفاده جدید قانع‌کننده‌ای را ایجاد می‌کند که CISO و CIO پیش‌بینی می‌کنند رفتار را بهبود می‌بخشد و تهدیدها را پیش‌بینی می‌کند. همکاری اخیر ایوانتی با Securin هدف آن ارائه الگوریتم‌های اولویت‌بندی ریسک دقیق‌تر و در زمان واقعی و در عین حال دستیابی به چندین هدف کلیدی دیگر برای تقویت موقعیت‌های امنیتی مشتریان است.

Ivanti و Securin برای به‌روزرسانی الگوریتم‌های اولویت‌بندی ریسک با ترکیب هوش آسیب‌پذیری Securin (VI) و Ivanti Neurons برای پایگاه دانش آسیب‌پذیری همکاری می‌کنند تا اطلاعات تهدید آسیب‌پذیری را در زمان واقعی ارائه دهند تا کارشناسان امنیتی مشتریانشان بتوانند ارزیابی‌های آسیب‌پذیری و اولویت‌بندی را تسریع کنند. دکتر Srinivas Mukkamala، مدیر ارشد محصول در گفت: “با همکاری با Securin، ما قادریم اطلاعات قوی و اولویت بندی ریسک را برای مشتریان در مورد تمام آسیب پذیری ها بدون توجه به منبع، با استفاده از هوش انسانی افزوده شده ارائه کنیم.” ایوانتی.

موارد استفاده بالقوه ژنرال هوش مصنوعی یک کاتالیزور قانع کننده است که باعث رشد بازار می شود، حتی با اعتماد به نسل فعلی فناوری که در جامعه CISO تقسیم شده است. انتظار می‌رود ارزش بازار پلت‌فرم‌ها، سیستم‌ها و راه‌حل‌های امنیت سایبری مبتنی بر هوش مصنوعی افزایش یابد. ۱۱٫۲ میلیارد دلار در سال ۲۰۳۲ از ۱٫۶ میلیارد دلار در سال ۲۰۲۲، ۲۲٪ CAGR. کانال ها انتظار دارد هوش مصنوعی مولد بیش از این را پشتیبانی کند ۷۰% عملیات امنیت سایبری کسب و کارها در مدت پنج سال.

فارستر موارد استفاده مولد هوش مصنوعی را به سه دسته تعریف می کند: ایجاد محتوا، پیش بینی رفتار و بیان دانش. “استفاده از هوش مصنوعی و ML در ابزارهای امنیتی جدید نیست. تقریباً هر ابزار امنیتی توسعه یافته در ده سال گذشته از ML به شکلی استفاده می کند. به عنوان مثال، احراز هویت تطبیقی ​​و متنی برای ایجاد منطق امتیازدهی ریسک بر اساس قوانین اکتشافی استفاده شده است. و طبقه بندی ساده بیزی و تحلیل رگرسیون لجستیک. می نویسد آلی ملن، تحلیلگر اصلی Forrester.

منبع: وبلاگ Forrester، پنج نکته مهمی که باید درباره نحوه استفاده از هوش مصنوعی در ابزارهای امنیتی بدانید، ۲۴ اکتبر ۲۰۲۳

هوش مصنوعی مولد نیاز به انعطاف و انطباق با هر کسب و کاری متفاوت دارد

اینکه چگونه CISO و CIO به هیئت مدیره خود در مورد متعادل کردن خطرات و مزایای هوش مصنوعی مولد توصیه می‌کنند، آینده این فناوری را برای سال‌های آینده مشخص خواهد کرد. گارتنر پیش‌بینی می‌کند که تا سال ۲۰۲۶ ۸۰ درصد از برنامه‌ها شامل قابلیت‌های هوش مصنوعی مولد می‌شوند، نرخی که در اکثر سازمان‌ها سابقه دارد.

CISO هایی که می گویند بیشترین ارزش را از نسل اول برنامه های هوش مصنوعی نسل اول دریافت می کنند، می گویند که چقدر یک پلت فرم یا برنامه با نحوه کار تیم هایشان سازگار است، مهم است. این به این موضوع می‌پردازد که چگونه فناوری‌های مبتنی بر هوش مصنوعی می‌توانند چارچوب‌های امنیتی بدون اعتماد گسترده‌تری را که در حال ساخت هستند، پشتیبانی و تقویت کنند.

در اینجا موارد استفاده و راهنمایی از CISOهایی که هوش مصنوعی را آزمایش می کنند و جایی که آنها انتظار دارند بیشترین ارزش را مشاهده کنند، آمده است:

اطمینان حاصل کنید که هر برنامه، پلت فرم، ابزار، و نقطه پایانی هوش مصنوعی به عنوان بخشی از یک چارچوب بدون اعتماد ایمن است.

اتخاذ رویکردی بدون اعتماد برای هر تعامل با ابزارها، برنامه‌ها، پلتفرم‌ها و نقاط پایانی مولد هوش مصنوعی یکی از موارد ضروری برای هر کتاب بازی CISO است. این باید شامل نظارت مستمر، کنترل‌های دسترسی پویا، و راستی‌آزمایی همیشه روشن کاربران، دستگاه‌ها و داده‌هایی باشد که در حالت استراحت و حمل و نقل استفاده می‌کنند.

CISO ها بیشتر نگران این هستند که چگونه هوش مصنوعی مولد بردارهای حمله جدیدی را به ارمغان می آورد که برای محافظت در برابر آنها آمادگی ندارند. برای شرکت هایی که LLM می سازند، محافظت در برابر حملات پرس و جو، تزریق سریع، دستکاری مدل و مسمومیت داده ها در اولویت هستند.

برای سخت‌تر کردن زیرساخت‌ها برای نسل بعدی سطوح حمله، CISO و تیم‌های آن‌ها اعتماد صفر را دو برابر می‌کنند. منبع: تاثیرات کلیدی هوش مصنوعی مولد بر CISO، گارتنر

مدیریت دانش با ژنرال هوش مصنوعی

محبوب ترین مورد استفاده، استفاده از هوش مصنوعی ژنرال برای مدیریت دانش در تیم های امنیتی و برای شرکت های بزرگ به عنوان جایگزینی برای پروژه های یکپارچه سازی سیستمی گران تر و طولانی تر است. خلبان های مبتنی بر ChatGPT غالب بودند RSAC 2023 امسال. میز کار هوش مصنوعی امنیتی گوگل، Microsoft Security Copilot (رونمایی شده قبل از نمایش)، آینده ثبت شده، کارت امتیازی امنیتی و SentinelOne از جمله فروشندگانی بودند که راه حل های ChatGPT را راه اندازی کردند.

ایوانتی با توجه به بینشی که نسبت به مدیریت خدمات فناوری اطلاعات (ITSM)، امنیت سایبری و الزامات امنیت شبکه مشتریان خود دارند، نقش رهبری را در این زمینه بر عهده گرفته است. آنها یک وبینار در مورد این موضوع ارائه می دهند، چگونه مدیریت خدمات فناوری اطلاعات را با هوش مصنوعی مولد تغییر دهیم که شامل سوزان فانگ، مدیر اصلی محصول، AL/ML در ایوانتی است.

اوایل امسال در CrowdStrike Fal.Con 2023، ارائه دهنده امنیت سایبری دوازده اطلاعیه جدید را در رویداد سالانه خود اعلام کرد. هوش مصنوعی شارلوت قدرت هوش مصنوعی مکالمه‌ای را به پلتفرم فالکون می‌آورد تا از طریق تعاملات زبان طبیعی، تشخیص، بررسی و پاسخ تهدید را تسریع کند. شارلوت هوش مصنوعی خلاصه‌ای از رویدادهای مبتنی بر LLM تولید می‌کند تا به تحلیل‌گران امنیتی کمک کند در زمان تجزیه و تحلیل نقض‌ها صرفه‌جویی کنند.

هوش مصنوعی شارلوت در سال آینده برای همه مشتریان CrowdStrike Falcon عرضه خواهد شد و ارتقای اولیه آن از اواخر سپتامبر ۲۰۲۳ در پلتفرم Raptor آغاز خواهد شد. راج رجمانی، مدیر ارشد محصول CrowdStrike، می‌گوید که هوش مصنوعی شارلوت با خودکار کردن کارهای تکراری به تحلیل‌گران امنیتی کمک می‌کند «دو یا سه برابر کارآمدتر» شوند. رجمانی به VentureBeat توضیح داد که CrowdStrike سرمایه گذاری زیادی در معماری پایگاه داده گراف خود کرده است تا قابلیت های شارلوت را در نقاط پایانی، ابر و هویت ها تقویت کند.

هوش مصنوعی شارلوت در پشت صحنه، مکالمات و سوالات فعلی و گذشته را نمایش می‌دهد و آنها را در زمان واقعی برای ردیابی عوامل تهدید و تهدیدات احتمالی با استفاده از هوش مصنوعی مولد تکرار می‌کند. منبع: CrowdStrike Fal.Con 2023

شناسایی و رفع خطاهای پیکربندی ابر

حملات بهره برداری ابری افزایش یافت ۹۵ درصد نسبت به سال گذشته به عنوان مهاجمان به طور مداوم برای بهبود تجارت خود و نقض تنظیمات نادرست ابر تلاش می کنند. یکی از آنهاست سطوح تهدید با سریعترین رشد شرکت ها باید در برابر آن دفاع کنند.

VentureBeat پیش‌بینی می‌کند که در سال ۲۰۲۴ شاهد ادغام، اکتساب و سرمایه‌گذاری‌های مشترک بیشتر با هدف بستن شکاف‌های امنیتی ابری چند ابری و ترکیبی خواهیم بود. CrowdStrike’s خرید Bionic اوایل سال جاری تنها آغاز یک روند گسترده تر با هدف کمک به سازمان ها برای تقویت امنیت برنامه و مدیریت وضعیت است. خریدهای قبلی با هدف بهبود امنیت ابری شامل خرید CloudKnox Security مایکروسافت، خرید CyberArk C3M، خرید Snyk Fugue و خرید Rubrik Laminar است.

این خرید همچنین به تقویت توانایی CloudStrike برای فروش امنیت یکپارچه بومی ابری در یک پلت فرم یکپارچه کمک می کند. Bionic برای پایگاه مشتریان CrowdStrike در سازمان‌های ابری بسیار مناسب است. این نشان می دهد که چگونه از خریدها برای تقویت بیشتر پتانسیل ژنرال هوش مصنوعی در امنیت سایبری استفاده می شود.