مایکروسافت با ارتقاء Purview معیار جدیدی را در امنیت داده های هوش مصنوعی تعیین می کند

در کنفرانس مایکروسافت Ignite امروز، این غول نرم افزاری از قابلیت های امنیتی جدید و انطباق داده ها رونمایی کرد. مایکروسافت Purview با هدف محافظت از اطلاعات مورد استفاده در سیستم های هوش مصنوعی مولد مانند Copilot.

ویژگی های جدید به کاربران Copilot اجازه می دهد مایکروسافت ۳۶۵ برای کنترل داده هایی که دستیار کدنویسی هوش مصنوعی می تواند به آن دسترسی داشته باشد، به طور خودکار داده های حساس را در پاسخ ها طبقه بندی کرده و کنترل های انطباق را در مورد استفاده از LLM ایجاد کنید.

هراین اوبری، مدیر کل امنیت داده‌ها، انطباق و حریم خصوصی مایکروسافت، و رودرا میترا، معاون شرکت مایکروسافت، پیش از اعلام این خبر در یک گفتگوی صریح با VentureBeat صحبت کردند که در آن بینش‌های کلیدی را در مورد رویکرد نوآورانه مایکروسافت به اشتراک گذاشتند.

اوبری با تاکید بر نقش حیاتی داده ها در هوش مصنوعی گفت: “داده ها به طور موثر پایه ای است که هوش مصنوعی بر روی آن ساخته شده است. هوش مصنوعی فقط به خوبی داده هایی است که وارد می شود. بنابراین معلوم شد که بخش بسیار مهمی از آن است.” برنامه های کاربردی.

میترا به VentureBeat گفت: “اکنون با Purview، اگر این دو نقطه را به هم وصل کنید، مایکروسافت به دنبال ایمن سازی آینده هوش مصنوعی یا ایمن سازی آینده داده ها با هوش مصنوعی است. و من فکر می کنم که این یک رویکرد مسئولانه است.”

مشاهده خطرات و استفاده از کمک خلبان

یک مرکز هوش مصنوعی جدید در Purview به مدیران امکان مشاهده استفاده از Copilot در سراسر سازمان را می دهد. آنها می توانند ببینند کدام کارمندان با هوش مصنوعی تعامل دارند و خطرات مرتبط را ارزیابی کنند.

همچنین بر اساس نمایه‌های ریسک کاربر، داده‌های حساس به Copilot وارد نمی‌شوند. و خروجی از AI برچسب های محافظ را از داده های منبع به ارث می برد.

میترا می‌گوید: «این فقط قابلیت مشاهده در Copilot‌های مایکروسافت نیست، ما فکر می‌کنیم که تصویر کامل چیزی است که برای مشتری در اینجا مهم است.

همچنین بر اساس نمایه‌های ریسک کاربر، داده‌های حساس به Copilot وارد نمی‌شوند. و خروجی از AI برچسب های محافظ را از داده های منبع به ارث می برد.

سیاست های انطباق به Copilot گسترش یافت

در بخش انطباق، حسابرسی، حفظ و نظارت بر ارتباطات Purview اکنون به تعاملات Copilot گسترش خواهد یافت.

اما این تازه آغاز راه است، زیرا مایکروسافت قصد دارد حفاظت Purview را فراتر از Copilot به توسعه هوش مصنوعی داخلی و برنامه های مصرف کننده شخص ثالث مانند ChatGPT گسترش دهد.

با آمادگی هوش مصنوعی برای پذیرش بیشتر، مایکروسافت خود را در خط مقدم استفاده مسئولانه و اخلاقی از داده ها در سیستم های هوش مصنوعی سازمانی قرار می دهد. حاکمیت قوی داده برای تضمین حریم خصوصی و جلوگیری از سوء استفاده در این مرز بعدی فناوری کلید خواهد بود.

با این حال، هوش مصنوعی مسئول واقعی نیاز به خرید در کل صنعت فناوری دارد. رقبایی مانند گوگل، آمازون و آی‌بی‌ام باید اخلاق داده‌ها را نیز در اولویت قرار دهند. زیرا اگر کاربران نتوانند به هوش مصنوعی اعتماد کنند، هرگز به پتانسیل کامل خود نخواهند رسید.

مسیر رو به جلو روشن است – شرکت‌ها هم نوآوری پیشرفته و هم حفاظت از داده‌های چدن را می‌خواهند. هر شرکتی که اعتماد را عملی کند، یکی ما را به آینده ای با هوش مصنوعی هدایت می کند.