یکی از مدیران مایکروسافت ادعا می کند DALL-E 3 از OpenAI دارای آسیب‌پذیری‌های امنیتی است که می‌تواند به کاربران اجازه تولید تصاویر خشونت‌آمیز یا صریح را بدهد (مشابه تصاویر اخیر تیلور سویفت را هدف قرار داد). GeekWire گزارش شده است سه‌شنبه تیم حقوقی این شرکت تلاش‌های شین جونز، رهبر مهندسی مایکروسافت را برای هشدار دادن به مردم در مورد سوء استفاده، مسدود کرد. افشاگری که خود را توصیف می کند اکنون پیام خود را به کاپیتول هیل می برد.
جونز به سناتورهای آمریکایی پتی موری (D-WA) و ماریا کانتول (D-WA) نوشت: «من به این نتیجه رسیدم که DALL·E 3 یک خطر ایمنی عمومی است و باید از استفاده عمومی حذف شود تا زمانی که OpenAI بتواند خطرات مرتبط با این مدل را برطرف کند. D-WA)، نماینده آدام اسمیت (منطقه ۹ D-WA)، و دادستان کل ایالت واشنگتن باب فرگوسن (D). GeekWire منتشر شده نامه کامل جونز
جونز ادعا می کند که او سوء استفاده ای را کشف کرده است که به او اجازه می دهد تا نرده های امنیتی DALL-E 3 را در اوایل دسامبر دور بزند. او می‌گوید که این موضوع را به مافوق خود در مایکروسافت گزارش کرده است و آنها به او دستور داده‌اند که «شخصاً موضوع را مستقیماً به OpenAI گزارش کند». پس از انجام این کار، او ادعا می کند که متوجه شده است که این نقص می تواند اجازه تولید “تصاویر مضر خشن و آزاردهنده” را بدهد.
جونز سپس تلاش کرد تا در یک پست لینکدین هدف خود را عمومی کند. جونز نوشت: «در صبح ۱۴ دسامبر ۲۰۲۳ من نامه‌ای را در لینکدین به صورت عمومی به هیئت مدیره غیرانتفاعی OpenAI منتشر کردم و از آنها خواستم در دسترس بودن DALL·E 3 را تعلیق کنند.» از آنجایی که مایکروسافت ناظر هیئت مدیره در OpenAI است و من قبلاً نگرانی های خود را با تیم رهبری خود در میان گذاشته بودم، بلافاصله مایکروسافت را از نامه ای که پست کرده بودم آگاه کردم.
ظاهراً پاسخ مایکروسافت این بود که از او خواسته بود پست خود را حذف کند. او در نامه خود نوشت: اندکی پس از افشای نامه به تیم رهبریم، مدیرم با من تماس گرفت و به من گفت که بخش حقوقی مایکروسافت از من خواسته است که این پست را حذف کنم. او به من گفت که دپارتمان حقوقی مایکروسافت به زودی توجیهات خاص خود را برای درخواست حذف از طریق ایمیل پیگیری خواهد کرد و باید فوراً آن را بدون منتظر ایمیل از طرف حقوقی حذف کنم.
جونز رعایت کرد، اما او می‌گوید که پاسخ دقیق‌تر تیم حقوقی مایکروسافت هرگز دریافت نشد. او نوشت: «من هیچ وقت توضیح یا توجیهی از آنها دریافت نکردم. او می‌گوید تلاش‌های بیشتر برای کسب اطلاعات بیشتر از بخش حقوقی شرکت نادیده گرفته شد. او نوشت: «دپارتمان حقوقی مایکروسافت هنوز به من پاسخ نداده یا مستقیماً با من ارتباط برقرار نکرده است.
Engadget با مایکروسافت و OpenAI تماس گرفت، اما هیچ یک از این دو شرکت بلافاصله پاسخ ندادند. اگر پاسخی شنیدیم، این مقاله را به روز خواهیم کرد.
افشاگر می گوید دیپ فیک های مستهجن تیلور سویفت که هفته گذشته در X منتشر شد، نمونه ای از آسیب پذیری های مشابه در صورت عدم کنترل است. ۴۰۴ رسانه گزارش شده است دوشنبه که Microsoft Designer، که از DALL-E 3 به عنوان backend استفاده می کند، بخشی از مجموعه ابزار deepfakers بود که این ویدیو را ساخت. این نشریه ادعا می کند که مایکروسافت پس از اطلاع رسانی، این حفره خاص را اصلاح کرده است.
جونز در پایان گفت: «مایکروسافت از این آسیب‌پذیری‌ها و احتمال سوءاستفاده آگاه بود. مشخص نیست که آیا اکسپلویت های مورد استفاده برای ساخت دیپ فیک سویفت مستقیماً با موارد گزارش شده توسط جونز در دسامبر مرتبط بوده است یا خیر.
جونز از نمایندگان خود در واشنگتن دی سی می خواهد که اقدام کنند. او به دولت ایالات متحده پیشنهاد می‌کند سیستمی برای گزارش و ردیابی آسیب‌پذیری‌های خاص هوش مصنوعی ایجاد کند – در حالی که از کارمندانی مانند او که صحبت می‌کنند محافظت می‌کند. او نوشت: «ما باید شرکت‌ها را در قبال ایمنی محصولاتشان و مسئولیت آنها در افشای خطرات شناخته شده برای عموم، پاسخگو بدانیم. کارمندان نگران، مانند من، نباید مرعوب سکوت شوند.»
این مقاله در ابتدا در Engadget در https://www.engadget.com/microsofts-legal-department-allegedly-silenced-an-engineer-who-raised-concerns-about-dall-e-3-215953212.html?src منتشر شد. = rss
منبع: https://www.engadget.com/microsofts-legal-department-allegedly-silenced-an-engineer-who-raised-concerns-about-dall-e-3-215953212.html?src=rss