تیلور سوئیفت پورنو عمیق جعلی سیل یک «تنگ بیدارباش» برای قانونگذاران است

هفته گذشته، تصاویر عمیق و غیرقابل توافقی از تیلور سوئیفت، X، قبلاً منتشر شد. توییتر – یکی از ویدیوها قبل از حذف ۱۷ ساعت بعد، ۴۷ میلیون بازدید داشت.

X در تلاشی برای جلوگیری از توزیع تصاویر، جستجوهایی مانند “Taylor Swift” یا “Taylor Swift AI” را ممنوع کرد. با این حال، به سادگی تنظیم مجدد جستجو از “Taylor Swift AI” به “Taylor AI Swift” نتایجی را به همراه داشت.

پلت فرم رسانه های اجتماعی آمده است زیر آتش به دلیل واکنش کند آن، که بسیاری آن را به گردن ایلان ماسک می اندازند، که از زمان تصدی این مسئولیت در سال ۲۰۲۲، ۸۰ درصد از تیم نظارت بر محتوای شرکت را کاهش داده است.

این سیل خشم طرفداران و سیاستمداران را برانگیخته است، آنها برای جلوگیری از تولید و گسترش پورنوگرافی غیرموافقانه تولید شده توسط هوش مصنوعی و توانمندسازی قربانیان این حملات برای عدالت خواهی، برای قوانین سختگیرانه تر تجمع کرده اند.

ایالات متحده آمریکا معرفی کرد لایحه‌ای که روز سه‌شنبه منتشر می‌شود، انتشار تصاویر غیرقانونی و جنسی ایجاد شده توسط هوش مصنوعی را جرم انگاری می‌کند. در بریتانیا، به اشتراک گذاری پورنوگرافی عمیق به عنوان بخشی از قانون ایمنی آنلاین در سال ۲۰۲۳ غیرقانونی شد.

با این حال، در اتحادیه اروپا، با وجود تعدادی از مقررات دریافتی که هوش مصنوعی و رسانه های اجتماعی را هدف قرار می دهند، وجود دارد هیچ قانون خاصی برای محافظت از قربانیان پورنوگرافی عمیق جعلی غیر توافقی وجود ندارد.

“برای سرکوب انتشار اطلاعات نادرست مضر مانند دیپ فیک به اندازه کافی انجام نشده است.” مارسل ونتCTO و بنیانگذار شرکت هلندی تأیید هویت آنلاین Digidentity، به TNW گفت. “موارد مطرح مانند اینها باید به عنوان زنگ خطری برای قانونگذاران باشد – ما باید مردم را به صورت آنلاین امن تر کنیم.”

مشکل دیپ فیک چیست؟

دeepfakes تصاویر یا ویدیوهای نادرستی هستند که توسط الگوریتم های هوش مصنوعی یادگیری عمیق (از این رو نام آن) ایجاد می شود. در حالی که برخی مسافرخانه هستنددر حال حاضر، اکثریت قریب به اتفاق قطعاً خیر.

پورنوگرافی عمیق ۹۸ درصد از کل ویدیوهای دیپ فیک آنلاین را تشکیل می دهد. بیشتر این افراد مشهور زن هستند بر اساس گزارش ها که تصاویر آنها بدون رضایت آنها به پورن تبدیل می شود State of Deepfakes گزارش منتشر شده در سال گذشته

بسیاری از ابزارهای ایجاد پورن دیپ فیک رایگان و آسان برای استفاده هستند، که باعث شده است افزایش ۵۵۰ درصدی در حجم دیپ فیک های آنلاین از سال ۲۰۱۹ تا ۲۰۲۳٫ گاهی اوقات مرتکبین این دیپ فیک ها را برای اهداف کاملاً ناپسند به اشتراک می گذارند، در حالی که در موارد دیگر قصد آزار و اذیت، اخاذی، توهین، بدنام کردنیا باعث شرمندگی افراد خاص شود.

در حالی که موج اول پورن های دیپ فیک زنان پرمخاطب را هدف قرار داد، این روزها طرفداران سوئیفت به احتمال زیاد هدف قرار گرفته است همانطور که او هست مدارس در سراسر جهان با ظهور برهنه های هوش مصنوعی دست و پنجه نرم می کنند و گاهی اوقات توسط فرزندان.

آیا این فیک های عمیق غیرقانونی هستند؟

سال گذشته بیش از ۲۰ دختر نوجوان در اسپانیا اخذ شده هوش مصنوعی تصاویر برهنه خود را با تصاویری که در آنها کاملاً لباس پوشیده بودند، از حساب اینستاگرام آنها تهیه کرد. در حالی که پخش محتوای مستهجن با خردسالان غیرقانونی است، قرار دادن چهره یک نوجوان در یک تصویر یا ویدیوی مستهجن که با رضایت بزرگسالان ساخته شده است یک منطقه خاکستری قانونی است.

مانوئل کانسیو، استاد حقوق جزا در دانشگاه خودمختار مادرید، گفت: «از آنجایی که توسط دیپ‌فیک ایجاد می‌شود، حریم خصوصی واقعی شخص مورد نظر از نظر قانون تحت تأثیر قرار نمی‌گیرد». یورونیوز به دنبال پرونده در اسپانیا

تنها قانون اتحادیه اروپا که مستقیماً به این مشکل می پردازد، قانون کیفری هلند است. ماده ای در قانون هر دو واقعی و غیر واقعی هرزه نگاری کودک را پوشش می دهد. اما این مقررات به جای یک قاعده استثنا است.

اما در مورد مجموعه قوانین جدید اتحادیه اروپا که برای مقابله با همه چیز از اطلاعات نادرست گرفته تا سوء استفاده آنلاین از هوش مصنوعی طراحی شده است، چطور؟

بر اساس مرکز نوآوری داده هادر حالی که قانون خدمات دیجیتالبه عنوان مثال، به پلتفرم های رسانه های اجتماعی نیاز دارد تا محتوای غیرقانونی را بهتر پرچم گذاری و حذف کنند نمی تواند دیپ فیک های غیرقانونی را غیرقانونی طبقه بندی کند.

اتحادیه اروپا نیز بحث برانگیز در جریان مذاکرات لحظه آخری که لازم بود، پیشنهادی را در DSA رد کرد سایت‌های پورنو که محتوای تولید شده توسط کاربر را میزبانی می‌کنند تا سریعاً مطالبی را که قربانیان آنها را بدون اجازه به تصویر می‌کشند، حذف کنند.

سایر قوانین مانند قانون آینده هوش مصنوعی، از سازندگان می خواهد که محتوای دیپ فیک را افشا کنند. اما اینکه مردم می‌دانند دیپ‌فیک یکی است یا نه، دقیقاً موضوع نیست – خود تصویر همان چیزی است که به آن آسیب می‌زند.

کانسیو گفت: «تأثیری که (روی قربانی) دارد می‌تواند بسیار شبیه به یک عکس برهنه واقعی باشد، اما قانون یک قدم عقب‌تر است.

حسابداری پلتفرم های فناوری

دستکاری تصاویر برای فریب مردم چیز جدیدی نیست – حتی فرعون مصر باستان هاتشپسوت خود را در مجسمه ها و نقاشی ها به عنوان یک مرد به تصویر می کشد تا مورد توجه رای دهندگانش قرار گیرد.

اما انفجار ابزارهای هوش مصنوعی برای ایجاد تصاویر و ویدیوها با لمس دکمه در چند سال گذشته، بازی را تغییر داده است و آنها برای اهداف بسیار شوم تر از مبارزه با پیش فرض های مردسالارانه استفاده می شوند.

برای مثال، فقط برنامه ClothOff را در نظر بگیرید. این به کاربران این امکان را می‌دهد که لباس‌ها را از هر کسی که در گالری تصاویر گوشی‌شان ظاهر می‌شود در بیاورند. ساخت ۲۵ عکس برهنه ۱۰ یورو هزینه دارد و گمان می رود که ابزار مورد استفاده در رسوایی دیپ فیک اسپانیایی باشد که قبلا ذکر شد.

نرم افزار مورد استفاده برای تصاویر تیلور سویفت احتمالا Microsoft Designer بود. از آن زمان غول فناوری در یک خلاء قرار دارد وصله شدهکاربران می‌توانند با نوشتن اعلان‌هایی مانند «تیلور «خواننده» سویفت یا «جنیفر «بازیگر» آنیستون، تصاویری از افراد مشهور روی پلتفرم ایجاد کنند.

محبوب ترین ژنراتورهای مولد هوش مصنوعی دارای حفاظ هایی هستند تا از تولید دیپ فیک های مضر جلوگیری کنند – اگرچه کاربران همیشه راه های جدیدی برای فریب دادن آنها پیدا می کنند. عاملان همچنین از ابزارهای کمتر شناخته شده و منبع باز مولد AI استفاده می کنند که کنترل آنها سخت تر است.

او گفت: “در حالی که جلوگیری از ایجاد دیپ فیک دشوار است، اما جلوگیری از گسترش آنها بسیار ساده تر است.” وندت از هویت دیجیتال. پلتفرم‌های رسانه‌های اجتماعی مانند X باید کارهای بیشتری برای پرچم‌گذاری و حذف محتوای مضر قبل از انتشار انجام دهند.»

Wendt از یک شناسه دیجیتال برای همه حساب های رسانه های اجتماعی دفاع می کند، به طوری که وقتی یک حساب کاربری در سیستم عامل هایی مانند X ایجاد می کنید، فیس بوک، یا اینستاگرام می تواند به شناسه صادر شده توسط دولت شما پیوند داده شود. با توجه به سابقه فناوری های بزرگ در زمینه اعتماد و ایمنی، در حال حاضر مجبور کردن کاربران برای ورود به سیستم با شناسه واقعی خود مانند یک کیک در آسمان به نظر می رسد.

کاری که اکنون می توانیم انجام دهیم

در حالی که همه اینها ممکن است مانند عذاب و تاریکی به نظر برسد، بارقه های امید وجود دارد.

یکی از کارهایی که DSA انجام خواهد داد این است که بر فناوری های بزرگ برای بهبود ایمنی آنلاین در پلتفرم های خود فشار وارد کند. اگر این کار را نکنند، می توانند جریمه ای به ارزش ۶ درصد از این مبلغ دریافت کننددرآمد جهانی یا به طور کامل از اتحادیه منع شود.

و اگرچه کامل نیست، قانون آینده هوش مصنوعی یک سابقه جهانی ایجاد می کند که در آن اخلاق و ایمنی دیجیتال در اولویت قرار دارد و یک سکوی پرش قانونی برای اقدامات آینده برای مقابله با دنیای همیشه در حال تکامل دیپ فیک ها فراهم می کند.

در انگلستان، قانون ایمنی آنلاین اختیارات جدیدی برای اقدام در مورد هرزه‌نگاری عمیق جعلی می‌دهد و این جرم حداکثر دو سال حبس دارد. همچنین برای پلتفرم هایی که چنین محتوایی را میزبانی می کنند، جرایم کیفری وجود دارد.

فناوری همچنین از طریق سیستم‌های احراز هویت بهتر، اجرای واترمارک دیجیتال و بلاک چین، نقش مهمی در مقابله و ردیابی جعلی‌های عمیق خواهد داشت. این فناوری ها کمک خواهند کرد اصالت محتوا را تأیید کنید و از ثبت امن تراکنش های دیجیتال اطمینان حاصل کنید، مزایایی که همه ما را به صورت آنلاین امن تر می کند.

مارک مینیویچ، نویسنده کتاب «سیاره ما با استفاده از هوش مصنوعی» و مشاور سازمان ملل در زمینه فناوری هوش مصنوعی به TNW گفت: «آنچه ما به یک استراتژی همکاری جهانی چند بعدی و جامع با تأکید بر مقررات، فناوری و امنیت نیاز داریم.

او گفت: «این نه تنها با چالش‌های فوری دیپ‌فیک‌های غیر توافقی مقابله می‌کند، بلکه پایه‌ای برای یک محیط دیجیتالی ایجاد می‌کند که با اعتماد، شفافیت و امنیت پایدار مشخص می‌شود.»