طی دو هفته گذشته، هند راه‌هایی را دیده است که از طریق آنها دیپ‌فیک‌ها می‌توانند عمیقاً آزاردهنده باشند و چگونه دولت هند برای مهار مشکلی که ناشی از دیپ‌فیک‌ها و اطلاعات نادرست تولید شده توسط هوش مصنوعی است، تلاش می‌کند.
گوگل، یک غول فناوری جهانی، اطلاعاتی در مورد تلاش های خود برای مقابله با جعلیات عمیق و اطلاعات نادرست تولید شده توسط هوش مصنوعی در هند ارائه کرده است. گوگل با اذعان به عدم وجود «گلوله نقره‌ای» برای مبارزه با این چالش‌ها، استراتژی خود را شامل ترکیبی از یادگیری ماشین و بازبین‌های انسانی برای شناسایی و پرچم‌گذاری محتوای تولید شده توسط هوش مصنوعی ترسیم کرد.
Google قصد دارد با همکاری دولت هند، خطرات ایمنی و امنیتی مرتبط با «رسانه‌های مصنوعی»، از جمله کمپین‌های جعلی و اطلاعات نادرست را در جریان اجلاس آینده مشارکت جهانی در زمینه هوش مصنوعی (GPAI) بررسی کند.
برای مقابله با مشکل تصاویر جعلی، گوگل گاردریل ها و محافظ هایی از جمله SynthID را اجرا کرده است.
این سیستم، یک راه حل تعبیه شده برای برچسب زدن واترمارک و فراداده، عکس های تولید شده با استفاده از تولیدکننده متن به تصویر Google، Imagen را پرچم گذاری می کند.
علاوه بر این، این شرکت از یادگیری ماشینی در کنار بازبینان انسانی استفاده می‌کند تا به سرعت محتوای ناقض دستورالعمل‌ها را شناسایی و حذف کند و دقت سیستم‌های تعدیل محتوای خود را افزایش دهد.
برای یوتیوب، گوگل برای سازندگانی که از محتوای تغییریافته یا تولید شده توسط هوش مصنوعی استفاده می کنند، الزامات افشا را معرفی می کند. سازندگان موظف هستند با افزودن برچسب‌ها به پانل توضیحات و پخش‌کننده ویدیو، به کاربران اطلاع دهند.
این پلتفرم همچنین در حال توسعه یک «فرایند درخواست حریم خصوصی» است که به کاربران امکان می‌دهد محتوایی را که از هوش مصنوعی برای تقلید از چهره یا صدای یک فرد استفاده می‌کند، حذف کنند.
در پاسخ به چشم انداز در حال تحول، گوگل سیاست های تبلیغات انتخاباتی خود را به روز کرده است. اکنون ناشران موظفند اعلام کنند که آیا تبلیغات آنها حاوی محتوای دیجیتالی تغییر یافته یا تولید شده با هدف فریب، گمراه کردن یا کلاهبرداری از کاربران است.
جستجوی Google از نرده‌های محافظی مانند پانل‌های دانش و قطعه‌های ویژه برای پرچم‌گذاری محتوای جعلی و اصلاح‌شده با هوش مصنوعی استفاده می‌کند.
در تعامل با سیاست گذاران، محققان و کارشناسان در سراسر هند، گوگل بر تعهد خود به شیوه های هوش مصنوعی مسئولانه تاکید می کند.
در دسامبر سال گذشته، این شرکت یک میلیون دلار کمک مالی به موسسه فناوری هند، مدرس، اختصاص داد تا یک مرکز هوش مصنوعی مسئول ایجاد کند، که تمرکز آن بر مطالعه سوگیری در هوش مصنوعی از دیدگاه هندی است.
منبع: https://www.firstpost.com/tech/fighting-deepfakes-google-reveals-how-it-plans-to-fight-ai-generated-false-information-fake-images-13445872.html