رئیس هوش مصنوعی بایدن می‌گوید شبیه‌سازی صدا چیزی است که او را در شب بیدار نگه می‌دارد

• بروس رید، رئیس هوش مصنوعی بایدن، نگران تقلبی های عمیق صوتی است.
• پولیتیکو گزارش داد که او گفت که “کلون سازی صدا” تنها چیزی است که او را در شب بیدار نگه می دارد.
• پلتفرم‌های شبیه‌سازی صدا به دلیل در دسترس بودن، برای استفاده نادرست آماده هستند.

فناوری هوش مصنوعی که می تواند به طور قانع کننده ای صدای انسان را بازسازی کند، در حال شکل گیری یک نگرانی کلیدی در میان قانون گذاران است.

بروس رید، معاون رئیس کارکنان کاخ سفید، “شبیه سازی صدا چیزی است که مرا شب ها بیدار نگه می دارد.” گفت سیاسی. رید، که مسئولیت رهبری استراتژی هوش مصنوعی دولت بایدن را بر عهده دارد، این فناوری را “به طرز وحشتناکی خوب” نامید، اگرچه هنوز کاملاً جدید است.

او گفت: “هنوز برای جامعه روشن نشده است که تصور تقلبی صدای عالی چقدر می تواند زندگی ما را خراب کند. اگر کسی مطمئن نباشد که صدای طرف مقابل واقعی است یا ساختگی، هیچ کس به تلفن پاسخ نمی دهد.” سیاسی.

به عنوان مثال، کلاهبرداران تلفنی قبلاً بوده اند بهره برداری از پیشرفت ها در شبیه سازی صدا فن آوری برای باورپذیرتر کردن طرح های خود.

در ماه مارس، FTC اعلام کرد که کلاهبرداران برای «تقویت» کلاهبرداری‌های اضطراری خانوادگی خود به فناوری هوش مصنوعی تکیه می‌کنند – از برنامه‌های شبیه‌سازی صوتی برای متقاعد کردن افرادی که اعضای خانواده‌شان در مضیقه هستند، استفاده می‌کنند.

در ماه آوریل، یک مادر در آریزونا تماس گرفت یک کلاهبردار که از نرم افزار شبیه سازی صدا استفاده می کرد تا وانمود کند که دخترش را ربوده است. او در آن زمان به یک خبرگزاری محلی گفت: “این کاملاً صدای او بود. این صدای او بود.” کلاهبرداران برای ایجاد یک کلون متقاعد کننده با تطابق ۸۵ درصدی فقط به سه یا چهار ثانیه از صدای دیگران نیاز دارند. گزارش از نرم افزار امنیتی McAfee.

در همان زمان، اریک آدامز، شهردار نیویورک می‌گوید که کلون‌های تولید شده توسط هوش مصنوعی از صدای خودش به او کمک کرده تا با بخش وسیع‌تری از جمعیت شهر ارتباط برقرار کند.

از سال گذشته تاکنون بوده است به زبانهایی که بلد نیست ساکنان را به طور خودکار صدا می کنداز جمله ماندارین، اسپانیایی و ییدیش. آدامز می گوید که تماس های رباتیک به او کمک کرده است تا با ساکنان غیرانگلیسی زبان بیشتری تماس بگیرد. مردم حتی او را در خیابان متوقف کرده اند تا از او بپرسند که آیا ماندارین صحبت می کند یا خیر. برخی از دانشگاهیان و کارشناسان حریم خصوصی می گویند که ابتکار آدام همچنان فریبنده است، یا حداقل به این واقعیت اشاره می کند که سیاستمداران باید قوانین اساسی واضح تری در مورد نحوه استفاده از هوش مصنوعی وضع کنند.

بسیاری از این پلتفرم ها برای استفاده نادرست آماده هستند. آنها در دسترس هستند و استفاده از آنها بسیار ساده است.

آدامز به یک پلت فرم شبیه سازی صوتی از ElevenLabs متکی است که استفاده از آن رایگان است و به کمتر از یک دقیقه از صدای یک فرد برای تولید یک کلون “با کیفیت بالا” نیاز دارد. بر این اساس به وب سایت خود و بلافاصله پس از راه‌اندازی آن در نسخه بتا در ژانویه، ElevenLabs بیانیه‌ای صادر کرد و گفت که متوجه تعداد فزاینده‌ای از موارد سوء استفاده از شبیه‌سازی صوتی شده است.

ElevenLabs در آن زمان جزئیات خاصی در مورد موارد ارائه نکرد، اما Vice این کار را کرد گزارش شده است که کلیپ های صوتی عمیق جعلی جو روگان، بن شاپیرو و اما واتسون در حال ایجاد کامنت های نژادپرستانه، خشونت آمیز و ترنس هراسی که از طریق نرم افزار آن ایجاد شده بود، در سایت ایمجبورد ۴chan آپلود شده بود.