ایالات متحده، همراه با بریتانیا و ۱۸ کشور دیگر، آنچه را که یک مقام ارشد آمریکایی از آن به عنوان اولین توافقنامه بین المللی دقیق برای تضمین ایمنی هوش مصنوعی (AI) در برابر سوء استفاده توسط بازیگران سرکش نام برد، معرفی کرده است.
این سند ۲۰ صفحه ای بر نیاز سیستم های هوش مصنوعی به “ایمن بودن از طریق طراحی” تاکید می کند و از شرکت ها می خواهد که هوش مصنوعی را به گونه ای توسعه دهند که از مشتریان و عموم مردم محافظت کند.
در حالی که این توافق نامه الزام آور نیست، توصیه های کلی مانند نظارت بر سیستم های هوش مصنوعی برای سوء استفاده، محافظت از داده ها در برابر دستکاری، و بررسی تامین کنندگان نرم افزار ارائه می دهد.
جن ایسترلی، مدیر آژانس امنیت سایبری و امنیت زیرساخت ایالات متحده، بر اهمیت کشورهای متعددی که این ایده را تایید می‌کنند که سیستم‌های هوش مصنوعی باید ایمنی را در طول طراحی در اولویت قرار دهند، تاکید کرد.
او تاکید کرد که این دستورالعمل‌ها نشان‌دهنده توافقی است که امنیت مهم‌ترین نکته در مرحله طراحی است و فراتر از تأکید صرف بر ویژگی‌ها، سرعت بازار یا رقابت در هزینه است.
۱۸ کشور امضاکننده این دستورالعمل عبارتند از آلمان، ایتالیا، جمهوری چک، استونی، لهستان، استرالیا، شیلی، اسرائیل، نیجریه و سنگاپور.
این چارچوب در درجه اول به نگرانی‌های مربوط به جلوگیری از ربودن فناوری هوش مصنوعی توسط هکرها می‌پردازد و شامل توصیه‌هایی مانند انتشار مدل‌ها تنها پس از آزمایش‌های امنیتی کامل است. با این حال، به مسائل بحث برانگیز در مورد استفاده مناسب از هوش مصنوعی یا جمع آوری داده های تغذیه این مدل ها نمی پردازد.
در حالی که دولت ها در سراسر جهان ابتکارات مختلفی را برای شکل دادن به توسعه هوش مصنوعی آغاز کرده اند، بسیاری از این ابتکارات فاقد قابلیت اجرایی هستند. اروپا در مقررات هوش مصنوعی فعال بوده است و قانونگذاران روی پیش نویس قوانین هوش مصنوعی کار می کنند.
در ماه اکتبر، دولت بایدن دستوری اجرایی برای کاهش خطرات هوش مصنوعی برای مصرف کنندگان، کارگران و گروه های اقلیت و در عین حال تقویت امنیت ملی صادر کرد. علیرغم تلاش‌ها، یک کنگره متفرق ایالات متحده پیشرفت محدودی در وضع مقررات مؤثر هوش مصنوعی داشته است.
(با نظر آژانس ها)
منبع: https://www.firstpost.com/tech/us-britain-other-countries-sign-agreement-to-make-llms-other-bots-secure-by-design-13434432.html