چرا تصویب قانون هوش مصنوعی بسیار سخت بود

وقتی قانونگذاران اروپایی رسیدند یک توافق موقت در مورد قوانین شاخص هوش مصنوعی هفته گذشته آنها دلیلی برای جشن گرفتن داشتند.

قانون هوش مصنوعی اتحادیه اروپا رسید اوج مورد انتظار در روز جمعه پس از نه تنها دو سال بحث گسترده، بلکه یک مناظره “ماراتونی” سه روزه بین کمیسیون اروپا، پارلمان اروپا و کشورهای عضو اتحادیه اروپا برای رفع اختلافات. تمام شب ها کشیده شدند. سطل ها پر شده بود بقایای قهوه، نوشیدنی های انرژی زا و تنقلات شیرین. این همان محیطی بود که از دانش‌آموزانی که برای فینال‌ها جمع می‌شوند، انتظار می‌رفت، نه قانون‌گذارانی که روی قوانینی کار می‌کنند که می‌تواند طرحی برای مقررات جهانی هوش مصنوعی تعیین کند. این هرج و مرج عمدتاً به خاطر دو موضوع بحث برانگیز بود که کل مذاکره را تهدید می کرد: تشخیص چهره و مدل های قدرتمند “بنیاد”.

زمانی که قانون AI برای اولین بار پیشنهاد شد در آوریل ۲۰۲۱هدف آن مبارزه با “خطرات جدید یا پیامدهای منفی برای افراد یا جامعه” بود که هوش مصنوعی می تواند ایجاد کند. این قانون بر ابزارهایی متمرکز بود که قبلاً در زمینه هایی مانند پلیس، استخدام شغل و آموزش به کار گرفته شده بودند. اما در حالی که هدف کلی این لایحه تغییر نکرد، فناوری هوش مصنوعی انجام داد – و به سرعت قوانین پیشنهادی برای مدیریت سیستم‌های همه‌منظوره که به طور کلی مدل‌های پایه نامیده می‌شوند، مانند فناوری زیربنایی، مجهز نبودند. ChatGPT بسیار محبوب OpenAIکه در نوامبر ۲۰۲۲ راه اندازی شد.

بیشتر تأخیر لحظه آخری ناشی از تلاش سیاستگذاران برای اطمینان از اینکه این فناوری‌های جدید هوش مصنوعی – و همچنین فناوری‌هایی که هنوز توسعه نیافته‌اند – در محدوده قانون قرار می‌گیرند، بود. این قانون به جای اینکه صرفاً هر منطقه ای را که ممکن است در آن ظاهر شوند (لیستی شامل اتومبیل ها، اسباب بازی ها، وسایل پزشکی و موارد دیگر) تنظیم کند، از یک سیستم لایه ای که برنامه های هوش مصنوعی را بر اساس ریسک رتبه بندی می کند. سیستم‌های هوش مصنوعی «ریسک بالا» که می‌توانند بر ایمنی یا حقوق اساسی تأثیر بگذارند، تحت سخت‌ترین محدودیت‌های نظارتی قرار گرفتند. علاوه بر این، سیستم‌های هوش مصنوعی عمومی (GPAI) مانند مدل‌های GPT OpenAI با مقررات اضافی مواجه شدند. خطرات این نامگذاری زیاد بود – و بر این اساس، بحث بر سر آن شدید بود.

دانیل لوفر، تحلیلگر ارشد سیاست در Access Now، یک سازمان حقوق بشر دیجیتال، می‌گوید: «در یک نقطه، به نظر می‌رسید که تنش‌ها بر سر نحوه تنظیم GPAI می‌تواند کل فرآیند مذاکره را از مسیر خارج کند. فشار زیادی از سوی فرانسه، آلمان و ایتالیا برای حذف کامل این سیستم‌ها از هرگونه تعهد تحت قانون هوش مصنوعی وجود داشت.

فرانسه، آلمان و ایتالیا به دنبال مصالحه در آخرین لحظه برای مدل های پایه هوش مصنوعی بودند

این کشورها، سه اقتصاد بزرگ اروپا، مذاکرات را در نوامبر آغاز کرد در مورد نگرانی هایی که محدودیت های سخت می تواند وجود داشته باشد کاهش نوآوری و به استارتاپ هایی که مدل های پایه هوش مصنوعی را در حوزه قضایی خود توسعه می دهند آسیب برساند. این نگرانی ها با سایر قانونگذاران اتحادیه اروپا که به دنبال وضع مقررات سختگیرانه در مورد نحوه استفاده و توسعه آنها بودند، برخورد کرد. این آچار لحظه آخری که در مذاکرات قانون هوش مصنوعی پرتاب شد به تأخیر در دستیابی به توافق کمک کرد، اما آنها تنها نقطه گیر نبودند.

در واقع، به نظر می رسد مقدار قابل توجهی از قوانین واقعی حتی چند روز قبل از انجام معامله موقت، حل نشده باقی مانده است. در نشست وزرای ارتباطات و حمل و نقل اروپا در ۵ دسامبرفولکر ویسینگ، وزیر دیجیتال آلمان گفت که “مقررات هوش مصنوعی به طور کلی هنوز کاملاً بالغ نشده است.”

سیستم‌های GPAI با الزاماتی مانند افشای داده‌های آموزشی، مصرف انرژی، و حوادث امنیتی و همچنین در معرض ارزیابی‌های خطر اضافی مواجه بودند. جای تعجب نیست، OpenAI (شرکتی که به آن معروف است خودداری از افشای جزئیات مربوط به کار خود) گوگلو مایکروسافت همه اتحادیه اروپا را لابی کرد برای کاهش مقررات سخت تر این تلاش ها به ظاهر نتیجه داد. در حالی که پیش از این قانونگذاران به دسته بندی فکر کرده بودند همه GPAI به‌عنوان «ریسک بالا»، توافقی که هفته گذشته به دست آمد، در عوض آن‌ها را تحت یک سیستم دو لایه قرار می‌دهد که به شرکت‌ها اجازه می‌دهد تا از سخت‌ترین محدودیت‌های قانون هوش مصنوعی دوری کنند. این هم همینطور، احتمالاً در تأخیرهای لحظه آخری نقش داشته است هفته گذشته در بروکسل هش شد.

لوفر می‌گوید: «در پایان، ما برخی تعهدات شفافیت بسیار کم را برای سیستم‌های GPAI، با برخی الزامات اضافی برای سیستم‌های GPAI به اصطلاح «با تأثیر» که «خطر سیستمیک» ایجاد می‌کنند، دریافت کردیم – اما هنوز یک «نبرد طولانی» وجود دارد. برای اطمینان از اینکه نظارت و اجرای چنین اقداماتی به درستی عمل می کند.»

یک مقوله بسیار سخت‌تر نیز وجود دارد: سیستم‌هایی با سطح ریسک «غیرقابل قبول» که قانون هوش مصنوعی به‌طور مؤثر آن‌ها را ممنوع می‌کند. و در مذاکرات تا ساعات پایانی، کشورهای عضو بودند هنوز در حال مبارزه آیا این باید شامل برخی از بحث برانگیزترین ابزارهای نظارتی با فناوری پیشرفته آنها باشد.

ممنوعیت کامل سیستم های هوش مصنوعی تشخیص چهره به شدت مورد اعتراض قرار گرفت

پارلمان اروپا در ابتدا چراغ سبز ممنوعیت کامل سیستم های بیومتریک برای نظارت عمومی انبوه در ماه جولای. این شامل ایجاد پایگاه‌های اطلاعاتی تشخیص چهره با برداشتن بی‌رویه داده‌ها از رسانه‌های اجتماعی یا فیلم‌های دوربین‌های مداربسته بود. سیستم های پلیسی پیش بینی بر اساس مکان و رفتار گذشته؛ و طبقه بندی بیومتریک بر اساس ویژگی های حساس مانند قومیت، مذهب، نژاد، جنسیت، شهروندی و وابستگی سیاسی. همچنین شناسایی بیومتریک از راه دور هم زمان واقعی و هم به صورت عطف به ماسبق را ممنوع کرد، با تنها استثنا به مجریان قانون اجازه استفاده از سیستم‌های تشخیص تأخیر را برای پیگرد «جرایم جدی» پس از تأیید قضایی داد. کمیسیون اروپا و کشورهای عضو اتحادیه اروپا آن را به چالش کشید و امتیازاتی به دست آورد – برای برخی حیرت منتقدان.

پیش‌نویس تصویب شده در روز جمعه شامل استثنائاتی است که استفاده محدود از تشخیص خودکار خودکار را مجاز می‌سازد، مانند مواردی که شناسایی پس از تأخیر قابل توجهی انجام می‌شود. همچنین ممکن است برای موارد خاص استفاده مجریان قانون که تهدیدات امنیت ملی را شامل می شود، تأیید شود، اگرچه فقط تحت شرایط خاص (در حال حاضر نامشخص). این به احتمال زیاد اعضای بلوک مانند فرانسه را که برای استفاده از نظارت با کمک هوش مصنوعی فشار آورده اند را آرام کرده است. مواردی مانند تروریسم را رصد کنید و آینده المپیک ۲۰۲۴ پاریساما سازمان های حقوق بشری مانند عفو بین الملل بیشتر از این تصمیم انتقاد کرده اند.

ناامیدکننده است که می بینیم پارلمان اروپا در برابر فشار کشورهای عضو برای عقب نشینی از موضع اصلی خود تسلیم می شود. شهردار هاکوبیان گفت، مشاور حمایت از مقررات هوش مصنوعی در عفو بین الملل. “در حالی که موافقان استدلال می کنند که این پیش نویس فقط استفاده محدود از تشخیص چهره و مشروط به پادمان ها را مجاز می کند، تحقیقات عفو بین الملل در شهر نیویورک، سرزمین های اشغالی فلسطین، حیدرآبادو جاهای دیگر نشان می‌دهد که هیچ تضمینی نمی‌تواند از آسیب‌های حقوق بشری که تشخیص چهره ایجاد می‌کند جلوگیری کند، به همین دلیل است که ممنوعیت کامل مورد نیاز است.»

برای پیچیده‌تر کردن اوضاع، نمی‌توانیم به آن بپردازیم خاص مصالحه هایی انجام شد، زیرا متن قانون هوش مصنوعی کاملاً تأیید شده برای چند هفته در دسترس نخواهد بود. از نظر فنی، احتمالاً هنوز به طور رسمی در داخل اتحادیه اروپا وجود ندارد اصلا. او می‌گوید مصالحه‌ها برای این توافق‌ها اغلب بر اساس اصول است تا بیان دقیق مایکل ویل، دانشیار حقوق دیجیتال و مقررات در دانشکده حقوق UCL. این بدان معناست که ممکن است کمی طول بکشد تا قانونگذاران زبان حقوقی را اصلاح کنند.

همچنین، از آنجایی که فقط توافق موقت حاصل شد، قانون نهایی همچنان در معرض تغییر است. هیچ جدول زمانی رسمی در دسترس نیست، اما به نظر می‌رسد کارشناسان سیاست با برآوردهای خود نسبتاً اتفاق نظر دارند: انتظار می‌رود قانون هوش مصنوعی تا اواسط سال ۲۰۲۴ پس از انتشار آن در مجله رسمی اتحادیه اروپا به قانون تبدیل شود و همه مقررات به تدریج طی دو سال آینده لازم‌الاجرا شوند. سال ها.

این به سیاست گذاران زمان می دهد تا دقیقاً چگونگی اجرای این قوانین را بررسی کنند. شرکت‌های هوش مصنوعی همچنین می‌توانند از این زمان استفاده کنند تا اطمینان حاصل کنند که محصولات و خدمات آنها با قوانین مطابقت دارند. در نهایت، این بدان معنی است که ما ممکن است تا اواسط سال ۲۰۲۶ همه چیز را در قانون AI تنظیم نکنیم. در سال های توسعه هوش مصنوعی، این یک است مدت زمان طولانی – بنابراین تا آن زمان، ممکن است مجموعه جدیدی از مسائل برای مقابله با آن داشته باشیم.