رئیس هوش مصنوعی گوگل در بریتانیا فکر می کند که این یک تهدید وجودی است، به اندازه تغییرات آب و هوایی خطرناک

دمیس حسابیس، رئیس هوش مصنوعی گوگل در بریتانیا، موازی بین خطرات مرتبط با هوش مصنوعی (AI) و چالش های جهانی ناشی از تغییرات آب و هوایی ترسیم کرده است. Hassabis در مصاحبه با The Guardian نگرانی‌های خود را در مورد توسعه بالقوه یک سیستم هوش مصنوعی فوق‌هوشمند که می‌تواند سرکشی کرده و در فعالیت‌های مخرب از جمله ایجاد سلاح‌های زیستی شرکت کند، ابراز کرد.

Hassabis بر لزوم جدی گرفتن خطرات هوش مصنوعی، مشابه پرداختن به تغییرات آب و هوا تأکید کرد. او تأخیر در هماهنگی یک واکنش مؤثر جهانی به تغییرات آب و هوایی و پیامدهای آن را برجسته کرد و تأکید کرد که جامعه نمی‌تواند همین تأخیر را در برخورد با هوش مصنوعی تحمل کند.

حسابیس ضمن اذعان به پتانسیل مثبت هوش مصنوعی در بخش‌های مختلف، خواستار ایجاد یک نهاد حاکم مستقل برای هوش مصنوعی، شبیه به هیئت بین‌دولتی سازمان ملل متحد برای تغییرات آب و هوایی (IPCC) شد. این دیدگاه توسط اریک اشمیت، مدیر عامل سابق گوگل نیز به اشتراک گذاشته شده است.

در پاسخ به این نگرانی ها، گوگل، مایکروسافت، OpenAI و Anthropic به طور مشترک یک صندوق ایمنی AI 10 میلیون دلاری را اعلام کردند. این صندوق برای حمایت از تحقیقات با هدف توسعه ابزارهایی برای آزمایش و ارزیابی موثر مدل‌های هوش مصنوعی پیشرفته در نظر گرفته شده است.

Hassabis از این ابتکار استقبال کرد و اظهار داشت که جامعه هوش مصنوعی در یک لحظه مهم در تاریخ است.

با این حال، شایان ذکر است که علیرغم بحث‌های عمومی و اقدامات مربوط به ایمنی و اخلاق هوش مصنوعی، مواردی از جنجال در جامعه هوش مصنوعی وجود داشته است. در سال ۲۰۲۰، گوگل، تیمنیت گبرو، اخلاق‌دان مشهور هوش مصنوعی و مارگارت میچل، محقق هوش مصنوعی را به این دلیل که مقاله مشترک آنها با استانداردهای انتشار شرکت مطابقت ندارد، اخراج کرد. این مقاله چندین خطر مرتبط با هوش مصنوعی، از جمله اثرات زیست محیطی، اثرات بالقوه بر جوامع به حاشیه رانده شده، سوگیری در داده های آموزشی، مشکلات در حسابرسی مجموعه داده های بزرگ، و پتانسیل هوش مصنوعی برای فریب دادن مردم را برجسته می کند.

رابطه پیچیده بین توسعه هوش مصنوعی، نگرانی‌های اخلاقی، و پیگیری سیستم‌های هوش مصنوعی فوق‌هوشمند، بر بحث‌های جاری در صنعت هوش مصنوعی تاکید می‌کند.

منبع: https://www.firstpost.com/tech/news-analysis/google-uk-head-of-ai-thinks-it-is-an-existential-threat-as-dangerous-as-climate-change-13305912.html