۴ دلیل که چرا این پدرخوانده هوش مصنوعی فکر می کند ما نباید بترسیم

وقتی پدرخوانده ها مخالفت می کنند از آن متنفر نیستی؟

از یک طرف، ما داریم دکتر جفری هینتون، دانشمند سابق گوگل هشدار می دهد که ما خیلی سریع پیش می رویم و هوش مصنوعی می تواند همه چیز را از شغل گرفته تا حقیقت را خراب کند. در طرف دیگر، یان لیکان متا را پیدا می کنیم.

هر دو دانشمند زمانی روی پیشرفت‌های Deep Learning که دنیای هوش مصنوعی را تغییر می‌دهد با هم کار می‌کردند و باعث ایجاد هجوم پیشرفت‌ها در الگوریتم‌های هوش مصنوعی و مدل‌های زبان بزرگ می‌شد که ما را به این لحظه پر از دردسر رساند.

هینتون اوایل سال جاری هشدار خود را ارائه کرد مجله نیویورک تایمز. LeCun برنده جایزه تورینگ تا حد زیادی با هینتون مقابله کرد و از توسعه هوش مصنوعی دفاع کرد مصاحبه ای گسترده با استیو لوی از وایرد.

LeCun به Levy گفت: “مردم از ترس این فناوری سوء استفاده می کنند و ما در معرض خطر ترساندن مردم از آن هستیم.”

استدلال LeCun، که در شکل TLDR آن چیزی است به این معنا که «نگران نباشید، هوش مصنوعی را در آغوش بگیرید»، به چند مؤلفه کلیدی تقسیم می‌شود که ممکن است شما را وادار کند متفاوت فکر کنید یا نه.

باز خوبه

من به ویژه از استدلال منبع باز LeCun لذت بردم. او به لوی گفت که اگر بپذیرید که هوش مصنوعی ممکن است در نهایت بین ما و بیشتر تجربیات دیجیتال ما قرار بگیرد، کنترل آن توسط چند شرکت قدرتمند هوش مصنوعی منطقی نیست. LeCun گفت: “شما نمی خواهید که سیستم هوش مصنوعی توسط تعداد کمی از شرکت ها در ساحل غربی ایالات متحده کنترل شود.”

اکنون، این مردی است که به عنوان دانشمند ارشد هوش مصنوعی متا کار می کند. متا (فیسبوک سابق) یک شرکت بزرگ ساحل غربی است (که اخیرا منبع باز خود را راه اندازی کرده است LLM LLAMA 2). من مطمئن هستم که این کنایه در LeCun از بین نمی رود، اما فکر می کنم او ممکن است OpenAI را هدف قرار دهد. پیشروترین تامین کننده هوش مصنوعی در جهان (سازنده ChatGPT و به او بدهیدو سهم عمده ای در CoPilot مایکروسافت) به عنوان یک شرکت آزاد و غیر انتفاعی آغاز به کار کرد. اکنون بودجه زیادی از مایکروسافت (همچنین یک شرکت بزرگ ساحل غربی) دریافت می کند و LeCun ادعا می کند که OpenAI دیگر تحقیقات خود را به اشتراک نمی گذارد.

احتمالاً مقررات موضوعیت ندارد

LeCun در مورد مقررات AI بسیار پر سر و صدا بوده است، اما شاید نه آنطور که شما فکر می کنید. او اساساً علیه آن بحث می کند. هنگامی که لوی در مورد تمام آسیب هایی که یک هوش مصنوعی غیرقابل تنظیم و قدرتمند می تواند وارد کند، لکان اصرار داشت که نه تنها هوش مصنوعی با نرده های محافظ ساخته می شود، بلکه اگر این ابزارها در صنعت استفاده شوند، باید از مقررات از قبل موجود و سفت و سخت پیروی کنند. صنعت داروسازی).

LeCun به Wired گفت: “سوالی که مردم در مورد آن بحث می کنند این است که آیا تنظیم تحقیق و توسعه هوش مصنوعی منطقی است یا خیر. و من فکر نمی کنم که چنین باشد.”

AGI نزدیک نیست

در ماه‌های اخیر صحبت‌های زیادی در مورد پتانسیل هوش عمومی مصنوعی (AGI) صورت گرفته است که ممکن است بسیار شبیه هوش شما باشد یا نباشد. برخی از جمله سام آلتمن از OpenAI، باور کنید که در افق نزدیک است. لیکان، اگرچه یکی از آنها نیست.

او استدلال کرد که ما حتی نمی توانیم AGI را تعریف کنیم زیرا هوش انسان یک چیز نیست. او در آنجا یک نکته دارد. هوش من به هیچ وجه با انیشتین یا لکان قابل مقایسه نیست.

شما می خواهید هوش مصنوعی از شما باهوش تر باشد

در دیدگاه LeCun تردیدی وجود ندارد که هوش مصنوعی در نهایت از انسان‌ها باهوش‌تر خواهد بود، اما او همچنین خاطرنشان می‌کند که آنها انگیزه‌های مشابه ما را ندارند.

او این دستیاران هوش مصنوعی را به «انسان های فوق هوشمند» تشبیه می کند و اضافه می کند که کار با آنها ممکن است مانند کار با همکاران فوق باهوش باشد.

حتی با وجود این همه هوش، لکان اصرار دارد که این هوش مصنوعی ها انگیزه ها و انگیزه های انسانی ندارند. سلطه جهانی برای آنها مشکلی نخواهد داشت، زیرا آنها از ما باهوش تر هستند.

LeCun ایده برنامه‌نویسی در یک درایو (هدف جایگزین) را نادیده نمی‌گیرد، اما می‌بیند که به‌عنوان «هوش مصنوعی هدف‌محور» و از آنجایی که بخشی از این هدف می‌تواند یک نرده محافظ غیرقابل نفوذ باشد، تدابیر امنیتی در آن ایجاد می‌شود.

آیا احساس بهتری دارم؟ آیا مقررات کمتر، منبع باز بیشتر و پذیرش محکم‌تر میانجیگری هوش مصنوعی مسیری رو به جلو به سوی آینده ای امن‌تر است؟ شاید. LeCun مطمئناً اینطور فکر می کند. تعجب می کنم که آیا او اخیراً با هینتون صحبت کرده است.

شما هم ممکن است دوست داشته باشید

• هوش مصنوعی چیست؟ هر آنچه باید در مورد هوش مصنوعی بدانید…
• زمانی که یک استاد هوش مصنوعی یکی از استادان جهان را تماشا کردم، فکم به زمین خورد.
• این ابزار ترسناک هوش مصنوعی می تواند مکان شما را از روی یک عکس حدس بزند – و …
• محققان هوش مصنوعی می‌سازند که می‌تواند خود را تکثیر و تغییر دهد و من خیلی…
• ابزار جدید هوش مصنوعی Microsoft Copilot، دستورات ساده شما را به …