OpenAI، Q* و اضطراب هیپ هوش مصنوعی The AI ​​Beat

پس از گردباد، درام بی‌سابقه OpenAI در ۱۰ روز گذشته – که در آن برد OpenAI مدیر عامل اخراج سم آلتمن؛ میرا موراتی CTO را جایگزین او کرد. رئیس جمهور گرگ براکمن استعفا داد. تقریباً همه کارکنان OpenAI تهدید به استعفا کردند. و آلتمن یک روز قبل از روز شکرگزاری به کار بازگردانده شد – مطمئن بودم که تعطیلات آخر هفته ایالات متحده فرصت مناسبی برای سیلیکون ولی است تا از هیاهوی هوش مصنوعی استراحت کند و با بوقلمون و چاشنی استراحت کند.

قرار نبود اینگونه شود. در سحرگاه روز شکرگزاری، رویترز گزارش داد قبل از اینکه آلتمن به طور موقت تبعید شود، چندین نفر از محققان او نامه ای به هیئت مدیره نوشتند و در مورد “کشف قدرتمند هوش مصنوعی که به گفته آنها می تواند بشریت را تهدید کند” هشدار دادند. این خبر درست زمانی که مردم روی میزهای پر از بوقلمون از پالو آلتو تا دره مغزی نشسته بودند در فضای مجازی منتشر شد: ظاهراً این پروژه که Q* نام دارد، احتمالاً پیشرفتی در تلاش‌ها برای ساختن AGI (هوش عمومی مصنوعی، که OpenAI است). به عنوان «سیستم‌های مستقلی که در بیشتر کارهای باارزش اقتصادی از انسان‌ها پیشی می‌گیرند» تعریف می‌کند. به گفته رویترز، مدل جدید «توانست مسائل ریاضی خاصی را حل کند» و «اگرچه فقط ریاضیات را در سطح دانش‌آموزان مقطع ابتدایی انجام می‌داد، اما چنین آزمایش‌هایی انجام شد. محققان نسبت به موفقیت آینده Q* بسیار خوشبین هستند.”

واقعاً چه چیزی پشت چرخه تبلیغات بی وقفه هوش مصنوعی وجود دارد؟

این واقعیت که در چرخه اخبار هوش مصنوعی و رسانه های اجتماعی بین سریال اتاق هیئت مدیره OpenAI و بحث های Q* توقف صفر وجود داشت – به خاطر داشته باشید، من از توقف شش ماهه توسعه هوش مصنوعی حمایت نمی کنم، فقط یک روز. یا دو نفر برای تماشای رژه روز شکرگزاری و خوردن مقداری غذای باقی مانده در آرامش – باعث شد به این فکر کنم: واقعاً پشت چرخه تبلیغات بی وقفه هوش مصنوعی چیست؟ به هر حال، هیجان Q* بیش از الگوریتمی بود که دانشمند ارشد هوش مصنوعی در Nvidia Jim Fan “فانتزی” نامیده می شود. او گفت که “در دهه ای که روی هوش مصنوعی گذراندم، هرگز الگوریتمی ندیدم که بسیاری از مردم درباره آن خیال پردازی کنند. فقط از روی یک نام، بدون کاغذ، بدون آمار، بدون محصول.”

مطمئناً، فکر می‌کنم کمی هیجان فکری و همچنین رقابت رسانه‌ای معمول برای آخرین شایعات و تیتر ویروسی بعدی وجود دارد. به احتمال زیاد حرص و طمع پیش‌بینی‌کننده، پیام‌های تبلیغاتی خود و تکبر معمولی انسانی نیز در این بازی وجود دارد. اما نمی‌دانم که آیا ناتوانی در انجام حتی کوتاه‌ترین استراحت‌ها پس از درام خواب‌آلود OpenAI صرفاً در مورد اضطراب است – از دریچه عدم اطمینان.

عدم قطعیت هوش مصنوعی به اضطراب کمک می کند

با توجه به یک کاغذ از سوی محققان دانشگاه ویسکانسین، عدم اطمینان در مورد تهدیدات احتمالی آینده “توانایی ما را برای اجتناب از آن یا کاهش تاثیر منفی آن مختل می کند و در نتیجه منجر به اضطراب می شود.” این مقاله اشاره می‌کند که مغز انسان «ماشین پیش‌بینی» نامیده می‌شود. “توانایی استفاده از تجربیات گذشته و اطلاعات در مورد وضعیت و محیط فعلی ما برای پیش بینی آینده به ما امکان می دهد شانس نتایج مطلوب را افزایش دهیم، در حالی که از ناملایمات آینده اجتناب می کنیم یا خود را آماده می کنیم. این توانایی مستقیماً با سطح اطمینان ما در مورد آینده مرتبط است. رویدادها – احتمال وقوع آنها چقدر است، چه زمانی رخ خواهند داد و چگونه خواهند بود. عدم اطمینان میزان کارآمدی و موثری ما را برای آینده کاهش می دهد و بنابراین به اضطراب کمک می کند.”

این نه تنها برای «هنجارهای» غیر فناوری، بلکه حتی برای محققان و رهبران برتر هوش مصنوعی زمان ما صادق است. حقیقت این است که حتی «پدرخوانده‌های» هوش مصنوعی مانند جفری هینتون، یان لیکان یا اندرو انگ واقعاً نمی‌دانند که در آینده هوش مصنوعی چه اتفاقی می‌افتد. گاوهای شبکه اجتماعی جمعه سیاهدر حالی که مبتنی بر استدلال های فکری است، هنوز چیزی جز پیش بینی هایی وجود ندارد که کمی از نگرانی های ما در مورد آنچه در آینده خواهد آمد، کم می کند.

به ناشناخته ها متمایل شوید

با در نظر گرفتن این موضوع، می‌توانیم به نودل‌کردن بی‌وقفه، تفکر، تعمق، وزن کردن، مشورت کردن، رمزگشایی و تجزیه و تحلیلی که در هفته گذشته درباره OpenAI و Q* رخ داد – از جمله از من – به عنوان بیانی از اضطراب نگاه کنیم (و شاید یک مقدار بزرگ OCD) در مورد اینکه آینده هوش مصنوعی در حال حاضر چقدر نامشخص به نظر می رسد.

اگر جمع‌آوری بیش از حد اطلاعات، اطمینان‌جویی، افکار و نگرانی‌های تکراری‌مان را متوقف نکنیم، لازم نیست در مورد آینده هوش مصنوعی به نتیجه نهایی متمایل شویم: نامشخص است. ناشناخته است.

البته من نمی گویم که ما نیازی به بحث و گفتگو و برنامه ریزی و آماده سازی و همگام با تکامل هوش مصنوعی نداریم. اما مطمئناً همه اینها می تواند صبر کند تا ما وعده غذایی خود را تمام کنیم و یک چرت ناشی از تریپتوفان داشته باشیم؟

اکنون دقیقا چهار هفته تا کریسمس باقی مانده است. شاید همه – نوعدوستان مؤثر و شتاب گرایان مؤثر، خوش بینان فنی و محکومان، رهبران صنعت و محققان دانشگاهی، افراد «سریع حرکت کن و چیزها را بشکن» و گروه «آهسته و با دقت حرکت کن» – بتوانند با کوتاه ترین مکث در تبلیغات هوش مصنوعی برای تخم مرغ و کوکی ها؟ نگرانی متقابل ما در مورد آینده هوش مصنوعی – و هیاهوی همراه با آن – پس از سال نو همچنان وجود خواهد داشت. قول میدهم.