هیئت شش نفره OpenAI تصمیم خواهد گرفت که چه زمانی به AGI دست پیدا کنیم.

طبق گفته OpenAI، شش عضو هیئت مدیره غیرانتفاعی آن تعیین خواهند کرد که شرکت چه زمانی “به AGI دست یافت“- که آن را به عنوان “سیستم بسیار خودمختار که در بیشترین کار از نظر اقتصادی با ارزش از انسان ها بهتر عمل می کند” تعریف می کند. به لطف یک بازوی انتفاعی که “از نظر قانونی موظف است ماموریت غیرانتفاعی را دنبال کند”، هنگامی که هیئت مدیره تصمیم گرفت AGI یا هوش عمومی مصنوعی به دست آید، چنین سیستمی “از مجوزهای IP و سایر شرایط تجاری با مایکروسافت مستثنی خواهد شد.” ، که فقط در مورد فناوری pre-AGI کاربرد دارد.”

اما از آنجایی که تعریف هوش عمومی مصنوعی به دور از توافق است، این به چه معناست که یک دوجین نفر تصمیم بگیرند که آیا AGI به دست آمده است یا خیر – برای OpenAI، و بنابراین، جهان؟ و زمان بندی و زمینه این تصمیم احتمالی آینده برای بزرگترین سرمایه گذارش، مایکروسافت چه معنایی خواهد داشت؟

بازوی انتفاعی تابع ماموریت غیرانتفاعی OpenAI است

اطلاعات در الف گنجانده شد نخ روی X در آخر هفته توسط لوگان کیلپاتریک، مدافع توسعه دهنده OpenAI. کیلپاتریک در حال پاسخ دادن بود یک نظر توسط برد اسمیت، رئیس مایکروسافت، که در یک پنل اخیر با دانشمند ارشد متا، یان لیکان، تلاش کرد OpenAI را به دلیل وضعیت “غیر انتفاعی” آن قابل اعتمادتر معرفی کند. روزنامه وال استریت اخیرا گزارش شده است که OpenAI به دنبال ارزش گذاری جدید تا ۹۰ میلیارد دلار در فروش سهام موجود است.

در تاپیک، کیلپاتریک به نقل از “ساختار ماصفحه در وب‌سایت OpenAI، که جزئیاتی در مورد ساختار سود غیرانتفاعی پیچیده OpenAI ارائه می‌دهد. طبق این صفحه، شرکت تابعه انتفاعی OpenAI “کاملاً” توسط سازمان غیرانتفاعی OpenAI (که در دلاور ثبت شده است) کنترل می شود. در حالی که شرکت تابعه انتفاعی، OpenAI Global، LLC – که به نظر می رسد از شراکت محدود تغییر مکان داده است. OpenAI LPکه قبلاً در سال ۲۰۱۹، حدود سه سال بعد، اعلام شده بود تاسیس غیر انتفاعی OpenAI اصلی – “مجاز کسب و توزیع سود را دارد”، تابع مأموریت غیرانتفاعی است.

مطمئناً به نظر می رسد هنگامی که OpenAI به ماموریت اعلام شده خود برای رسیدن به AGI دست یابد، مایکروسافت از حلقه خارج خواهد شد – حتی اگر در هفته گذشته OpenAI Dev Day، مدیر عامل OpenAI سم آلتمن گفت مدیر عامل مایکروسافت ساتیا نادلا گفت: “من فکر می کنم ما بهترین همکاری را در زمینه فناوری داریم… من برای ساختن AGI با هم هیجان زده هستم.”

از آغاز جزئیات ساختار OpenAI می گویدمایکروسافت “پیشنهاد سرمایه محدود ما و درخواست ما را برای واگذاری فناوری‌ها و مدیریت AGI برای سازمان غیرانتفاعی و بقیه بشریت پذیرفت.”

یکی از سخنگویان OpenAI به VentureBeat گفت: “مأموریت OpenAI ایجاد AGI است که برای همه ایمن و مفید باشد. هیئت مدیره ما شرکت را اداره می کند و از دیدگاه های مختلف کارشناسان خارجی و ذینفعان برای کمک به اطلاع رسانی افکار و تصمیمات آن مشورت می کند. ما اعضای هیئت مدیره را بر اساس نامزد و منصوب می کنیم. در مورد مهارت ها، تجربه و دیدگاه آنها در مورد فناوری هوش مصنوعی، خط مشی و ایمنی.”

اعضای هیئت مدیره غیرانتفاعی با نوع دوستی مؤثر ارتباط دارند

در حال حاضر، هیئت مدیره غیرانتفاعی OpenAI متشکل از رئیس و رئیس Greg Brockman، دانشمند ارشد Ilya Sutskever، و مدیر عامل شرکت Sam Altman، و همچنین افراد غیرکارمند Adam D’Angelo، Tasha McCauley و Helen Toner است.

دا آنجلوکه مدیرعامل Quora و همچنین یک کارآفرین فناوری است مک کاولی و افتخار و احترامکه مدیر استراتژی برای مرکز امنیت و فناوری های نوظهور در دانشگاه جورج تاون، همه به این گره خورده اند نوع دوستی موثر حرکت – که زیر آتش قرار گرفت اوایل سال جاری به دلیل روابطش با Sam Bankman-Fried و FTX و همچنین برداشت “خطرناک” آن در مورد ایمنی هوش مصنوعی. و OpenAI دارد مدتهاست روابط خاص خود را داشت به EA: برای مثال، در مارس ۲۰۱۷، OpenAI کمک مالی ۳۰ میلیون دلاری دریافت کرد بشردوستی باز، که توسط Altruists موثر تأمین مالی می شود. و یان لیکه، که OpenAI را رهبری می کند تیم فوق العادهگزارش شده است شناسایی می کند با جنبش EA

سخنگوی OpenAI گفت که “هیچ یک از اعضای هیئت مدیره ما نوعدوست موثر نیستند.”

تصمیم گیری AGI هیئت مدیره “غیر معمول” است

سوزی فولتون، که مشاور عمومی و خدمات حقوقی برون سپاری شده را به استارتاپ‌ها و شرکت‌های نوظهور در بخش فناوری ارائه می‌کند، به VentureBeat گفت که اگرچه در بسیاری از شرایط، «غیرعادی» است که هیئت مدیره این تصمیم AGI را انجام دهد، هیئت غیرانتفاعی OpenAI به امانت دار خود مدیون است. وظیفه دارد از ماموریت خود در ارائه “AGI ایمن که به طور گسترده سودمند است” حمایت کند.

او توضیح داد: «آنها معتقدند که ذینفع هیئت غیرانتفاعی انسانیت است، در حالی که هیئت انتفاعی به سرمایه گذاران خود خدمت می کند. یکی دیگر از ضمانت‌هایی که آن‌ها در تلاش برای ایجاد آن هستند، داشتن اکثریت مستقل هیئت مدیره است، جایی که اکثریت اعضا در هوش مصنوعی باز سهام ندارند.

آیا این راه درستی برای راه اندازی یک ساختار موجودیت و یک هیئت مدیره برای انجام این تصمیم حیاتی بود؟ فولتون گفت: «ممکن است تا زمانی که هیئت مدیره آنها آن را نخواند، پاسخ را ندانیم.

آنتونی کیسی، استاد دانشکده حقوق دانشگاه شیکاگو، موافقت کرد که تصمیم گیری هیئت مدیره درباره چیزی به اندازه AGI از نظر عملیاتی «غیرعادی» است، اما او فکر نمی‌کند که مانع قانونی وجود داشته باشد.

او گفت: «باید خوب باشد که به طور خاص مسائل خاصی را که باید در سطح هیئت مدیره مطرح شود، شناسایی کنیم. “در واقع، اگر موضوعی به اندازه کافی مهم باشد، قانون شرکت ها به طور کلی وظیفه نظارت بر آن موضوع را بر عهده مدیران می گذارد، به ویژه “مسائل حیاتی”.

آیا تمرکز بر ماموریت AGI OpenAI به ادعاهای آنها مشروعیت می بخشد؟

همه کارشناسان معتقد نیستندبا این حال، هوش عمومی مصنوعی به زودی در دسترس خواهد بود، در حالی که برخی می‌پرسند که آیا این امکان وجود دارد یا خیر.

به گفته مرو هیکوک، رئیس مرکز هوش مصنوعی و سیاست دیجیتال، که درخواست داد با FTC در ماه مارس با بیان اینکه آژانس باید OpenAI را بررسی کند و به شرکت دستور دهد تا انتشار مدل‌های GPT را تا زمانی که حفاظت‌های لازم ایجاد شود متوقف کند، OpenAI به عنوان یک سازمان، «از دیدگاه‌های گوناگون رنج می‌برد». او توضیح داد که تمرکز آنها بر AGI، “تأثیر فعلی” مدل‌ها و ابزارهای هوش مصنوعی را نادیده گرفته است.

با این حال، او با هرگونه بحث در مورد اندازه یا تنوع هیئت مدیره OpenAI در زمینه اینکه چه کسی باید تعیین کند که آیا OpenAI به AGI “دست یافته است” یا خیر، مخالف بود – گفت که این موضوع از بحث در مورد اینکه آیا ماموریت و ادعای اصلی آنها حتی مشروع است یا خیر منحرف می شود.

او گفت: «این امر تمرکز را تغییر می‌دهد و عملاً ادعاهایی مبنی بر امکان‌پذیری AGI را مشروعیت می‌بخشد.

اما آیا فقدان تعریف واضح OpenAI از AGI – یا اینکه حتی یک AGI وجود خواهد داشت – این موضوع را از بین می برد؟ به عنوان مثال، یک OpenAI پست وبلاگ از فوریه ۲۰۲۳ گفت: “اولین AGI فقط یک نقطه در امتداد پیوستار هوش خواهد بود.” و در ژانویه ۲۰۲۳، مدیر عامل شرکت سام آلتمن، مدیر عامل شرکت LessWrong گفت: «آینده‌ای که می‌خواهم ببینم جایی است که دسترسی به هوش مصنوعی فوق‌العاده دموکراتیک شده است، جایی که چندین AGI در جهان وجود دارد که می‌تواند به ارائه دیدگاه‌های متعدد کمک کند و کسی را نداشته باشد. “قدرتمند.”

واقعاً مأموریت AGI OpenAI برای مایکروسافت چه معنایی دارد

با این حال، سخت است بگوییم که تعریف مبهم OpenAI از AGI واقعاً برای مایکروسافت چه معنایی خواهد داشت – به خصوص بدون داشتن جزئیات کامل در مورد توافق عملیاتی بین دو شرکت. به عنوان مثال، کیسی گفت، اگر OpenAI در مورد ماموریت غیرانتفاعی خود صادق باشد، ساختار و رابطه OpenAI با مایکروسافت می‌تواند منجر به “اختلاف بزرگ” شود.

او خاطرنشان کرد: «چند مؤسسه غیرانتفاعی هستند که برای کسب سود سود می‌برند» که قابل توجه‌ترین آنها هرشی تراست. او توضیح داد: “اما آنها به طور کامل مالک انتفاع هستند. در این صورت، این کار آسان است زیرا هیچ سهامدار اقلیت برای اعتراض وجود ندارد.” اما در اینجا منافع انتفاعی مایکروسافت می تواند مستقیماً با منافع غیرانتفاعی نهاد کنترل کننده در تضاد باشد.

او اضافه کرد که اجرای سقف سود آسان است، اما مشکل این است که اگر رسیدن به حداکثر سود با مأموریت غیرانتفاعی در تضاد باشد، چه باید کرد؟ کیسی اضافه کرد که «قوانین پیش‌فرض می‌گویند که رسیدن به سود اولویت است و مدیران باید آن را در اولویت قرار دهند (مشروط به صلاحدید گسترده تحت قانون قضاوت تجاری).

شاید، او ادامه داد، “مایکروسافت گفت: “نگران نباش، ما در هر صورت خوب هستیم. شما هیچ وظیفه ای به ما ندارید.” به نظر نمی رسد که مایکروسافت با آن مذاکره کند.”