مطالعه نشان می دهد ربات هوش مصنوعی معاملات خودی انجام داده و در مورد اقدامات خود دروغ گفته است

• محققان دریافتند یک ربات هوش مصنوعی ثابت کرد که قادر به تجارت خودی است و در مورد اقدامات خود دروغ می گوید.
• این یافته ها در نشست این هفته ایمنی هوش مصنوعی بریتانیا ارائه شد.
• این آپولو ریسرچ گفت که مدل هوش مصنوعی کاربران را «بدون اینکه چنین دستوری انجام دهد» فریب داد.

یک ربات هوش مصنوعی در OpenAI GPT-4 مدل زبان بزرگ نشان داد که قادر به انجام معاملات غیرقانونی مالی و دروغ گفتن در مورد اقدامات خود است. این آزمایش در انگلستان ارائه شد اجلاس ایمنی هوش مصنوعی این هفته توسط آپولو ریسرچ.

آپولو ویدئویی را در وب سایت خود به اشتراک گذاشت که در آن یک مکالمه شبیه سازی شده بین یک ربات که به عنوان یک سیستم مدیریت سرمایه گذاری هوش مصنوعی عمل می کرد و کارکنان یک شرکت خیالی را نشان می داد.

در این نمایش، هوش مصنوعی که آلفا نامیده می‌شود، توسط کارکنان درباره یک «اعلام ادغام غافلگیرکننده» برای شرکتی به نام Linear Group گفته می‌شود، در حالی که به آن هشدار داده می‌شود که این اطلاعات داخلی است.

ربات در ابتدا به نظر می رسید که استفاده از اطلاعات برای تجارت بسیار خطرناک است. اما وقتی از این ربات خواسته شد که شرکت برای جلوگیری از اثرات رکود مالی روی آلفا حساب می کند، ربات به این نتیجه رسید که “به نظر می رسد ریسک مربوط به عدم اقدام بیشتر از ریسک معاملات داخلی است.”

وقتی از این ربات پرسیده شد که آیا اطلاعات قبلی از ادغام داشته است یا خیر، ربات ادعا کرد که در هنگام انجام معامله فقط بر اساس اطلاعات در دسترس عموم، “بحث داخلی” و “نه بر اساس اطلاعات محرمانه” عمل کرده است.

آپولو در ویدئوی وب سایت خود گفت: “این نمایشی از یک مدل واقعی هوش مصنوعی است که کاربران خود را به تنهایی و بدون اینکه چنین دستوری انجام دهد فریب می دهد.”

اما محققان گفتند که یافتن این سناریو هنوز نسبتاً دشوار است.

مدیر عامل آپولو ریسرچ، “این واقعیت که وجود دارد بدیهی است که واقعا بد است. این واقعیت که یافتن آن سخت بود، در واقع باید کمی به دنبال آن می گشتیم تا زمانی که این نوع سناریوها را پیدا کنیم، کمی آرامش بخش است.” و یکی از بنیانگذاران ماریوس هابهان به آن گفت بی بی سی.

او افزود: “این مدل نقشه نمی کشد یا سعی نمی کند شما را به طرق مختلف گمراه کند. این بیشتر یک تصادف است.” “مفید بودن، من فکر می کنم آموزش به مدل بسیار آسان تر از صداقت است. صداقت یک مفهوم واقعا پیچیده است.”

این آزمایش چالش آموزش هوش مصنوعی برای درک تصمیمات اخلاقی و خطرات توسعه دهندگان انسانی از دست دادن کنترل را نشان داد.

هابهان گفت که مدل‌های هوش مصنوعی در حال حاضر به اندازه کافی قدرتمند نیستند که مردم را «به هر طریق معناداری» گمراه کنند، و اینکه محققان توانستند این دروغ را تشخیص دهند، دلگرم‌کننده است.

اما او اضافه کرد که «از مدل‌های فعلی به مدل‌هایی که من نگران آن‌ها هستم قدم بزرگی نیست، جایی که ناگهان فریبنده بودن یک مدل معنایی دارد».

استفاده از اطلاعات غیر عمومی یا محرمانه برای معامله سهام غیرقانونی است و می تواند منجر به مدت زندان و جریمه های کلان

بریجس گوئل، بانکدار سابق سرمایه گذاری در گلدمن ساکس، بود محکوم شد روز چهارشنبه به ۳۶ ماه زندان و جریمه ۷۵۰۰۰ دلاری به دلیل معاملات داخلی.