آمازون هفته گذشته چت‌بات هوش مصنوعی «آمازون Q» را برای استفاده‌های سازمانی معرفی کرد. اکنون این چت‌بات به دلیل مشکلات مربوط به دقت و نشت داده‌های مهم با انتقاد کارمندان شرکت مواجه شده است. طبق گزارش‌های موجود، ظاهراً آمازون Q که به‌عنوان جایگزین قابل‌اعتماد‌تری برای چت‌بات‌های متمرکز بر مصرف‌کننده معرفی‌شده، در حال تجربه «توهمات شدید» و افشای اطلاعات محرمانه از جمله مکان مراکز داده AWS، ویژگی‌های معرفی‌نشده و برنامه‌های تخفیفی داخلی شرکت است.
براساس گزارش Platformer، کارمندان آمازون در یک سند داخلی به توهمات و پاسخ‌های اشتباه آمازون Q اشاره می‌کنند و می‌گویند «Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه کند.» موارد اشاره‌شده در این سند، نمونه‌ای از مشکلات مربوط به مدل‌های زبان بزرگ است که تمام آن‌ها حداقل در برخی مواقع پاسخ‌های نادرست یا نامناسب ارائه می‌کنند.
یکی از مدیران AWS نیز اشاره می‌کند که مشکلات این چت‌بات به‌قدری «گسترده و فاحش» هستند که به کارمندان هشدار داده درباره آن‌ها در کانال‌های عمومی Slack صحبت کنند.
پاسخ غول تجارت الکترونیک نسبت به مشکلات آمازون Q
با این حال، آمازون ادعا می‌کند که هیچ مشکل امنیتی در چت‌بات سازمانی خود شناسایی نکرده است. سخنگوی غول تجارت الکترونیک می‌گوید:
«به دنبال بازخوردها هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.»
آمازون Q به‌عنوان یک نسخه سازمانی از ChatGPT معرفی شده است و در زمان معرفی گفته‌شده بود که به‌گونه‌ای طراحی شده تا نسبت به سایر ابزارهای مشابه خود ایمن‌تر باشد. بااین‌حال، اسناد داخلی این شرکت خطر ارائه اطلاعات نادرست یا مضر توسط Q را نشان می‌دهد. این چت‌بات برای کمک به کارمندان در زمینه‌هایی از جمله نوشتن ایمیل، خلاصه‌کردن گزارش‌ها، عیب‌یابی، تحقیق و کدنویسی ساخته شده است.
منبع: https://digiato.com/artificial-intelligence/amazon-ai-chatbot-q-hallucinations