اختصاصی: هوش مصنوعی Jaxon با IBM Watson در نبرد با توهم هوش مصنوعی متحد می شود.

هنگامی که یک سیستم هوش مصنوعی برای تولید محتوا روی یک متن توهم می کند، وضعیت ایده آلی نیست، اما لزوما فاجعه آمیز نیست. اگر یک هوش مصنوعی که تکه ای از فناوری نظامی را نیرو می دهد توهم ایجاد کند، نتیجه احتمالاً عواقب شدیدتری خواهد داشت.

هوش مصنوعی جکسون کار خود را با ساختن سیستم های هوش مصنوعی برای نیروی هوایی ایالات متحده با الزامات برای بالاترین سطح اطمینان و دقت آغاز کرد. این استارت‌آپ اکنون با فناوری توسعه‌یافته‌ای به نام زبان هوش مصنوعی دامنه خاص (DSAIL) در حال گسترش به بازار بزرگ‌تر سازمانی است که به دنبال مقابله با یک چالش بزرگ در هوش مصنوعی است: توهمات و عدم دقت در مدل‌های زبان بزرگ (LLM). این فناوری از IBM استفاده می کند مدل های فونداسیون واتسونکس و نشان دهنده یک رویکرد جدید برای توسعه راه حل های هوش مصنوعی قابل اعتمادتر است.

اسکات کوهن، مدیر عامل Jaxon AI به VentureBeat گفت: شعار ما هوش مصنوعی برای هوش مصنوعی است زیرا ما از Jaxon برای کمک به کاربران برای ایجاد هوش مصنوعی سفارشی استفاده می کنیم.

چگونه DSAIL برای به حداقل رساندن خطر توهم هوش مصنوعی کار می کند

توهم زمانی رخ می دهد که یک سیستم هوش مصنوعی پاسخ نادرستی به یک پرس و جو ایجاد کند. عدم دقت می تواند ناشی از چندین عامل مختلف باشد، مانند داده های آموزشی ناقص و عدم تأیید.

هدف رویکرد DSAIL کمک به کاهش خطر توهم است. کوهن توضیح داد که DSAIL ورودی‌های زبان طبیعی را می‌گیرد و آنها را به یک قالب زبان باینری تبدیل می‌کند که سپس می‌تواند از طریق یک دسته چک و تعادل اجرا شود، مانند یک ارضاکننده بولی، تا اطمینان حاصل شود که پاسخ هوش مصنوعی قبل از بازگرداندن، تمام محدودیت‌ها را برآورده می‌کند. این کار برای محدود کردن عدم قطعیت و افزایش قابلیت اطمینان سیستم هوش مصنوعی برای برنامه‌ها انجام می‌شود.

یک رویکرد متداول که توسط چندین فروشنده برای کمک به کاهش توهم استفاده می‌شود، Retrieval Augmented Generation (RAG) است. در مدل RAG، LLM همچنین به یک پایگاه دانش برای کمک به دریافت پاسخ های دقیق دسترسی خواهد داشت.

کوهن توضیح داد که RAG یکی از تکنیک‌هایی است که DSAIL برای رسیدگی به مشکل توهم استفاده می‌کند، اما این تنها بخشی از این رویکرد است. او خاطرنشان کرد که با DSAIL، خروجی تکنیک RAG هنوز باید از طریق چک‌ها اجرا شود، قبل از اینکه در نتیجه به کاربر بازگردانده شود تا توهم بیشتر محدود شود.

IBM watsonx به عنوان یک بلوک اساسی برای Jaxon عمل می کند

جکسون از مدل هایی استفاده می کند IBMکتابخانه بنیاد watsonx به عنوان بلوک های ساختمانی برای سیستم های هوش مصنوعی آن.

کوهن توضیح داد که مدل StarCoder IBM به طور خاص برای مرحله تولید کد در Jaxon AI استفاده می شود. Jaxon از قابلیت‌های StarCoder برای تولید خودکار کدهای اولیه برای پروژه‌های هوش مصنوعی بر اساس طراحی و الزامات جمع‌آوری‌شده استفاده می‌کند، که این یک مرحله در روش کلی Jaxon برای ساختن سیستم‌های AI سفارشی است.

این StarCoder LLM یک تلاش منبع باز است که در ابتدا در ماه می با پشتیبانی ServiceNow و Hugging Face راه اندازی شد. ساویو رودریگز، معاون مهندسی اکوسیستم و حمایت از توسعه دهندگان در IBM به VentureBeat گفت که IBM در واقع یکی از مؤسسان پروژه StarCoder بوده است. او همچنین خاطرنشان کرد که IBM با Hugging Face همکاری نزدیکی دارد تا به ارائه مدل‌های باز به کاربران سازمانی کمک کند.

برای روشن بودن، IBM چندین ابزار LLM تولید کد را در کتابخانه watsonx خود دارد. در حالی که StarCoder دارای قابلیت های گسترده ای است، مدل های خود IBM بر موارد استفاده خاص متمرکز شده اند. IBM از LLM تولید کد خود برای کمک استفاده کرده است انتقال کد COBOL و ساختن کاربردهای محاسبات کوانتومی.

IBM در حال ساخت یک بازی اکوسیستمی برای جاسازی watsonx در ابزارهای فروشنده نرم افزار است

بازار فناوری های مولد هوش مصنوعی و LLM یک بازار رقابتی است و بازیگران بزرگی از جمله OpenAI، مایکروسافت، گوگل و خدمات وب آمازون (AWS) دارند.

IBM به دنبال بخشی از بازار خود است، به ویژه به دنبال کمک به توسعه دهندگان و فروشندگان مستقل نرم افزار (ISV) مانند Jaxon AI از طریق برنامه ای به نام IBM Build.

رودریگز توضیح داد که IBM Build به شرکای خود دسترسی به watsonx، کمک فنی و پشتیبانی از بازار را فراهم می کند. هدف کلی ارائه مدل های پایه هوش مصنوعی قابل اعتماد و قابل اعتماد به سازمان ها با قیمت گذاری، عملکرد و در دسترس بودن است.

رودریکز گفت: «ما می دانیم که مشتریان ما به رویکردی که IBM در مورد هوش مصنوعی اتخاذ کرده است، از نقطه نظر نحوه آموزش مدل های خود و بررسی های قانونی که انجام می دهیم، اعتماد دارند.