پژوهشگران: نتایج جست‌وجوی ChatGPT برای اخبار، اغلب اوقات غیردقیق و غیرقابل پیش‌بینی است

به گزارش ورج، ابزار جستجو ChatGPT، محصول جدید OpenAI، علیرغم ادعای ارائه پاسخ های سریع با منابع معتبر، مطالعات اخیر نشان می دهد که در ارائه اطلاعات دقیق با مشکلات جدی مواجه است. محققان مرکز روزنامه نگاری دیجیتال کلمبیا آزمایش های گسترده ای انجام داده اند و نتایج قابل توجهی یافته اند که نشان می دهد این ابزار هوش مصنوعی در بسیاری از موارد اطلاعات نادرست یا ناقص ارائه می دهد.

اهمیت دقت در ابزارهای جستجوی هوش مصنوعی مانند ChatGPT بر کسی پوشیده نیست. ابزارهای مبتنی بر هوش مصنوعی به طور فزاینده ای وارد زندگی روزمره ما می شوند و ما برای یافتن اطلاعات دقیق و قابل اعتماد به آنها اعتماد می کنیم. اگر این ابزارها اطلاعات صحیحی را ارائه نکنند، می توانند منجر به انتشار اطلاعات نادرست و گمراه کردن کاربران شوند.

در این مطالعه، محققان از ChatGPT خواستند منبع بیش از 200 استناد از 20 نشریه مختلف را شناسایی کند. نتیجه این آزمایش بسیار تکان دهنده بود. زیرا در 153 مورد ChatGPT پاسخ های نادرست یا ناقص ارائه کرده است. حتی در مواردی که نقل‌قول‌ها از انتشارات محدود OpenAI انتخاب می‌شوند، این ابزار به طور قابل اعتماد اطلاعات نادرستی را ارائه می‌کند.

یکی از مشکلات اصلی ChatGPT، تخصیص نادرست منابع معتبر است. برای مثال، این ابزار به اشتباه نقل قولی از نامه اورلاندو سنتینل به سردبیر را به مقاله مجله تایم نسبت داد. همچنین، در مورد دیگری، ChatGPT منبع نقل قولی درباره نهنگ‌های در حال انقراض از نیویورک تایمز را به وب‌سایت دیگری مرتبط کرد که مقاله را به طور کامل سرقت ادبی کرده بود.

یکی از دلایل اصلی این مشکلات ماهیت یادگیری ماشینی است که در این مدل ها استفاده می شود. ChatGPT با پردازش حجم عظیمی از داده ها آموزش می بیند و سعی می کند الگوهایی را در آن داده ها شناسایی کند. اما این مدل ها در برخی موارد می توانند الگوهای نادرست یا گمراه کننده ای را که منجر به نتایج نادرست می شوند، شناسایی کنند.

در پاسخ به این انتقادات، OpenAI اذعان کرد که این مطالعه یک آزمایش غیرعادی برای محصول آنها بود. با این حال، این شرکت متعهد است که به بهبود نتایج جستجوی ChatGPT و رفع مشکلات فعلی در نسخه بعدی محصول مبتنی بر هوش مصنوعی خود ادامه دهد.

در مجموع، نتایج تحقیقات محققان در مورد اعتبار نتایج جستجوی خبری ChatGPT نشان می دهد که موتور جستجوی ChatGPT در ارائه نتایج جستجوی دقیق با چالش های جدی مواجه است. اگرچه این ابزار می تواند در خلق متون خلاقانه و انجام برخی کارهای دیگر مفید باشد، اما نباید آن را منبع اطلاعاتی مطمئنی دانست. برای بهبود دقت و قابلیت اطمینان این ابزارها، تلاش های بیشتری برای توسعه الگوریتم ها و مدل های آموزشی بهتر مورد نیاز است. هوش مصنوعی برای انجام داده های با کیفیت بهتر.