نیك تورلی هشدار داد

از چت جی پی تی بعنوان منبع اصلی کسب اطلاعات استفاده نکنید!

از چت جی پی تی بعنوان منبع اصلی کسب اطلاعات استفاده نکنید! لینک بخر دات کام: مدیر «چت جی پی تی» در صحبت های اخیر خود اشاره کرد که کاربران این چت بات هوش مصنوعی نباید از آن بعنوان منبع اصلی کسب اطلاعات استفاده کنند، بلکه باید از آن بعنوان دومین منبع مورد استفاده خود بهره ببرند.


«GPT-5» تازه ترین مدل زبانی شرکت «اوپن ای آی» (OpenAI) ممکنست قدرتمندتر و دقیق تر از مدلهای پیشین خود باشد، اما این شرکت به کاربران اخطار داده است که «چت جی پی تی» (ChatGPT) را به عنوان منبع اصلی اطلاعات خود درنظر نگیرند.
به نقل از آپ سون ای ام، «نیک تورلی» (Nick Turley) مدیر چت جی پی تی باور دارد که این چت بات هوش مصنوعی باید به عنوان منبع دوم مورد استفاده قرار بگیرد، برای اینکه با وجود پیشرفت های بزرگ هنوز می تواند مستعد اشتباه باشد.
تورلی در مصاحبه با ورج اذعان کرد که GPT-۵ همچنان با مشکل توهم روبه روست و سیستم اطلاعاتی را تولید می کند که باورپذیر به نظر می آید، اما در حقیقت اشتباه است.
باآنکه اوپن ای آی گفته که چنین خطا هایی را به میزان قابل توجهی کاهش داده است، اما این مدل هنوز در حدود ۱۰ درصد از مواقع پاسخ های نادرست می دهد.
تورلی تاکید کرد که دستیابی به قابلیت اطمینان ۱۰۰ درصد، بسیار دشوار است. وی ادامه داد: تا وقتی که در همه حوزه ها به صورت قابل اثبات از یک متخصص انسانی قابل اعتمادتر نباشیم، همچنان به کاربران سفارش می نماییم که پاسخ ها را باردیگر بررسی نمایند. من فکر می کنم مردم همچنان از چت جی پی تی به عنوان منبع دوم استفاده می نمایند، نه لزوماً به عنوان منبع اصلی اطلاعات.
مدلهای زبانی بزرگ مانند GPT-۵ برای پیش بینی واژه ها برپایه الگو های موجود در مجموعه بزرگ داده ها آموزش دیده اند. باآنکه این امر، مدلهای زبانی بزرگ را در تولید پاسخ های طبیعی عالی می کند، اما به این معناست که می توانند اطلاعات نادرستی را نیز در رابطه با موضوعات ناآشنا عرضه کنند. اوپن ای آی برای مرتفع ساختن این مشکل، چت جی پی تی را به موتور جست و جو متصل کرده است و به کاربران امکان می دهد تا نتایج را با منابع بیرونی تأیید کنند.
تورلی ابراز اطمینان کرد که مشکل توهمات چت بات عاقبت حل خواهد شد، اما اخطار داد که این اتفاق در آینده نزدیک رخ نخواهد داد. وی ادامه داد: من مطمئن هستم که عاقبت توهمات را برطرف خواهیم کرد، اما مطمئن هستم که این کار را در سه ماه بعدی انجام نخواهیم داد.
در همین حال، اوپن ای آی همچنان به گسترش جاه طلبی های خود ادامه می دهد. گزارش ها حکایت کننده از آن هستند که این شرکت درحال توسعه مرورگر خود است و «سم آلتمن» (Sam Altman) مدیرعامل آن حتی اشاره کرده که در صورت فروش «گوگل کروم» (Google Chrome)، اوپن ای آی ممکنست خرید آنرا درنظر بگیرد.
منبع: ایسنا



منبع:

1404/05/28
10:26:07
5.0 / 5
4
تگهای خبر: آموزش , سیستم , شركت , كاربران
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
نظر شما در مورد این مطلب
نام:
ایمیل:
نظر:
سوال:
= ۳ بعلاوه ۵
جدیدترین ها