هک اوپن ای آی توسط کلاود

هک اوپن ای آی توسط کلاود به گزارش لینک بخر دات کام سه محقق امنیتی از مدل های هوش مصنوعی کلاود متعلق به شرکت آنتروپیک برای نفوذ به سیستم های داخلی اوپن ای آی از طریق انجمن گفتگوی این شرکت استفاده کردند.


به گزارش لینک بخر دات کام به نقل از دیکودر، این حمله در کمتر از ۷۲ ساعت انجام شد و به قول محققان، تنها هنگام استفاده از مدل «اوپوس ۵» ممکن بود.
پس از آن که این شرکت برای چند ماه به عامل های هوش مصنوعی اجازه داد در اینترنت فعالیت کنند و عملیات هک را انجام دهند، خود اوپن ای آی هم هدف حمله ای قرار گرفت که با کمک هوش مصنوعی انجام شد.
تیم امنیتی Hacktron با زنجیره کردن دو صدمه پذیری، توانست به حساب های ChatGPT و Codex کارکنان اوپن ای آی دسترسی پیدا کند و از آنجا وارد مخزن کد داخلی این شرکت در گیت هاب شود.
این حمله از راه انجمن گفتگوی اوپن ای آی به آدرس community.openai.com انجام شد. به قول محققان، هر کاربر یا کارمندی که از قابلیت «ورود با اوپن ای آی» بهره برده باشد، ممکنست در معرض این روند قرار گرفته باشد.
کاربران می توانند حساب های خویش را به سرویس هایی مانند گیت هاب، اسلک و ایمیل متصل کنند و از راه Codex و ChatGPT هم ایمیل ارسال نمایند. بنابراین، از نظر تئوری، این حمله می توانست امکان دسترسی به این سرویس ها را هم فراهم آورد.
محققان برای اثبات دسترسی خود، از حساب کاربری یکی از کارکنان در Codex استفاده کردند و یک درخواست بی خطر در یکی از مخازن داخلی شرکت ایجاد کردند. آنها مدعی اند که در جریان این آزمایش هیچ داده حساسی را مشاهده نکرده اند.
 


منبع:

1405/06/28
18:41:13
5.0 / 5
5
تگهای خبر: اوپن ای آی , اینترنت , سرویس , سیستم
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
نظر شما در مورد این مطلب
نام:
ایمیل:
نظر:
سوال:
= ۸ بعلاوه ۵