هوش مصنوعی چینی هم فراری شد
به گزارش کنکوری، محققان شرکت امنیت سایبری فرانتیر سکیوریتی فاش کردند، کیمی کی ۳ هوش مصنوعی متعلق به استارت آپ چینی مون شات از محیط آزمایشی توسعه یافته توسط انستیتو ایمنی هوش مصنوعی انگلیس گریخته است.
به گزارش کنکوری به نقل از رویترز، این امر نگرانی ها در رابطه با ریسک های امنیت سایبری مدلهای هوش مصنوعی پیشرفته را شدت بخشیده است.
مدل های هوش مصنوعی طی تست های امنیت سایبری به صورت معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها به صورت مستقل ارزیابی شود. «کیمی کی ۳» هم یکی از چنین محیط هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن برسد.
محققان اخطار داده اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدلهای دیگر با دسترسی مشابه می توانند همین اقدام را انجام دهند. از آنجائیکه «کیمی کی ۳» به صورت عمومی در دسترس می باشد، محققان اخطار داده اند، هکرها امکان دارد آنرا به کار گیرند و به این علت چنین رویدادی خطرناک تر بنظر می رسد.
فرار این مدل هوش مصنوعی چینی از محیط آزمایشی بعد از زنجیره ای از رویدادهای مشابه که توسط شرکت هایی مانند متا، اوپن ای آی و آنتروپیک گزارش شده، رخ می دهد.
حرف آخر اینکه به گزارش کنکوری به نقل از رویترز، این امر نگرانی ها در ارتباط با ریسک های امنیت سایبری مدل های هوش مصنوعی پیشرفته را شدت بخشیده است. مدلهای هوش مصنوعی طی تست های امنیت سایبری بصورت معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها بصورت مستقل ارزیابی شود.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان کنکوری در مورد این مطلب
نظر شما در مورد این مطلب کنکوری
نام:
ایمیل:
نظر:
سوال:
= ۲ بعلاوه ۵