Bilasizlarmi, Anthropic kompaniyasi yaqinda e'lon qilgan Fable nomli yangi sun'iy intellekt modeli orasida cybersecurity sohasidagi olimlar orasida norozilik kuchaymoqda.
Sababi esa — modelning xavfsizlik va axborot himoyasi uchun o'rnatilgan cheklovlari juda qat'iy ekan. Ular shunday darajada kuchli qoidalarga rioya qiladiki, haqiqiy kiberxavfsizlik tadqiqotlarini amalga oshirish ayniqsa qiyinlashadi deb o'ylayman.
Masalan, odatda pentesting yoki zaifliklarni aniqlash uchun zarur bo'lgan testlarni model o'zi rad etmoqda. Bu esa mutaxassislarning ish faoliyatiga to'sqinlik qilmoqda. Cybersecurity sohasida o'zimizning Toshkentda ham shunday tajribalarga duch kelganmiz — ba'zi platformalar juda qat'iy qoidalar orqali foydalanuvchilarni cheklaydi, natijada ular kerakli testlarni bajara olmaydi.
Qisqasi, Fable modeli yaratishda xavfsizlikni ta'minlash uchun ustun kelgan yondashuv, kelajakda ushbu texnologiyani amaliyotda qo'llashni qiyinlashtirmoqda, deb o'ylayman. Sizningcha, sun'iy intellektdagi shu kabi cheklovlar qanchalik zarur? Yo'qligida esa xavfsizlikka ziyon yetish xavfi bormi?