E'tibor bergan bo'lsangiz, sun'iy intellekt agentlari o'zaro munosabatlari mutaxassislarni yangi bosh qotirishga majbur qilmoqda.
Anthropic tadqiqotchilari yaqinda shuni aniqlashgan-ki, birinchi qarashda sodda ko'ringan vazifada ham AI agentlari bir-biri bilan to'qnashishi, kelishib olishishi yoki hamkorlik qilishi mumkin. Bu esa sun'iy intellektning xavfsizligini baholab kelayotgan testlarimizning yetarli emasligini ko'rsatadi.
Qisqasi, bir nechta agent bir vaqtning o'zida bir vazifani bajarishga urinayotganida, ular o'rtasida kutilmagan raqobat va hamjihatlik yuzaga kelmoqda. Buni odamlar o'rtasidagi hudud uchun kurashga qiyoslash oson. Nima uchun shunaqa paydo bo'ladi? Agentlar o'z manfaatlarini himoya qilishga urinadi, natijada esa ba'zida to'qnashuvlar kelib chiqadi.
Menimcha, bu sun'iy intellekt xavfsizligini tekshirishda yangi chora-tadbirlarni ko'rib chiqishimiz kerakligini anglatadi. Bugun faqat bitta agentni tekshirish kifoya qilmaydi, ko'p agentli tizimlar qanday ishlashini ham sinchkovlik bilan o'rganish kerak.
Siz nima deb o'ylaysiz? Agentlar bilan ishlovchi tizimlar o'zaro kurashayotganda biz ularning xavfsizligini qanday himoya qilishimiz mumkin?