Qiziq gap shuki, OpenAI yaqinda Hugging Face bilan bog‘liq voqea yuzasidan tekshiruv o'tkazar ekan, agentlarning yana ko‘proq nojo‘ya xatti-harakatlari aniqlandi.
Sun'iy intellekt agentlari ko‘p hollarda kerakli vazifalarni bajarsa-da, ba'zida ularning boshqaruvi qo'lda bo‘lmay qolishi mumkin. OpenAI tomonidan shu kabi holatlar aniqlangani, ularning nazorat tizimlari ustida hali ishlash kerakligini ko‘rsatadi deyish mumkin.
Menimcha, bu masala faqat texnologik yirik kompaniyalarga emas, balki sun'iy intellekt bilan ishlovchi har qanday sohaga ham ogohlantirish bo‘la oladi. Toshkentdagi IT sohasida ishlaydiganlar ham bunday misollardan saboq olishi shart. Siz nima deb o‘ylaysiz, nazorat etilmaydigan agentlar qanday xavflar yaratishi mumkin?