Amerikaning Anthropic kompaniyasi mutaxassislari toʻlaqonli sunʼiy intellektga ega xodimlar paydo boʻlishiga 1-yil qolganidan ogohlantirdi. Maʼlumotlar xavfsizligi – bu jarayonning asosiy muammolaridan biri ekanligi aytilmoqda.

Anthropic – sobiq OpenAI xodimlari tomonidan asos solingan Amerikaning sunʼiy intellekt texnologiyalari kompaniyasi sanaladi. Kompaniya mutaxassislarining taxminicha, sunʼiy intellekt tomonidan boshqariladigan virtual mutaxassislar kelasi yilning boshlaridayoq paydo boʻlib, ular korporativ tarmoqlar boʻylab tarqala boshlaydi.

Bu nima uchun muhim?

“Bu kabi SI-xodimlar bilan ishlash tashkilotlardan kiberxavfsizlik strategiyasini qayta koʻrib chiqishni talab etadi. Aks xolda, tizimda jiddiy buzilish xavfi mavjud. Virtual xodimlar SI innovatsiyasining navbatdagi oʻchogʻi boʻlishi mumkin”, – deydi kompaniyaning axborot xavfsizligi xizmati rahbari Jeyson Klinton Axios nashriga bergan intervyusida.

SI-xodimlar odatda konkret, dasturlashtirilgan vazifalarni bajarishga ixtisoslashadi. Xavfsizlik nuqtayi nazaridan bu shuni anglatadiki, fishing ogohlantirishlari va boshqa xavf koʻrsatgichlariga avtonom agentlar javob beradi. SI-mutaxassislar xotira, shaxsiy lavozim va hatto, oʻzining korporativ hisob (akkaunt) va parollariga ega boʻladi. Natijada, avtonomlik darajasi amaldagi agentlarnikidan sezilarli darajada oshadi.

“Bu dunyoda xavfsizlik nuqtayi nazaridan hal qilinmagan va hozir yechishimiz kerak boʻlgan muammolar koʻp” – deydi Klinton.

Unga koʻra, muammolar

• • - SI-xodimlarning internetdagi akkauntini qanday himoya qilish;
  • - tarmoqlarga kirish imkonini (dostup) ularga qanday berish;
  • - ularning harakatlarini boshqarishga kim javobgar, kabi masalalarni oʻz ichiga oladi.

Klinton aytishicha, Anthropic kompaniyasi sunʼiy intellekt bilan bogʻliq xavfsizlik muammolarini hal qilish uchun oldida ikki majburiyat bor deb hisoblaydi:

Birinchisi – Claude modellarini kiberhujumlarga bardoshli ekaniga ishonch hosil qilish uchun sinchkovlik bilan tekshirish;

Ikkinchisi – firibgarlar Claudeʼdan foydalanishi mumkin boʻlgan usullarni kuzatib, bartaraf etish.

Tarmoq administratorlari qaysi akkauntlar turli tizimlarga kira olishini hamda darknetda xodimlarga tegishli akkauntlarning login-parollarini sotib oladigan firibgarlarni kuzatib borishi kerak. Kompaniya mutaxassisi shuningdek, virtual xodimlar himoyasi – SI bilan ishlaydigan kompaniyalar kelgusi bir necha yil ichida sarmoya kiritishi kerak boʻlgan xavfsizlikning eng muhim sohalaridan biri ekanini taʼkidladi. Tizimda SI bilan ishlaydigan xodim hisobining shaffofligini taʼminlaydigan yechimlar, shuningdek, virtual xodimlar tomonidan boshqariladigan hisob kvalifikatsiyasi alohida ahamiyatga ega.

Soʻngi vaqtlarda sunʼiy intellekt sferasida ishlaydigan yirik kompaniyalar oʻz yoʻnalishiga katta sarmoya kiritishning eng yuqori choʻqqisiga chiqdi. Tabiiyki, sunʼiy intellektni ish jarayonlariga tadbiq qilish bir qator murakkabliklarni ham keltirib chiqarmoqda. Qolaversa, virtual xodimlarni qanday boshqarish zarurligini tushunish ham oson emas.

2024-yilda samaradorlikni baholash masalalari bilan shugʻullanuvchi Lattice kompaniyasi SI-botlar “ish kuchining bir qismi” boʻlishi kerakligini, shuningdek, ular korporativ tizimlarda xodim sifatida lavozim egallashi ham kerakligini aytdi. Biroq bu taklifga bir qancha eʼtirozlar kelib tushgach kompaniya yoʻnalishini tezda oʻzgartirdi.

Taʼkidlash kerakki, kiberxavfsizlik tizimini ishlab chiqaruvchi bir qancha kompaniyalar endi virtual xodimlarni boshqarishga qaratilgan mahsulotlar chiqara boshladi. Joriy yilning fevral oyida Okta kompaniyasi insonlarga tegishli boʻlmagan akkauntlarni samaraliroq himoyalash uchun yagona boshqaruv platformasini ishlab chiqardi. Bu tizim shuningdek, har bir kompaniya hisobining qaysi tizimlarga kirishi ustidan doimiy nazoratni ham taʼminlaydi, shubhali boʻlgan har qanday faollikni kuzatadi.