Американинг Anthropic компанияси мутахассислари тўлақонли сунъий интеллектга эга ходимлар пайдо бўлишига 1 йил қолганидан огоҳлантирди. Маълумотлар хавфсизлиги – бу жараённинг асосий муаммоларидан бири эканлиги айтилмоқда.

Anthropic – собиқ OpenAI ходимлари томонидан асос солинган Американинг сунъий интеллект технологиялари компанияси саналади. Компания мутахассисларининг тахминича, сунъий интеллект томонидан бошқариладиган виртуал мутахассислар келаси йилнинг бошларидаёқ пайдо бўлиб, улар корпоратив тармоқлар бўйлаб тарқала бошлайди.

Бу нима учун муҳим?

“Бу каби СИ-ходимлар билан ишлаш ташкилотлардан киберхавфсизлик стратегиясини қайта кўриб чиқишни талаб этади. Акс холда, тизимда жиддий бузилиш хавфи мавжуд. Виртуал ходимлар СИ инновациясининг навбатдаги ўчоғи бўлиши мумкин”, – дейди компаниянинг ахборот хавфсизлиги хизмати раҳбари Жейсон Клинтон Axios нашрига берган интервьюсида.

СИ-ходимлар одатда конкрет, дастурлаштирилган вазифаларни бажаришга ихтисослашади. Хавфсизлик нуқтаи назаридан бу шуни англатадики, фишинг огоҳлантиришлари ва бошқа хавф кўрсатгичларига автоном агентлар жавоб беради. СИ-мутахассислар хотира, шахсий лавозим ва ҳатто, ўзининг корпоратив ҳисоб (аккаунт) ва паролларига эга бўлади. Натижада, автономлик даражаси амалдаги агентларникидан сезиларли даражада ошади.

“Бу дунёда хавфсизлик нуқтаи назаридан ҳал қилинмаган ва ҳозир ечишимиз керак бўлган муаммолар кўп” – дейди Клинтон.

Унга кўра, муаммолар

• • СИ-ходимларнинг интернетдаги аккаунтини қандай ҳимоя қилиш;
  • тармоқларга кириш имконини (доступ) уларга қандай бериш;
  • уларнинг ҳаракатларини бошқаришга ким жавобгар, каби масалаларни ўз ичига олади.

Клинтон айтишича, Anthropic компанияси сунъий интеллект билан боғлиқ хавфсизлик муаммоларини ҳал қилиш учун олдида икки мажбурият бор деб ҳисоблайди:

Биринчиси – Claude моделларини киберҳужумларга бардошли эканига ишонч ҳосил қилиш учун синчковлик билан текшириш;

Иккинчиси – фирибгарлар Claudeʼдан фойдаланиши мумкин бўлган усулларни кузатиб, бартараф этиш.

Тармоқ администраторлари қайси аккаунтлар турли тизимларга кира олишини ҳамда даркнетда ходимларга тегишли аккаунтларнинг логин-паролларини сотиб оладиган фирибгарларни кузатиб бориши керак.

Компания мутахассиси шунингдек, виртуал ходимлар ҳимояси – СИ билан ишлайдиган компаниялар келгуси бир неча йил ичида сармоя киритиши керак бўлган хавфсизликнинг энг муҳим соҳаларидан бири эканини таъкидлади.

Тизимда СИ билан ишлайдиган ходим ҳисобининг шаффофлигини таъминлайдиган ечимлар, шунингдек, виртуал ходимлар томонидан бошқариладиган ҳисоб квалификацияси алоҳида аҳамиятга эга.

Сўнги вақтларда сунъий интеллект сферасида ишлайдиган йирик компаниялар ўз йўналишига катта сармоя киритишнинг энг юқори чўққисига чиқди. Табиийки, сунъий интеллектни иш жараёнларига тадбиқ қилиш бир қатор мураккабликларни ҳам келтириб чиқармоқда. Қолаверса, виртуал ходимларни қандай бошқариш зарурлигини тушуниш ҳам осон эмас.

2024 йилда самарадорликни баҳолаш масалалари билан шуғулланувчи Lattice компанияси СИ-ботлар “иш кучининг бир қисми” бўлиши кераклигини, шунингдек, улар корпоратив тизимларда ходим сифатида лавозим эгаллаши ҳам кераклигини айтди. Бироқ бу таклифга бир қанча эътирозлар келиб тушгач компания йўналишини тезда ўзгартирди.

Таъкидлаш керакки, киберхавфсизлик тизимини ишлаб чиқарувчи бир қанча компаниялар энди виртуал ходимларни бошқаришга қаратилган маҳсулотлар чиқара бошлади. Жорий йилнинг февраль ойида Okta компанияси инсонларга тегишли бўлмаган аккаунтларни самаралироқ ҳимоялаш учун ягона бошқарув платформасини ишлаб чиқарди. Бу тизим шунингдек, ҳар бир компания ҳисобининг қайси тизимларга кириши устидан доимий назоратни ҳам таъминлайди, шубҳали бўлган ҳар қандай фаолликни кузатади.