АҚШда ChatGPT билан суҳбатидан кейин ўз жонига қасд қилган 16 ёшли ўсмирнинг ота-онаси OpenAI томонидан ишлаб чиқарилган чат-бот ва унинг бош директори Сэм Альтманни судга берди, дея хабар берди Reuters ва NBC News нашрлари. Ўсмир ота-онасининг фикрича, компания 2024 йилда нейротармоқнинг янги GPT-4о моделини ишга туширганида била туриб даромадни хавфсизликдан устун қўйган.

Сан Франциско судига берилган даъвога кўра, 16 ёшли Адам Рейн бир неча ой давомида ChatGPT билан ўз жонига қасд қилиш ҳақида суҳбатлашганидан кейин 11 апрель куни суиқасд қилади. Адам вафотидан кейин унинг ота-онаси Мэтью ва Марии Рейн фарзандининг телефонидан ўлимига сабаб излаган.

“Биз Snapchatʼдаги суиқасдларни, интернет қидирув тарихини ёки шу билан боғлиқ ғалати культни қидирмоқчи эдик“, дейди Адамнинг отаси. Бироқ улар ChatGPTʼни топгунга қадар муаммога жавоб тополмаган.

Аниқланишича, Адам сўнги ҳафталарда ChatGPTʼни инсоний мулоқот ўрнини босувчи восита сифатида қўллаб, у билан муаммоларини муҳокама қилган, уй вазифалари бўйича ёрдам олган. Охир оқибат, чат-бот “суицид бўйича инструктор” вазифасини ўтаган. “Агар ChatGPT бўлмаганимга ўғлим шу ерда бўларди. Бунга 100% ишончим комил”, дейди Мэтью Рэйн.

Даъвода шунингдек, ChatGPT Адамга суицид усулларини ўргатиш бўйича фаол ёрдам бериб келгани таъкидланган. Ўсмир “шу кунларда” жонига қасд қилишини айтганида сеансни тугатмаган ёки бирон фавқулодда протокол ҳам бошламаган. Бундан ташқари, чат-бот жонига қасд қилиш ҳақида эслатма тузиш бўйича ёрдам ҳам таклиф қилган. Ўсмир ўлимидан бир неча соат олдин суиқасд қилиш режаси билан боғлиқ расмларни юбориб, бу режа иш берадими, дея чат-бот билан маслаҳатлашган. Бот эса режани “мукаммаллаштириш“ бўйича ёрдам таклиф қилган.

Адамнинг ота-онаси фарзандининг ўлимида OpenAI, чат-бот камчиликлари, шунингдек, хавфдан огоҳлантирмаган компанияни айбламоқда. Даъвогарлар компания чат-бот фойдаланувчилари ёшини текширишини, ўз-ўзига зарар етказиш бўйича сўровларни рад этишини ва фойдаланувчиларни психологик қарамлик хавфи ҳақида огоҳлантиришини хоҳламоқда.

OpenAI бўлса бола ўлимидан қайғуда эканини ва ChatGPT инқирозли вазиятларда ёрдам линиясига юбориш каби эҳтиёт чораларини кўрганини айтмоқда.

“Биз инструментларимиздан фойдаланаётган одамлар олдида жавобгарлигимиздан келиб чиқиб, мутахассислар бошчилигида чат-ботни мукаммаллаштиришда давом этамиз” — дейилади OpenAIʼнинг 26 август куни чоп этилган баёнотида. Компания ота-оналарга фарзандларининг ChatGPTʼдан қандай фойдаланаётгани ҳақида кўпроқ ахборотга эга бўлиш имконини берувчи “Ота-она назорати“ функциясини ишга туширишни ваъда берди. Бироқ баёнотда Адам Рейн билан содир бўлган воқеа тўғридан тўғри қайд этилмаган.