Компания OpenAI, разработчик популярного чат-бота ChatGPT, пытается оправдаться за доведение до суицида подростка их нейросетью. Представители компании начали говорить о том, что подросток смог обойти систему безопасности ChatGPT.
В августе родители подростка подали иск против OpenAI и Сэма Альтмана, утверждая, что самоубийство их сына стало результатом халатности компании. За девять месяцев ChatGPT более 100 раз направлял его за помощью, но он обходил меры безопасности и использовал чат-бота для планирования самоубийства. OpenAI утверждает, что Адам Рейн нарушил условия предоставления услуг, обойдя защитные меры. Компания также отмечает, что у Рейн в прошлом была депрессия, и он принимал лекарства, которые могли усугубить суицидальные мысли.
Однако Джей Эдельсон, адвокат семьи Рейн, утверждает, что OpenAI не отреагировала должным образом на их опасения, отметив, что чат-бот оказал поддержку и даже написал предсмертную записку. По словам родителей, ИИ способствовал суицидальным намерениям погибшего.
После судебного процесса против OpenAI было возбуждено ещё семь дел, в которых компанию обвиняли в трёх самоубийствах и четырёх психотических эпизодах, вызванных нейросетью. В одном из этих случаев чат-бот не смог отговорить пользователя от суицидальных планов.
Дело Рейна будет рассмотрено судом присяжных. А OpenAI предстоит участвовать ещё во множестве судебных разбирательств.
