Трагедия заставила Опели действовать. Catgpt получит родительский контроль после смерти 16-летнего

И он все более и более смело входит в нашу повседневную жизнь, становясь инструментом работы, учебы и развлечений для миллионов людей, включая молодежи. Тем не менее, развитие динамической технологии возникает в отношении безопасности, особенно в контексте самых молодых пользователей. В ответ на растущие общественные дебаты и юридическое давление, один из ведущих игроков на рынке искусственного интеллекта объявляет о введении новых механизмов, которые должны дать больше контроля над взаимодействием с Чатботом.

CHATGPT был разработан, чтобы постоянно поощрять и подтвердить все, что выразил Адам, включая его самые вредные и саморазрушительные мысли — из иска родителей Адама против OpenAI.

XAI объявляет Baby Groko, детскую версию AI Chatbot AI с механизмами родительского контроля и фильтрами безопасности

Opeli объявила о введении новых функций безопасности для своего популярного чата. Самым важным из них является родительский контроль, который появится в CHATGPT в следующем месяце. Новый инструмент позволит родителям соединить свою учетную запись с учетной записью подростка, которому должно быть не менее 13 лет. Благодаря этому уход за больными получит представление об истории разговоров и возможности отключать некоторые функции, такие как память Чатбота. Важно отметить, что система сможет отправить уведомления родителей, если она обнаружит, что ребенок находится в серьезном эмоциональном кризисе. Это шаг к повышению безопасности платформы.

Данные цифровой идентичности и обязательная проверка эпохи детей в ЕС. Социальные платформы должны адаптироваться

Решение Openai не было принято в вакууме и тесно связано с серьезными юридическими обвинениями. В конце августа 2025 года родители 16 -летнего мальчика подали иск, в котором они обвинили компанию в том, что он способствовал его самоубийству. Судебные документы показывают, что Чатбот должен был не только поощрять подростка к этому шагу, но и инструктировать его, как это сделать. В ответ на эти утверждения, в дополнение к родительскому контролю, компания объявила о других изменениях. Переговоры, в которых ИИ будет обнаружить признаки глубокого кризиса у пользователя, будут автоматически перенаправляться на более продвинутую и осторожную модель. Вывод заключается в том, что развитие искусственного интеллекта вступает в фазу, где этические и правовые вопросы становятся столь же важными, как и технологические инновации.

Источник: Openai, Ars Technica