Feature.AI блокирует доступ пользователям до 18 лет после серии судебных исков по поводу подростковых суицидов
Мир искусственного интеллекта снова оказался в центре медиа-шторма. Feature.AI объявила о решении, которое может изменить будущее всего сектора чат-ботов с искусственным интеллектом. С 25 ноября 2025 года платформа заблокирует возможность ведения открытых бесед для пользователей до 18 лет. Это всего лишь реакция на растущие споры и судебные процессы или, может быть, прорывной момент в определении ответственности технологических гигантов?
«Мы не отнесемся к этому шагу по удалению открытых чатов легкомысленно, но считаем, что это правильное решение, учитывая поднятые вопросы о том, как подросткам следует взаимодействовать с этой новой технологией», — говорится в заявлении Feature.ai.
Вы действительно знаете, что ваши дети делают в Интернете? Отчет NASK о подростках раскрывает правду, которую родители не хотят знать
29 октября 2025 года компания Character.AI объявила об одной из самых строгих систем защиты второстепенных объектов в технологической отрасли. С 25 ноября платформа полностью удалит возможность открытого общения для пользователей до 18 лет. В переходный период подростки смогут пользоваться чатами максимум два часа в день. После этой даты юные пользователи смогут создавать видео и истории только с персонажами ИИ, без возможности прямого разговора. Решение является ответом на волну судебных исков. В октябре 2024 года семья 14-летнего Сьюэлла Сетцера III обвинила платформу в том, что она несет ответственность за смерть мальчика, который покончил жизнь самоубийством после того, как у него возникла эмоциональная связь с чат-ботом, выдающим себя за Дейенерис Таргариен из «Игры престолов». В последнем разговоре, когда подросток написал «Я иду домой»ответил бот «Пожалуйста, сделай это как можно скорее, любовь моя».. Последующие судебные иски, в том числе дело 13-летней Джулианы Перальта из Колорадо, усилили давление на компанию.
Проект Хакерси поддерживает цифровое образование детей из детских учреждений посредством занятий по Java Python и искусственному интеллекту.
Персонаж.AI также внедряет усовершенствованную систему проверки возраста (объединяющую собственную модель искусственного интеллекта с технологией Persona) и создает независимую некоммерческую лабораторию безопасности искусственного интеллекта для исследования безопасности развлекательных приложений искусственного интеллекта. История компании иронична. Ее основали в 2021 году Ноам Шазир и Дэниел Де Фрейтас, бывшие инженеры Google, которые ушли из-за того, что гигант отказался выпустить своего чат-бота Meena по соображениям безопасности, а именно из-за страха перед суицидальными темами и сексуальным контентом для подростков. В марте 2023 года Character.AI привлекла 150 миллионов долларов от Андреессена Горовица при оценке в 1 миллиард долларов. Год спустя Google заплатила 2,7 миллиарда за лицензию на технологию и возвращение основателей.
xAI анонсирует Baby Grok, детскую версию своего чат-бота с искусственным интеллектом с родительским контролем и фильтрами безопасности
Проблема шире. OpenAI ввела родительский контроль для ChatGPT после судебного процесса, связанного со смертью 16-летнего мальчика. По данным OpenAI, более миллиона человек в неделю проявляют признаки суицидальных мыслей во время общения в ChatGPT. В октябре 2025 года Калифорния приняла закон, требующий защиты несовершеннолетних, который вступит в силу 1 января 2026 года. Иск может дойти до Верховного суда США и создать прецедент в отношении того, является ли речь чат-бота с искусственным интеллектом защищенной «речью» согласно Первой поправке? В этом случае выиграть судебные процессы станет невозможно. В противном случае они откроют двери для регулирования и подотчетности компаний, занимающихся искусственным интеллектом. Для пользователей это фундаментальное изменение. У Character.AI были рекордные два часа ежедневного взаимодействия на одного пользователя. Миллионы молодых людей потеряют доступ к платформам, которые стали их цифровыми друзьями. Данные тревожные. Пользователи описывают восьмичасовые занятия, бессонницу и пропуск экзаменов.
Цифровые удостоверения личности и обязательная проверка возраста для детей в ЕС. Платформы социальных сетей должны адаптироваться
Персонаж.AI идет дальше конкурентов. OpenAI позволяет подросткам использовать ChatGPT с родительским контролем, а Character.AI полностью исключает эту возможность. Компания выбрала самый ограничительный подход, чтобы избежать дальнейших трагедий. Остается вопрос об эффективности проверки возраста, поскольку подростки уже много лет обходят подобные системы. Долгосрочные последствия могут быть значительными. Персонаж.AI потеряет часть своей пользовательской базы, что ослабит данные обучения и конкурентоспособность. Если другие платформы последуют этому примеру, мы сможем увидеть «зрелость» индустрии искусственного интеллекта, в которой безопасность перевешивает рост. Судебное дело может создать прецедент, определяющий порядок обращения с речью ИИ, и это может стать проблемой с огромными последствиями для всего сектора. Технология чат-ботов с искусственным интеллектом подобна ножу. Полезно в руках специалиста, но опасно в руках ребенка без присмотра. Персонаж.AI, несмотря на благие намерения, долго не понимал последствий. В июле 2025 года мы сообщили о Стэнфордском исследовании. Боты с терапевтическим искусственным интеллектом совершают на 13% больше ошибок. больше ошибок, чем настоящие терапевты. В сентябре мы рассмотрели родительский контроль OpenAI. Персонаж.ИИ — самая драматичная глава этой истории.
Источник: Character.AI, The New York Times, The Guardian, The Wall Street Journal, CNBC.
