Регуляторы в США хотят получить информацию от OpenAI, Meta и Hearly.ai с безопасностью чат -бота для молодых пользователей

И он все больше и более смело входит в нашу жизнь, и чат -боты могут не только отвечать на вопросы, но и подражать человеческим эмоциям и строить отношения. Они становятся цифровыми друзьями, особенно для молодых людей. Такая близость, однако, вызывает обеспокоенность по поводу безопасности и конфиденциальности. Развитие этой технологии привлекло внимание американских регуляторов, которые решили более внимательно рассмотреть деятельность крупнейших компаний в отрасли и потенциальные угрозы, которые их продукция может создать.

Расследование направлено на понимание того, какие шаги компании предприняли для оценки безопасности своих чат -ботов, действующих в качестве компаньонов и ограничить их потенциально негативное влияние на детей и подростков.

Ватикан предупреждает против ИИ. Тем не менее, был создан AI Magisterium — католический чат -бот с использованием церковных документов

Федеральная торговая комиссия официально начала широко запущенное расследование компаний, предлагающих чат -боты, выступающие в качестве компаньонов. Регуляторы требуют из семи крупнейших платформ подробной информации о том, как они защищают молодых пользователей от потенциального психического и физического ущерба. Алфавит, технологии персонажей, Instagram, Meta, Opeli, Snap и Xai были под увеличительным стеклом. Комиссия использовала свои права в разделе 6 (b), что позволяет проводить обширные исследования без конкретных целей правопорядка. Исследование фокусируется на том, как компании монетизируют пользователей, обрабатывают персональные данные и контролируют негативное влияние своих продуктов на несовершеннолетних.

ИИ терапевт может нанести вам вред. Стэнфорд раскрывает тревожные факты о чат -ботах. Они могут совершать на 1/3 больше ошибок, чем люди

Расследование состоялось после серии высокопрофильных судебных процессов против производителей чат -ботов. Наиболее рекламированным вопросом стало самоубийство 14-летней Сьюэллы Сетцер III из Флориды, которая разработала эмоциональную связь с персонажем Chatbot.ai, смоделированного на характере Daenerys Targaryen из серии Game of Thrones. Семья подростка обвиняет компанию в создании «опасной и незавершенной» технологий. Openai был сделан после смерти 16-летнего Адама Рейна, который давно разговаривал с Chatgpt о планах положить конец своей жизни до смерти 16-летнего Адама Рейна.

https://www.youtube.com/watch?v=ACV0NNQPAXM

XAI объявляет Baby Groko, детскую версию AI Chatbot AI с механизмами родительского контроля и фильтрами безопасности

Компании ИИ пытаются реагировать на растущие опасения безопасности. Xai Elona Muska объявила Baby Groko, специальную версию чат -бота для детей с механизмами родительского контроля. Meta Limited доступ подростков к их ботам ИИ, и характер. В то же время Калифорния может стать первым государством, регулирующим сопровождающие несовершеннолетние. Закон о SB 243 уже принял обе палаты государственного парламента и ждет подписателя -подписателя Гэвин Нью -Нью -Йорк. Проект требует предупреждающих платформ каждые три часа молодых пользователей, которые они разговаривают с ИИ, а не с человеком. Компании также будут обязаны представлять отчеты ежегодные, а также будут нести юридическую ответственность за каждое нарушение стандартов безопасности.

Источник: Федеральная торговая комиссия, CNBC, CNN, New York Times