CHATGPT с новым механизмом контроля доступа. OpenAI тестирует модель искусственного интеллекта для прогнозирования возраста пользователя и вариант проверки идентификации

Такие компании, как Openai, интенсивно работают над системами, которые должны защищать молодых пользователей от неподходящих материалов. В ответ на растущее регуляторное и социальное давление создатели ChatAgpt изучают два разных подхода к этой проблеме. Один из них основан на передовых технологиях, а другой на традиционных методах. Из этого следует, что проблемы безопасности пользователей становятся такими же важными, как технологические инновации.

Компания OpenAI изучает два способа проверки возраста пользователей CHATGPT, то есть требование идентификационного документа от взрослых и модели ИИ, оценивающего возраст, основанный на стиле разговора.

Трагедия заставила Опели действовать. Catgpt получит родительский контроль после смерти 16-летнего

Компания Openai объявила о работе по системе, которая должна решить проблему доступа к несовершеннолетним к неподходящему контенту в CHATGPT. Рассматриваются два основных подхода. Первый предполагает введение проверки жесткой идентификации для взрослых. Пользователи, которые подтверждают свой возраст с помощью официального документа, получат доступ к менее подверженной цензуре версии Chatbot. Второе, более инновационное решение — модель искусственного интеллекта, предназначенная для прогнозирования (прогнозирование) возраста. Вместо того, чтобы запрашивать данные, эта система будет анализировать стиль разговора, использованный словарный запас или предмет запросов. Исходя из этого, он будет оценить, является ли пользователь взрослым. В случае сомнения или обнаружения характеристик для несовершеннолетнего, CHATGPT автоматически переключается на режим с более ограничительными принципами безопасности.

Официальное исследование показывает реальные приложения CHATGPT. Письмо доминирует на работе, программирование составляет всего 4,2 процента. использовать

Эти действия являются реакцией на растущее социальное и регулирующее давление. Проблемы безопасности самых молодых в Интернете становятся приоритетом, о котором мы уже написали в контексте правил ЕС в отношении доказательств цифровой идентичности. Опели подчеркивает, что в случае конфликта между свободой выражения мнений и безопасностью подростков компания выберет последнее. Внедренные решения должны защищать молодых людей, предоставляя взрослым больше свободы. Планы OpenAI, однако, вызывают серьезные опасения в конфиденциальности. Необходимость отправки сканирования документов личности на крупную компанию — это сценарий, который беспокоится о экспертах по кибербезопасности. В свою очередь, модель прогнозирования возраста, хотя и менее инвазивная, поднимает вопросы о ее эффективности и потенциальных ошибках.

Источник: OpenAI, NBC News