Эксперты предупреждают, что одна команда может взять под контроль ИИ. Политический кукол — это слабость всех основных моделей LLM
Недавно эксперты по безопасности искусственного интеллекта представили результаты исследований, которые проливают новый свет на путь крупных языковых моделей. Оказывается, что некоторые механизмы, ответственные за контроль сгенерированного контента, могут быть подвержены неожиданным манипуляциям. Это открытие может быть важным для будущего разработки решений на основе ИИ и их использования в различных областях. Это обнаружение показывает, что используемые…