Soundslice представляет импорт Tabulatory ASCII в ответ на повторяющуюся ложную информацию, сгенерированную CATGPT
Случай музыкальной платформы Soundlice показывает неожиданные последствия галлюцинаций ИИ. Когда в течение нескольких месяцев в течение нескольких месяцев сообщил пользователям неверно информировал пользователей о несуществующей функции импорта таблицы ASCII, основатель Адриан Ховати столкнулся с дилеммой. Вы игнорируете ложную информацию, распространяемую ИИ или можете оправдать ожидания пользователей? В конечном счете, он решил решение, которое может стать прецедентом для других компаний, борющихся с аналогичными проблемами.
У меня смешанные чувства. Я рад, что добавил новый инструмент, который помогает людям, но я чувствую, что мы были вынуждены сделать это чрезвычайно странным образом, — сказал Адриан Ховати, основатель Soundlice.
Какой чат -бот собирает наибольшее количество данных о вас? Chatgpt, Grok, Copilot, Gemini, Deepseek или, может быть, другой?
Адриан Ховати, основатель музыкальной платформы Soundlice и Co -Creator популярной фреймворки Django, в течение нескольких месяцев наблюдал за странными изображениями, отправленными в журналах ошибок в его приложении. Вместо традиционных заметок пользователи отправляли скриншоты из разговоров с CHATGPT, содержащим табуляцию в ASCII. Это текстовая форма гитарной нотации, в которой используются обычные клавишные персонажи вместо классических музыкальных символов. Soundslice — это образовательная платформа, которая позволяет вам синхронизировать видеозаписи с музыкальной записью. Компания также предлагает сканер Notch, который использует ИИ для конвертации фотографий традиционных нот в интерактивный счет. Система, однако, не была подготовлена для поддержки табуляции в ASCII, что генерировало ошибки в журналах. Головати обнаружил причину проблемы, когда он сам проверил Чатгпт. Искусственный интеллект Openai поручил пользователям настраивать учетные записи в Soundlice и отправить там ASCII. Проблема заключалась в том, что портал никогда не предлагал такую функцию. CHATGPT распространял эту ложную информацию, создавая ошибочные ожидания пользователей по отношению к Holovate.
Новая функция памяти в CHATGPT, или как ИИ может вспомнить всю вашу жизнь и что это значит для конфиденциальности
Основатель Soundlice столкнулся с дилеммой. Он мог бы добавить предупреждения против неправильной информации, которая поступила от CHATGPT или оправдать ожидания пользователей. В конечном счете, он решил реализовать функцию импорта ASCII. Новая функция автоматически преобразует текстовый табулат для стандартной музыкальной нотации с возможностью воспроизведения. Случай Soundlice может быть первым задокументированным примером разработки продукта в ответ на галлюцинации искусственного интеллекта. Ховати признался, что у него были смешанные чувства к этой ситуации. С одной стороны, ему нравится добавлять полезный инструмент, с другой стороны, он чувствует себя вынужденным реагировать на дезинформацию. Проблема галлюцинаций в языковых моделях не нова. Мы неоднократно описывали случаи ложной информации, генерируемой CHATGPT, включая историю Чикагского Sun-Times, в которой опубликовал список несуществующих книг, созданных ИИ. Эксперты подчеркивают, что галлюцинации остаются одной из основных проблем в развитии искусственного интеллекта. Сообщество программистов в Hacker News сравнила ситуацию с слишком восторженным продавцом, обещающим клиентам функциям, которые впоследствии должны быть реализованы разработчиками. Holovaty согласилась с этим сравнением, считая их точными и забавными. Случай Soundlice показывает, как галлюцинации AI могут повлиять на реальные деловые решения. Компании должны подготовиться к ситуациям, в которых искусственный интеллект неверно представляет свои продукты или услуги. Это может потребовать новых коммуникационных стратегий, а также для контроля того, что ИИ передает их бренды в своих ответах.
https://www.youtube.com/watch?v=FCYLF5VTDA4
Источник: Holovaty, Soundlice, Ars Technica
