Новая функция генеративного искусственного интеллекта Grammarly изучает ваш стиль и применяет его к любому тексту.

По мере того, как генеративный ИИ внедряется в платформы, которые мы используем каждый день, разгораются споры о том, кто должен получать признание и компенсацию за работы, созданные ИИ.

YouTube находится в процесс заключения лицензионных соглашений со звукозаписывающими компаниями на использование голосов музыкантов для создания новой музыки в их стилях. Между тем, некоторые платформы искусственного интеллекта, генерирующие искусство, расчет вне способы платить художникам за их вклад в данные, используемые для обучения моделей искусственного интеллекта платформ.

А как насчет текста? Должен – и если да, то как должны ли писатели получать признание и вознаграждение за произведения, созданные ИИ и имитирующие их голоса?

Эти вопросы, вероятно, будут подняты функцией Grammarly, облачного помощника по набору текста, который планируется запустить к концу года для подписчиков бизнес-уровня Grammarly. Эта функция, получившая название «Персонализированное обнаружение и применение голоса», автоматически определяет уникальный стиль письма человека и создает «голосовой профиль», который может переписать любой текст в его стиле.

«Поскольку Grammarly работает с разными приложениями и инструментами, мы можем понять уникальный стиль и предпочтения пользователя в местах, где он общается, чтобы создать персонализированный профиль», — рассказал > по электронной почте Тал Оппенгеймер, руководитель отдела продуктов клиентских приложений Grammarly. «Мы создаем профиль человека, когда он пассивно использует наш продукт».

Оппенгеймер говорит, что каждый профиль, который поставляется с сгенерированным искусственным интеллектом описанием, в котором подчеркивается то, что Grammarly считает определяющими характеристиками стиля человека (например, «позитивный», «воодушевляющий»), можно в определенной степени настроить. Пользователи могут отказаться от таких элементов, как выбор тона и стиля (скажем, склонность к использованию активного залога и сложных предложений), которые, по их мнению, не совсем точно отражают то, как они пишут.

«Поскольку это первый выпуск наших персонализированных голосовых функций, мы продолжим их совершенствовать и рассматривать способы сделать их еще более персонализированными для клиентов и их потребностей», — сказал Оппенгеймер.

Grammarly позиционирует эту технологию как способ для писателей использовать контекст, чтобы «сделать [their] письмо звучит более лично. Но этот писатель беспокоится о том, как его можно использовать в гораздо менее благотворительных целях.

Представьте себе, что компания использует голосовой профиль Grammarly, пока автор находится в отпуске (или после того, как его уволили), чтобы публиковать сообщения в блоге под его подписью без его одобрения и без выплаты ему компенсации. Или представьте себе, что голосовой профиль Grammarly используется для того, чтобы выдать себя за кого-то в изощренной попытке фишинга.

Это не так уж и надуманно, как кажется. Автор Джейн Фридман обнаруженный в августе под ее именем на Amazon продавались новые книги — новые книги, которые она не писала и которые, судя по всему, были созданы искусственным интеллектом. (Позже Amazon удалила поддельные книги и заявила, что ее политика запрещает такое подражание.)

Конечно, Grammarly не первая компания, которая выдвигает на передний план проблему защиты писателей, когда она касается генеративного ИИ. Тысячи авторов недавно подписали открытое письмо, осуждающее генеративные технологии искусственного интеллекта, которые «имитируют и извергают» их «язык, истории, стиль и идеи». Тем временем писатели в Калифорнии и Нью-Йорке пошли еще дальше. судиться Стартап OpenAI, который, по их словам, без разрешения обучил ИИ, генерирующий текст, своей работе, в связи с предполагаемой кражей IP.

Теперь, если быть честным по отношению к Grammarly, не каждый может получить доступ к голосовому профилю Grammarly. По крайней мере, при запуске отдельные пользователи могут использовать только свой соответствующий голосовой профиль, а не чей-либо еще. И их нельзя экспортировать.

Однако меня беспокоит то, как голосовые профили могут развиваться в дальнейшем, учитывая упор Grammarly на экономию средств в своих маркетинговых материалах. Вполне возможно, что в стремлении сократить расходы компания, подписавшаяся на Grammarly, в конечном итоге захочет получить доступ ко всем профилям своих авторов. Будет ли Grammarly отрицать их? Кто скажет?

Со своей стороны Оппенгеймер подчеркнула, что голосовые профили «не созданы для того, чтобы кого-то заменять».

«Вместо того, чтобы подражать им, [voice profiles] помогает [writers] узнайте, как они звучат, создайте более персонализированный результат и напишите более аутентично».

Назовите меня скептически настроенным, но я очень осторожен.

Персонализированное распознавание голоса и приложение дополняют другие функции генеративного искусственного интеллекта Grammarly, многие из которых станут общедоступными на этой неделе. Компания, у которой на платформах более 30 миллионов пользователей и более 70 000 команд, заявляет, что пользователи еженедельно создают более 12 миллионов единиц контента с помощью этих функций.