Сообщается, что Google разрабатывает чат-ботов для выполнения всех видов работ, включая лайф-коучинга • –

Сообщается, что Google разрабатывает генеративные инструменты искусственного интеллекта для чат-ботов, способных выполнять 21 различную задачу, включая написание планов, обучение пользователей новым навыкам и раздачу жизненных советов.

Как впервые сообщил к Нью-Йорк Таймсчат-боты являются результатом усилий Google по ускорению своих исследований в ответ на бум генеративного ИИ.

По сообщениям Google, среди ролей, которые может выполнять бот, есть роль «личного тренера по жизни».

Представление о том, что ИИ может давать такого рода советы, является большим сдвигом для Big G, поскольку текущий совет рекламного и поискового гиганта для пользователей его чат-бота Bard таков. нет использовать программное обеспечение для этой цели.

«Не полагайтесь на ответы Барда как на медицинские, юридические, финансовые или другие профессиональные советы», — говорится в заявлении. предупреждает Уведомление о конфиденциальности для Bard. Этот документ также говорит пользователям: «Не включайте конфиденциальную или конфиденциальную информацию в свои разговоры с Бардом» — вы знаете, такие вещи должен знать хороший лайф-коуч.

Но раз сообщает, что Google протестировал своего тренера, используя подсказки, содержащие очень личную информацию.

Вот один пример запроса:

GoogleBot включает как минимум три компонента, которые могут ответить на такой запрос. Его создатель идеи может дать предложения или рекомендации, функция обучения может научить новым навыкам, а его способность планирования может предложить создать финансовый бюджет. Будет ли что-либо из этого полезным или полезным — или даже актуальным — это другой вопрос.

Чтобы оценить ситуацию, ответы, которые лайф-коуч Google генерирует в ответ на запросы, подобные приведенному выше, как сообщается, анализируются работниками, нанятыми Scale AI — стартапом по маркировке данных, заключенным по контракту с DeepMind Google, — и более чем 100 экспертами, имеющими соответствующие докторские степени.

Регистр обратился к Google и Scale AI за комментариями.

Чат-боты с искусственным интеллектом, как правило, производят ложную информацию, и Google знает об этом: в Уведомлении о конфиденциальности Bard также предупреждается, что это «экспериментальная технология, которая иногда может давать неточную или неуместную информацию, которая не отражает точку зрения Google».

Результаты, производимые генеративным ИИ, варьируются от нелепых до очень опасных.

Savey Meal-bot, бот-генератор рецептов, управляемый новозеландским супермаркетом, предлагал широкий спектр рекомендаций, включая грязные смузи, коктейли с хлоромпропитанный отбеливателем рис и даже тушеное мясо, приготовленное из человеческого мяса, — пока его не обуздали.

Исследователи также предупреждают, что в некоторых средствах защиты генеративного ИИ есть пробелы. Например, недавний отчет из Центра противодействия цифровой ненависти, некоммерческой организации, занимающейся защитой людей в Интернете, обнаружили, что генеративные инструменты искусственного интеллекта могут создавать проблемный контент, связанный с расстройствами пищевого поведения. Что еще более тревожно, выяснилось, что некоторые пользователи сети приветствуют такие материалы и с нетерпением ждут, когда ИИ позволит создавать персонализированный контент.

В мае Национальная ассоциация расстройств пищевого поведения удалила своего чат-бота Tessa, который давал контрпродуктивные советы людям с анорексией или булимией. Тесса порекомендовала одному пользователю, который искал совет по безопасному выздоровлению от расстройства пищевого поведения, подсчитывать калории, еженедельно взвешиваться и покупать штангенциркуль для измерения жира.

Конечно, тот факт, что Google экспериментирует с такими чат-ботами, не означает, что он собирается их внедрять. Шоколадная фабрика часто пробует идеи просто для того, чтобы посмотреть, куда они могут пойти. В случае, когда ИИ дает советы, он наверняка понимает, что любые ошибки будут иметь негативные последствия. На самом деле, когда Бард дебютировал и не смог ответить на некоторые вопросы, цена акций Alphabet, материнской компании Google, упала примерно на десять процентов, поскольку инвесторы выразили обеспокоенность тем, что компания может не попасть на рынок ИИ. ®