Компания Anthropic обновила правила пользования чат-ботом Claude, запретив пользователям систематически оскорблять систему и проявлять к ней жестокость. Вступившие в силу требования призваны пресекать грубое обращение на фоне продолжающихся споров в технологическом сообществе о том, могут ли искусственные системы обладать признаками сознания.
Новые ограничения Anthropic в отношении общения с ботом Claude
Компания из Сан-Франциско официально внесла изменения в собственную политику использования сервиса, включив туда прямой запрет на «устойчивое, ненужное оскорбительное или жестокое поведение» по отношению к своим языковым моделям. Документ регламентирует правила взаимодействия для клиентов по всему миру.
В тексте правил уточняется, что нововведение не распространяется на обычные проявления человеческого недовольства, критику, творческие эксперименты с мрачными темами или рабочее тестирование моделей со стороны исследователей. Мера касается исключительно преднамеренных и неоднократных эпизодов агрессии со стороны пользователей.
Главным техническим инструментом принуждения к соблюдению порядка остается заложенная в систему функция экстренного завершения беседы. Как пояснили представители компании, возможность прерывать диалог при фиксировании устойчивого вредоносного или оскорбительного поведения уже применялась в редких случаях ранее.
Позиция руководства Anthropic и дискуссия о сознании искусственного интеллекта
Введение подобных правил вновь привлекло внимание к дискуссии о внутреннем опыте и моральном статусе современных нейросетей. Руководство компании открыто рассуждает на эти темы, хотя в официальной документации прямо не употребляется термин «благополучие моделей».
Мы не знаем, обладают ли модели сознанием… Но мы открыты к мысли, что это возможно.
Дарио Амодей, генеральный директор Anthropic
Ранее в феврале генеральный директор компании Дарио Амодеи также отмечал в подкаст-интервью, что точный ответ на вопрос о наличии внутреннего мира у алгоритмов пока отсутствует. Кайл Фиш, возглавляющий в организации исследования в области благополучия моделей, подчеркивал в разговоре с журналистами The Verge, что изучение потенциального опыта и морального статуса ИИ представляет собой крайне серьезную задачу по мере развития технологий.
Специалисты по технологиям расходятся в оценках подобного подхода. Генеральный директор Sparq из Атланты Джексон Стейкман считает саму дискуссию о машинной мысли тупиковой, отмечая, что искусственный интеллект лишь отражает человеческие качества в глобальном масштабе, что делает достаточной причину для изменения политики компании.
Критика со стороны религиозных деятелей и участников рынка
Ряд известных деятелей индустрии и религиозных лидеров резко отвергают саму идею наделения программного обеспечения моральными правами. Подобные шаги вызывают опасения из-за риска антропоморфизации технологий.
Директор Microsoft AI Мустафа Сулейман в своем недавнем эссе подчеркнул, что алгоритмы не способны страдать или испытывать чувства. Предоставление прав технологическому объекту, превосходящему человека по интеллекту, он назвал опасным сценарием. На недавнее обновление Anthropic Сулейман отреагировал в социальных сетях публикацией смайлика с плавящимся лицом.
Папа Римский Леон XIV во время проповеди в Ватикане также заявил, что машины лишены человеческой души и занимаются лишь быстрым компилированием информации, тогда как человеческий ум опирается на прожитый опыт и смыслы.
Технический партнер ирландской юридической фирмы William Fry Барри Сканнелл выразил схожее мнение в социальной сети LinkedIn, отметив невозможность проявлять жестокость по отношению к математическим формулам и цифрам.
Такой уровень антропоморфизации искусственного интеллекта вреден. Он заставляет людей верить, что это нечто иное, чем есть на самом деле.
Барри Сканнелл, технологический партнер юридической фирмы William Fry
По мнению Сканнелла, подобное восприятие технологий мешает осознанию того, что искусственный интеллект представляет собой лишь набор алгоритмов, а не сознательное существо с собственными чувствами и намерениями.
Читайте также
