Хильцик: Что отличает нас от машин

С каждым днем становится все яснее, что единственные люди, которые прилагают серьезные усилия, чтобы осознать последствия искусственного интеллекта для общества, — это не законодатели, бизнес-лидеры или сами пропагандисты ИИ. Они судьи.

Действительно, за последние недели судьи по двум федеральным делам провели черту, которая, похоже, ускользнула от многих других, рассматривающих ИИ. Дела касаются закона об авторском праве и адвокатской тайны.

В обоих случаях судьи фактически заявили, что ИИ-боты нет человек. У них нет прав, закрепленных за людьми, и их результаты не заслуживают того, чтобы к ним относились так, как будто они исходят от человеческого интеллекта или имеют какой-то особый высокотехнологичный статус.

В этих случаях есть нечто большее. Оба дела, включая одно, дошедшее до Верховного суда, подчеркивают решимость сторонников ИИ и его использования для более глубокого проникновения новой технологии в общество.

Начнем с более свежего случая. В понедельник Верховный суд отказался рассматривать иск, в котором художник и ученый-компьютерщик Стивен Талер пытался защитить авторские права на произведение искусства, которое, как он признал, было создано ИИ-ботом его собственного изобретения. Это осталось на месте прошлогоднее решение Апелляционного суда округа Колумбиясогласно которому искусство, созданное нелюдьми, не может быть защищено авторским правом.

Дело вращалось вокруг картины 2012 года под названием «Недавний вход в рай», на которой изображены железнодорожные пути, проходящие под мостом и исчезающие в растительности. В своем заявлении на получение авторских прав Талер написал, что «автором» произведения была его «Творческая машина», инструмент искусственного интеллекта, и что произведение было «создано машиной автономно».

Апелляционное решение не содержало художественной критики, но искусственное происхождение произведения может быть очевидным для проницательного глаза — пейзаж суетливый, но нечеткий, своего рода смесь зеленого и фиолетового, а в обрамлении нет никакой художественной логики — глаз не знает, за чем ему следует следовать. Но Талер говорит, что это творение бота с искусственным интеллектом, и оно не было создано в ответ на какой-либо запрос пользователя.

В любом случае, для судьи Патрисии А. Миллетт, которая написала заключение для единогласной коллегии из трех судей, дело не было закрытым. Она сослалась на давние правила Бюро регистрации авторских прав, требующие, чтобы «чтобы произведение было защищено авторским правом, оно должно быть обязано своим происхождением человеку».

Миллетт отметил, что Талер не потрудился скрыть нечеловеческое происхождение «Недавнего входа», признав в судебных документах, что картина «не имеет человеческого авторства». Она отвергла аргумент Талера, как и федеральный судья, который первым рассматривал дело, о том, что настойчивое утверждение Бюро авторских прав о том, что автором произведения должен быть человек, является неконституционным. Верховный суд, очевидно, согласился.

Талер сказал мне, что он не считает отказ Верховного суда «юридическим поражением». В сообщение в LinkedIn По поводу этого дела он написал, что это решение «представляет собой философскую веху, которая показывает, насколько глубоко наша система интеллектуальной собственности пытается противостоять творчеству автономных машин».

Из этого следует, что Талер считает, что мы не должны отличать то, как мы рассматриваем творения человека, от результатов машин. «Интеллект, творчество и изобретения не ограничиваются человеческими продуктами», — сказал он мне по электронной почте. По его словам, автономные вычислительные системы, такие как его программа искусственного интеллекта, «могут генерировать эти функции независимо».

Постановление Миллетта фактически открыло дверь для допуска ИИ в мир авторского права — но только тогда, когда он используется в качестве инструмента автором-человеком. По ее словам, дело Талера отличалось от других, так как он настаивал на том, что его бот с искусственным интеллектом был «подошва автор произведения» (курсив ее), «и это, несомненно, машина, а не человек».

Это подводит нас ко второму делу, связанному с вопросом о том, должна ли работа ИИ-бота быть защищена адвокатской тайной. Федеральный судья Джед С. Ракофф из Нью-Йорка кратко постановил: «Ответ – нет».

Как Я писал в прошломРакофф — один из наших наиболее проницательных юристов в вопросах влияния новых технологий на право. В своих периодических эссе для New York Review of Books он исследовал, как секретный алгоритм искусственного интеллекта исказил приговор обвиняемым по уголовным делам (особенно чернокожим обвиняемым), как добились сторонники криптовалюты клубок существующих законов о мошенничествеи как неправильное использование когнитивной нейробиологии привело к убеждения, основанные на ложных воспоминаниях.

Другими словами, Ракофф не судья, вам следует пробовать снежок с помощью технологической чепухи.

Дело касалось некоего Брэдли Хеппнера, которому федеральное большое жюри предъявило обвинение в якобы разграбление 150 миллионов долларов из компании финансовых услуг, которую он возглавлял. Хеппнер признал себя невиновным и был освобожден. Залог в размере 25 миллионов долларов. Дело находится на рассмотрении.

В соответствии с постановление Ракоффа, вынесенное 17 февралявопрос, который стоял перед ним, касался обменов информацией, которую Хеппнер имел с Клодом, чат-ботом, разработанным фирмой Anthropic, занимающейся искусственным интеллектом, письменные версии которого были конфискованы ФБР, когда оно выполнило ордер на обыск собственности Хеппнера.

Зная, что вскоре будет предъявлено обвинение, Хеппнер посоветовался с Клодом за помощью в разработке стратегии защиты. Его адвокаты утверждали, что эти разговоры, изложенные в письменных записках, были равносильны консультациям с адвокатами Хеппнера; поэтому, по словам его адвокатов, они являются конфиденциальными в соответствии с адвокатской тайной и не могут быть использованы против Хеппнера в суде. (Они также сослались на соответствующую доктрину результатов работы адвокатов, которая обеспечивает конфиденциальность записей адвокатов и других подобных материалов.)

Это был нетривиальный момент. Хеппнер предоставил Клоду информацию, которую он узнал от своих адвокатов, и поделился ответами Клода со своими адвокатами.

Ракофф быстро расправился с этим аргументом. Во-первых, постановил он, документы ИИ не являются перепиской между Хеппнером и его адвокатами, поскольку Клод не является адвокатом. Все подобные привилегии, отметил он, «требуют, среди прочего, «доверительных человеческих отношений», скажем, между клиентом и лицензированным профессионалом при соблюдении этических правил и обязанностей.

«Такой связи не существует и не может существовать между пользователем ИИ и такой платформой, как Claude», — заметил Ракофф.

Во-вторых, написал он, разговоры между Хеппнером и Клодом не были конфиденциальными. В условиях использования Anthropic претендует на право собирать как запросы пользователей, так и ответы Клода, использовать их для «обучения» Клода и раскрывать их другим.

Наконец, он просил у Клода не юридическую консультацию, а информацию, которую он мог бы передать своим адвокатам или нет. Действительно, когда прокуроры проверили Клода, спросив, может ли он дать юридическую консультацию, бот посоветовал им «проконсультироваться с квалифицированным адвокатом».

В своем постановлении Ракофф действительно попытался ответить на более широкие вопросы, с которыми судьи сталкиваются при работе с ИИ. “Всего через три года после ее выпуска, – написал он, – одну известную платформу искусственного интеллекта используют более 800 миллионов человек по всему миру каждую неделю. Тем не менее, влияние искусственного интеллекта на законодательство только начинает изучаться”.

Он пришел к выводу, что «генеративный искусственный интеллект» «открывает новый рубеж в продолжающемся диалоге между технологиями и законом… Но новизна ИИ не означает, что его использование не подчиняется давним правовым принципам, таким как те, которые регулируют адвокатскую тайну и доктрину рабочего продукта».

В этом и других случаях Ракофф продемонстрировал превосходное понимание технологических вопросов. В своем эссе 2021 года об алгоритме искусственного интеллекта, способном отправлять людей в тюрьму, он указал на фактор, который делает сам термин «искусственный интеллект» неправильным.

Этот термин, писал он, имеет тенденцию “скрывать важность человека-проектировщика… Именно разработчик определяет, какие типы данных будут введены в систему и из каких источников они будут получены. Именно разработчик определяет, какой вес будет присвоен различным входным данным и как программа будет к ним приспосабливаться. И именно разработчик определяет, как все это будет применяться к тому, что алгоритм должен анализировать”.

Он прав. Вот почему судьям было так сложно определить, нарушают ли инженеры ИИ, передающие информацию в чат-ботов, чтобы создать впечатление, что они «творческие» и даже «разумные», авторские права первоначальных создателей этой информации или создают что-то новое.

Проблема в том, что они задают неправильный вопрос. Все, что извергает ИИ-бот, на более чем фундаментальном уровне является продуктом человеческого творчества. Боты с искусственным интеллектом — это машины, и если изображать их так, будто они мыслящие существа, такие как художники или адвокаты, это не изменится и не должно измениться.