Лицемерие в основе индустрии искусственного интеллекта

На тот момент против компаний, занимающихся генеративным искусственным интеллектом, было подано 19 исков за нарушение авторских прав, в которых утверждалось, что Anthropic, OpenAI и другие украли книги и другие носители для обучения своих генеративных моделей. Тем не менее Шмидт посоветовал студентам скачать все, что им нужно, чтобы создать точную «тестовую» версию своего продукта ИИ. Если продукт станет успешным, «тогда вы наймете целую кучу юристов, чтобы они навели порядок», — сказал он. «Если вашим продуктом никто не пользуется, то не имеет значения, что вы украли весь контент».

Стэнфорд разместил видео выступления на YouTube в августе 2024 года, но через день оно было удалено. (Стэнфорд не ответил на мою просьбу прокомментировать удаление.)

Когда я недавно получил экземпляр, меня поразила готовность Шмидта произнести тихую часть вслух. Он сформулировал позицию, которая распространена в Кремниевой долине, но обычно выражается как юридический или философский аргумент. Когда я связался с одним из представителей Шмидта, они защищали его позицию, сообщая мне, что Шмидт считает, что «добросовестное использование» произведений, защищенных авторским правом, стимулирует инновации. Другие представители отрасли ссылались на технолибертарианскую идею о том, что «информация хочет быть свободной», часто неправильно понятый кредо, которое изображает информацию как природный ресурс, который должен без ограничений передаваться всем, кто может его использовать.

Но это кредо, похоже, никогда не применимо к собственной информации Кремниевой долины, будь то массивы личных данных, которые компании собрали о нас, или программное обеспечение, которое они пишут. Photoshop, например, не хочет быть бесплатным. Фактически, Photoshop — один из тысяч продуктов технологической отрасли, защищенных патентами. Такие изобретения, как оригинальный алгоритм поиска Google и даже детали конструкции, такие как форма «прямоугольник со скругленными углами» iPhone от Apple также были запатентованы, и компании нанимают команды высококлассных адвокатов для преследования нарушений.

Отрасль уже давно является своего рода полем битвы за интеллектуальную собственность, где ущерб в судебных процессах часто превышает девятизначную цифру. Например, в 2017 году Waymo, компания Google по производству беспилотных автомобилей, предполагаемый что бывший сотрудник украл «конфиденциальные файлы и коммерческую тайну, включая чертежи, файлы дизайна и документацию по испытаниям» беспилотных автомобилей, которые в конечном итоге были переданы Uber. Дело было урегулировано примерно на 245 миллионов долларов. В 2010-х годах Apple подала в суд на Samsung за копирование элементов iPhone и первоначально получила более 1 миллиарда долларов в борьбе за нарушение патентных прав, которая длилась семь лет. Apple и Qualcomm подали в суд друг на друга из-за интеллектуальной собственности во многих юрисдикциях, что это трудно отследить.

В стремлении к созданию генеративного искусственного интеллекта технологические компании недавно переориентировали свои агрессивные стратегии на менее подготовленные отрасли. Как показал мой отчет, многие ведущие модели ИИ были обучены на наборах данных, содержащих огромное количество книги, защищенные авторским правом, видеои другие работы. Это крупномасштабное пиратство оправдывалось разными способами: OpenAI (которая имеет корпоративное партнерство с Атлантикабизнес-команда) имеет заявлено что компания использует «общедоступную информацию» для обучения своих моделей; Антропный имеет сказал что он использовал книги, но не в каких-либо коммерческих продуктах; и Мета признает что она использовала книги в коммерческих продуктах, но это было «типичным добросовестным использованием».

Даже несмотря на то, что они заявляют о праве обучать свои модели на работе, принадлежащей другим людям, компании, занимающиеся искусственным интеллектом, отвергают подобные рассуждения, когда дело касается их собственных продуктов. Рассмотрим OpenAI условия обслуживания для ChatGPT, который запрещает использование «выходных данных бота для разработки моделей, конкурирующих с OpenAI». антропный, Googleи xAI имеют аналогичные положения, запрещающие людям использовать материалы, созданные их чат-ботами, для обучения конкурирующим продуктам. Другими словами: мы можем тренироваться на вашей работе, но вы не можете тренироваться на нашей.

В нынешних экономических условиях неудивительно, что компании, борющиеся за доминирование на рынке, будут работать со стандартами, которые служат их прибыли. Но тем не менее поразительно, насколько резко их действия могут противоречить провозглашаемым ими ценностям. Meta, очевидно, не хочет размещать копии своих моделей в сети, хотя и утверждает, что эти модели «открыты». обычно означает программное обеспечение является бесплатным и общедоступным, а это предполагает определенную степень доброй воли или щедрости со стороны создателя. Он имеет как сообщается разослали уведомления с требованием удалить такие копии с онлайн-платформ. (Мета не ответила на запрос о комментариях.)

Компании также знают ценность обучающих данных, и по крайней мере одна из них предвидела негативную реакцию, которую может вызвать использование таких данных. В 2021 году, за год до того, как OpenAI выпустила ChatGPT, и за два года до этого. мой репортаж впервые раскрыт что использовалось в качестве данных для обучения ИИ, генеральный директор Anthropic Дарио Амодей написал внутренняя записка под названием «Экономическая модель компенсации производителям данных». (Недавно он был раскрыт в ходе иска против компании о нарушении авторских прав.) В документе Amodei признает, что ИИ может стать «все более добывающим концентратором богатства» и что создатели могут в конечном итоге «поворчать» или «разозлиться», когда этот факт станет очевидным. Сопротивление со стороны создателей может замедлить прогресс ИИ, пишет Амодей, и по этой причине он предлагает компенсировать им «долю прибыли от созданной модели». Предоставление авторам доли в компании могло бы «отлично подойти» для «ориентации на общественную пользу» Anthropic, пишет Амодей. Сегодня Anthropic по-прежнему утверждает, что приносит пользу обществу, но в суде утверждает, что использование книг, защищенных авторским правом, является «добросовестным использованием», то есть, по сути, авторы не имеют ни на что права. Anthropic отказался комментировать, когда я обратился к этой статье.

Компании утверждают, что обучение искусственному интеллекту добросовестное использование потому что их модели ИИ создают оригинальные работы, которые не основаны на источниках, которые они используют для обучения. Это не обязательно так: в моих репортажах показано что чат-боты и генераторы изображений могут создавать почти точные копии медиа, на которых они обучались, выдавая почти полные копии Гарри Поттер и философский каменьнапример, или рендеринг изображений, которые являются нечеткими копиями существующих произведений искусства. Но компании пытались преуменьшить этот факт и сосредоточить дискуссию об авторском праве на другом, даже ссылаясь на геополитику и идею международной «гонки ИИ» как на своего рода козырную карту. “Без доступа к справедливому использованию гонка за ИИ фактически окончена. Америка проигрывает”, – OpenAI написал в Управление научно-технической политики в прошлом году.

Не все в индустрии искусственного интеллекта находятся на одной волне. Эд Ньютон-Рекс, бывший вице-президент по звуку в Stability AI, уволился с работы в ноябре 2023 года и написал на X, что, несмотря на добросовестное использование, которое «не было разработано с учетом генеративного ИИ», он не видел, как нынешние методы обучения ИИ «могут быть приемлемыми в обществе, которое создало экономику творческих искусств таким образом, что создатели полагаются на авторское право». Ньютон-Рекс основал некоммерческую организацию под названием Довольно обученныйкоторый сертифицирует модели ИИ, обученные на правильно полученных данных.

Стоит отметить, что Кремниевая долина сама регулярно становится жертвой кражи интеллектуальной собственности в форме пиратства в области программного обеспечения. Частично в ответ на эту проблему крупные компании изменили способы распространения программного обеспечения. Сегодня вы не можете просто купить Adobe Photoshop: вместо этого вы платите арендную плату за доступ к программе, которая проверяет вашу лицензию каждый раз, когда вы ее используете. Microsoft применила аналогичный подход в версии 365 своего пакета Office, а офисное программное обеспечение Google вообще невозможно загрузить. Эти компании усложнили кражу своей интеллектуальной собственности, разработав новые методы контроля доступа — вариант, который в действительности недоступен для художников, авторов и разработчиков программного обеспечения с открытым исходным кодом, у которых они берут материалы.

Учитывая двойные стандарты, трудно сказать, являются ли аргументы Кремниевой долины о добросовестном использовании искренними или просто юридически целесообразными. С одной стороны, генеративный ИИ — это новая технология, которая поднимает новые вопросы об использовании произведений, защищенных авторским правом. С другой стороны, агрессивный подход индустрии искусственного интеллекта для Кремниевой долины является обычным делом: действовать быстро и ломать вещи. И держу пари, что юристы смогут «навести порядок».