Торговец: Что Стивен Кинг ошибается в отношении луддитов и искусственного интеллекта

Как и миллионы людей на этой прекрасной планете, я считаю себя пожизненным поклонником Стивена Кинга.

Фактически, Кинг — одна из причин, по которой я делаю то, что делаю. В детстве мне всегда нравилось читать, но именно открывая для себя произведения научной фантастики, такие как «Дюна» и умопомрачительные романы Кинга, которые продемонстрировали, насколько мощными и захватывающими могут быть книги. Будучи подростком, я проглотил такие тома, как «Участок Салема», «Зеленая миля», «Поджигатель» и «Кэрри».

Я писал свои собственные научно-фантастические рассказы и в частном порядке размышлял о паломничестве в штат Мэн, где жил Кинг. Средний мирна другом конце страны от моего пригорода в Сакраменто — чтобы посмотреть, возьмет ли он меня к себе в ученики. Спустя годы, пытаясь стать писателем, я нашел мудрость и надежду в его публицистическом трактате. «О писательстве».

Вот почему мне было больно видеть, как Кинг неверно характеризует группу, с которой я стал довольно близок за последние годы — луддитов — и утверждаю, что глупо сопротивляться таким технологиям, как генеративный искусственный интеллект.

На прошлой неделе, «Атлантик» опубликовал статью Это показало, что одна из основных больших языковых моделей (LLM) — систем, которые делают возможным генеративный искусственный интеллект — была обучена на десятках тысяч пиратских книг. LLaMa Меты получила около 170 000 защищенных авторским правом произведений художественной и документальной литературы; The Atlantic назвала Майкла Поллана, Зейди Смит, Маргарет Этвуд и Сару Сильверман среди авторов, чьи работы использовались без их ведома и разрешения для обучения ИИ.

«Будущее, обещанное ИИ, написано украденными словами», — пишет Atlantic.

Многие писатели были злой и раздраженный. «Программы генеративного ИИ — это машины для плагиата, и все, что вы создадите с их помощью, будет состоять из работ других людей, защищенных авторским правом», — заявил автор Коул Хэддон написал на X, платформе, ранее известной как Twitter.

Эта новость появилась после многомесячных жалоб и тревог среди авторов и писателей. Сильверман, например, уже подал громкий иск против OpenAI и Meta, потому что их системы искусственного интеллекта смогли имитировать ее книгу 2010 года и «вероятно» были обучены на копии без ее согласия; теперь у нее есть доказательства, что это действительно так. Тем временем 10 000 писателей подписали открытое письмо выдвинутая Гильдией авторов, призывающая компании, занимающиеся искусственным интеллектом, получать разрешение перед использованием книг и выплачивать авторам компенсацию, когда они это делают.

Ожидалась дальнейшая реакция писателей на сервисы искусственного интеллекта, которые рассчитывают на свою работу, чтобы зарабатывать десятки миллионов долларов в месяц.

Но был один заметный деятель, который не разделял возмущения, хотя и разделял тревогу. Потому что в этот корпус данных по обучению ИИ также были включены книги Стивена Кинга.

Кинг ответил на новость о том, что его работа была использована компаниями, занимающимися искусственным интеллектом, в коротком материале, который «Атлантик» также опубликовал вскоре после. Суть, похоже, в том, что новые технологии могут пугать, но люди учатся адаптироваться и даже принимать их, и что было бы глупо сопротивляться наступающим волнам технологий, когда дело доходит до генеративного ИИ.

Характерно для Кинга: оно выразительно и прямолинейно, умно и остро написано. Его в первую очередь волнует вопрос о том, можно ли считать результаты генеративного ИИ по-настоящему творческими; может ли ChatGPT создать произведение искусства, достаточно удивительное, чтобы соперничать с человеческим. «Творчество не может происходить без разума, и сейчас есть аргументы в пользу того, что некоторые ИИ действительно разумны», — пишет он, и если это правда, «то творчество может быть возможным».

И вот этот раздел привлек мое внимание:

«Я рассматриваю эту возможность с некоторым жутким восхищением. Запретил бы я преподавание (если можно так выразиться) своих рассказов на компьютерах? Даже если бы я мог. С таким же успехом я мог бы быть королем Канутом, запрещающим приливу приходить. Или луддитом, пытающимся остановить промышленный прогресс, разбивая паровой ткацкий станок на куски».

По его словам, противостоять генеративному ИИ — это все равно, что противостоять наступающему приливу: сопротивление бесполезно и делает вас луддитом.

Так получилось, что последние три года или около того я потратил на исследования и написание книга о луддитахи почему их борьба остается глубоко актуальной и сегодня. И самое большое заблуждение о луддитах — это то, о чем здесь говорит Кинг: они пытались остановить индустриальный прогресс.

Они не были против прогресса и, конечно же, против технологий; большинство из них сами были квалифицированными техническими специалистами, которые проводили дни, работая на машинах дома или в небольших магазинах. Это правда, что луддиты разбили некоторые машины на куски, но они протестовали не против самой технологии — это боссы использовали эти машины, чтобы урезать им зарплату и перегнать их на фабрики.

Не было ничего предопределенного, что промышленный прогресс должен был принять такую ​​форму — мы можем с некоторой легкостью представить себе будущее, в котором технологии будут развиваться соответствующим образом, но рабочие-суконщики получали более равную выгоду от нового промышленного оборудования, размещая его в своих маленьких мастерских. или более равномерно распределять доходы, которые оно производило, а не те доходы, которые достались горстке фабричных боссов, которые максимизировали прибыль и доводили до нищеты своих рабочих.

Это подводит меня к эссе Кинга. Дело здесь не в том, чтобы «ну, на самом деле» Стивен чертов Кинг, или в том, чтобы попытаться поставить его в неловкое положение, а в том, чтобы указать, почему так важно, чтобы мы поняли разницу между мифом о луддитах — невеждах, которые разбивали машины, потому что они этого не сделали. Я не понимал их — и настоящих луддитов: опытных, гордых рабочих, которые слишком хорошо понимали, как против них была задействована техника, и давали отпор. И мнение о том, что генеративный ИИ в какой-то мере неизбежен, вряд ли присуще писателям-бестселлерам; возможно, это преобладающая позиция, с которой я сталкиваюсь в разговорах о технологии.

Причина, по которой 200 лет спустя так много творческих работников злится и нервничает из-за ИИ, заключается не в том, что они боятся, что он станет настолько хорош, настолько силен, что они с таким же успехом могут встать и бросить писать, рисовать или играть. Дело в том, что они, как и луддиты, до боли осознают, как боссы будут используйте ИИ против них. Для большинства работающих авторов (а также художников, сценаристов, иллюстраторов и т. д.) страх перед ИИ не является философским; оно экономическое и экзистенциальное.

В «О написании», один из наиболее резонансных разделов описывает путь Кинга к становлению публикуемым романистом: труд в безвестности, преподавание в колледже, публикация рассказов в журналах ужасов и, в конце концов, сорваться в куш после того, как его жена спасает раннюю рукопись «Кэрри» из мусорное ведро. Издатель дает ему аванс в 2500 долларов за книгу в твердом переплете, а за книгу в мягкой обложке он получает ошеломительный аванс в 400 000 долларов (который Кинг разделил со своим первоначальным издателем 50/50).

Индустрия уже изменилась настолько, что почти никто вообще не может зарабатывать деньги на продаже рассказов, и такие судьбоносные достижения, редкие тогда, практически невозможны сейчас для непроверенных жанровых авторов. Генеративный ИИ призван еще больше стереть потоки доходов для работающих креативщиков, которые изо всех сил пытаются проникнуть в игру, что делает шансы будущего Стивена Кинга добиться успеха еще более тонкими.

Корпоративные клиенты обращаемся к генеративному ИИ для внутренней творческой работы фирмы используют ChatGPT для копирайтинга, а киностудии ясно дали понять, что хотят иметь право использовать его для создания сценариев. Некоторые из этих вещей не обязательно творческий писатель, но как писатель-фантаст Тед Чан отметилэто лишает писателей важнейших возможностей практиковать свое ремесло.

Тем временем авторам, публикующим статьи самостоятельно, теперь приходится бороться с натиском контента, созданного искусственным интеллектом, на Amazon и в некоторых научно-фантастических журналах. пришлось вообще закрыть подачу заявок — их засыпали слишком большим количеством творений ИИ.

Все это дает довольно веские причины выступать против генеративного ИИ или против того, как он используется корпорациями прямо сейчас — речь идет не столько о технологии, сколько о целях, для которых он применяется, и средствах существования, которым он угрожает. результат.

Прежде чем взять в руки свои молотки, те, кто стал луддитами, лоббировали минимальную заработную плату, налоги на оборудование и паузу в развитии — и были проигнорированы. Когда они, наконец, восстали, чтобы разбить машины своей эксплуатации, они были громкими и популярными на уровне, с которым мог сравниться только Робин Гуд. Потребовалась вся мощь государства и внутренняя оккупация, чтобы подавить луддитов и оклеветать их имя в истории как отсталых манекенов.

Сейчас, конечно, все по-другому; В то время создание профсоюзов было незаконным, а Англия еще не была демократией. У нас есть лучшие варианты и реальный шанс высказаться о том, как такие технологии, как генеративный искусственный интеллект, влияют на то, как мы живем и работаем.

В статье Кинга он перечисляет двух поэтов, чьи работы генеративный ИИ еще не способен имитировать; один из них — Уильям Блейк. Среди самых известных стихотворений Блейка «И делали эти ноги в древности», который содержит его наиболее цитируемые строки:

И был ли здесь построен Иерусалим,

Среди этих темных сатанинских мельниц?

Это стихотворение было опубликовано в 1808 году, всего за три года до того, как сформировалось восстание луддитов. Блейк также сожалел о подъеме фабрик, заполненных машинами, потому что он видел, как они губят общество и приводят к нищете рабочих.

Мне посчастливилось пойти по пути, проложенному одним из моих первых героев-писателей, оплатить счета случайной писательской работой на пути к тому, чтобы стать полноценным генератором текста. Доводы Кинга о возможностях технологии хороши. Я просто смиренно прошу его вернуться к исходному материалу одного из его любимых поэтов и еще раз задуматься, почему луддиты — 200 лет назад и сейчас — были так тронуты сломать эти машины.