Цифровые инновации и управление не исключают друг друга – они неразрывно связаны.

Является ли решение Австралии запретить социальные сети использовать для лиц младше 16 лет пример злоупотреблений правительства или ранний сигнал о том, чего может потребовать ответственное лидерство в эпоху цифровых технологий? С момента переезда Австралии другие правительства начали обсуждать подобные ограничения, что вызвало интенсивную общественную дискуссию. В совокупности эти события отражают растущее беспокойство по поводу того, насколько в значительной степени рыночные цифровые платформы формируют жизнь молодых людей.

Это беспокойство распространяется не только на политиков, но и на семьи и сообщества. В Бруклине, штат Массачусетс, родители сформировали Дети Бруклина отключены от сети чтобы побудить детей отойти от экранов, отражая растущее беспокойство по поводу того, как цифровые платформы меняют детство.

Многие из непосредственных рисков теперь хорошо документированы. ЮНИСЕФ сообщает что дети во многих регионах подвергаются воздействию вредного онлайн-контента в беспрецедентных масштабах: каждый пятый в Африке и Юго-Восточной Азии подвергается той или иной форме сексуального вреда в Интернете. Для женщин и девочек картина еще более тревожная. Анализ больших датасетов дипфейков Контент обнаруживает, что почти все дипфейковые видео откровенно сексуального характера создаются без согласия и что около 99% жертв — женщины. Каждый третий инструмент для дипфейков, доступный сегодня, позволяет пользователям создавать контент откровенно сексуального характера. Эти результаты не случайны; они отражают выбор дизайна, в котором рост, новизна и масштаб ставятся выше безопасности.

Эта реальность поднимает центральный вопрос о том, как цифровые инновации следует регулировать в общественных интересах. Один ответ уже ясен. Ответственность за защиту человеческого достоинства и безопасности не должна возлагаться только на промышленность. Правительства всегда несли обязанность поддерживать верховенство закона и защищать граждан от вреда. Эта ответственность не должна передаваться частным лицам, чьи стимулы определяются ростом и прибылью и чья основная цель не заключается в защите уязвимых слоев населения.

Индустрия искусственного интеллекта все еще находится в зачаточном состоянии, что дает правительствам узкое, но важное окно для формирования ее траектории. История показывает, как часто общества реагируют на мощные технологии только после того, как ущерб уже нанесен. Ник Бостром отражает эту опасность в Гипотеза уязвимого мираутверждая, что некоторые технологии могут стать настолько мощными, что одно неправильное использование может нанести необратимый вред. Ядерное оружие представляет собой наиболее яркий пример. Серьезные международные усилия по управлению ими были предприняты только после бомбардировки Хиросимы и Нагасаки в конце Второй мировой войны. Эту модель реагирования после того, как худшее уже произошло, мы не можем позволить себе повторить с ИИ. Некоторые риски просто слишком велики, чтобы ждать собственной Хиросимы.

Уже есть первые признаки того, как выглядит ответственное лидерство. На международном уровне, Евросоюз начала устанавливать более четкие ожидания в отношении прозрачности, подотчетности и управления рисками при разработке и развертывании систем искусственного интеллекта. В Соединенных Штатах управление ИИ принимает формировать с помощью лоскутного шитья законов штата, руководящих указаний федеральных агентств и добровольных стандартов. Несколько штатов приняли законы, направленные на решение таких проблем, как дипфейки, прозрачность искусственного интеллекта и алгоритмическая дискриминация. КалифорнияНапример, были приняты меры, требующие раскрытия информации, когда контент создается с помощью искусственного интеллекта, и налагающие ограничения на дискриминационное использование автоматизированных систем принятия решений в таких областях, как трудоустройство. Другие штаты приняли законы, направленные против мошеннических средств массовой информации, созданных искусственным интеллектом, включая дипфейки, используемые на выборах или в целях преследования.

Массачусетс инвестирует в ИИ-грамотность для учителей через руководителя проекта, помогая школам ориентироваться как возможности, так и риски, когда эти инструменты попадают в классы. На уровне сообщества местные организации используют хакатоны для изучения положительных применений ИИ, одновременно поощряя ответственное развитие. В исследовательских и политических сообществах первые усилия по смягчению предвзятости и стандартам безопасности начинают объединяться, предлагая шаблоны, которые могут адаптировать другие регионы. Преобразование этого общего обязательства в конкретные стандарты потребует конкретных, осуществимых мер вмешательства в тот момент, когда причиняется вред.

Одним из таких мер является требование, чтобы цифровые платформы применяли водяные знаки к Контент, созданный искусственным интеллектом создаются в их системах способами, позволяющими идентифицировать и отслеживать синтетические носители. Такие системы должны четко сигнализировать, когда контент был создан или существенно изменен ИИ, и сохранять информацию о его происхождении. Компании часто утверждают, что пользователи найдут способы удалить водяные знаки. Этот риск не должен ослаблять аргументы, а должен активизировать усилия по разработке более надежных и устойчивых технических маркеров, которые трудно удалить, не искажая при этом основного содержания. Возложение ответственности на точки создания и распространения устраняет вред там, где он возникает.

Критики более сильного государства участие вызывает несколько важных возражений. Некоторые утверждают, что вмешательство правительства чревато перенапряжением и ущемляет личную свободу и автономию. Другие утверждают, что технологические решения предпочтительнее юридических, или что доказательства причинения вреда не являются окончательными и что корреляция не предполагает причинно-следственной связи. Существуют также практические опасения, что возрастные ограничения неэффективны или их легко обойти, что регулирование будет душить инновации и что решения о цифровой жизни детей должны приниматься родителями, а не государством.

Эти опасения заслуживают серьезного отношения. Однако ни один из них не оправдывает бездействие. Отсутствие надежных доказательств не отменяет наличия реального и растущего риска, особенно когда вред непропорционально сильно затрагивает детей и женщин. Технологические гарантии необходимы, но недостаточны, когда те же компании, которые разрабатывают эти системы, также устанавливают пределы своей собственной ответственности. Ответственность родителей имеет значение, но она не может заменить общедоступные стандарты, когда платформы спроектированы так, чтобы максимизировать участие в масштабе. Инновации процветают не в нормативном вакууме, а в среде, где четкие правила защищают доверие, безопасность и общественную легитимность. В сферах высокого риска ожидание окончательных доказательств или полного соблюдения требований перед тем, как действовать, исторически означало, что действовать слишком поздно.

Самая серьезная проблема эпохи искусственного интеллекта, возможно, не техническая. Это этично. На недавнем мероприятии в Гарварде оратор предположил, что настоящим прорывом в эпоху искусственного интеллекта станет способность человечества защищать достоинство и свободу действий. Это понимание особенно актуально, когда мы думаем о детях. Что это значит для ребенка, ближайший товарищ которого — бот? Как изменится эмоциональное развитие, когда алгоритмы станут источником комфорта и подтверждения? Что происходит с идентичностью, когда реальный и синтетический опыт размываются?

Эти вопросы выходят далеко за рамки любой технологической компании. Это вопросы государственной политики, образования, психологии и долгосрочного человеческого развития. Прежде всего, это вопросы ответственности государства.

Инновации не требуют меньшего управления. Это требует управления, которое соответствует масштабу и скорости технологических изменений. Индустрия искусственного интеллекта только зарождается, и этот момент предлагает редкую возможность сделать что-то по-другому. Вопрос больше не в том, смогут ли правительства действовать. Вопрос в том, будут ли они.