Как мы можем сосредоточить интересы детей на безопасных и ответственных инновациях?

Общество сталкивается с знакомой проблемой несогласованности стимулов, поскольку гонка за технологическим развитием намного превосходит возможности правительства по регулированию. Мы уже видели это раньше с появлением социальных сетей; когда инновации развивались беспрепятственно, часто в ущерб нашим интересам, особенно детям.

Вступая в новую эру искусственного интеллекта (ИИ), мы можем проложить курс, при котором инновации и управление не должны быть игрой с нулевой суммой. Если мы с самого начала разрабатываем продукты искусственного интеллекта с учетом потребностей детей, мы можем уделять приоритетное внимание как росту, так и безопасности, открывая путь к прогрессу, который укрепляет благополучие и потенциал следующего поколения.

Но если мы не сможем действовать сейчас, мы рискуем повторить ошибки эпохи социальных сетей – только в большем масштабе.

Десятилетие практически нерегулируемых функций дизайна – бесконечной прокрутки, push-уведомлений и персонализированных каналов, созданных для привлечения внимания – уже изменило детство. Всемирная организация здравоохранения оценки что каждый десятый ребенок использует социальные сети проблематично, демонстрирует поведение, напоминающее зависимость, и чувствует себя неспособным ограничить использование.

В сочетании с увеличением количества экранного времени дети в возрасте от девяти до 12 лет теперь усреднение от шести до девяти часов в день у экранов – детство теперь проживается с помощью устройств, а не с помощью реальных взаимодействий, которые создают сочувствие, уверенность и связь.

Последствия этого сегодня широко известны. От растущей тревожности и депрессии до снижения внимания и ослабления социальных навыков – это подпитывает самые беспрецедентные кризис в одиночестве видел в истории человечества. Тем не менее, стимулы для бизнеса остаются неизменными: платформы получают прибыль от внимания, а не от благополучия, а регулирование с трудом успевает за ними.

Благодаря генеративному ИИ (GenAI) мы стоим на пороге чего-то гораздо более мощного. В отличие от социальных сетей, которые курируют контент, системы GenAI активно создают персонализированную речь и советы в режиме реального времени, имитируя разговор и авторитет таким образом, чтобы они могли формировать убеждения, эмоции и поведение детей.

Многие из ориентированных на потребителя продуктов с большими языковыми моделями, таких как чат-боты, были разработаны для имитировать человеческое поведение – они звучат, чувствуют и реагируют так же, как мы – стирая границы между реальным и синтетическим так, как не может ни одна другая технология. Эти риски уже отмечены новыми политическими рамками, такими как Британский Кодекс проектирования с учетом возраста, в котором отмечается отсутствие конкретных гарантий для таких взаимодействий, ориентированных на детей.

С помощью этих проектов многие пользователи быстро антропоморфизируют ИИ, полагая, что они взаимодействуют с чем-то, что сочувствует, заботится или обладает сознанием, обращаясь с ним так, как если бы оно было человеком. Такой выбор дизайна может привести к тому, что люди будут чрезмерно делиться конфиденциальной информацией, терять эмоциональное доверие и развивать нездоровую зависимость от продуктов искусственного интеллекта.

В то время как взрослые могут распознать эту иллюзию, дети, у которых еще развивается способность различать чувства и факты, не могут.

Еще более тревожно то, что эти технологии заменяют жизненно важные человеческие взаимодействия – основу того, как дети учатся, растут и формируют идентичность. Воздействие эмоционально убедительных машин разрушает подлинные человеческие отношения и лишает нас чувствительности к настоящему сочувствию.

По данным исследования, подростки уже сообщают о том, что отдают предпочтение спутникам с искусственным интеллектом, а не реальной дружбе. исследовать из Common Sense Media. Это вызывает обеспокоенность среди психологов и учёных, поскольку доказательство показывает связь между сильной зависимостью от ИИ-компаньонов и ухудшением психического здоровья, а также истории дети покончили с собой после продолжительных разговоров с ИИ-ботами.

Как сообщил Американской психологической ассоциацией отсутствие надлежащего регулирования и протокола безопасности позволяет этим продуктам поощрять членовредительство, бредовое мышление или даже психоз искусственного интеллекта, что имеет серьезные последствия для благополучия и развития детей в долгосрочной перспективе.

Однако это не аргумент против инноваций, а призыв направлять их ответственно и разумно. Защита развития мозга в детстве имеет первостепенное значение для процветающего общества и устойчивой рабочей силы в долгосрочной перспективе. Эти годы становления отмечены стремительный рост нейронов и развитие ключевых когнитивных, эмоциональных и социальных навыков, необходимых для взрослой жизни.

На этом фоне правительства, исследователи и организации гражданского общества все чаще изучают, как новые технологии могут быть согласованы с потребностями развития детей.

В рамках этих глобальных усилий дискуссии продолжатся на ежегодном собрании Всемирного экономического форума 2026 года в Давосе, Швейцария, в январе этого года, где Фонд человеческих изменений проведет свой третий год диалога в Доме человеческих изменений. Фонд объединяет экспертов, занимающихся долгосрочными социальными последствиями цифровизации детства.

В сотрудничестве с Центр гуманных технологийВ ходе этих бесед будет рассмотрено, как можно разработать искусственный интеллект и другие технологии для поддержки развития детей, сохраняя при этом долгосрочные экономические и социальные цели.

Центральное место в этой работе занимает критический анализ текущих инновационных моделей, в том числе того, как выбор дизайна и инвестиций может лучше отражать человеческое достоинство, социальную устойчивость и благополучие поколений.

Самое главное, мы хотим сохранить и напомнить политикам и технологам о том, что по сути является человеческим: важнейшие жизненные навыки, такие как сочувствие, критическое мышление, решение проблем и устойчивость, не могут быть заменены или разрушены во имя технологического прогресса.

Встраивая в ИИ ограждения, ориентированные на детей, мы можем получить огромные преимущества, не повторяя ошибок социальных сетей.

Соответствующий возрасту дизайн, научно обоснованное тестирование безопасности, прозрачное использование данных, ограничения на манипулятивные интерфейсы и антропоморфизированное поведение, а также ответственность за результаты. Они не должны стать барьерами для инноваций. Это условия, которые позволяют прогрессу продолжаться.

Вместе мы можем положить конец этому перетягиванию каната и направить курс внедрения ИИ в сторону ответственного проектирования, соответствия потребностям детей и способности углублять, а не заменять человеческие отношения.

Инновации могут и должны развиваться. Во-первых, оно не должно причинить вреда детям, которые унаследуют его будущее.