В июне прошлого года, когда Верховный суд США отменил решение по делу Роу против Уэйда, женщины начали удалять приложения для отслеживания месячных со своих телефонов. Поскольку аборты должны стать незаконными в некоторых штатах, они опасались, что данные могут быть использованы для судебного преследования тех, кто добивается прерывания беременности. Была ли это чрезмерная реакция или просто осознание того, что мы вступили в эпоху оруэлловской электроники?
У многих из нас есть смутное, подкрадывающееся ощущение, что наши устройства могут работать против нас. В 2016 году мужчину обвинили в том, что он сжег свой дом в Огайо после того, как его кардиостимулятор поставил под сомнение его страховое требование о случайном возгорании. Два года спустя было обнаружено, что военнослужащие США непреднамеренно разглашают информацию о местонахождении секретных армейских баз через свои фитнес-приложения Strava.
Однако такие истории не удержали нас от раскрытия наших данных. Мы беспечно позволяем приложениям получать доступ к нашему местоположению, записям звонков и другой информации, потому что нам не терпится получить любую мимолетную новую функцию, которую мы желаем. Но нам нужно поумнеть, потому что грядет новый вызов: как защитить данные нашего мозга.
Инвестиции вливаются в «нейротехнологии», которые могут записывать и анализировать электрические импульсы нервной системы. Интерфейсы мозг-компьютер предлагают огромные преимущества, такие как помощь в восстановлении пациентов, перенесших инсульт, и уменьшение эпизодов эпилепсии. Гарнитуры ЭЭГ, отслеживающие мозговые волны, используются геймерами для управления персонажами на экране. Они также могут определить, когда водитель грузовика теряет концентрацию. Более 5000 компаний горнодобывающей, строительной и других отраслей от Австралии до Южной Африки используют эту технологию, чтобы их сотрудники были бодрствующими.
Вот где я становлюсь брезгливым. Заставляя водителей носить такие гарнитуры, компании могут спасать жизни. Но это также похоже на потенциальный инструмент подавления, который можно легко применить к любому другому сотруднику, чей начальник хотел бы знать, когда его мысли блуждают.
С ней согласна нейробиолог Нита Фарахани, профессор права и философии Университета Дьюка. В новой книге, Битва за ваш мозг: отстаивая право свободно мыслить в век нейротехнологий, она предсказывает мир, в котором ИИ и нейробиология объединятся, чтобы вторгнуться в нашу ментальную частную жизнь. Есть опасения, что Коммунистическая партия Китая может использовать ИИ для анализа выражений лица и сигналов мозга, чтобы судить о лояльности членов партии. Появляющаяся способность отслеживать и расшифровывать то, что происходит в человеческом мозгу, требует серьезного обсуждения того, как мы ее используем.
Фарахани считает, что нейротехнологии должны стать «универсальным контроллером» всех наших взаимодействий с технологиями. Нью-йоркский стартап под названием CTRL-Labs, который был куплен Meta, разработал нейронный браслет, который позволяет владельцу управлять компьютером сначала крошечными движениями пальцев, а затем обнаруживая намерение двигаться. Компания Next Sense, созданная Alphabet, занимается созданием наушников, способных обнаруживать нейронные данные.
Это еще не чтение мыслей. Электрические импульсы мозга — это не то же самое, что мысли, и интерфейсы мозг-компьютер не могут действовать как детекторы лжи. Однако Фарахани предупреждает, что «алгоритмы лучше преобразуют активность мозга в то, что мы чувствуем, видим, воображаем или думаем».
Есть некоторые отголоски этого в новой статье из Chatham House. В нем утверждается, что, хотя ИИ предлагает огромные преимущества, его риски включают «подрыв индивидуальных свобод из-за повсеместного наблюдения; и замена независимого мышления и суждений автоматическим контролем». В отчете также говорится, что лишь немногие из многих разрабатываемых стратегий и принципов управления ИИ даже упоминают права человека. Тем не менее, право на свободу мысли включает в себя право хранить свои мысли в тайне и не подвергаться наказанию за них.
Споры о том, как регулировать нейротехнологии, находятся в зачаточном состоянии. Но ряд ученых настаивают на «нейроправах». Нейробиолог Рафаэль Юсте выступает за право на неприкосновенность частной жизни, «чтобы содержание нашей умственной деятельности не расшифровывалось без нашего согласия». Недавно Чили стала первой страной в мире, включившей нейроправа в свою конституцию, и вскоре она примет закон, регулирующий технологии, которые регистрируют или изменяют активность мозга.
Учитывая его недавние воспоминания об авторитаризме, Сантьяго может быть более восприимчивым к рискам, чем Вашингтон или Лондон. Старые демократии, как правило, ведут один и тот же разговор о каждой новой технологии. Эксперты превозносят преимущества; вкладываются инвесторы; а этические соображения оставлены на усмотрение громоздких комитетов и правительств, которые не могут идти в ногу со временем.
Последствия столь долгой пассивности в отношении социальных сетей привели к тому, что наше общество столкнулось с глубоко тревожным поведением, от одержимости своим телом до радикализации, самоубийств и экстремальной порнографии. Мы не должны совершать ту же ошибку с данными о мозге. Технологии могут быть нейтральными, но человечество точно нет. Это не то, что я часто говорю, но в случае с нейротехнологиями: пригласите юристов.
