Если бы ты мог читать мои мысли – подожди, ты можешь? – Блог о здравоохранении

Ким БЕЛЛАРД

На протяжении многих лет одна из областей технологий и здравоохранения, о которой я избегал писать, — это интерфейсы «мозг-компьютер» (BCI). Частично это произошло потому, что я думал, что они какие-то жуткие, а в большей части потому, что я все чаще находил Илона Маска, чей Нейрабль является одним из лидеров в этой области, что еще более жутко. Но статья в Журнал Нью-Йорк Таймс к Линда Кинстлер в моей голове зазвенели тревожные звоночки – и я очень надеюсь, что их никто не слушает.

Ее статья, Большие технологии хотят прямого доступа к нашему мозгу, не просто обсуждает некоторые технологические достижения в этой области, которые, по общему признанию, весьма впечатляют. Нет, мое внимание привлекла ее более важная мысль о том, что пора – уже давно – нам начать очень серьезно относиться к вопросу конфиденциальности того, что происходит в наших головах.

Потому что мы находимся в той точке или быстро приближаемся к ней, когда наши личные мысли перестанут быть личными.

Официальная цель BCI обычно заключалась в оказании помощи людям с ограниченными возможностями, например, парализованным людям. Возможность перемещать курсор или даже конечность может изменить их жизнь. Это может даже позволить некоторым говорить или даже видеть. Все это отличные варианты использования, имеющие определенный послужной список.

BCI, как правило, пошли по одному из двух путей. Чтобы попытаться расшифровать, что делает ваш мозг, используются внешние сигналы, например электроэнцефалография (ЭЭГ) и электроокулография (ЭОГ). Другой, как использует Neuralink, представляет собой имплантат непосредственно в ваш мозг, который позволяет воспринимать и прерывать активность. Последний подход имеет преимущество, заключающееся в более конкретных показаниях, но имеет очевидный недостаток, заключающийся в необходимости хирургического вмешательства и установки проводов в мозг.

Каждые четыре года проводится конкурс под названием Кибатлонспонсируемый ETH Zurich, который «действует как платформа, которая бросает вызов командам со всего мира в разработке ассистивных технологий, подходящих для повседневного использования людьми с ограниченными возможностями». А профиль этого в СЕЙЧАС процитировал игрока, занявшего второе место, который использовал подход внешних сигналов, но проиграл команде, использующей имплантаты: “Мы не были в той же лиге, что и жители Питтсбурга. Они играют в шахматы, а мы играем в шашки”. Сейчас он рассматривает возможность установки имплантатов.

Ладно, скажете вы. Я могу защитить свою конфиденциальность, просто отказавшись от имплантатов, верно? Не так быстро.

А новая статья в Достижения науки обсуждает прогресс в области «мысленных субтитров». Т.е.:

Мы успешно создали описательный текст, представляющий визуальный контент, переживаемый во время восприятия, и мысленные образы, совместив семантические особенности текста с теми, которые линейно декодируются на основе активности человеческого мозга… В совокупности эти факторы облегчают прямой перевод представлений мозга в текст, что приводит к оптимально согласованным описаниям визуальной семантической информации, декодированной из мозга. Эти описания были хорошо структурированы, точно фиксировали отдельные компоненты и их взаимосвязи без использования языковой сети, что позволяло предположить существование мелкозернистой семантической информации вне этой сети. Наш метод обеспечивает понятную интерпретацию внутренних мыслей, демонстрируя возможность невербальной, основанной на мышлении, коммуникации между мозгом и текстом.

Модель предсказывает, на что смотрит человек, «с большим количеством деталей», говорит Алекс Хут, вычислительный нейробиолог из Калифорнийского университета в Беркли, который проводил соответствующие исследования. “Это сложно сделать. Удивительно, что вы можете получить столько деталей”.

«Удивительно» — один из способов описать это. «Захватывающий» может быть другим. Однако некоторым людям первое, что приходит на ум, может быть «ужасающее».

Для создания мысленных титров используются фМРТ и искусственный интеллект, и участники были полностью осведомлены о том, что происходит. Никто из исследователей не предполагает, что этот метод может точно сказать, о чем думают люди. «Пока никто не доказал, что вы можете это сделать», — говорит профессор Хут.

Меня беспокоит именно это «пока».

Доктор Кинстлер отмечает, что это еще не все, о чем нам следует беспокоиться: «Достижения в области оптогенетики, научного метода, который использует свет для стимуляции или подавления отдельных генетически модифицированных нейронов, могут позволить ученым также «записывать» мозг, потенциально изменяя человеческое понимание и поведение».

«В будущем искусственный интеллект и нейротехнологии будут интегрированы в наши повседневные устройства», — сказала доктору Кинстлеру Нита Фарахани, профессор права и философии Университета Дьюка, изучающая новые технологии. “По сути, мы рассматриваем прямое взаимодействие мозга с искусственным интеллектом. Эти вещи будут повсеместно распространены. Это может привести к тому, что ваше самоощущение будет существенно перезаписано”.

Теперь ты волнуешься?

Доктор Кинстлер отмечает, что некоторые страны – не включая США, конечно – приняли законы о конфиденциальности нейронов. Калифорния, Колорадо, Монтана и Коннектикут приняли законы о конфиденциальности нейронных данных, но Форум о будущем конфиденциальности подробности насколько каждый из них отличается, и что не существует даже общего согласия относительно того, что именно такое «нейронные данные», не говоря уже о том, как лучше всего их защитить. Как это обычно бывает, технология намного опережает нормативные требования.

«Хотя многие обеспокоены технологиями, которые могут «читать мысли», такого инструмента в настоящее время не существует как такового, и во многих случаях ненейронные данные могут раскрыть ту же информацию», пишет Джеймсон Спивак, заместитель директора по искусственному интеллекту FPF. “Таким образом, слишком узкое внимание к “мыслям” или “мозговой активности” может исключить некоторые из наиболее чувствительных и интимных личных характеристик, которые люди хотят защитить. Находя правильный баланс, законодатели должны четко понимать, на каких потенциальных целях или результатах они хотели бы сосредоточиться”.

Т.е. мы пока не можем даже достаточно четко определить проблему.

Доктор Кинстлер описывает, как люди говорили об этой проблеме буквально десятилетиями, при этом на законодательном/нормативном фронте практически не было прогресса. Возможно, мы находимся на этапе, когда дебаты больше не являются академическими. Профессор Фарахани предупреждает, что способность контролировать свои мысли и чувства «является предварительным условием для любой другой концепции свободы, поскольку, если самими каркасами мысли манипулируют, подрывают, вмешиваются, тогда любой другой способ осуществления ваших свобод бессмысленен, потому что в этот момент вы больше не являетесь самоопределяющимся человеком».

В Америке 2025 года это не выглядит пустой угрозой.

————

В этом цифровом мире мы постепенно теряем конфиденциальность. Наши электронные письма не являются конфиденциальными? Ох, хорошо. Большие технологии отслеживают наши покупки? Что ж, мы получим более выгодные предложения. Социальные сети собирают наши данные, чтобы лучше нами манипулировать? Да, но подумайте о последователях, которых мы можем обрести. Камера наблюдения сможет отслеживать каждое наше движение? Но нам это нужно для борьбы с преступностью!

Мы ворчим, но в основном смирились с этими (и другими) потерями конфиденциальности. Но когда дело доходит до возможности технологий читать наши мысли, а тем более напрямую манипулировать ими, мы не можем позволить себе продолжать колебаться.

Ким — бывший руководитель отдела электронного маркетинга в крупном проекте Blues, редактор покойного и оплакиваемого Настойка.ioи теперь постоянный участник THCB