Twitter Inc. открыла значительную часть своего исходного кода, что является необычным шагом для крупной компании, занимающейся социальными сетями, и, по словам владельца Илона Маска, сделает платформу более надежной.
Код, опубликованный в пятницу на сайте обмена кодами GitHub Inc., показывает, как Twitter рекомендует публикации и выявляет такие проблемы, как разжигание ненависти. Он не предоставляет личных пользовательских данных или дорожной карты для создания реплики платформы. Один эксперт сравнил эту стратегию с шеф-поваром, который делится рецептом ингредиентов, которые есть только у него или у нее.
«Мы пытаемся быть самым надежным местом в Интернете», — сказал г-н Маск в обсуждении Twitter Spaces вскоре после того, как код был выпущен. «Это будет довольно неловко, и люди найдут в этом много ошибок».
Обычный человек вряд ли поймет смысл кода, но программисты и другие специалисты могут проанализировать его, чтобы увидеть, относится ли Twitter к определенным типам пользователей иначе, чем к другим, как его обвиняют в этом, сказал Робин Берк, профессор информатики в Университет Колорадо, Боулдер.
«Они могли бы сказать: «Мы не занимаемся дискриминационными вещами, в которых нас обвиняют», — сказал он о Twitter. «С другой стороны, дискриминационные вещи все еще могут происходить непреднамеренно».
Код также потенциально может быть использован для обмана системы Twitter для рекомендации твитов, выявления нарушителей правил и многого другого, сказал бывший директор Twitter Румман Чоудхури, который руководил командой, отвечавшей за этику, прозрачность и подотчетность машинного обучения, до того, как она была уволена в ноябре. Например, она сказала, что, хотя в Твиттере есть правила в отношении разжигания ненависти, до сих пор не было очевидно, как он идентифицирует такие твиты, кроме случаев, когда другие сообщают о них.
«Вы можете прочитать это и узнать, какие правила регулируют принятие решений», — сказала г-жа Чоудхури. «Теперь у злоумышленников могут быть способы подорвать защиту, созданную Twitter».
И наоборот, по ее словам, открытый код показывает, насколько сложна платформа. «Люди думают, что очень легко воссоздать то, чем занимается социальная сеть, но это не так», — сказала г-жа Чоудхури, добавив, что теперь исследователи и ученые также могут проверять алгоритмы рекомендации контента Twitter. «Есть целые конференции, построенные на понимании систем рекомендаций и их влияния», — сказала она.
Код предполагает, что процесс рекомендации твитов в Twitter построен на стандартной архитектуре, по словам Джонатана Стрэя, старшего научного сотрудника Калифорнийского университета в Центре искусственного интеллекта, совместимого с человеком в Беркли. «Здесь нет никаких сюрпризов, — сказал он.
Но он отметил, что это действительно показывает формулу компании для ранжирования твитов, и он сказал, что самым важным фактором в этом является прогнозирование того, ответит ли человек на твит.
«То, что они пытаются создать, — это двусторонние разговоры, но это также может стимулировать людей публиковать сенсационный или вызывающий разногласия контент», — сказал г-н Стрэй.
В ответ на запрос о комментариях в электронном письме Twitter для прессы был отправлен смайлик в виде какашек, который, как недавно написал г-н Маск, будет автоматическим ответом компании на запросы СМИ.
Кто-то спросил г-на Маска во время обсуждения в Twitter Spaces в пятницу о части кода, которая, по-видимому, отслеживает, когда он делает твит, который, по словам Twitter, предназначен для сбора показателей, согласно материалам, опубликованным в пятницу.
Он ответил: «Я думаю, что это странно. Я впервые узнаю об этом».
Позже г-н Маск написал в Твиттере, что Twitter будет обновлять алгоритм рекомендаций каждые 24–48 часов на основе предложений пользователей.
В последние годы компании, работающие в социальных сетях, столкнулись с пристальным вниманием к их способности влиять на то, что видят пользователи, используя свои алгоритмы рекомендаций. Когда г-н Маск приобрел Twitter в прошлом году, он пообещал опубликовать код, который Twitter использует, чтобы определить, следует ли продвигать определенные твиты.
Прежде чем купить Twitter, мистер Маск обвинил компанию наличия «сильного левого уклона» в модерации контента. Собственные исследователи Twitter сказали в отчет за 2021 год что его алгоритмы увеличили количество учетных записей правых политических сил больше, чем левых, в нескольких странах, включая США.
Хотя г-н Маск пообещал сделать Twitter более прозрачным, компания в некоторых отношениях делится меньшим количеством информации о своей деятельности с момента его поглощения. Будучи частной компанией, Twitter больше не сообщает публично о своих финансовых результатах. Г-н Маск часто использует свой собственный аккаунт в Твиттере, чтобы делиться новостями о компании.
Отдельно Twitter недавно заявил, что проприетарные части его исходного кода были выложены в сеть неизвестным лицом или группой, согласно судебным документам, поданным на прошлой неделе в федеральный окружной суд в северной Калифорнии. Утечка оказалась несанкционированной, в отличие от кода, который Twitter опубликовал в пятницу при поддержке г-на Маска.
Не удалось точно узнать, какие именно части кода были утекли, хотя компания описала информацию как «собственный исходный код платформы Twitter и внутренних инструментов», согласно судебному иску.
По запросу Twitter на этой неделе суд направил GitHub повестку в суд, чтобы установить, кто слил информацию и кто ее скачал.
Напишите Саре Э. Нидлман по адресу [email protected].
Copyright © 2022 Dow Jones & Company, Inc. Все права защищены. 87990cbe856818d5eddac44c7b1cdeb8