С 2019 года Bumble использует машинное обучение, чтобы защитить своих пользователей от нежелательных обнаженных тел. Внутренний Private Detector анализирует изображения, пересылаемые пользователями, чтобы определить, отображают ли они неприемлемый контент, и, хотя он предназначен для блокировки изображений гениталий, программное обеспечение эволюционировало и теперь способно предотвращать распространение других типов контента, а именно селфи, где человек появляется без рубашки или фотографии оружия — и то, и другое запрещено на Bumble.
В настоящее время, когда такая фотография отправляется, миниатюра, которая появляется в беседе, подвергается цензуре, и получателя спрашивают, хотят ли они увидеть контент, заблокировать его или сообщить об отправителе.
О Бамбл объявил что сделает Private Detector программным обеспечением с открытым исходным кодом, а значит, его можно будет свободно использовать. Фреймворк уже доступен на Github. «Мы надеемся, что значительная часть технологического сообщества примет эту функцию, чтобы сделать Интернет более безопасным», — пояснили в компании.
Обратите внимание Engadget какие а 2016 исследование пришли к выводу, что около 57% женщин, использующих приложения для знакомств, уже чувствовали в них домогательства. Более свежий, от 2020 года, указывает на то, что более 70% молодых женщин в возрасте от 12 до 18 лет уже получили незапрошенные фотографии откровенной наготы, а это означает, что в Интернете проблема не только выходит далеко за рамки приложений для знакомств, но и решения, применяемые для ее предотвращения, в целом, плохой и неэффективный.
