ИИ Google Фото по-прежнему не может маркировать горилл из-за расистских ошибок • Реестр

Коротко об ИИ ИИ может быстро развиваться, но похоже, что Google до сих пор не решил проблему восьмилетней давности со своей системой распознавания изображений: точную идентификацию изображений горилл.

Компания подверглась критике, когда разработчик программного обеспечения Джеки Алсине обнаружил, что система распознавания изображений, развернутая в ее приложении «Фотографии» в 2015 году, ошибочно пометила фотографию, на которой он и его друг, как горилл. Альсине и его друг оба черные. В ужасе Google быстро скрыл расистскую ошибку, заблокировав способность программного обеспечения маркировать изображения горилл.

Восемь лет спустя недостаток до сих пор не устранен должным образом. Ан эксперимент проводится Газета “Нью-Йорк Таймс обнаружили, что пользователи могут искать свои фотографии по разным типам животных, таким как кошки и кенгуру, но не по гориллам, бабуинам, шимпанзе, орангутангам и обезьянам.

Приложение «Фотографии» по-прежнему избегает маркировки изображений приматов. Неясно, не может ли компания решить проблему, или эта функция слишком противоречива или рискованна для развертывания. Интересно, что у приложения Apple Photo и приложения Microsoft для хранения данных OneDrive тоже был такой же сбой, в то время как Amazon Photos, как правило, ошибочно обозначали другие виды животных как горилл.

Альсине сказал, что разочарован тем, что Google не устранил проблему. «Я навсегда перестану верить в этот ИИ», — сказал он.

OpenAI запускает новую программу для финансирования идей о том, как демократически контролировать ОИИ

Некоммерческое подразделение OpenAI пообещало выделить в общей сложности миллион долларов людям с хорошими идеями о том, как наладить демократический процесс, с помощью которого граждане могут влиять на развитие ИИ.

Любой желающий может представить свои предложения до 2 июня. Стартап AI выберет десять лучших приложений и предоставит каждому по 100 000 долларов, чтобы получатели могли начать работу над созданием прототипов своих идей.

«AGI должен приносить пользу всему человечеству и должен быть максимально инклюзивным», — OpenAI. объявил в сообщении в блоге на этой неделе. «Мы запускаем эту программу грантов, чтобы сделать первый шаг в этом направлении. Мы ищем команды со всего мира для разработки доказательств концепции демократического процесса, который мог бы ответить на вопросы о том, каким правилам должны следовать системы ИИ».

OpenAI заявила, что гранты — это эксперименты, и они могут применять или не применять какие-либо идеи на практике. Стартап заинтересован в методах, которые поддерживают мнение разнообразного сообщества по проблемам, которые не всегда можно решить, следуя законам.

«Например: при каких условиях системы ИИ должны осуждать или критиковать общественных деятелей, учитывая разные мнения разных групп относительно этих фигур? Как спорные взгляды должны быть представлены в результатах ИИ? Должен ли ИИ по умолчанию отражать личность среднего человека в мире, страна пользователя, демографические данные пользователя или что-то совершенно другое? Ни один человек, компания или даже страна не должны диктовать эти решения», — говорится в сообщении.

Anthropic привлекает 450 миллионов долларов в рамках раунда серии C

Anthropic, стартап в области искусственного интеллекта, соучредителем которого являются бывшие сотрудники OpenAI, привлек 450 миллионов долларов в рамках последнего раунда инвестиций под руководством Spark Capital, стремясь создать больше коммерческих продуктов.

Раунд серии C поддерживается Google, Salesforce Ventures, Sound Ventures, Zoom Ventures и другими. В настоящее время Anthropic работает над тем, чтобы привлечь больше клиентов, используя свою большую языковую модель Claude. Генеральный директор Дарио Амодеи сказал, что деньги пойдут на создание большего количества продуктов.

«Мы очень рады, что эти ведущие инвесторы и технологические компании поддерживают миссию Anthropic: исследования ИИ и продукты, которые ставят безопасность на передний план. Системы, которые мы создаем, разрабатываются для предоставления надежных услуг ИИ, которые могут положительно повлиять на бизнес и потребителей сейчас и в будущем. будущее.”

Anthropic заявила, что сосредоточена на создании более безопасных продуктов с использованием методов выравнивания ИИ, чтобы заставить своего чат-бота следовать инструкциям и генерировать соответствующие ответы. Недавно компания расширила ассортимент Клода. контекстное окно для поддержки 100 000 токенов, что позволяет обрабатывать сотни страниц документов за один раз.

Waymo сотрудничает с Uber для расширения службы роботакси

Бизнес по производству беспилотных автомобилей Waymo объединяется с лучшим приложением такси Uber, чтобы привлечь больше водителей в Фениксе, штат Аризона. В какой-то момент они жестко конкурировали друг с другом, но теперь внедряют автономные автомобильные технологии по-своему и видят преимущества партнерства.

Waymo предоставит свои беспилотные автомобили, а Uber предоставит свою сеть райдеров. Пользователи Uber смогут вызывать автомобили Waymo Driver для доставки еды, заказанной через приложение Uber Eats, или доставлять их в целевые пункты назначения через приложение Uber.

«Мы рады предложить людям еще один способ ощутить приятные и спасительные преимущества полной автономии», — Текедра Мавакана, со-генеральный директор Waymo, объяснил в заявлении на этой неделе. «Uber уже давно является лидером в области совместного использования автомобилей, и сочетание нашей новаторской технологии и полностью электрического парка с их клиентской сетью дает Waymo возможность охватить еще больше людей».

Ожидается, что служба роботакси будет запущена в Фениксе, штат Аризона, в конце этого года. ®