Генеральный директор Apple Тим Кук выступает на Всемирной конференции разработчиков Apple (WWDC) в конференц-центре Сан-Хосе в Сан-Хосе, Калифорния, в понедельник, 4 июня 2018 г.
Джош Эдельсон | АФП | Гетти Изображений
Большие языковые модели, такие как ChatGPT, могут создавать целые блоки текста, которые читаются так, как будто их написал человек. Компании стремятся интегрировать ChatGPT в свои приложения, включая Microsoft, Snap и Shopify. Но эта тенденция может быть остановлена, если Apple решит ограничить приложения на основе ChatGPT в своем App Store, что является единственным способом установки программного обеспечения на iPhone.
Blix, производитель почтовых приложений, который регулярно конфликтовал с Apple из-за правил App Store, говорит, что столкнулся с этим препятствием на этой неделе.
Соучредитель Бен Волах сообщил Wall Street Journal, что Apple отклонила обновление своего приложения BlueMail, потому что оно интегрировало ChatGPT для помощи в написании электронных писем и не включало фильтрацию контента для вывода чат-бота. Волах также заявил в Твиттере, что Apple «блокирует» обновление ИИ.
Apple заявила, что без фильтрации контента чат-бот Blue Mail может создавать слова, не подходящие для детей, и, согласно отчету, почтовому приложению придется повысить рекомендуемый возраст до 17 лет и выше.
Apple проводит расследование, и разработчики могут обжаловать это решение, сообщил CNBC представитель компании.
Тем не менее, эпизод с Blue Mail не является признаком надвигающегося подавления Apple приложений с искусственным интеллектом.
На самом деле функции на базе ChatGPT уже есть в Snapchat и приложении Microsoft Bing, которые в настоящее время распространяются через App Store. Другие приложения ИИ, такие как Lensa, также были распространены и процветали в App Store.
В Руководящих принципах Apple App Store, документе, который описывает, что Apple разрешает в App Store, нет официальной политики в отношении ИИ или чат-ботов. У Apple есть сотрудники в отделе App Review, который загружает и ненадолго использует все приложения и обновления, прежде чем они будут одобрены.
В будущем Apple может добавить специальные рекомендации для ИИ. Например, для крипто-приложений Apple явно представила раздел о криптовалюте в руководящих принципах, разрешающих приложения-кошельки и запрещающих майнинг на устройстве в обновлении 2018 года. В прошлом году Apple представила новые правила NFT. Компания часто выпускает обновления своих рекомендаций в июне и октябре.
Но эпизод Blue Mail действительно отражает то, что Apple App Store строго относится к контенту, который генерируется в массовом масштабе — либо пользователями (например, в случае приложений для социальных сетей), либо, в последнее время, искусственным интеллектом.
Apple заявляет, что если приложение может отображать контент, нарушающий права интеллектуальной собственности, или сообщения, равносильные киберзапугиванию, то приложение должно иметь способ фильтрации этого материала и способ, которым пользователи могут сообщить об этом.
Правило модерации контента, вероятно, стало причиной стычки с Твиттером Илона Маска в конце прошлого года и стало причиной того, что Apple загрузила Parler из App Store в 2021 году. Apple вернула Parler в App Store, когда добавила модерацию контента.
До того, как он был выпущен на iPhone в приложении Bing, ИИ на основе ChatGPT в Bing производил несколько жутких разговоров, включая угрозы в адрес своих пользователей и просьбы о помощи.
Но в Bing встроены инструменты модерации и фильтрации контента. ИИ Microsoft позволяет пользователям отрицать вредоносные ответы и включает в себя «систему безопасности», включающую фильтрацию контента и обнаружение злоупотреблений. Microsoft также обновила своего чат-бота Bing в последние недели, чтобы уменьшить эти жуткие разговоры, и теперь чат-бот часто отказывается обсуждать темы, которые могут привести к тому, что он сойдет с рельсов.
