1759062991
2025-09-28 12:19:00
Прежде чем мы обсудим, может ли ИИ быть осознанным, мы должны столкнуться с более близким вопросом: не бодрствующие до нашего агентства, прежде чем передать его на машины?
Sreedir Potarazu и Carin-Isabel Knoup
Агентство перед сознанием
Сегодня мы углубимся в еще более насущный вопрос о том, что происходит, когда мы перестаем использовать машины для информировать наше суждение и вместо этого позволяет им заменять это. Могут ли машины повторять людей, где агентство является человеком и сознанием? В конце концов, оба требуются, поскольку без агентства сознание неэффективно. Сознание – это осознание, в то время как агентство действует с намерением. Какое использование электричество, если оно не может выразить свою энергию через агента? Электричество – это необработанный потенциал, но без переключателя или лампы оно остается неиспользованным. Это танго между агентством и сознанием.
Генеральный директор Microsoft AIВ Мустафа СулиманНедавно предупредил, что мы находимся на грани создания «кажущегося сознательного ИИ», систем, которые пытаются имитировать осознание. Эти системы, хотя и не по-настоящему осознанными, предназначены для имитации человеческого поведения и ответов.
Будет ли ИИ когда -нибудь по -настоящему сознательным, остается нерешенным. Но даже до того, как мы обсудим этот вопрос, мы должны задать что -то ближе к дому. Достаточно ли мы осознаем наш собственный агентство? Сппнум ли мы, что значит действовать, выбирать и нести ответственность, прежде чем мы делегируем эти функции в машины? Другими словами, прежде чем мы назначим другого агента, который думает для нас, мы должны закупить наше собственное агентство.
От предложения к решению
Ставки для нашего агентства не являются тривиальными. Мы уже перешли из наводящий на мысль системы, которые помогают, предлагая прогнозы, такие как AUTO решающе у вас естьв котором эти прогнозы молча закрепляются в решения. Когда мы набираем «Я хотел сказать вам…», а автозаполнение предлагает «Я люблю тебя» или «Я скучаю по тебе». Машина не просто заканчивает нашу мысль – она сузила ее. А с Genai LLM не заканчивают наши предложения; Они пишут их полностью.
Potarazu и Knoop: «Знай боли, знай, выиграть»: о том, как амбиции превращают боль в валюту – и почему мы должны научиться тратить ее с умом (13 сентября 2025 г.)
В медицинской сортировке алгоритмические системы оценки могут определить, кто получает неотложную помощь. При найме инструменты автоматического скрининга исключают кандидатов, прежде чем человеческий взгляд когда -либо смотрит на резюме. В законе, основанные на ИИ исследования и составление все чаще формируют, что аргументы даже проходят проверку в суде. И в повседневной жизни автозаполнение завершает наши предложения, иногда даже до того, как мы полностью сформировали мысль сами.
Инструмент, который предлагает входные человеческие агентства, в то время как инструмент, который решает для нас, начинает его разрушать. Со временем делегирование без обсуждения становится отреком. Как Карин Изабель Кнуп и коллеги показали, что наши психологические уязвимости, необходимость признания, перфекционизма и одиночества делают нас особенно склонными к чрезмерной зависимости в системах, которые имитируют эмпатию. Когда сигналы утверждения от машины становятся заменой человеческой связи, мы принимаем не только решения аутсорсинга, но и часть нашей самостоятельности и агентства. Эта потенциальная потеря идентичности и агентства должна быть причиной для беспокойства.
Асимметрия тренировок
Что делает этот момент еще более тревожным, так это растущая дивергенция между тем, как обучаются машины, и тем, как мы, как люди, позволяем нашим собственным способностям агентства атрофии. Большие языковые модели поглощают миллиарды слов, разрабатывая статистическое чувство синтаксиса и значения, которое позволит им с точностью предсказать, что будет дальше в предложении или аргументе. Модели зрения переваривают большие репозитории изображений, научились распознавать лица, опухоли и паттерны трафика. Эти машины, по сути, становятся мастерами самого ремесла, которое делает нас людьми, что является языком, наблюдением и прогнозом.
Тем временемВ Наша собственная практика языка и наблюдения уменьшается. Мы пишут фрагментами, часто лишенными нюанса, заменяя тонкость грамматики струнами эмодзи. Мы проваливаем заголовки, а не читаем глубоко. Мы заменяем быстрый «как» на разговор. В визуальной культуре мы бесконечно прокручиваем с изображениями, но редко паузу, чтобы наблюдать с осторожностью. Мы захватываем опыт на наших телефонах вместо того, чтобы жить их и передавать нашу память в облако. В результате наши машины в качестве агентов учатся говорить и видеть более свободно, даже несмотря на то, что наши собственные способности тщательно использовать слова или заметить мир с терпением.
Кто лучший агент?
Эта асимметрия поднимает преследующий вопрос о том, кто здесь лучший агент? Машинное обучение, чтобы воспринимать закономерности в разных тропах данных или отвлеченного читателя, поспешного доктора, утомленного родителя или «все мы снимаем вместо того, чтобы видеть» и больше не читать внимательно или глубоко наблюдать? Когда машины начинают заканчивать наши предложения, прежде чем мы запустим их, они не только предсказывают, но и предварительно завернят нас. Когда они маркируют и классифицируют мир для нас, они тонко определяют, что мы видим и что мы упускаем из виду. Агентство, в этом смысле, касается не только того, кто принимает окончательное решение, но и о том, кто больше всего замечает и у кого есть выносливость для обучения. Все чаще ответом не является мы.
Если человеческое агентство требует способности воспринимать, сопротивляться, терпеть и решать, то наша траектория должна беспокоить нас. Машины становятся лучше в восприятии моделей, чем мы. Они никогда не устают, не растут и не обжигают, потому что они отвлекаются. Мы, напротив, сдали выносливость для удобства, сопротивления для комфорта и принятия решений для легкого. Эта дивергенция не означает, что машины обязательно сознательны, но это означает, что они практикуют в масштабе, привычки, которые когда -то отличали человеческое агентство. Крайне важно, чтобы мы вернули эти привычки, или мы рискуем стать зрителями в нашей собственной истории.
Четыре дисциплины агентства
Агентство начинается с восприятия. Внимание – это не просто пассивный ввод, но и селективный, контекстуальный и формируется по значениям. Врач, который просматривает предупреждение, основанное на алгоритмах, может увидеть те же самые жизненно важные признаки, но упустит нюанс истории боли пациента. Рекрутер, который полагается на рейтинг, может пропустить True Grit в резюме. ИИ фильтрует то, что он видит, и из -за этого это меняет то, что мы замечаем. Первая жертва делегирования часто является широтой внимания.
Агентство также требует сопротивления. Компании разрабатывают интерфейсы для подталкивания. Алгоритмы направляют нас и утешают нас знакомством. Эффективный агент должен сопротивляться таким толчке, когда они конфликтуют с более широкими целями. Поддержание скептицизма, опросных стимулов и распознавания манипуляций имеет решающее значение, как и в сопротивлении автопроизводству на Netflix или алгоритмическом подталкивании для продолжения прокрутки.
Выносливость – это еще одно качество агентстваПолем Решения часто требуют терпения, терпимости к неопределенности и готовности принять отсроченные или дорогостоящие результаты. Машины оптимизируют для немедленных результатов, но они не страдают от репутационных или этических затрат на плохое решение, как мы- например, ожидание, когда наш врач обсудит наши результаты лаборатории, прежде чем спешить с самодиагностикой в Интернете.
Окончательно, Агентство завершает решение о трудной ответственности за согласование ценностей с действиями. Машины могут представлять варианты и оценивать их, но они не могут владеть моральными последствиями. Когда мышление делегировано, моральная ответственность может испариться. Кто несет бремя, когда бот сортировки отрицает заботу? Кто отвечает, когда модель найма исключает на основе доверенных лиц расы или класса? Если мы сдаем принятие решений системам, которые мы не понимаем или не контролируем, мы разрушаем возможность морального агентства.
Кому вы служите?
Важность агентства – это не только современная забота. Писание настаивает на этом: «Выберите вас в этот день, кому вы будете служить» (Иисус, 24:15) напоминает нам, что акт выбора является центральным для человеческого достоинства. Философия тоже давно подчеркнула это. Как сказал Жан-Поль Сартр, «человек осужден свободным», что означает, что даже перед лицом неопределенности и ограничения мы не можем избежать бремени решения. Веданта, древняя индийская школа мысли, идет дальше, прося нас узнать о самой природе того, кто выбирает. Его центральный вопрос, “Кто я?” Агентство рамки не только как решение, но и самореализация. Чтобы действовать мудро, восточная философия требует знания агента, стоящего за действием, сознания свидетелей, которое наблюдает, различает и решает. Таким образом, Священные Писания, Философия и Веданта сходятся на одной истине, которая является то, что агентство является сущностью того, что значит быть человеком.
Мы психологически готовы принять делегированиеПолем Меньше мышления чувствует себя легко, поэтому ИИ так привлекателен. Средство не в том, чтобы отвергать ИИ, а создавать его способами, которые сохраняют и укрепляют человеческую агентство. Системы должны включать трение, которое заставляет отражение, а не невидимо подталкивать пользователей в принятие по умолчанию. Они должны сделать свои ограничения и неопределенность видимыми, поэтому пользователи понимают последствия своих рекомендаций. Они должны оставить последовательный выбор людям, которые остаются подотчетными, а не распространять ответственность в непрозрачные процессы.
Последние слова принадлежат нам
Риск психоза Сулимана, идея о том, что люди путают производительность с личностью, является симптомом, а не корнем. Более глубокий вопрос заключается в том, не бодрствую ли мы, как индивидуальные и коллективные агенты. Воспринимать – значит присутствовать. Сопротивляться – значит охранять себя. Выдержать – значит оставаться преданным. Решить – значит принять последствия.
Если мы сейчас отчитываем наши возможности благодаря лучшему дизайну, политике, обучению, культуре и ответственному использованию, мы можем иметь ИИ, который увеличивает человеческую агентство, а не замену. Вот как мы получаем лучшее из технологий, не уступив ядро того, что значит быть ответственными существами: способность действовать, заботиться и отвечать за наш выбор.
Спросите себя, сегодня вечером, прежде чем доверять еще одному разборочному ответу, прежде чем принять рейтинг модели, прежде чем вы на аутсорсинг на аутсорсинг еще одну микро-определение: я использую этот инструмент для усиления своего агентства или отречься от него? Машины могут предсказать и автозаполнить наше будущее, но мы и должны быть единственными, кто может и должен их выбрать.
(Sreedhar Potarazu, MD, MBA, является офтальмологом, предпринимателем и автором, который часто пишет о пересечении медицины, технологий и бизнеса. Карин-Изабель Кнуп возглавляет группу по исследованиям и письменности в Гарвардской школе бизнеса и соавтор нескольких работ по поведению человека, лидерству и организационной жизни в цифровую эпоху.)
#Восстановление #агентства #прежде #чем #стать #полусознательными #людьми
По теме
