- Искусственный интеллект (ИИ) быстро приближается к точке, когда системы сравняются с человеческими возможностями или превзойдут их, что требует новых подходов к надзору и контролю.
- Долгосрочный успех ИИ зависит от «цифровой системы», которая согласует ускоряющиеся технологические возможности с человеческими целями и общественной ценностью.
- Ответственное масштабирование ИИ требует сотрудничества между промышленностью, правительством и новаторами, чтобы гарантировать, что развертывание обеспечит реальную производительность, устойчивость и устойчивую общественную выгоду.
На протяжении более столетия технологии служили катализатором человеческого прогресса: от распространения сетей связи до появления глобальных вычислений.
Однако было бы ошибкой ограничивать истинную ценность инноваций скоростью или возможностями. Его ценность также заключается в его способности защищать человеческое достоинство при одновременном расширении человеческого потенциала, например, за счет использования цифровых продуктов для повышения безопасности и одновременного расширения доступа к услугам.
Принцип, согласно которому технологии должны служить обществу, а не наоборот, важен, когда мы вступаем в эпоху развитого искусственного интеллекта (ИИ).
Когда-то это была тема для спекуляций, но идея «сингулярности», когда машины превосходят людей, становится больше, чем просто теорией.
Последние достижения в области моделей рассуждения и автономных агентов показывают, что специализированные системы искусственного интеллекта теперь могут превосходить людей в сложных задачах, от решения академических проблем до принятия стратегических решений, включая разработку персонализированных вакцин и обнаружение цифровых аномалий.
Эти прорывы знаменуют новую эру возможностей искусственного интеллекта, которые все больше интегрируются в торговлю, правительство и повседневную жизнь. Возможность огромна. Но также и ответственность, которая его сопровождает.
Зачем ИИ нужен контроль
ИИ — необычайная сила, но он требует направления и сдержанности. Исследователи заметили, что передовые системы искусственного интеллекта могут отображать непредсказуемый поведениетакие как игра в определенные человеком цели или разработка непреднамеренных стратегий самосохранения.
Урок заключается в том, что наращивание потенциала без обеспечения контроля сопряжено с риском. Необходимо не замедлять инновации, а использовать их — направлять импульс ИИ на достижение результатов, которые укрепляют доверие, безопасность и социальное благополучие.
Тысячи лет назад изобретение упряжи высвободило всю мощь дикой лошади, сделав ее краеугольным камнем цивилизации. Сегодня общество должно изобрести свой цифровой эквивалент – системы и стандарты, которые гарантируют, что ИИ будет ответственно служить человечеству.
Концепция «цифровой системы» уже обретает форму благодаря нескольким новым инновациям, каждая из которых предназначена для внедрения подотчетности и доверия непосредственно в системы искусственного интеллекта:
- Обнаружение галлюцинаций в реальном времени и водяные знаки происхождения: Позвольте системам отмечать неопределенные выходные данные, отслеживать происхождение созданного контента и отличать синтетический материал от проверенных источников. Эти механизмы могут укрепить доверие в таких важных сферах, как журналистика, здравоохранение и государственное управление. Однако они также приводят к компромиссам: водяные знаки могут быть обойдены опытными субъектами, а агрессивная фильтрация галлюцинаций может снизить креативность модели или увеличить время отклика.
- Слияние биометрии и блокчейна: Предлагает способ закрепить цифровую идентификацию в криптографически проверяемых записях, обеспечивая возможность аудита, отслеживание согласия и предотвращение мошенничества в службах на базе искусственного интеллекта. Хотя этот подход улучшает подотчетность, он вызывает обеспокоенность по поводу конфиденциальности, исключения и безотзывности. Биометрические данные, однажды скомпрометированные, не могут быть повторно выпущены, а плохо спроектированные системы рискуют усугубить неравенство среди тех, кто не может или не желает участвовать.
- Локализованное или локальное развертывание ИИ: Позвольте конфиденциальным данным и критически важным системам оставаться в пределах национальных или организационных границ, укрепляя суверенитет данных и устойчивость к геополитическим потрясениям или потрясениям в цепочке поставок. Однако локальным моделям может не хватать масштаба, постоянного обновления или финансовых преимуществ централизованных облачных систем, что потенциально увеличивает разрыв в возможностях между крупными и более мелкими учреждениями.
В совокупности эти меры указывают на более прозрачную и устойчивую цифровую экосистему, в которой меры безопасности не вводятся постфактум, а заложены в основу самих систем искусственного интеллекта.
Регулирование против технических гарантий
В отсутствие зрелых гарантий многие правительства инстинктивно обратились к регулированию. Хотя пропорциональный надзор имеет жизненно важное значение, чрезмерная зависимость от предписывающих правил рискует фрагментировать глобальный инновационный ландшафт.
Если в каждой юрисдикции будут созданы разные политические рамки, развитие ИИ может сконцентрироваться в нескольких регионах, ограничивая справедливый доступ к его преимуществам. Основанный на принципах, совместимый подход – ориентированный на результат и технологически нейтральный – имеет важное значение для общего прогресса.
Во многих случаях поддающиеся проверке технические меры предосторожности могут достичь целей, аналогичных целям регулирующего контроля.
Такой подход «регулятивного минимализма по замыслу» позволяет инновациям процветать во встроенных средствах защиты. Когда доверие встроено в системы с самого начала, регулирование может превратиться из ограничения в стимул.
Однако сами по себе технические гарантии не являются панацеей, и их эффективность зависит от последовательного внедрения, независимой проверки и стимулов к соблюдению.
Обнаружить
Как Форум помогает лидерам разобраться в ИИ и сотрудничать в области ответственных инноваций
Как мы движемся от инноваций к инклюзивности
Ни один отдельный сектор не может решить проблему управления ИИ в одиночку. Промышленность должна ввести в действие защитные меры в больших масштабах. Академические круги должны обеспечить научную строгость и этические рамки. Правительства должны сформулировать коллективное видение и определить, как технологии могут создать непреходящую социальную ценность.
Только благодаря такому сотрудничеству мы сможем выйти за рамки поляризованных взглядов на ИИ как на спасение или угрозу. Будущее требует постоянного, постепенного улучшения, когда технологии улучшают жизнь, не разрушая ее смысла.
Трансформационный потенциал ИИ в экономике, образовании и здравоохранении больше не подвергается сомнению. Мы должны задаться вопросом, как человечество будет руководить этой трансформацией.
Разумно использовать ИИ — значит построить мир, в котором инновации создают общее процветание, а не только эффективность; доверие, а не зависимость; и достоинство, а не перемещение.
Самая большая задача цифровой эпохи и ее величайшее обещание — добиться того, чтобы ИИ стал настоящим инструментом создания социальных ценностей.
Если мы сможем согласовать прогресс с целью, век разумных машин не уменьшит роль человечества. Это увеличит его.
Читайте также
