«Эта технология может принести столько пользы, сколько страданий она может предотвратить, а еще есть аспект того, сколько разрушений она может причинить и сколько можно потерять в этом процессе», — говорит Ким, который был одним из первых сотрудников. из Google, а также работал в Организации Объединенных Наций и помощником Пола Грэма, соучредителя инкубатора стартапов Y Combinator. «Я не думаю, что у нас есть ответы на все вопросы. Нам просто нужно быть очень гуманными и дать людям возможность подумать об этой технологии».
Временная выставка финансируется до мая анонимным спонсором, но пространство демонстрирует влияние ряда основателей и мыслителей технологий, из подставленного твит об искусственном интеллекте и эффективном альтруизме от сооснователя Facebook Дастина Московица к ванне с макаронами у входа на выставку. Последнее является отсылкой к идеям Холдена Карнофски, соучредителя Moskovitz из Open Philanthropy, которая финансировала OpenAI и другие работы, связанные с будущим путем ИИ. Карнофски утверждал, что мы живем, возможно, в самый важный век в истории человечества, до потенциального появления трансформационного ИИ, который он называет Процессом автоматизации научно-технического прогресса, или ПАСТА.
Попытки предсказать далекое будущее ИИ недавно сосредоточились на ChatGPT и связанных технологиях, таких как новый поисковый интерфейс Microsoft, несмотря на его хорошо задокументированные ограничения и до сих пор неясную ценность. Предприниматели, делающие ставку на технологию, делают напыщенные заявления о том, на что способна их технология. На прошлой неделе генеральный директор OpenAI опубликовал в блоге сообщение о том, что компания «планирует использование AGI».
Вскоре после этого Федеральная торговая комиссия США, агентство, защищающее от мошеннической деловой практики, предостерегла маркетологов от ложных заявлений о том, на что способна их технология. Адвокат FTC Майкл Атлесон написал в своем блоге, что «мы еще не живем в царстве научной фантастики, где компьютеры обычно могут делать достоверные прогнозы человеческого поведения».
Многие исследователи ИИ считают, что, хотя генеративные системы ИИ, такие как ChatGPT, могут быть впечатляющими, эта технология не заслуживает признания интеллекта, потому что алгоритм только повторяет и смешивает шаблоны из своих обучающих данных.
С этой точки зрения, сегодняшний ИИ лучше рассматривать как калькулятор или тостер, а не как разумное существо. Некоторые специалисты по этике ИИ считают, что приписывание человеческим качествам, таким как разум, технологиям может отвлечь внимание от разговоров о других формах вредоносной автоматизации, таких как технологии наблюдения, экспортируемые компаниями как в демократических, так и в авторитарных странах.
Ким говорит, что впервые познакомилась с машинным обучением, когда работала в стартапе по разработке беспилотных автомобилей Cruise, позже приобретенном General Motors. Она начала думать о том, как правильно работающий ИИ может устранить множество ненужных смертей и страданий, но также и о том, что, если технология не работает, она может представлять огромный риск для человеческих жизней.
В дополнение к показу искусства ИИ и искусства об ИИ, Музей рассогласования планирует проводить показы фильмов, которые исследуют более темный потенциал технологии, например Терминатор, Из машины, Ееи Театр мыслидокументальный фильм 2022 года о нейробиологии и искусственном интеллекте, снятый Герцогом.
Ким говорит, что она считает маловероятным, что ИИ убьет большую часть человечества, несмотря на тему ее выставки, но что люди должны думать о влиянии уже появляющегося ИИ, например, педагоги и литературные редакторы, пытающиеся проанализировать разницу между текстом, созданным человеком, и текстом, созданным ИИ. или собственные дискуссии WIRED о том, как генеративный ИИ может или должен помочь журналистам.
«ИИ затронет всех нас, поэтому для меня важно, как заставить как можно больше людей начать думать об этом и формировать собственное мнение», — говорит Ким. Музей перекоса открыт для публики в четверг, пятницу и субботу. Она планирует проводить экскурсии для школьных групп, чтобы осмотреть экспонаты и просмотреть библиотеку материалов для чтения о возможностях и потенциальном вреде искусственного интеллекта.
«Я работаю над созданием стремянок, чтобы дети, когда они войдут, могли видеть глаза спамботов, — говорит Ким.
Обновлено 3 марта 2023 г., 13:50 по восточному стандартному времени: Ким говорит, что ее собака Мерфи дружит с воронами, а не с воронами.
