Алисия Тронкосо, президент Испанской ассоциации искусственного интеллекта: «Не существует машин со здравым смыслом» | Технологии

Алисия Тронкосо Лора, родившаяся в Кармоне (Севилья), получает признание с момента окончания университетского образования, которое она провела в Севилье, Нью-Йорке и Калифорнии. Она профессор компьютерных языков и систем в Университете Пабло де Олавиде, сейчас она президент Испанская ассоциация искусственного интеллекта (ЭПИЯ). Он утверждает, что этот инструмент следует понимать как «страновой проект», который включает в себя, помимо технологического видения, перспективу социальный, гуманистический, правовой и этический. «Это очень важно», — говорит она.

Просить. Базовое определение искусственного интеллекта (ИИ) относится к системам и программам с возможностями, подобными человеческим. Они заменят нас?

Отвечать. Это страх, который есть у каждого, видя достижения в области искусственного интеллекта. Но заменить человека сложно, потому что человек обладает многими качествами, которыми сегодня не могут обладать машины. Не существует машин со здравым смыслом. До замены нас еще далеко, потому что искусственный интеллект, который сейчас развивается, специфичен, то есть создаются алгоритмы и машины, которые учатся выполнять конкретные задачи. Если задача меняется, нужна другая машина или другой алгоритм, а человек сам по себе многозадачен: он делает все, потому что человеческий интеллект универсален. Да, они собираются выполнять определенные задачи, которые выполняют люди.

Машине необходимо сказать, что такое добро и зло. Она не знает. Она одна не может отличить»

П. Но смогут ли они отличить добро от зла?

Р. Машина будет делать то, что мы проектируем. Машине необходимо сказать, что такое добро и зло. Она не знает. Сам по себе он не может отличить, но именно в этике всего сектора — исследователей, разработчиков, компаний и правительств — этот искусственный интеллект спроектирован с учетом определенных требований, чтобы мы позже не оказались вовлеченными в проблемы, связанные с этикой.

П. Что он?

Р. Их много, и они связаны со справедливостью и прозрачностью. Интеллектуальные системы будут принимать решения или помогать их принимать. Например, их можно использовать для выдачи кредитов, и необходимо гарантировать, что они будут действовать беспристрастно, поскольку их уже видели. некоторые системы, которые действуют дискриминационным образом. Интеллектуальные системы должны гарантировать равенство, отсутствие предвзятости или дискриминации. Это большой вызов, связанный с правосудием. Другой вопрос, по которому сейчас проводится много исследований, — это прозрачность: если они собираются принимать решения, влияющие на людей, мы должны знать, как они работают. Если они не предоставляют кредит, сообщите им, почему.

П. Искусственный интеллект превратился из дисциплины для экспертов в инструмент. которым пользуются даже школьники, например ChatGPT. Это выгодно?

Р. Начинают проявляться большие выгоды, и еще больше будет видно. Есть приложения для нейропротезов, которые позволяют людям, не видевшим 12 лет, различать цвета или обеспечивать подвижность шарнирной руки только мыслью, или активировать нейроны из памяти, что связано с болезнью Альцгеймера. В не столь отдаленном будущем они смогут помочь при многих проблемах со здоровьем.

Сырьем для искусственного интеллекта являются данные, и в этом смысле существуют риски для безопасности и конфиденциальности. Это также имеет влияние на труд. «Вот почему регулирование так важно».

П. Он Дело Альмендралехогде некоторые подростки воссоздали обнаженные тела своих одноклассников с помощью искусственного интеллекта, показывает, что риски существуют.

Р. Рисков много, и мы видим их каждый день. Сырьем для искусственного интеллекта являются данные, и в этом смысле существуют риски для безопасности и конфиденциальности. Это также имеет влияние на труд. Вот почему регулирование так важно.

П. Алгоритмы определяют цену билета, наши социальные отношения, наши покупки… Прокрался ли искусственный интеллект в нашу жизнь незаметно для нас?

Р. Мы окружены искусственным интеллектом и настолько усвоили его, что не различаем его, не осознаем его или не придаем ему значения. Сколько лет мы пользуемся Google Maps? Это приложение представляет собой искусственный интеллект. Умные пылесосы управляют планами вашего дома. Реклама, которая доходит до меня, отличается от той, которая доходит до другого человека. Все это имеет искусственный интеллект и, конечно же, обусловливает наши потребительские привычки, наш досуг и многие аспекты социальной жизни каждого человека.

Мы окружены искусственным интеллектом, и он настолько усвоен нами, что мы его не различаем, не осознаем или не придаем ему значения».

П. Куда мы идем?

Р. Я думаю, что сейчас пропагандируется зеленый искусственный интеллект. ИИ также потребляет энергию и вносит свой вклад в изменение климата. Сейчас существуют очень мощные инициативы, направленные на то, чтобы сделать искусственный интеллект экологически чистым и снизить энергопотребление тех алгоритмов, которые все основные платформы ниже, как у Google или Meta, они должны быть как можно меньшими. Кроме того, в связи с предстоящим постановлением мы работаем над искусственным интеллектом, ориентированным на человека, чтобы избежать всего этого побочного ущерба. Достигнут прогресс в повышении производительности в этой области… Искусственный интеллект, как и все остальное: при правильном использовании он может принести нам пользу. Но чтобы правильно его использовать, вам также необходимо пройти обучение ценностям и этике, чтобы знать, что правильно, а что нет.

п. Поэтому, по его словам, регулирование необходимо.

Р. Это очень необходимо. Прямо сейчас в ЕС уже есть предложение о регулировании искусственного интеллекта, которое классифицирует инструменты в зависимости от того, является ли их воздействие высоким, средним или низким. На основе этого будут определены требования к инструментам искусственного интеллекта. Этот Марко Генерал Он будет продвигаться вперед, чтобы они включали все случаи, которые могут произойти.

«Законодательство всегда работает медленно, а технологии — наоборот».

П. Он приходит поздно?

р. Технологии развиваются очень быстро, а законодательство и законодательство развиваются медленно, потому что законы имеют большое влияние и должны проходить через различные организации и подвергаться обсуждению, чтобы гарантировать, что они действительно выполняют свою цель и не причиняют вреда людям. Законодательство всегда работает медленно, а технологии – наоборот.

п. Некоторые менеджеры технологических компаний и интеллектуалы выступали за прекращение процесса до тех пор, пока не будет достигнута согласованная структура. Это необходимо?

р. Этот запрос, подписанный многими руководителями крупных компаний, занимающихся искусственным интеллектом, появился, когда произошел взрыв ChatGPT. В этих компаниях много перекрестных интересов. Когда Google или Meta вывели на рынок продукт искусственного интеллекта, они не беспокоились об ущербе, который может нанести искусственный интеллект. Они были обеспокоены появлением ChatGPT, поскольку его выпустила другая компания, не принадлежащая им. В этом запросе много противоречивых интересов, и его необходимо немного изолировать. Искусственный интеллект не должен останавливаться, а должен развиваться в соответствии с правилами, руководящими принципами и этикой, чтобы гарантировать, что он ориентирован на людей и используется на их благо.

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.

_