Когда я говорю с доктором Атри Рудрой и упоминаю новый «отдел ИИ» Университета Буффало, он быстро и мягко поправляет меня: «Это не новый факультет ИИ, а факультет ИИ и общества», — говорит он.
Рудра является председателем совершенно нового отдела, который был создан с целью помочь в исследовании способов ответственной разработки ИИ, который может служить обществу. В то же время кафедра поможет студентам получить представление об искусственном интеллекте, а также задуматься о более широких последствиях этой технологии.
Как таковой, Кафедра искусственного интеллекта и общества содержит несколько уроков для всех, кто интересуется искусственным интеллектом и образованием.
ИИ можно разрабатывать, думая не только о прибыли технологических компаний
В настоящее время наиболее известные инструменты искусственного интеллекта разрабатываются крупными компаниями, основной целью которых является получение прибыли.
«Стимулы для компаний не обязательно заключаются в создании систем искусственного интеллекта, которые чрезмерно ориентированы на общество», — говорит Рудра. Вместо этого эти инструменты искусственного интеллекта созданы с упором на такие показатели, как скорость выполнения конкретных задач или степень вовлеченности людей.
Рудра хочет, чтобы Департамент ИИ и общества стал своего рода инкубатором ИИ, который создается с нуля с учетом интересов общества, поэтому «это не то, что можно подстроить позже», — говорит он. «[We can] создавать прототипы и показывать, что подобные системы можно построить. Я не утверждаю, что мы собираемся создать что-то вроде ChatGPT для общества. У нас нет ресурсов, но идея состоит в том, чтобы показать, что создание новых видов систем искусственного интеллекта, ориентированных в первую очередь на нужды общества, возможно».
ИИ не обязательно должен быть черным ящиком
Рудра хотел бы, чтобы разработчики ИИ получали больше информации от сообщества о процессах принятия решений ИИ, но проблема в том, что часто неясно, почему именно модель ИИ принимает те или иные решения, даже инженерам машинного обучения (МО), которые занимались проектированием.
«Многие из этих инженеров машинного обучения также не знают, что происходит», — говорит он. «Они пробуют что-то, и это работает, но мы очень плохо понимаем, почему эти модели работают. Поэтому большая часть ML звучит так: «Я запустил это, и оно сработало хорошо». Но если вы спросите их: «Можете ли вы объяснить, почему?» Это очень тяжело».
Он добавляет, что «были люди, которые работали над некоторыми постфактум-вещами, например, когда вы уже построили модель, можете ли вы сделать ее более объяснимой?» Это один из типов проблем, который, как надеется Рудра, смогут изучить студенты и преподаватели его новой кафедры, и один из самых важных вопросов, касающихся развития ИИ в более широком смысле.
Тем, кто работает в области искусственного интеллекта, не нужно бояться математики
Когда дело доходит до студентов, присоединяющихся к программам искусственного интеллекта, Рудра считает, что есть возможность привлечь широкий круг студентов, если больше людей смогут преодолеть свой страх перед математикой.
«Существует много математической фобии, которая, я думаю, неуместна в том смысле, что люди боятся математики больше из-за недостаточной осведомленности, а не потому, что математика сложна по своей сути», – говорит он. Отчасти это может быть связано с абстрактным способом преподавания математики, добавляет он, отмечая, что, по его опыту, ученики лучше справляются с математикой, когда она связана с чем-то реальным и практическим, например, с программированием системы и т. д.
Кроме того, в некотором смысле для понимания ИИ может потребоваться меньше математики, чем думают люди. «Чтобы понять, как эти вещи работают, вам просто нужны некоторые понятия из алгебры и некоторые понятия из теории вероятности», — говорит он. «Конечно, если вы знаете исчисление, некоторые из этих вещей становятся проще, но это не присуще этим понятиям».
Это также часть общей философии Департамента ИИ и общества, которая направлена на объединение студентов с разным опытом в группы, которые узнают о том, как можно улучшить ИИ, чтобы помочь решить больше реальных проблем.
«Мы будем очень внимательно следить за тем, чтобы это не была группа, состоящая из всех студентов одной дисциплины, потому что это противоречит цели», — говорит он. “Решение этих проблем невозможно сделать в одной дисциплине, возможно, даже не в двух. Поэтому вам нужно, чтобы люди разговаривали друг с другом”.
2025-10-30 09:00:00
1761849927
#Как #ИИ #может #помочь #обществу
Ещё по этой теме
