Одна из концепций более преданный современного искусственного интеллекта и его зависимости от обучения с помощью нейронные сети искусственные сети, имитирующие физические сети нашего мозга, — это сеть “черный ящик”. Проблема, которая в прошлом году еще не удалось решить крупные компании, которые участвуют в интенсивной гонке за лидерство в этой технологии. По сути, когда мы говорим о «черный ящик«Мы имеем в виду загадку: во время обучения искусственного интеллекта мы знаем «вход» и «выход» системы, данные, которые входят, и результаты, которые выходят, но мы не знаем, как происходит этот процесс ни то, как ИИ пришел к таким выводам. Есть и другие специалисты, которые считают, что «черный ящик» — это миф, поскольку проблема не в том, что система непрозрачна, а в том, что недостаточно развиты инструменты для интерпретации его внутренней работы. В любом случае, если бы сам генеральный директор Google Сундар Пичаиговорит в интервью престижной телепрограмме «60 минут», что там что-то происходит «что ты не до конца понимаешь»должно быть, ключи еще далеки от понимания.
А знать эти ключи к внутреннему процессу Искусственного Интеллекта – это не тема. точно меньше. Без абсолютной прозрачности пути, который прошел ИИ, чтобы добраться до места прибытия, серьезный кризис доверия. Если, кроме того, вопросы, на которые ИИ должен дать ответы, столь деликатны, как лекарствоон верно или среда, беспокойство вызвано. Другими словами: нынешнее поведение ИИ чем-то напоминает прошлые времена человечества, когда мы доверяли шаман и его волшебство, которого мы, конечно, не понимали, хотя его результаты были обнадеживающими, что с эпоха науки и разума как у нас.
На самом деле, если мы немного подумаем об этом, В этом тоже нет ничего необычного.. Нейронные сети — это так называемый алгоритм «машинного обучения», который выполняется компьютерными системами, способными к самостоятельному обучению и копирующим поведение биологического мозга. Давайте будем точными, потому что правильно было бы сказать «какая копия». Что мы знаем поведения физического мозга. искусственные нейроны они пытаются организовать по слоям как и биологические, в процессе, который, кстати, был открыт более 130 лет назад тем забытым гением отечественной науки под названием Сантьяго Рамон и Кахаль. Количество слоев таково, а процесс имеет такую сложность, что, безусловно, порождает огромные затраты энергии, что может быть затруднительно, если не невозможно, отследить предпринятые шаги и последующее принятие решений. Это как если бы «игра в имитацию» Тьюринга, в свою очередь, мутировала в саркастический парадокс: ИИ продвинулся вперед, копируя загадку, которой до сих пор остается наш мозг для ученых. Проблема в том, что он утащил за собой эти загадки, «черные ящики» первоначального мозга, создав, в свою очередь, новый черный ящик, столь же непостижимый, как и настоящий «серое вещество». чистая поэзия из неразборчивого.
Простые смертные уже привыкли жить с технологиями, которые работают и мы не понимаем, как они это делают. И сами ученые-компьютерщики не застрахованы от этого обстоятельства, поскольку им приходится усвоить эту концепцию «черного ящика», применимую не только к ИИ, еще на первых курсах университета: может существовать модуль, объект или компонент, который они должны использовать без знать его внутреннюю работу. Но если наши первосвященники Искусственного Интеллекта тоже не понимают этого на сто процентов, что-то начинает идти не так, как надо. Особенно, когда такая ситуация связана не только с тем, насколько сложно войти в этот «черный ящик», чтобы раскрыть его тайны, но и с тем, что спешка и корыстные интересыЧто я скажу? Бенавентепревратили эволюцию ИИ в сумасшедший полет вперед где результат имеет большее значение, чем анализ процесса. То ли потому, что это невозможно понять, то ли потому, что это мое, и я не хочу, чтобы кто-то копался и разгадывал тайну: там компании, создающие ИИ, верят в Авторские права. Тем временем в США администрация уже разрешила 581 модель искусственного интеллекта участвует в принятии медицинских решениймногие из них прошли обучение работе с этими черными ящиками, и мы до сих пор не до конца понимаем, как они работают.
Хорошей новостью является то, что технологические и научные достижения не требуют много времени, чтобы создать брандмауэры для таких ситуаций. Уже есть исследователи ИИ, которые специализируются на так называемой «интерпретируемости» и которые, по сути, стремятся превратить этот черный ящик в полностью прозрачный контейнер. Понятие, сопровождающее другое, «объяснимость», своего рода «как» алгоритмов, для которых даже банки начинают предоставлять вам материалы.
«Машинное обучение было задумано как черный ящик: слишком сложные прогностические модели»
Североамериканский Синтия Рудин является одним из таких исследователей. В интересное интервью журнала Квантамагазин указывает на корень проблемы: было разработано машинное обучение, которое позволяет ChatGPT генерировать приемлемые стихи. быть «черным ящиком»». Рудин говорит, что «Это прогностические модели, которые слишком сложны для понимания любого человека. Или это свойства, «секретный соус» кого-то. Первоначальная идея заключалась в том, что не было необходимости иметь дело с данными, а алгоритм позаботился обо всем этом «под капотом». Концепция была очень элегантной, но из-за нее было трудно понять, что происходит».. Рудин знает, о чем говорит, потому что, как говорится, прежде чем стать монахом, она была кухаркой. После окончания университета работала в Нью-Йоркская электрическая компания в создании модели искусственного интеллекта, которая предсказывала канализационные системы, наиболее подверженные пожарам или взрывам, — «редкость», которая затронула не менее 1% подземных труб Манхэттена. При разработке модели работали с большим количеством данных, которые систематизировали. Несмотря на это, в модель была включена информация о «нейтральных кабелях», которая изменила весь конечный результат. Зная, что находится внутри модели, электрическая компания смогла понять, что этого там быть не должно, и проблему можно решить. В противном случае это была бы катастрофа. «Очень сложно устранять неисправности моделей, если не знаешь, что в них», — говорит Рудин журналисту из Квантамагазин.
Дело в том, что обучение «интерпретируемого» режима происходит гораздо медленнее и, следовательно, гораздо дороже: нужно убедиться, как ИИ собирается «рассуждать» (кавычки необходимы), чтобы убедитесь, что выводы верны. При принятии решений с высоким риском это кажется обязательным. Однако, похоже, ничего не произойдет, если ИИ воспользуется своей огромной способностью рассчитывать вероятности, чтобы решить, кому достанется реклама кроссовок в Интернете, а кому нет. Особенно, если система работает… Никто не будет волноваться, что всем управляет модель «черного ящика».
Проблема именно в этом: принять результат, не зная, откуда он взялся, или не имея возможности обсудить, почему он именно такой. Ни ChatGPT, ни Bard, ни какой-либо другой Генеративный ИИ Это оракулы или боги, которых нельзя подвергать сомнению.. Фредрик Браун, один из великих писателей-фантастов, великолепно описал риски такого отношения в восхитительном рассказе «Ответ», написанном в 1954 году, в котором кто-то имеет честь задать первый вопрос величайшему компьютеру в истории. Вопрос в следующем (а может ли он быть в другом?): «Есть ли Бог?» Представь, что он ответил.
2024-01-04 16:24:33
1704407344
#Черный #ящик #никто #не #знает #что #происходит #внутри #ИИ