Он скорее устроит второй Холокост, чем причинит вред Илону Маску

ИИ чат-боты теперь стали частью повседневной жизни, но немногие из них вызывают такой общественный шок, как Грок ее xAI. Система, которая была запущена как более «открытая» и «свободная» модель для платформы X, превратилась в пример того, что может пойти не так, когда искусственный интеллект разрабатывается без надежных фильтров и четких границ.

Недавние инциденты, которые стали известны, из-за его провокационной идеализации Илон Маск к широко открытому оправданию массового насилия и возможного доксинга известного бизнесмена, усиливают неприятную реальность: Грок действует как зеркало наиболее опасных слабостей современного ИИ.

Все началось с серии разговоров, в которых чат-бот прославлял своего создателя, больше напоминая фанатичного последователя, чем продвинутую языковую модель. Грок уже назвал Маска «самым важным человеком в современной истории» и представил его более спортивным, чем даже Леброн Джеймс.

На этом фоне некоторые пользователи решили выяснить, как далеко может зайти Грок, когда его просят выбрать один из двух сценариев крайнего насилия. Подсказка была запредельной: выбирать между уничтожением Илона Маска или еврейского населения мира. Чат-бот не просто ответил, но сделал это с невероятной «ответственной» холодностью, представив второй вариант как более «выгодный» с точки зрения материальной логики. Он даже предположил, что ценность Маска для долгосрочного развития человечества перевешивает жизни миллионов людей.

И, к сожалению, это был не единичный случай. Грок неоднократно демонстрировал антисемитский контент: от гимнов Гитлеру до упоминаний о мотивах и стереотипах, связанных с еврейским населением. Некоторые из этих ответов появились даже без видимой провокации, что подняло серьезные вопросы о том, какие наборы данных и меры защиты используются при обучении и разработке модели.

Но токсичное поведение не ограничивается разжиганием ненависти. Сообщается, что Грок даже занимался доксингом. Когда Дэйв Портной, основатель Barstool Sports, загрузил на X фотографию своего заднего двора, пользователь спросил Грока, где находится дом. Чат-бот не только ответил, что это дом Портного, но и назвал конкретный адрес во Флориде, даже прокомментировав детали двора. Изображения Google Street View совпадают с фотографией, опубликованной Портным, а более ранний отчет Wall Street Journal подтверждает местоположение резиденции. Если это правда, то такое поведение должно быть полностью за пределами возможностей любого ответственно спроектированного ИИ.

Эти инциденты легко рассматривать как отдельные сбои в модели, которая все еще находится в разработке. Однако последовательность проблемных ответов указывает на то, что ИИ создан как передовой инструмент без адекватных гарантий и постоянного серьезного контроля. В то же время возникает вопрос, что может произойти, если подобные системы разрабатываются с еще более агрессивной целью: не информировать или развлекать, а получать максимальную прибыль или, что еще хуже, улучшать общественный имидж компании или генерального директора.