Проблема доверия к роботам. Мы все это знаем, потому что это один из… | от Секретного разработчика | ноябрь 2025 г.

Нажмите Enter или нажмите, чтобы просмотреть изображение в полном размере

Мы все это знаем, потому что это одна из истин современных систем искусственного интеллекта. Я сказал это. Вы сказали это. Теперь сторонники ИИ начинают бить тревогу.

Поэтому, когда Сундар Пичаи (генеральный директор Google, не возражаете) говорит вам перестать слепо доверять ИИ, вам следует принять это к сведению. Потому что это похоже на предупреждение мясника о рисках употребления мяса.

Поэтому, когда будут выпущены модели ИИ, которые обещают писать, проверять, рефакторить и объединять код, нам следует открыть большой мешок скептицизма и насладиться вкусным содержимым внутри.

Код, который вы не писали, ваши ошибки

Я до сих пор помню плохие старые времена. Запросы на включение остаются непроверенными в течение нескольких дней, поскольку разработчики слишком заняты всплесками, чтобы изменить фрагмент текста. Поэтому вполне логично, что люди хотели, чтобы машина избавила их от тяжелой работы по чтению кода и размышлениям о том, что она должна делать.

Но готовы ли мы к миру, где код пишут агенты и проверяют люди, которые его никогда не читают? Когда мы знаем, что модели допускают ошибки (что признает даже Сундар Пучаи?).

Ну, это уже происходит. На работе у нас есть второй пилот, который комментирует PR, которые представляют собой странные стили (у нас есть линтер для них, спасибо) или иногда являются полной ерундой.