ИИ уничтожает Open Source, и это еще даже не хорошо

На выходных Ars Technica отозвал статью потому что ИИ, который использовал писатель галлюцинации цитаты от сопровождающего библиотеки с открытым исходным кодом.

Ирония здесь в том, что рассматриваемый сопровождающий, Скотт Шамбо, был преследуется чьим-то ИИ-агентом из-за того, что мы не объединили его отстойный код ИИ.

Вероятно, бот работал через чей-то локальный экземпляр «агента ИИ» (вероятно, с использованием OpenClaw). Парень, создавший OpenClaw, был только что нанят OpenAI, чтобы «работать над предоставлением агентов каждому». Вам придется меня простить, если я не в восторге от этого.

Видео

Этот пост в блоге представляет собой слегка отредактированную расшифровку видео, которое я сегодня опубликовал на YouTube. Прокрутите вставленное видео, если вы похожи на меня и предпочитаете читать текст 🙂

Влияние на открытый исходный код

В прошлом месяце, еще до выпуска OpenClaw, специалист по поддержке Curl Дэниел Стенберг сбросили награды за обнаружение ошибок потому что отстой ИИ привел к фактическому полезный Количество сообщений об уязвимостях снизилось с 15% всех отправленных сообщений до 5%.

И это еще не самое худшее — авторы этих отчетов об ошибках, похоже, придерживаются более авторитетной позиции:

Эти «помощники» слишком стараются превратить все, что они находят, во что-то ужасно плохое и критическую уязвимость, но они редко активно способствуют реальному улучшению скручивания. Они могут приложить все усилия, чтобы спорить и настаивать на своем конкретном текущем выводе, но не для того, чтобы написать исправление или работать с командой над улучшением Curl в долгосрочной перспективе и т. д. Я не думаю, что нам нужно больше этого.

Этих пользователей агентного ИИ не волнует Curl. Их не волнует Дэниел или другие разработчики открытого исходного кода. Они просто хотят быстро получить денежные вознаграждения, используя свою частную армию искусственного интеллекта.

Я управляю более 300 проектов с открытым исходным кодоми хотя многие из них являются более нишевыми, чем Curl или Matplotlib, я сам наблюдал рост неэффективных PR в области ИИ.

Это получено так плохо, GitHub добавил функцию в полностью отключить запросы на извлечение. Запросы на включение — это фундаментальная вещь, которая сделала GitHub популярным. И теперь мы увидим, что эта функция закрывается во все большем количестве репозиториев.

Генерировать помои ИИ становится проще, но он не становится умнее. Судя по тому, что я видел, у моделей есть попасть на плато где генерация кода довольно хорошо^…

Но ситуация не улучшается, как в последние несколько лет. Проблема в людях, которые обзор код, который отвечает за полезное программное обеспечение, поддерживающее работу наших систем, не обладает бесконечными ресурсами (в отличие от компаний, занимающихся искусственным интеллектом).

Некоторые полагают, что ИИ также может взять на себя проверку кода, но это не ответ.

Если вы используете личную панель погоды или создаете игрушечный сервер для своей Homelab, отлично. Но я бы не стал запускать свои производственные приложения — которые действительно приносят деньги или могут причинить вред в случае поломки — на непроверенном коде ИИ.

Если это уже было проблемой, выпуск OpenClaw и найм OpenAI для дальнейшей демократизации агентного ИИ только усугубят ситуацию. Сейчас увлечение искусственным интеллектом ощущается так же, как крипто- и NFT-бумс теми же признаками безумного поведения и безрассудного оптимизма.

Разница в том, что у LLM и машинного обучения есть более полезные цели, поэтому мошенники могут указывать на эти способы использования, разрушая все хорошее во имя своего бога ИИ.

Поскольку мое видео Нехватка оперативной памяти касается всех нас в декабре у нас жесткие диски как следующий надвигающийся дефицит, связанный с ИИ, поскольку Western Digital только что анонсировала они уже проданы через свои запасы на 2026 год.

Некоторые считают, что пузырь ИИ — это не пузырь, но эти люди заблуждаются, как и ИИ, который галлюцинировал цитаты в статье Ars Technica.

И они говорят «на этот раз все по-другому»но это не так. Те же признаки наблюдаются и при других авариях. У меня большой вопрос: сколько еще вещей компании, занимающиеся искусственным интеллектом, уничтожат, прежде чем им придется заплатить свои долги.