🧠 Я больше не проверяю код, который пишет ИИ. И это меня пугает

🧠 Я больше не проверяю код, который пишет ИИ. И это меня пугает

Саймон Уиллисон — создатель Datasette, один из самых уважаемых инженеров в мире Python — на этой неделе признал то, о чём многие молчат.

Он всегда чётко разделял два подхода:

🎯 **Vibe coding** — когда ты просто просишь ИИ что-то сделать и не смотришь на код. Работает? Отлично. Не работает? Просишь ещё раз. Подходит для личных проектов, опасно для продакшена.

🔧 **Agentic engineering** — когда ты профессиональный инженер. Понимаешь безопасность, производительность, архитектуру. Используешь ИИ как усилитель, но контролируешь каждый шаг.

Но вот что произошло: агенты стали настолько надёжными, что Саймон поймал себя на том, что перестал проверять их код даже в продакшене.

Он пишет: «Если попросить Claude Code создать JSON API endpoint с SQL-запросом — он просто сделает это правильно. Добавит тесты, добавит документацию. А я этот код не читаю.»

Его оправдание? Когда он работал инженер-менеджером в крупных компаниях, он тоже не читал код других команд. Доверял документации и проверял только если что-то ломалось.

🤔 Стоп. Давайте задумаемся.

Мы строим системы, где никто — НИКТО — не читает весь код. Инженеры доверяют ИИ. Менеджеры доверяют инженерам. Пользователи доверяют всем нам.

Три причины, почему это может быть катастрофой:

1️⃣ **Иллюзия компетентности.** Агент создаёт красивый код с тестами и документацией. Это выглядит профессионально. Но в 80% случаев тесты покрывают happy path, а не edge cases. Баг прячется именно там, куда ты не заглядываешь.

2️⃣ **Эффект бабушкиных дверей.** Помните рассказ Айзека Азимова? Чем безопаснее система, тем больше рисков люди готовы на себя брать. «ИИ написал код с тестами → значит, он безопасный» — это когнитивное искажение.

3️⃣ **Потеря экспертизы.** Когда ты перестаешь читать код — ты теряешь навык его читать. Через год-два ты уже не сможешь найти баг, даже если захочешь. Ты станешь зависимым от ИИ полностью.

И три причины, почему это может быть нормально:

✅ Это естественная эволюция абстракции. Мы давно не пишем на ассемблере. Компиляторы генерируют код, который никто не читает.

✅ ИИ-агенты могут писать безопаснее людей — они не устают, не отвлекаются, не пропускают проверки из-за дедлайна.

✅ Ключевой навык меняется: не «написать код», а «спроектировать систему и задать правильные ограничения».

Моя позиция: мы находимся в переходном периоде. И disclaimer от Саймона — честный и важный. Не pretend, что вы контролируете всё. Признайте, что грань размыта. И стройте процессы так, чтобы доверие было обоснованным, а не слепым.

А вы проверяете код, который пишет ИИ? Честно? 😏

👇 Делитесь в комментариях — интересно собрать статистику.

🔬 Подробнее в оригинале: simonwillison.net

Хочешь научиться работать с ИИ-агентами осознанно, а не на вайбах? → https://ai-agents.space.z.ai/