Ano, část kódu píše AI. Tady je, jak to hlídám.

Ano. Velkou část kódu, který dnes dodávám, píšou AI agenti. Zákazníci se na to většinou neptají — buď je to nenapadne, nebo jim to přijde nezdvořilé — tak odpovím dřív, než otázka padne.

Nefunguje to tak, že bych napsal „udělej mi objednávkový systém“ a šel na kávu.

Jak to vypadá doopravdy

Práce je rozsekaná na malé kroky a každý z nich má někoho, kdo ho dělá, a někoho jiného, kdo ho po něm čte — psal jsem o tom podrobněji.

Podstatnější je, kde v tom stojí zákazník. Zadání se odsouhlasí předem — co se má stát a jak se pozná, že je to hotové. A než se úsek uzavře, projde přejímkou. Ne „však já vám to potom ukážu“, ale bod, ve kterém někdo řekne ano nebo ne.

Ta struktura je jediný důvod, proč se dá výsledku věřit.

Umělá inteligence se mýlí sebejistě

Když se splete člověk, obvykle to na něm poznáte. Váhá, ptá se, řekne „myslím, že“. Když se splete umělá inteligence, zní úplně stejně, jako když má pravdu. Věta je plynulá, sebevědomá a působí odborně. Jen je špatně.

Nedávno se to stalo přímo na tomhle webu a stojí za to říct to přesně, protože zjednodušená verze by zněla líp.

Psal se článek a prošel kontrolou — a ta kontrola do něj přidala dvě technická tvrzení. Zněla věrohodně, seděla do textu a byla nepravdivá. Přežila i pozdější přepis, protože ten řešil styl, ne fakta. Chytila je až kontrola, která si je nevzala na slovo: ověřila si je proti dokumentaci a vyzkoušela je na skutečném stroji.

Poučení není „umělá inteligence se plete“. To ví každý. Poučení je, že kontrola, která text jenom přečte, umí chybu i vyrobit — a cenu má teprve ta, která si věci ověřuje.

Za co tedy platíte

Ne za řádky kódu. Ty jsou dneska levné a budou ještě levnější.

Platíte za to, že někdo pozná, co je správně, a podepíše se pod to. Že rozezná plynulý nesmysl od funkčního řešení. A že nese odpovědnost, když se něco pokazí.

Kromě hotové věci vám navíc zůstane něco, co dřív obvykle nezbývalo: popis, proč se to udělalo zrovna takhle. Agentovi musím zadání vysvětlit stejně přesně jako člověku, takže to vysvětlení vzniká písemně — a za rok, až se bude něco měnit, si ho přečtete vy nebo kdokoliv po mně.

Co se nezměnilo, je laťka. Změnilo se jen to, jak rychle se k ní dostanete.