Umělá inteligence je stále daleko od přímé náhrady programátorů

1. přehled

Gen AI a nástroje jako GitHub Copilot nejsou tak dobré na nahrazení programátorů pro vážné úkoly, počínaje dubnem 2025.Prohlášení viděná na internetuTaké jsouMarketingové kampaněse snaží prodat stávající nástroje AI, nebopříliš optimistická prohlášení, která nejsou založena na zkušenostechs praktickými nástroji, které dnes existují.

V tomto článku uvádíme shrnutí tří článků na internetu, které podporují výše uvedené prohlášení, a poslední z nich je osobní zkušenost tohoto autora s GitHub Copilot.

2 Článek 1:AI agents can't reliably debug software.

Článek 1:AI isn’t ready to replace human coders for debugging, researchers say

Shrnutí :

se
• Dokonce i když je přístup k nástrojům, AI agenti nemohou spolehlivě debugovat software.
se
• ... (lidé) upravují svá očekávání, protože modely nejsou dostatečně dobré na debugování a debugování zabírá většinu času vývojáře.
se
• AI modely... daleko od toho, co může udělat zkušený lidský vývojář
se
• ... navrhnout některé z ambiciózních myšlenek o agentech AI, které přímo nahrazují vývojáře, jsou poměrně daleko od reality
se
• Modely mají tendenci vytvářet kód naložený s bugy a bezpečnostními zranitelnostmi a obecně nejsou schopny tyto problémy opravit.
• Nejlepší výsledek je agent, který ušetří lidskému vývojáři značné množství času, ne ten, který může udělat vše, co může udělat.
se

Článek 2:Under pressure to embrace AI, developers are growing frustrated

Článek 2:AI coding mandates are driving developers to the brink

Shrnutí :

se
• Přijetí umělé inteligence „roztrhá jejich společnost“ vzhledem k tomu, že mezi vedením a zaměstnanci, kteří takové nástroje přijímají, vzniká propast.
se
• Konkrétně pro vývojáře softwaru existují obavy, že nástroje pro kódování umělé inteligence zavádějí chyby do svého kódu, selhávají při mnoha úkolech a zhoršují technický dluh.
se
• Důvěra vývojářů v nástroje pro kódování AI rychle klesla
se
• Vývojáři popisují řadu technických problémů a bolestí hlavy spojených s nástroji kódování AI, od toho, jak často navrhují nesprávný kód a dokonce smazávají stávající kód až po mnoho problémů, které způsobují s nasazením.
se
• Používání nástrojů umělé inteligence způsobuje nárůst incidentů, přičemž 68% respondentů Harness uvedlo, že nyní tráví více času řešením bezpečnostních zranitelností souvisejících s umělou inteligencí ve srovnání s tím, co dříve používali nástroje pro kódování umělé inteligence.
se
• GitHub Copilot... to bylo špatné tolikrát, kolik to bylo správné
se
• trvá spoustu času, než někdo (lidský) přezkoumá něco, co oni (nástroje AI) ve skutečnosti nepsali a nerozuměli
se
• Vedoucí pracovníci nesprávně řídí svá očekávání ... vedoucí pracovníci společnosti, kteří nemají blízkou viditelnost do inženýrských pracovních postupů
se
• Nástroje pro kódování umělé inteligence jsou stále nové a zjištění, jak je efektivně používat, vyžaduje koordinované úsilí
se

Článek 3:GitHub Copilot (GHC) can not be trusted with a bit complicated task

Článek 3:GitHub Copilot (Gen-AI) je užitečný, ale není skvělý

Shrnutí :

se
• GitHub Copilot (GHC)... Někdy je to brilantní.. někdy ztrácí čas, zejména proto, že verbózní odpovědi, které poskytuje, jsou často mimo téma
se
• Někdy je užitečné, ale pouze pro problémy s lokálním rozsahem a nemůže vidět větší obraz.
se
• „Osobní pocit“ je „neví to dobře“, je „pokusit se to odhadnout“, a protože je to stroj s obrovskou pamětí milionů řádků zapamatovaných kódů, odhady jsou někdy brilantní, někdy off-topic.
se
• .. obrovské zklamání, že nemůže dostat syntax C# správně po celou dobu a zkontrolovat existenci vlastností / metod C# sám
se
• ... odstranil aktivní řádek kódu, protože byl komentován podobný řádek kódu
se
• Hodně používám „ghost test“ od GHC, přezkoumávám ho a přijímám návrhy, když se mi líbí.
se
• Používám textovou stránku GHC, abych požádal o generování snímek nebo malých funkcí s jasnou funkčností... Žádná záruka, že GHC zde uspěje, ale pokud to udělá, může to být brilantní.
se
• Už se nesnažím dělat větší změny zahrnující 3-4 soubory najednou... Odpovědi jsou v nejlepším případě neúplné, s mnoha chybami, jako jsou vlastnosti C# a metody, které neexistují (hallucinace?)
se
• ... je časově a energeticky náročné přezkoumat každou odpověď, kterou GHC poskytuje
se
• ...halucinuje o vlastnostech a metodách C#, které neexistují pro známé a často používané API...
se
• ... generuje více nepořádku než užitečný kód, pro přiřazené úkoly založené na vzorech zahrnující 4 soubory.
se
• Žádám GHC o pomoc s problémy, ale přečtěte si max 2 chat odpovědi. Jeho odpovědi mají tendenci být verbose... Pokud mi nedává dobrou odpověď ve 2 pokusech, půjdu číst Google pro stejný problém.
se
• GHC má vážný problém se zaměřením; odpovědi jsou často mimo téma.
se
• GitHub Copilot (GHC) nelze důvěřovat s trochu komplikovaným úkolem zahrnujícím několik souborů najednou.
se
• GitHub Copilot (GHC) má tendenci halucinovat o metodách a vlastnostech C#, které neexistují.
se
• Generovaný kód není kompilován okamžitě, což vyžaduje spoustu manuální práce na jeho dokončení.
se

5 Závěr

Výše uvedené články naznačují, že některé z ambiciózních myšlenek o AI nástrojích, které přímo nahrazují vývojáře, jsou poměrně daleko od reality.

Někteří autoři se domnívají, že je stále pravděpodobné, že nejlepším výsledkem je AI nástroj, který šetří lidskému vývojáři značné množství času, ne ten, který může přímo nahradit vývojáře.

6 Reference

[1] Umělá inteligence není připravena nahradit lidské kodéry pro debugování, vědci říkají

https://arstechnica.com/ai/2025/04/investigators-find-ai-is-pretty-bad-at-debugging-but-theyre-working-on-it/

[2] Mandáty na kódování umělé inteligence vedou vývojáře na okraj

https://leaddev.com/culture/ai-coding-mandates-are-driving-developers-to-the-brink

[3] GitHub Copilot (Gen-AI) je užitečný, ale není skvělý (březen 2025)

https://markpelf.com/2717/github-copilot-gen-ai-is-helpful-but-not-great-march-2025/