Ce facem pentru a nu deveni sclavii propriilor agenți AI? Peter Steinberger, creatorul OpenClaw, proaspăt intrat în echipa OpenAI, vorbește despre noile provocări în era AI: atenția, supravegherea, verificarea constantă.
Limite umane și tehnologice
Automatizarea oarbă nu e soluția, spune Peter Steinberger. Trebuie să găsim o formă de a recalibra resursele umane:
„Anul trecut eram limitat de tokeni, acum am rezolvat asta alăturându-mă OpenAI. Acum simt că limitarea mea este, de fapt, atenția. Ceea ce vrei cu adevărat să optimizezi atunci când lucrezi este cât de des trebuie să fii în 'loop' (în buclă/implicat) cu agentul tău.”
O problemă în comunitatea open-source actuală sunt programatorii care generează PR-uri (modificări de cod) scriind doar „repară problema 123” în Claude sau Codex. Pentru a filtra spam-ul, el a creat un instrument care atașează log-ul conversației dintre om și AI direct la codul trimis.
„Cu cât transcriptul tău este mai lung, cu atât am mai multă încredere că îți pasă cu adevărat de ceea ce ai reparat sau că, cel puțin, încerci să înțelegi ce ai făcut”, explică Steinberger.
Agenții AI sunt folosiți frecvent pentru a revizui cod. Dar o revizuire fără contextul original, face ca AI-ul să semnaleze probleme acolo unde un om a luat de fapt o decizie asumată de design.
Sistemele masive generate automat necesită un efort uriaș de arhitectură mentală, la care agenții AI sunt deocamdată repetenți, crede Steinberger.
„Construim sisteme mult mai complexe, ceea ce înseamnă pur și simplu că e nevoie de mult mai multă gândire din partea noastră. Agenții nu sunt prea buni la a înțelege cum se integrează un singur lucru în imaginea de ansamblu. Se concentrează doar pe o bucățică... sunt ca niște cai cu ochelari de cal.”
Oricât de performante sunt, LLM-urile actuale excelează în task-uri strict delimitate, dar sunt deficitare când vine vorba de coerența arhitecturală la nivel de sistem complet. Au un scop local, izolat, dar viziunea de ansamblu îi rămâne, pentru moment, exclusiv omului.
