← Nazaj na novice

Adijo, serijska obdelava: Kako sem s paralelnim izvajanjem agentov AI v NxCode povečal učinkovitost za 5-krat

A

Alex Chen, zagovornik razvijalcev @ NxCode

3 min read

Kot razvijalci radi ustvarjamo z AI. Verižimo pozive, povezujemo API-je in ustvarjamo neverjetne delovne tokove. Toda, ali ste kdaj zgradili večstopenjski proces AI, ga zagnali in nato strmeli v zaslon ter čakali... in čakali?

Tipičen delovni tok AI izgleda takole:

  1. Agent 1: Raziskuje temo.
  2. Agent 2: Napiše osnutek na podlagi raziskave.
  3. Agent 3: Ustvari sliko na podlagi osnutka.
  4. Agent 4: Prevede besedilo v drug jezik.

Vsak korak mora čakati, da se prejšnji zaključi. To je logično, vendar počasno. Kaj če bi jih lahko pripravili do tega, da delajo hkrati? To ni le majhna izboljšava; to je revolucionaren preskok v učinkovitosti. Danes vam bom pokazal, kako narediti točno to z NxCode.

Izziv: Avtomatiziran bot za ustvarjanje vsebin

Naš cilj je zgraditi bota, ki lahko iz ene same teme ustvari bogato, dvojezično objavo za blog. Potrebovali bomo štiri specializirane agente AI:

  • Raziskovalec: Prečeše splet za najnovejšimi informacijami o temi.
  • Pisec: Pripravi privlačen članek na podlagi izsledkov raziskave.
  • Ilustrator: Ustvari ustrezno naslovno sliko glede na vsebino članka.
  • Prevajalec: Prevede končni angleški članek v španščino.

Če bi to izvajali zaporedno, bi lahko trajalo 5–10 minut. Z vzporednim izvajanjem neodvisnih nalog lahko ta čas drastično skrajšamo.

Rešitev NxCode: Vzporedna gradnja

NxCode je bil že od samega začetka zasnovan za vzporedno izvajanje agentov AI. Namesto pisanja zapletene asinhrone kode svoj delovni tok oblikujete na vizualnem platnu. Tukaj je opis, kako smo zgradili našega bota za vsebino v manj kot 10 minutah.

1. korak: Opišite cilj

V NxCode začnete tako, da opišete svoj končni cilj v preprosti angleščini. Preprosto smo zapisali: "Ustvari dobro raziskano, ilustrirano in dvojezično objavo na blogu o prihodnosti obnovljive energije."

2. korak: Zasnova delovnega toka agentov

Tukaj se zgodi čarovnija. NxCode ponuja vizualno platno. Agente smo povlekli in spustili nanj ter jih povezali glede na njihove odvisnosti.

Naša arhitektura je izgledala takole:

  • Agent Raziskovalec je začetna točka.
  • Agent Pisec je odvisen od izhoda Raziskovalca.
  • Ključno je, da sta agenta Ilustrator in Prevajalec tudi odvisna od izhoda Pisca, vendar ne drug od drugega.

Na platnu NxCode smo narisali puščice od Pisca do Ilustratorja in Prevajalca. Motor NxCode je takoj razumel, da se ti dve nalogi lahko izvajata vzporedno, takoj ko je osnutek pripravljen.

3. korak: Konfiguracija posameznega agenta

Za vsako vozlišče agenta na platnu smo podali preprost poziv:

  • Raziskovalec: "Najdi 5 glavnih najnovejših trendov na področju obnovljive energije."
  • Pisec: "Napiši objavo za blog s 500 besedami na podlagi predloženega raziskovalnega konteksta."
  • Ilustrator: "Ustvari futuristično, optimistično sliko, ki predstavlja obnovljivo energijo, na podlagi članka."
  • Prevajalec: "Prevedi naslednje angleško besedilo v profesionalno španščino."

4. korak: Vzporedni zagon in spremljanje

Pritisnili smo "Run" (Zaženi).

V trenutku se je agent Raziskovalec obarval zeleno. Ko je končal, se je zagnal agent Pisec. V trenutku, ko je agent Pisec dokončal svoj osnutek, smo videli: agenta Ilustrator in Prevajalec sta zasvetila hkrati.

V manj kot dveh minutah smo imeli vse: dobro napisan članek, osupljivo naslovno sliko in celoten španski prevod. Dosegli smo rezultat, ki bi s tradicionalnim, zaporednim pristopom trajal petkrat dlje.

Vaša vrsta je, da nehate čakati

Era zaporedne obdelave v AI je končana. Za kompleksne, večplastne naloge vzporedno izvajanje ni le "lepo imeti" – je nujnost. To je razlika med orodjem, ki deluje, in orodjem, ki ga boste dejansko uporabljali vsak dan.

Ste pripravljeni izkusiti hitrost vzporednega AI?

→ Registrirajte se v NxCode brezplačno in zgradite svoj prvi vzporedni delovni tok agentov še danes!

Nazaj na vse novice
Vam je bil članek všeč?