Hva bør en nybegynner starte med?
Start med én stabil modell og én konkret brukssituasjon. Hold det enkelt først. Når du har målt kvalitet, svartid og kostnad over noen uker, kan du vurdere om du trenger en reserve-modell.
Denne siden er skrevet for deg som er ny i språkmodeller. Du får et konkret startpunkt, enkle forklaringer og vanlige fallgruver.
Start med én stabil modell og én konkret brukssituasjon. Hold det enkelt først. Når du har målt kvalitet, svartid og kostnad over noen uker, kan du vurdere om du trenger en reserve-modell.
For de fleste team er en moden, skybasert modell enklest. Du kommer raskt i gang og slipper drift. Åpne modeller med egen drift passer best når du trenger streng datakontroll eller vil optimalisere kost i stor skala.
Begynn med én primærmodell. Legg til én reserve først når du har trafikk og behov for robusthet. Flere modeller uten klare målinger gir ofte mer kompleksitet enn verdi.
Nei. Over tid bruker de fleste ulike modeller for ulike oppgaver, for eksempel én for høy kvalitet og én for rimelig massebehandling. Men start med én modell, og del opp senere.
Å bygge for komplisert for tidlig. Mange starter med modellruting, avanserte rammeverk og mange varianter. Det gir høyere kost, tregere utvikling og vanskeligere feilsøking.
Sett kostnadstak, begrens svarlengde og mål tokenbruk ukentlig. Bruk billigere modell for enkle oppgaver, og reserver dyr modell til oppgaver der kvalitet faktisk betyr noe.
Mål tre ting: kvalitet på svar, svartid og kostnad per oppgave. Med disse tre tallene får du et godt grunnlag for hva du bør forbedre først.
Se anbefalinger for konkrete valg, og bruk sammenligningssiden når du vil velge modell basert på behov.