Fra instruks til modelltilpasning

OpenAI kunngjorde 20. august at finjustering av GPT-4o var tilgjengelig for betalende API-kunder. Utviklere kunne bruke eksempler på ønsket input og output for å tilpasse modellen til et avgrenset mønster, format eller domene. Leverandøren oppga at forbedringer kunne oppnås med relativt få eksempler i enkelte bruksområder. Dette var en produktpåstand, ikke en garanti for hvert datasett.

GPT-4o var lansert i mai som en multimodal modell. Augustnyheten gjaldt API-basert finjustering, med egne priser og vilkår. Ledere bør skille denne teknikken fra bedre instruks, kontekstsøk eller vanlig bruk av modellen. Finjustering endrer modellens oppførsel og skaper en versjon som må testes og forvaltes.

Datasettet blir en styrt virksomhetsressurs

Velg ett stabilt bruksområde, for eksempel klassifisering eller et fast svarformat. Fjern duplikater og uklare eksempler, dokumenter kilde og rettighet, og hold et separat evalueringssett utenfor treningen. Sammenlign grunnmodellen og den finjusterte versjonen på nøyaktighet, formatfeil, kostnad og behandlingstid.

Eksemplene bør dekke normale saker og vanskelige unntak. En fagperson vurderer vesentlige feil og om modellen har lært uønsket språk eller gamle regler. Resultatet lagres sammen med modell-ID, datasettversjon og dato.

OpenAIs kunngjøring gjorde også pris til en egen beslutningsvariabel: trening og bruk av den tilpassede modellen hadde egne kostnader. En pilot bør derfor måle tokenbruk og arbeidet med å klargjøre og gjennomgå eksempler, i tillegg til kvalitet. Sammenlign totalen med en bedre instruksjon eller søk i godkjent materiale. Hvis den enklere metoden møter akseptansekravet, finnes det ingen driftsmessig begrunnelse for ekstra modellforvaltning.

Godkjenningen bør angi hvilke datatyper modellen kan behandle, hvem som kan starte ny trening og hvordan en tidligere versjon gjenopprettes. Uten dette blir en vellykket prototype vanskelig å drifte og revidere.

Automatisering krever driftskontroll

Start i en prosess der et menneske godkjenner resultatet. Logg avvisning og korrigering, og sett terskel for når løsningen går tilbake til grunnmodell eller manuell behandling. Overvåk endringer i inngangsdata; et stabilt evalueringsresultat kan falle når produkter eller regler endres.

Finjustering kan redusere lange instrukser og gjøre et smalt resultat mer konsistent. Den kan også låse inn feil og gjøre årsaken vanskeligere å se. Augustnyheten er derfor relevant for automatisering og KI-ledelse som en ny tilgjengelig metode. Virksomhetsverdien må bevises gjennom en kontrollert sammenligning og en livssyklus for data, modell, evaluering og avvikling.

Kilder

OpenAI, «GPT-4o fine-tuning», 20. august 2024

OpenAI, «Hello GPT-4o», 13. mai 2024

Del dine erfaringer

Hva ville dere undersøkt først før dere tok dette i bruk? Del gjerne spørsmål eller erfaringer i diskusjonen.