Transkripsjon
VTTVis full transkripsjon
Frode Stenstrøm: Velkommen og riktig godt
nyttår til alle som nå blir med på dette
webinaret her fra vårt studio i Asker.
2023 var det året da vi alle sammen
ble kjent med begreper som kunstig
intelligens og Chat-GPT og Microsofts
lansering av deres produkter rundt
disse områdene, nemlig Copilots.
Bak disse produktene står et
fagmiljø, OpenAI, og Microsoft som
tilbyr disse tjenestene fra sine
driftssenter, Microsoft Azure.
Microsoft har jo ønsket om å skape
en assistent, ikke en autopilot,
men en digital assistent som
skal hjelpe oss mellom det meste
vi jobber med her i hverdagen.
Og vi i ProsessPilotene, vi tror at
disse verktøyene vil i 2024 gå fra å være
veldig besnærende og et leketøy, over
til å bli en digital assistent som vi
har kanskje ønsket oss i veldig mange år.
Men, og det er et stort, men her,
For å kunne gjøre det, så er vi
helt avhengig av å kunne bruke våre
egne forretningsdata, slik at disse
assistentene faktisk kan bidra med
noe annet enn å skrive bare gode ord.
Og det er det vi ønsker med
dagens webinar, det er nettopp
det å oppsummere kart og terreng.
Så, Oscar, vi tenker at vi skal
gå løs på agendaen for i dag.
Oscar Høvik: Ja, og som det står her,
så er vi, og som Frode sa, så skal vi...
Snakke litt om hvordan bedrifter kan
legge til rette for å bruke egne data,
og det er jo absolutt det som er mest
interessant, fordi alle har prøvd Chat-GPT
og fått ut fancy tekst, men nå skal vi
få tekst som vi kjenner igjen, og som
vi kan identifisere og kvalitetssikre.
Men for å komme dit så må vi da ha en
slags strategi på det her, og det er
dette vi i ProsessPilotene ønsker være
en pådriver og en guide til å hjelpe
frem gode tilnærminger og strategier.
Og da er...
Hvorfor er det relevant da, Frode?
Frode Stenstrøm: Det er det vi skal vise i
prøve å snakke litt om til slutt av dette.
Men det som er det nye nå er at gjennom
romjulen har Microsoft sluppet ut
en god dokumentasjon på veldig mye.
Målet med dagens webinar er at
dere skal få en oversikt over den
dokumentasjonen og hvilke strategier
dere skal gjøre for å komme til mål.
Da begynner vi med oversikten først.
Og prøve å sette det store bildet
av Copiloter fra Microsoft.
Det som har vært markedsført hardt
blant ikke bare oss, men de fleste
IT-selskapene her i verden, det er at
Microsoft har sluppet et standard sett
med Copiloter i over 100 stykker i tallet.
Oscar, vi har jo vist frem et par av dem.
Oscar Høvik: Ja, vi har vært innom
service og snakket godt om det, og vi
har sett litt på hvordan det fungerer
i Outlook, som det er liksom...
"Out-of-the-box" nærmest.
Og det er veldig bra, og som
det står på listen her, så har
vi nå også fått Copilot i Bing.
Egentlig så kalles det bare
Copilot, men det er jo Bing.
Frode Stenstrøm: Det er jo Bing, ja.
Oscar Høvik: Men med
litt drahjelp av Copilot.
Så det vi ser at begrepet
Copilot, det endrer seg.
Litt sannsynlig sikkerhet
å utvides hele tiden.
Frode Stenstrøm: Nye Copiloter hele tiden.
Men felles for alle disse er at disse er
standard Copiloter som Microsoft lager.
Det er ikke noe særlig mikmak med dem.
De installeres, Copiloter for
sales installeres og brukes.
Copiloter for service gjør det samme.
Copilot for Dynamics er tilgjengelig for
det norske markedet i dag, og Copilot
for Microsoft og Office-produktene kommer
i løpet av dette halvåret, som vi ser.
Og det er jo over 100 stykker i tallet.
Så dette er egentlig
bare den første biten.
Men det vi er på jakt etter
er jo utvide Copiloter.
Det vil si at vi bruker de samme
Copilotene fra Microsoft, men tilpasser
de med litt forskjellige varianter.
Og her er det sånn at Microsoft tillater
de muligheter for fire typer utvidelser.
Det ene er Low-Code tilpasninger, hvor
man kan parameter sette en Copilot, og
skal vise tidligere webinar, hvor du
kan for eksempel sette tone og voice på
et svar i en kundeservice-sammenheng.
Men det er altså to andre veldig
sentrale utvidelsesmuligheter.
Det ene heter plugins, Copilot-plugins,
og det andre heter connectorer.
Den siste er "message extensions",
og vi skal snakke litt om
nettopp de tre variantene.
Essensen i dette med de utvidete
Copilotene er at man da får inn data
man besitter og inn i de standard
Copilotene, men det er fortsatt
de standard Copilotene man bruker.
Oscar Høvik: Jeg kan legge merke
til at det vi er på en måte inne i
en litt mer teknisk verden nå, men
det skal Frode prøve å fange opp
sånn at vi får identifisert disse
begrepet og hvordan det henger
sammen, så det kommer nå fortløpende.
Frode Stenstrøm: Så går vi da videre
til det som er egenutviklet Copiloter.
Dette er de Copilotene som
Microsoft ikke gir oss, men
de gir oss verktøy til å lage.
Og her finnes det da egentlig
to sentrale produktområder fra
Microsoft som gjør dette mulig.
Det ene, det hadde vi et webinar
om før jul, Copilot Studio, det
ligger på vår YouTube-kanal.
Der viser vi frem hvordan du kan
skreddersy og lage egne Copiloter
med Low-Code-verktøy, det vil si at
du kan gjøre det mer eller mindre
uten noen form for programmering.
Men du lager egen Copiloter.
Oscar Høvik: Ja, og du kan bygge
på i tillegg, og bli mer avansert.
Frode Stenstrøm: Og så står det
den nederste boksen der, og det er
det som heter Azure AI Studio, et
verktøy som kom ut i premium-preview
til det globale markedet nå i
romjulen, eller lett før jul.
Og det er hvor man kan egentlig gjøre alt,
hvor man får fullstendig kontroll på...
Hele stacken, og har full tilgang
til å skrive utviklingen av det.
Og en av de viktige på momentene her
er at veldig mange av de modellene,
språkgjenkjenning, talegjenkjenning og
sånn, de er ferdige fra Microsoft, så
de ligger der og kan bruke seg begge.
Men hvis man ønsker å lage egne
modeller, egne prognosemodeller,
så er det også mulig da med
tilpassede Azure AI tjenester.
Oscar Høvik: Ja, og en kan vel
koble til andre AI-modeller også.
Frode Stenstrøm: Ja, det kan man.
Så dette er egentlig det store
bildet slik det ser ut nå.
Standard Copiloter, Utvidelsen
av Copilotene, eller å lage egne
Copiloter hvis man ønsker nettopp det.
Og når man ser på de utvidede Copilotene,
litt for de mer teknisk rette da likevel,
så er det sånn at, jeg sa jo at vi
hadde dette med Low-Code tilpasninger av
Copilotene, og det er i all hovedsak det å
kunne gå inn, Ta et konfigurasjonsverktøy
og parameter sette den litt i gang.
Og det går an å gjøre i
litt forskjellige verktøy.
Hvis man ser på for eksempel Viva Sales
som bruker Dynamics-data, så har man noen
konfigurasjonsparametre, men det er veldig
begrenset hva man kan gjøre med dem.
Men det er noen muligheter allikevel.
Oscar Høvik: Og det er litt
out of the box så enkelt.
Som dere som er kunder og som
bruker CRM løsninger og sånne ting,
kan gjøre en god del selv også?
Frode Stenstrøm: Ja, når det gjelder da
plugins, så er det sånn at det består
egentlig av et produkt faktisk, som heter
plugins for Microsoft Copilot, og hvis
man googler det og finner det på Microsoft
Learn sine nettsider, så ser man at dette
er en hel haug av plugins, som man kan
bruke, veldig mange av de finnes allerede,
Men de kan også utvides og skapes og
lages egne plugins hvis man ønsker det.
Oscar Høvik: Men hva
er det plugins gjør da?
Frode Stenstrøm: Ja, plugins henter
data, forretningsdata, den dataen vi
var på jakt etter i sted, og legger
det inn til den utvidede Copiloten.
En liten kuriositet er at når man har
laget en Copilot-plugin, så kan den
brukes av alle Copiloter til Microsoft.
Den er ikke begrenset
nødvendigvis bare til den ene,
du lager selv eller du utvider.
Den brukes av alle også,
Office-produktene for eksempel.
Så sa jeg jo at vi hadde, jeg sa
også det at vi hadde Connectorer.
Og connectorne er egentlig faktisk
to ting i Microsofts verden.
Det er noe som heter Microsoft
Graph-connectorer, og det er noe som
heter Power Platform-connectorer.
Og for de av dere som er vant til å jobbe
med Power Platform til Microsoft, eller
Dynamics-produktet til Microsoft, så er
Microsoft, Alle de connectorne som er
i Power-plattformene, de kan gjenbrukes
her, og det er 1100 i tallet i dag.
Det er de samme connectorne Power BI
bruker for å hente Data, og det betyr
at for veldig mange av de fagsystemene
de jobber med, om det er SAP, ServiceNow
eller Dynamics selv, så finner man...
Connectorer for å hente data,
så man slipper å utvikle på
nytt, man kan bare bruke.
Oscar Høvik: Så det her på en
måte muliggjør en kommunikasjon
mellom forskjellige system eller
applikasjoner som dere har som brukere.
Frode Stenstrøm: Og det morsomme med det
er at hvis man finner en konnektor som har
Kobling til sitt datasystem som allerede
finnes som ServiceNow, og man ønsker
å lage en standard Copilot som bruker
ServiceNow-data, så kan man gjøre det, og
det viste vi litt eksempel på når vi så på
Copilot Studio også, hvor du kan koble på
forskjellige typer saksbehandlingssystemer
mot Copilot-plattformen.
Graf-Connectorer skal jeg snakke litt
mer om etterpå, fortelle forskjell
mellom hva disse connectorene er,
hvordan man skal bruke de forskjellige.
Men Microsoft Graph er i korte trekk
en ganske interessant database som
ser relasjon mellom data og objekter.
Det kan være for eksempel at Oscar og jeg
jobber sammen, så da får vi en relasjon.
Oscar jobber med et dokument, så har
han en relasjon til dokumentet, og
da vil GraphCode-databasen kunne si
at hvis jeg vil gjennom Oscar, så
har jeg tilgang til det dokumentet.
Og så er det Message Extensions, som
jeg er til gode å se veldig mange
av våre kunder faktisk utnytte,
men som er litt en briljant sak.
Og det går på å lage og utvide Teams,
slik at Teams kan hente og snakke med
Copiloten, hente data, vise dataen
og sånn, og det skal vi vise litt om.
Oscar Høvik: Ja, og da blir det
på en måte som at du kan få et
forbedret brukergrensesnitt som
da passer godt inn med Teams.
Frode Stenstrøm: Nettopp.
Nettopp.
Så det som er the takeaway her er at for
veldig mange bruksscenarioer, så kan dere
ta Microsofts standard Copiloter, om det
er for Office-pakken, eller Dynamics,
eller de andre, M365 Chat, alle de,
og så tilpasse disse connectorene, og
da er plutselig standard Copiloten til
Microsoft har tilgang til den dataen
dere vil at de skal ha tilgang til.
Så kommer det til tematikken egen Copilot.
Egenutviklet Copiloter er jo da
det å gi dem full kontroll, og
her finnes det to strategier.
Man kan ha de egenutviklet
Low-Code-tilnærmingen, som vi viste på
seminaret vårt på YouTube-kanalen, Før
jul, altså Copilot Studio, og der er
produktene man bruker egentlig to ting.
Det er Microsoft Copilot Studio, det
som het Virtual Agents før, kombinert
med de standard datamodellene som er
i Azure, nemlig språk, syn og tale.
Man kunne drive med språkgjenkjennelser,
lese et dokument og omsette det
til noe, eller lytte til taler om
det til tekst eller tekst til tale.
Og disse produktene her, det gjør at man
med veldig liten grad av programmering,
Kan lage ganske gode Copiloter.
Og du kan til og med bruke Copilot
til å programmere i en Copilot
Studio, det viste vi sist også.
Du kan si at nå vil jeg at du skal
lage noe, og så lager han også
et forslag til en Copilot selv.
Og så er det da, som jeg sa, for
de som ønsker å bruke og lage alt,
det kan være predikasjonsmodeller
som er helt spesifikke for ditt
firma, så vil dere bruke Azure AI
Studio og trene opp egne modeller,
som krever en god del kompetanse.
Og det kan man da
kombinere med de modellene.
Det kan man gjerne kombinere i Copilot
Studio, men det som er interessant
med det er at når du har først
laget egne Copiloter, Så kan alle
de connectorene vi hadde i sted,
alle de Graph-integrasjonene, alle
Teams-extensions, til og med den eksterne
Chat-GPT-plattformen, kan gjenbrukes her.
Oscar Høvik: Ja, så er det jo tydelig at
Microsoft har gjort en veldig stor jobb
med å muliggjøre alle disse koblingene og
connections som finnes på kryss og tvers.
Og det er jo litt av forvirringen
også, men det er det vi som
ønsker å være og kunne bidra
til å klare opp det og vise det.
Klarhet i det?
Ja.
Frode Stenstrøm: Så...
Når vi ser på det, så er det
egentlig bare tre nivåer.
Standard, utvidelsesstandard
eller egenutviklet.
Og hvis man vil ha egenutviklet
Copiloter, så kan man gjøre det enkelt
for seg selv, eller man kan gjøre
det avansert for seg selv, og det er
jo det vi skal prøve å sette opp nå.
Sånn, hvilken strategi skal vi velge nå?
Oscar Høvik: Ja, da må vi lytte godt.
For her har vi selvsagt alle svaret.
Frode Stenstrøm: Vi har funnet ut
hva vi synes er en riktig tilnærming.
Og det er at vi må se dette ut ifra det
bruksmønstre og det behovet vi skal løse.
Og det første er jo det at hvis
vi vet at Copiloten Løses av
standardoppgaver, standard for
Bing eller hva det er, bruk den,
distribuere den, ikke tenk mer på det.
Gjør det enkelt for oss selv.
Hvis vi ser at den standard-Copiloten ikke
løser det, for den har ikke tilgang til
forretningsdataen, Den har ikke tilgang
til kanskje de riktige prognosemodellene,
da har vi plukket ut fire kriterier til
dere, som dere kan bruke for å velge
hvilken type vei dere går videre, om dere
utvider Copiloten eller utvikler egne.
Det første er hvilken kapasitet,
tid og muligheter dere har til å
drive utvikling, for det blir mer
teknisk og det blir utvikling når
man går veien mot egenutviklede ting.
Så må man vurdere datakildene, hvor
de er, og så må man stille krav til
temperatur, tokens og grounding.
Hva er det enn det?
Det skal jeg forklare om litt.
Og så ved å svare på de spørsmålene,
så klarer vi å bruke den neste
presentasjonen vår til å fortelle
hvilken strategi dere bør velge.
Men jeg bruker noen fremmede grep,
temperatur, tokens og groundings, og de
vil jeg gjerne rydde opp litt her sånn.
Temperatur, det er egentlig hvor
variabelt du ønsker at svaret
skal være, fra en skala fra 1 til
0, eller 0 til 1 i prinsippet,
den standard er 1,7, eller 0,7.
Det betyr at hvis du stiller samme
spørsmålet til Copiloten fem ganger,
så vil du ha fem forskjellige svar,
eller vil du ha fem like svar, eller
vil du ha litt variasjon hver gang.
Oscar Høvik: Altså på en måte så
styrer det hvor forutsigbar modellen er
.
Frode Stenstrøm: Ja, det er helt riktig.
Og det er jo sånn at hvis du jobber for
eksempel innenfor juss, så vil du gjerne
ikke ha fem forskjellige fortolkninger
av norsk lov, for da vil du ha lik.
Så det vil være en del bruksscenarioer
her, hvor det vil være interessant å gi...
Mest mulig å si svar hver gang, men
driver du for eksempel med kreativ
skriving i forhold til markedsføring,
så vil du kanskje at det skal være litt
kreativitet og litt forskjellig svar.
Oscar Høvik: Litt morsomt, du snakket
med en som skriver på en bok her
om dagen, og han hadde prøvd å mate
informasjon som var knyttet til
tosidige bøker som han skal ha, og
så chat GPT til, og så lager den der.
Men han synes teksten ble litt flat.
Og det er litt interessant at noen
klarer å identifisere at språket
er riktig, men det blir litt flatt.
Så her er det som kan være
med oss å styre disse tingene.
Frode Stenstrøm: Og så har
vi dette begrepet tokens.
Og tokens er en størrelse på
lengden på tekst som prosesseres
både som grunnlag for spørringen og
resultatet du får ut av k-piloten.
Har du en kort token, så blir svaret
kort, og det er altså grunnlaget kort.
Du kan ha lange tokens, og de største
modellene Microsoft har nå, de er
på 32 000 tokens, som er ganske mye
tekst, men for eksempel norske lover
er jo lengre enn det, så det vil være
eksempler på hvor man ikke Ikke klarer
å få 100% prosessert all informasjonen.
Oscar Høvik: Ja, for husk på at alle ord
som du mater inn, blir jo prosessert på en
måte, og forstått og tolket i en kontekst.
Frode Stenstrøm: Det blir de.
Oscar Høvik: Og da er jo flere ord
du bruker, jo bedre blir det kanskje,
men det handler om å være smart også.
Ja.
Og da kommer det tokens begrep inn.
Frode Stenstrøm: Så er det jo språk da.
Du sa du var flatt på denne
eksempelet ditt nå, med forfatteren.
Ja.
Og vi har jo sett de eksemplene
vi har vist på Co-plot Studio,
og Viva Sales for eksempel.
Når du skal lage et forslag til svar som
selger til en kunde, eller en kundesenter
- representant til en kunde, så kan du jo si
om du skal ha et formelt svar, om du skal
ha et strengt svar, eller om du skal ha et
humoristisk svar, eller et satirisk svar.
Så noen parametere kan du gjerne
korrigere i standekopilotene, men vil
du for eksempel at den alltid skal
svare med humor eller gammelt engelsk
form, så vil jo det være et krav som
gjør at du går forbi standekopilotene
og inn i mer egenutviklete
Copiloter hvor du kan angi dette.
Oscar Høvik: Hvis du laster inn på
mobilen din chat, altså kopilot,
så ser du at der er det tre valg.
Frode Stenstrøm: Yes.
Så det er språket, og så er det
et ord som heter grounding, men
det betyr hvor er kilden din, og
hvordan skal den kilden brukes.
Et eksempel er at du kan for eksempel
si, og prøve å OpenAI stacken, at
alle svar skal ha en kildereferanse.
Og du kan også gi en instruks om at
hvis du ikke vet svaret, ja da skal
du ikke dikte opp et svar, som jeg
har opplevd litt på chat GPT, at det
er litt sånn fri fantasi noen ganger.
Og hvis du sier til henne at det
er ikke riktig, ja, unnskyld,
jeg har gammelt litt svar.
Så det å få den riktige koblingen
til riktig datakilde, hvis man har
kunnskapsartikler hvor noen er eldre
enn de andre for eksempel, grounding og
reglene rundt det, er jo input man kan
gjøre når man går over de egenutviklede
verdenene, men får du ikke gjort det
i samme grad Når de bruker standard
Copiloter, eller de utvider det.
Oscar Høvik: Det er litt morsomt det
der, for på toget hit i dag, så satte
vi inn og skrev inn, hva vil filosofen
Platon si om kunstig intelligens?
Og da kom det en lang, lang story,
men til slutt så kom det en greie
som sa noe om at det er Ja, vi er
jo ikke helt sikre på det der da.
Frode Stenstrøm: Nei, ikke sant.
Men i alle fall, tilbake til den
vurderingen vi nettopp snakket om, når
dere da skal velge hvilken strategi, om
dere skal bruke standard, utvidet eller
egne Copiloter, så er det disse tingene
man må gjøre en kort vurdering av, opp
mot det bruksscenario man ønsker å få til.
Da skal dere klare å bruke denne
presentasjonen til å veilede
dere på hva dere skal gjøre.
Og hvis vi ser på bruk av standard
Copiloter, så er det sånn at utviklingen
her er egentlig i praksis ingenting.
Det er veldig liten innsats, man må snakke
med en viktig enhet og si at nå skal denne
distribueres ut til sin organisasjon,
som er egentlig ganske enkelt sagt.
Oscar Høvik: Ja, sånn som vi viste
sist at vi kan publisere en chatbot.
Frode Stenstrøm: Ja, for eksempel.
Så det er liksom timer og minutter og
dager, men ikke uker og måneder og år.
Det morsomme med de er at datakildene
dine er primært i Microsofts tenant,
altså det er i Office 365-plattformen
din, i Dynamics-plattformen din,
men det ligger gjerne i skyen
i de ting Microsoft råder over.
Når jeg sa om tilpassing, temperatur,
tokens og grounding, som vi akkurat
snakket om, så er det faktisk
ingen til liten mulighet, annet
enn det som er parameter satt, for
eksempel i Copilot Sales, hvor du
kan si hvordan skal svaret være.
Men det mest vanlige scenarioene hvor
de vil bruke standard Copiloter, det
er for eksempel si til chatboten, vis
meg dagens møter, oppsummere e-posten,
skriv dette avsnittet i Word, svar på
følgende spørsmål, vis meg også salgstall.
Ganske mange av de bruksscenariene som
vi gjør i daglig basis, vil være gode
kandidater for rett og slett bruk av en
standard Copilot, men som sagt, dataen
er da allerede i Office 365-plattformen,
eller i Dynamics-plattformen.
Men så er det sånn at veldig mange
trenger å gå litt videre, og det å
utvide Copiloten, det krever litt mer
innsats når det gjelder utviklingssiden,
for da må man lage en connector
eller en Graph-connector eller Teams
Copilot-sak, som jeg snakket om i sted.
Men det som åpner opp nå er at i
tillegg til at dataen kan ligge i
Microsoft-datasystemer, så kan du nå se
tredjedeparts-databaser som du enten eier
selv, fagsystemer, eller på en måte som
finnes i det åpne markere, sånn som for
eksempel værdata, eller reiselivsdata,
eller noe av de mange offentlige dataene.
Her har du, når du bruker de utvide
Copilotene, så får du litt mer mulighet
for tilpasninger av grounding, fordi
når du lager en connector, så vil du
også på en måte omformulere det det
blir spurt om til en databasespørring,
og i det så kan du være litt tydeligere
på Groundingen av svaret du får.
Så noen konkrete bruksscenarier og grunnen
til hvorfor man vil gjerne bruke den
utvidede Copiloten, det vil jo være hvis
man skal for eksempel se på lagerstatus,
som er et fremmedsystem, fraktstatus,
hvis man jobber med et eksternt
kunderegister eller produktregister som
NOBB-registeret, så vil dette være ofte
dekket opp av de utvidede Copilotene.
Og dermed så er det neste trinnet som jeg
tror de fleste vil ta i bruk, hvis det
ikke i det første standaren var bra, så
vil man utvide det med disse connectorne.
Når det gjelder din egen Copilot,
så er jo det en mye større innsats.
Det er ikke lett å trene opp
en egen AI-modell, da skal
man ha kompetanse på det.
Men hvis man bruker forløsning med
Copilot Studio og de standardmodellene,
så kommer man likevel langt.
Oscar Høvik: Men man ser det at
det er store firmaer, banker og
forsikringsselskaper og sånne, gjerne
går den veien, rett og slett fordi
det har et større eierskap til sine
data og det har gode forutsetninger
for å vite hva de vil ha også.
Frode Stenstrøm: Og de har altså
penger til å enten kjøpe det
hos oss, eller gjøre det selv.
Så det er noe av det.
Datakildene kan i prinsippet være overalt.
Du kan gjøre fullstendig alt det du vil
av tilpasning, som jeg nevnte i sted.
Men her har du også muligheten til å
lage de mest avanserte scenarioene,
hvor grunnlaget og modellen er din egen
trent, og du kan følge opp treningen.
Men det er grunnen til at man skal
være litt bevisst på innsatsen her, er
at når man har lagd denne roboten en
gang, eller Copiloten en gang, så vil
det ofte kreve vedlikehold over tid.
Hvis man har trent opp en Copilot til
å kjenne igjen et kriteringsformat, og
så blir kriteringsformatet endret, så
må jo man trene opp modellen på nytt.
Så vårt råd er, bruk standard
så lenge du kan, utvid hvis du
må, og bygg hvis du absolutt må.
Oscar Høvik: Å jobbe med kildene.
Frode Stenstrøm: Ja, det er helt riktig.
Så har jeg noen råd rundt hvilken type
Connectorer vi skal bruke, for jeg sa
at vi hadde Graph-Connectorer og Copilot
Connectorer, og jeg vil bare sette
litt kart og terreng for dere der å,
så du vet hvilken vei dere skal gå når
dere har funnet ut hva du skal lage.
Graph-connectorene og Copilot-plugin som
jeg sa i sted, de har litt forskjellige
kriterier for seg som er fint å få
med i forhold til hvorvidt dette
blir, om hvem av dem du skal bruke.
Datatilgjengelighet først.
En Copilot-plug-in jobber
samtidig mot kilden.
Så hvis du trenger dagens fraktpris,
eller nåtidens status på varelager,
så er Copilot-plug-in riktig vei
å ta, for den vil da sende en
spørring til den datakilden du
har, Og gi samtidssvar tilbake.
Mens en Graph Connector kopierer
dataen fra kilden inn til Microsofts
domene, og da er det jo den synken
der som bestemmer hvor oppdatert den
går hver time, hver måned, hver dag.
Den bestemmer da hvor ofte den er, og
det er jo et viktig punkt for kriteriet
for å velge om du skal lage den med
Graph Connector eller Copilot-plugin, som
begge to er egentlig en utviklingsjobb.
Når det gjelder sikkerheten,
informasjonssikkerheten, altså tilgang
til dataen, så er det jo sånn at
hvis jeg spør en chatbot og bruker
Copilot-plugin, så vil chatboten
sende mine pålogging-credentials
inn til den kilden, og da vil kilden
bestemme om det har du ikke tilgang
til, eller det har du tilgang til.
Men Graph-connectoren igjen, i og
med at den kopierer dataen inn til
Microsofts stack, så vil sikkerheten
være bestemt av den synken, om du
kopierer alt, ingenting og så videre.
Det er litt sånn som å ha en god,
granulert sikkerhet i Dynamics, og så har
den Power BI-rapport som alle kan lese.
Når det gjelder data compliance,
så følger det samme biten.
Det er kilden i den ene
og synken i den andre.
Men kanskje det er noe som er veldig
spennende og viktig for veldig mange
av dere, er om jeg kan da gjennom
samme Copilot oppdatere dataen.
Og en Copilot-plugin vil tillate det.
Hvis jeg sier til chatboten, oppdater
lagerstatus med to varer i stedet
for en, så vil Copilot-plugin
kunne sende det tilbake til
lagerstatussystemet og oppdatere,
mens GraphConnectoren gjør det ikke.
Og det tror jeg vil være viktig
kriteriet når det skal velge ut hvilken
av de to teknologiene dere skal bruke
for å få egne data inn i Copilot.
Og så er det dette med semantisk
indeks, eller vektordatabaser.
Det er ikke integrert i Copilot-plugin,
men det er i Graph-konnektoren.
Og det har noen sammenheng med at
når man har fått opp data inn i
Microsoft sin stack, så får man
brukt den opp i Azure Search-basen,
som Antic Search som den het før.
Men det skjer ikke på plug-in-siden.
Da må man sette opp eventuelt
en AzureAI-vektordatabase
selv, og den i stedet selv.
Og så er det det prompt, det spørsmålet
du stiller til chatboten din, eller
Copiloten din, Forblir det internt i ditt
system, eller blir det sendt eksternt?
Når du jobber med Graph-Connectorer,
så forblir prompten internt.
Den vil aldri forlate ditt
firmas domener, å sendt eksternt.
Men hvis du stiller spørsmål om
varelagerstatus, som skal besvares
i et eksternt system, sender det
til Copilot Plugins-biten, ja,
da går det nødvendigvis eksternt.
Så i grove trekk.
Det er en av de store sentrale punktene
som er viktig å forstå mellom disse to,
er om dataen forblir sanntidsoppslag i
eksterne systemer, eller om man ønsker å
kopiere den inn i Microsoft sitt domene.
Oscar Høvik: Bare en liten kommentar
her, så skjønner alle her at Når en skal
gå i gang med det her og jobbe på den
måten her og løse sine utfordringer,
så er det veldig viktig at man har
en skikkelig workshop rett og slett
som identifiserer disse tingene her.
For det går jo både på
kildesikkerhet og så videre.
Frode Stenstrøm: Det er helt riktig.
Så det var i grove trekk oppsummeringen.
Vi har tre typer Copiloter.
Du har de standard, du kan utvide
dem, du kan lage dine egne.
Og uansett om du utvider eller lager
egne, så er du avhengig av disse
typer connectorene vi snakket om.
Og de connectorene er grovt
sett delt i to kategorier,
Graph-Connectorer og Copilot plugins.
Og noe verre er det egentlig ikke.
Litt kort avslutningsvis nå om noen
eksempler på de standard Copilotene.
Vi sa jo det, at vi har allerede på
YouTube-kanalen vår, så har vi lagt ut
standard Copiloter for felt-service,
service og sales, og Copilot Studio.
Og så regner vi med å kunne vise frem
Office Copilotene fremover mot våren 2024.
Men bare for å gi et lite inspirasjon,
hvis dere søker opp i Teamsen
deres nå en ny chat-applikasjon,
så vil dere finne M365-chat.
Oscar Høvik: Men da må du ha lisensen?
Frode Stenstrøm: Da må du ha lisensen,
og den er ikke solgt i Norge.
Jeg tror det er kun Aker som så
heldig har fått den i Norge nå.
Men resten av landet
vårt får det til våren.
Men der får du den type standardchatten
som vi snakket om, som da kan
utvides, og i dette tilfellet har
referanser til underliggende fagsystem.
Oscar Høvik: Men det kommer til å bli
veldig kult, fordi du har en måte å
jobbe på i Teams, der du integrerer alt
og er tilgjengelig på en annen måte.
Frode Stenstrøm: Det er helt riktig.
Når det gjelder de utvidede Copilotene,
Så snakket vi om Teams Message Extension.
Her ser vi egentlig et eksempel på
det, hvor vi da har sendt et spørsmål
inn og viser svaret i tabulær form på
Teams, slik at dere ser utfallet av det.
Og det er det som jeg synes er gøy her,
at da får du igjen brukt samme standard
på Copilot, men du har lagt på en
connector, og så får du plutselig data.
Oscar Høvik: Ja, og Copilot er
jo den som genererer tabellen
og gjør det fint, egentlig.
Frode Stenstrøm: Det er nettopp det.
Så Og disse Teams Message Extensions som
vi snakket om i sted, det de åpner for
der, det som vi ser på skjermbildet her,
med stokkinformasjon, her har man laget et
unikt kort, men det kortet er interaktivt.
Det betyr at de som er i samtalen, om det
går mellom Oscar og meg på Teams, eller
om det går mellom Oscar og M365 Chat,
den vil da kunne oppdatere Dynamics data,
lagerstatus data, Eller hva det nå enn
måtte være, som det er tilgjengelig å
legge i disse Teams Message Extensions.
Og dette er egentlig litt sånn
som disse Office-kortene vi
har sett i veldig mange år.
Dessverre er alt for få
kunder bruker egentlig.
Men det er litt gull i forhold
til å kunne gjøre en oppdatering i
kontekst av den du er, og du må ikke
gå ut av denne brukeropplevelsen.
Finn, logge deg på systemet
ditt, oppdater lagerstatus, du
kan gjøre det med ett klikk.
Oscar Høvik: Ja, tenk deg at du sitter og
jobber sammen med en kunde for eksempel.
Smidig, enkelt, greit, synlig
ok, du bestiller du det er
nettopp det da kjører vi
Frode Stenstrøm: Og M365-chat er jo en
sånn type chat-løsning, men vi har det
også i Teams-chat også, så når man først
har laget en Teams-message-extension, så
kan en bruke Søren fløtte meg overalt.
Også egenutviklet Copiloter, det
hadde vi tenkt å vise dere i et
eget webinar på et senere tidspunkt.
Det er et fagsystem i seg selv.
Målet i dag var å gi
disposisjon, kart og terreng.
Og vi avslutter i dagens webinar
med litt sånn modenhet, som har gitt
meg interessant å høre fra dere.
Har dere begynt å bruke
noen av de verktøyene?
Har dere testet flere?
Bruker dere det ukentlig?
Har dere utvidet det?
Lagde dere egne modeller?
Har dere trent egne modeller?
Vi vil gjerne hjelpe dere med å finne
vei og bruksscenarioer, så bruk scan
QR-koden på denne videoen, så får man...
rett og slett, da kan vi
snakke sammen så fort vi kan.
Og med det så er klokken tid.
Takk for nå, og på gjenhør.
