PRIVAT UTRULLING FOR VIRKSOMHETER

Piloten kjørte på en bærbar PC. Produksjonssystemet kjører i ditt eget bygg.

Assistenter, agenter, dokumentflyter, taleløsninger og private modeller. Evaluert på dine data før lansering og driftet av YPAI. Dataene, regionen og slettingen forblir dine.

Avgrens en utrulling Prøv assistenten i nettleseren →

KUNNSKAPSASSISTENT 3 dokumenter · 3 spørsmål

Saksmappene dine blir i arkivet. Assistenten leser dem der.

Tre dokumenter, ett spørsmål. Assistenten finner avsnittet som besvarer spørsmålet, og siterer det, slik at kontrolløren kan sjekke kilden. Lim inn dine egne dokumenter og still ditt eget spørsmål. Demomodellene er trent på engelsk. På norske dokumenter kan svaret bli upresist.

Dokumentene

  1. Prosedyre for endringskontroll, punkt 4 Hasteendringer i inferenstjenesten kan gjennomføres av vakthavende ingeniør etter godkjenning fra driftsleder på vakt, og må føres i endringsloggen innen 24 timer.
  2. Lagringsplan, rad 7 Forespørsler og svar på forbindelsen til den administrerte modellen lagres i null dager. Applikasjonslogger lagres i 400 dager i kundens konto og slettes av kunden.
  3. Tilgangspolicy, punkt 2 Supporttilgang til produksjonsmiljøet gis per hendelse av kundens plattformeier og utløper etter åtte timer eller når hendelsen avsluttes, det som inntreffer først.

Eller spør

Svaret eksempel

driftsleder på vakt

Sitert fra

Prosedyre for endringskontroll, punkt 4. Hasteendringer i inferenstjenesten kan gjennomføres av vakthavende ingeniør etter godkjenning fra driftsleder på vakt, og må føres i endringsloggen innen 24 timer.

Bygget av YPAI. Kjører i nettleseren din. Resultatet som vises, er det medfølgende eksempelet. Kjør demoen for å få ditt eget. Ingen kundedata.

HVOR DET KJØRER 4 mønstre · 1 grense

Fire steder det kan kjøre. Én grense du signerer.

Du velger mønsteret. Grensen tegnes rundt det, forbindelsene over den telles, og sikkerhetsansvarlig hos dere signerer den før lansering. De samme systemene kjører i alle fire.

Mønster 01

Din sky

Din AWS-, Azure- eller Google-konto, din region, din identitetsleverandør. Modellkall går bare ut via private endepunkter du godkjenner, med null lagring hos mottakeren.

  • din konto og region
  • private endepunkter, null lagring
  • kundestyrte nøkler

Mønster 02

Dedikert EØS-miljø

Et dedikert miljø under EØS-jurisdiksjon, driftet av YPAI. Du genererer og oppbevarer nøklene. Region og sletting forblir dine beslutninger.

  • ingen delt infrastruktur
  • nøkler du kan tilbakekalle
  • EØS-jurisdiksjon

Mønster 03

Hybrid

Kildedata, gjenfinning, tilganger og handlinger blir værende inne. En ledende modell utenfor svarer bare ut fra kontekst som porten har godkjent.

  • kildedataene blir inne
  • navn, steder og datoer holdes inne
  • én privat forbindelse, talt

Mønster 04

Din maskinvare

Modellvekter, kjøremiljø, applikasjon og indeks på maskinvare du eier. YPAI kaller en utrulling frakoblet først når det er vist at inferens, telemetri, oppdateringer og supporttilgang blir værende inne.

  • modellvektene speilet og hashet
  • ingen utgående forbindelse
  • oppdateringer navngitt og planlagt

Vi leser mønsteret ut fra beskrivelsen din og avklarer det med deg i svaret vårt. Alle mønstre leveres med samme dokumentasjon og de samme tjenestenivåene.

KART OVER UTGÅENDE TRAFIKK 2 godkjent · 0 ikke godkjent

To forbindelser går ut av bygget. Begge er navngitt.

Dette er kartet for én utrulling. To private forbindelser går ut, én til modellen og én til overvåkingen, og antallet ikke-godkjente forbindelser står på null. Slå på en offentlig forbindelse og se tallet endre seg.

Inne Ute applikasjon dokumentlager gjenfinningsindeks identitetsleverandør revisjonslogg administrert modell overvåking offentlig internett

DOKUMENTFLYT 5 holdt inne

Det står en person i hvert dokument. Arbeidsflyten holder personen tilbake og sender dokumentet videre.

Et innleggelsesnotat går gjennom arbeidsflyten. Navnene, stedene og datoene merkes og holdes inne. De kliniske opplysningene og oppgaven kan gå videre til en modell utenfor. Demomodellen som finner navn og steder, er trent på engelsk tekst. Datoer gjenkjennes med en fast regel.

Slik det er skrevet, holdt inne

Pasienten Ola Nordmann, født 12. mars 1961, ble lagt inn på Ullevål 4. mai med brystsmerter. Dr. Anne Berg rekvirerte en troponintest og et EKG. Oppsummer innleggelsen for epikrisen.

Slik det går videre

Pasienten person 1, født dato 1, ble lagt inn på sted 1 dato 2 med brystsmerter. Dr. person 2 rekvirerte en troponintest og et EKG. Oppsummer innleggelsen for epikrisen.

  • pasient holdt inne
  • innlagt Ullevål, 4. mai
  • symptomer brystsmerter
  • rekvirert troponintest, EKG
  • oppgave sammendrag til epikrise
det medfølgende eksempelet, til du kjører ditt eget

5 holdt inne: 2 personer, 2 datoer, 1 sted. Resten kan gå videre til en modell utenfor.

Illustrativt dokument. Ingen pasient eller sak er ekte. Dokumentet blir der det er lagret, og arbeidsflyten leser det der. Dokumentflyter →

LANSERINGSPORT 8 tilbakeholdte elementer · 2 kritiske

Demoen svarte på demospørsmålene. Lanseringen venter på dine saker.

Før lansering evalueres systemet innenfor grensen din på testsett bygget fra produksjonsdataene dine, med vanskelige varianter av dine egne spørsmål. Her kjører porten på åtte tilbakeholdte elementer. To er kritiske. Demoleseren leser bare engelsk, så porten kjører hvert element i den engelske versjonen.

  1. 01 kritisk Hvem godkjenner en hasteendring? driftsleder på vakt
  2. 02 Innen hvilken frist må endringen føres? 24 timer
  3. 03 Hvem gjennomfører endringen? vakthavende ingeniør
  4. 04 kritisk Hvor lenge lagres forespørsler på forbindelsen til den administrerte modellen? null dager
  5. 05 Hvem sletter applikasjonsloggene? kunden
  6. 06 vanskelig Hvor lenge, om i det hele tatt, tar den administrerte forbindelsen vare på det som ble spurt om? null dager
  7. 07 vanskelig Når utløper supporttilgangen hvis hendelsen varer i et døgn? etter åtte timer
  8. 08 vanskelig Hvilken rolle kan gi supporttilgang til produksjon? kundens plattformeier

TALESYSTEM tre sekunder · dette rommet

Brukerne dine snakker i korridorer og førerhus. Transkripsjonen blir hos deg.

Ta opp tre sekunder i rommet du er i. Opptaket transkriberes i nettleseren din. I din utrulling går transkripsjonen rett til arbeidsflyten din. Demomodellen transkriberer bare engelsk tale.

Opptaket

Transkripsjon, eksempelopptak på engelsk

start route guidance to the harbour terminal

Taledata →

Kjører i nettleseren din. Resultatet som vises, er det medfølgende eksempelet. Kjør demoen for å få ditt eget. Ingen kundedata.

SYNSSYSTEM ett bilde · snøvær · skumring

Kameraet ser fotgjengerovergangen i skumringen. Avlesningen gjøres på din maskinvare.

Ett bilde fra et gatekamera i snøvær. Detektoren markerer det den finner, med en konfidensverdi. I din utrulling blir bildet på maskinvaren din, og operatøren godtar eller retter deteksjonen.

Deteksjon person 0,68. Operatøren godtar eller retter den før deteksjonen registreres.

det medfølgende eksempelet, til du kjører detektoren på dette bildet

Kjører i nettleseren din Bransjeløsninger →

MODELLER KJØRT I EU EU-inferensprofil, Frankfurt

Brukerne dine skriver på norsk. Modellen svarer på norsk, fra Frankfurt.

Modeller med åpne vekter og finjusterte modeller i Llama- og Mistral-familiene, evaluert for språkene brukerne dine snakker, levert fra Frankfurt på EU-inferensprofilen, slik at forespørsler behandles i EU. Agenten handler bare innenfor tilgangene som er gitt for oppgaven, og viser hvert steg.

En privat modell på norsk

Forespørsel

Oppsummer denne saken for saksbehandleren i to setninger.

Svar

Søknaden gjelder tilknytning til kommunalt vann og avløp for eiendommen i Fjellveien 12, og mangler situasjonskart og samtykke fra nabo. Saken settes på vent til begge dokumenter er mottatt.

Modell
Mistral-familien, EU-inferensprofil
Behandlet i
eu-central-1, Frankfurt

Et utarbeidet eksempel, ikke en direkte kjøring. AI Implementation →

En agent innenfor sine tilganger

Oppgave

Sjekk hendelsen mot driftshåndboken og registrer endringsforespørselen.

Tildelt for denne oppgaven

  • read_runbook
  • read_incident
  • draft_change
  • request_approval
  • file_change

Spor

  1. read_runbook driftshåndbok 4.2, hasteendring
  2. read_incident INC-2231, inferenstjenesten degradert
  3. draft_change endringsforespørsel utarbeidet, vei for tilbakerulling angitt
  4. request_approval sendt til driftsleder på vakt, venter
  5. file_change blokkert, utenfor tildelte tilganger

Å registrere endringen ligger utenfor de tildelte tilgangene, så kjøringen stopper der, og sporet viser hvor.

Et utarbeidet eksempel, ikke en direkte kjøring. Virksomhetsautomatisering →

SIKKERHETSGJENNOMGANG 3 spørsmål · 3 dokumenter

Gjennomgangen stiller tre spørsmål. Utrullingen besvarer dem.

De fleste private utrullinger stopper ved de samme tre spørsmålene. Hvert av dem har et dokument bak seg, utarbeidet som en del av leveransen.

Dokumentet Kart over utgående trafikk Klar for godkjenning

Hver forbindelse navngitt, godkjent eller stengt. Null ikke-godkjente forbindelser ved lansering, talt, med lagringsregelen per komponent.

Inne Ute applikasjon dokumentlager gjenfinningsindeks identitetsleverandør revisjonslogg administrert modell overvåking offentlig internett
ikke-godkjente forbindelser
0
godkjente forbindelser
2
lagring på modellforbindelsen
0 dager

Signert før lansering Slå på en forbindelse i kartet ovenfor ↑

Pakken er skrevet for nettopp den gjennomgangen som stoppet piloten.

TJENESTENIVÅER 12 mål

Tolv tall. Arbeidsomfanget (SOW) gjør hvert av dem bindende.

Tjenestespesifikasjoner for en navngitt utrullingsprofil. Arbeidsomfanget angir målet, arkitekturen, forutsetningene og målemetoden. Produksjonen starter når akseptbevisene er godkjent.

  1. Nettverksgrense 0 ikke-godkjente utgående forbindelser datagrense
  2. Lagring ved inferens 0 dagers lagring av forespørsler og svar datagrense
  3. Tilgjengelighet 99,99 % månedlig tjenestetilgjengelighet lansering og drift
  4. Gjenoppretting RPO 0 kritiske skriveoperasjoner, RTO under 60 s i serveringsleddet lansering og drift
  5. Privat 70B-inferens 1 s p95 til første token, 50 ms per token modeller
  6. Rask 8B-inferens 250 ms p95 til første token, 10 ms per token modeller
  7. Lanseringskvalitet 100 % påkrevde porter, 0 kritiske funn lansering og drift
  8. Tilbakerulling 5 min til siste kjente gode versjon lansering og drift
  9. Revisjon og nøkler 100 % avtalt hendelsesdekning, kundestyrte nøkler datagrense
  10. Miljøer 3 isolerte miljøer lansering og drift
  11. Handlinger avvises utenfor godkjent fullmakt datagrense
  12. Modellstyring policy-ekvivalent kun mål modeller

Arbeidsomfanget gjør den valgte profilen bindende. Produksjonen begynner når forutsetningene er oppfylt og aksepttestene bestått.

UTRULLINGSDOKUMENTASJON 10 dokumenter

Én pakke per arbeidslast. Overlevert ved lansering.

Skrevet for dem som signerer. Ti dokumenter, i den rekkefølgen gjennomgangen stiller spørsmålene sine, og fem av dem har et tjenestenivå fra arbeidsomfanget.

Innhold Utrullingspakke én arbeidslast, profilen angitt på hvert ark Overlevert ved lansering
Hva forlater miljøet vårt?
  1. §1
    Dataflytkart Hver forbindelse inn og ut, navngitt, godkjent eller stengt, med nettverkssonene.
    0 ikke-godkjente utgående forbindelser Tegnet ovenfor: 0 ikke-godkjente forbindelser ↑
  2. §2
    Kapabilitetsmatrise Modell, endepunkt, verktøy, hurtigbuffer og logging, for hver forbindelse med null lagring.
    0 dagers lagring av forespørsler og svar
  3. §3
    Nøkkel- og regionmatrise Hvilke nøkler som er kundestyrte, og hvor hver komponent behandler data.
  4. §4
    Identitet og avgrensning av agenter Hvem og hva som kan handle, med godkjenningsgrensen for hver agent.
    avvises utenfor godkjent fullmakt
Fungerer det på våre data?
  1. §5
    Evalueringssett og akseptrapport Kritiske kriterier og beskyttede utvalg, kjørt på dine saker og rapportert før lansering.
    100 % påkrevde porter, 0 kritiske funn Ikke kjørt på denne siden ennå ↑
  2. §6
    Opprinnelse, SBOM og lanseringsbevis Signert opprinnelse, stykklisten (SBOM) og lanseringsbevisene for hver produksjonsartefakt.
Hvem drifter det etter produksjonsstart?
  1. §7
    Prosedyre for lansering og tilbakerulling Hvordan en ny versjon rulles ut, og hvordan den rulles tilbake.
    5 min til siste kjente gode versjon
  2. §8
    Driftshåndbok, eierskap og overlevering Hvem som drifter hva etter produksjonsstart, og hvordan det overleveres.
    Åpnet i gjennomgangen ovenfor ↑
Hva viser vi tilsynsmyndigheten?
  1. §9
    Dokumentasjon for idriftsetter etter AI Act Utpekt tilsynsansvar, overvåking og logglagring, slik EU AI Act (KI-forordningen) krever av en idriftsetter.
  2. §10
    Databehandleravtale og liste over underdatabehandlere Databehandleravtalen, med alle underdatabehandlere navngitt.

Signert av sikkerhetsansvarlig hos dere før lansering. 10 dokumenter · 5 tjenestenivåer i arbeidsomfanget

Pakken er utrullingen på papiret. Gjennomgangen leser den før produksjon.

DIN BESKRIVELSE

Tre linjer er nok. Hva det gjør, hvor det må kjøre, hva som ikke må ut.

Grensen du signerer, starter som disse tre linjene.

Systemet, eller piloten og hvor den stoppet. Din sky, et EØS-miljø, en hybrid løsning eller din maskinvare. Kildedataene, indeksen, nøklene.

Vi bruker opplysningene du oppgir til å vurdere, besvare og håndtere henvendelsen din i samsvar med vår personvernerklæring.

En navngitt prosjektleder leser den og svarer innen én virkedag i EU med mønsteret, forutsetningene og en første vurdering av grensen.

FØR DU AVGRENSER

Det sikkerhets-, etterlevelses- og plattformteamene spør om først.

Kan hele systemet kjøre i vårt miljø?

Der de valgte modellene, lisensene, infrastrukturen og avhengighetene støtter det. Inferens, gjenfinning, applikasjonstilstand, logging, oppdateringer og driftstilgang sjekkes mot de samme tjenestenivåene: 0 ikke-godkjente utgående forbindelser og en eksplisitt lagringsregel per komponent. Et system beskrives som helt privat bare når alle vesentlige prosesser kjører inne.

Kan sensitive data bli inne mens en ekstern modell brukes?

I en hybrid løsning blir kildedokumenter, gjenfinning, tilganger og handlinger værende inne, og bare godkjent kontekst når den eksterne modellen. Det leddet bruker 0 dagers lagring av forespørsler og svar, mens komponenter med tilstand beholder sine egne godkjente regler for lagring og sletting.

Støtter dere lokal drift (on-premises) eller fysisk isolerte miljøer?

Der modellen, lisensen, maskinvaren og oppdateringsprosessen tillater det. YPAI kaller en utrulling frakoblet først når det er vist at inferens, telemetri, pakkehenting og supporttilgang blir innenfor grensen, med ikke-godkjent utgående trafikk på 0.

Piloten vår stoppet i sikkerhetsgjennomgangen. Hvor begynner vi?

Med grensen. Vi tegner den for ditt mønster, teller det som krysser, og gir sikkerhetsavdelingen kartet over utgående trafikk og matrisen for lagring og nøkler. Piloten evalueres deretter innenfor grensen på dine egne saker før noen beslutter om den skal i produksjon.

Hvem drifter systemet etter lansering?

YPAI kan overføre utrullingen til en intern eier eller fortsette å overvåke og oppdatere den innenfor et avtalt omfang. Eierskap, tilgang, tilgjengelighetsprofilen og forutsetningene for den, RTO, RPO og eskaleringsveier defineres før produksjon.

Gjør privat utrulling at systemet oppfyller GDPR (personvernforordningen)?

Plassering, 0 ikke-godkjente utgående forbindelser og en lagringsmatrise støtter oppfyllelsen av forpliktelsene som gjelder. Roller, formål, overføringer og underdatabehandlere hører hjemme i databehandleravtalen og det organisatoriske rammeverket, som utrullingsdokumentasjonen inneholder.

Du sier hva du har med deg og hvor det må kjøre. Vi bygger det der, tester det der og drifter det sammen med deg.

AI Implementation dekker kartlegging, arkitektur og selve utrullingen.

Avgrens en utrulling Les om AI Implementation →