Slik fungerer det

Denne gruppen er for folk som vil forstå rørledningen før de stoler på den i intervjuet sitt. Helt rimelig.

Fra ende til ende går et svarforslag gjennom fire trinn: opptak, transkripsjon, generering og visning. Opptaket er OS-naturlig, ScreenCaptureKit (macOS) eller WASAPI (Windows), og henter systemlyden på OS-nivå, slik at KI-en hører intervjueren på samme måte som høyttalerne dine. Mikrofonen tas opp separat, slik at KI-en også har lyden din som kontekst og til transkripsjonen etter intervjuet. Transkripsjon er tale-til-tekst i sanntid. Genereringen sender spørsmålet sammen med CV-en din, stillingsannonsen og samtalehistorikken så langt til en stor språkmodell, med en systemprompt som begrenser utdataene til en lengde som passer i et intervju. Visningen strømmer svaret inn i et flytende overleggsvindu utenfor konferanseappens vindu: du kan dra det hvor som helst, også utenfor skjermdelingsområdet.

Forsinkelsesbudsjettet for første token fra ende til ende er under 400 millisekunder. Utover det flytter øynene dine seg bort fra kameraet mens du leser svaret, og da mister det hensikten. Svarene nedenfor går gjennom hvert trinn i detalj, hva som skjer når budsjettet overskrides, og hvilke kompromisser vi valgte. (For den dypere bakgrunnen for hvorfor vi bygde det, se grunnleggerbrevet.)