Næste eksperiment i kategorien "Ting man kan i en browser" er et...
Næste eksperiment i kategorien "Ting man kan i en browser" er et forsøg med små modeller på ~150mb, der kan loades og afvikles med transformers.js. Her...
Her har jeg brugt en NER-model (Named Entity Recognition) og trækker personnavne, lokationer og organisationer ud af dansk tekst på lidt over 100ms uden at sende teksten ud på nettet.
Det er en modernbert ONNX model, som Thomas Albrecht-Beste har lagt på huggingface: thomasbeste/modernbert-da-ner-base-onnx-int8 🙏
Privacy-venlig, hvis man gerne vil have strippet de der navne INDEN teksten bliver sendt afsted over netværket.
Eller hvad man nu ellers kan finde på at bruge den slags til.
Oprindeligt delt på LinkedIn