Het gaat om de tool Whisper van het bedrijf Nabla. Meer dan 30.000 artsen en 40 medische groepen in de Verenigde Staten gebruiken het instrument om gesprekken in de spreekkamer op te nemen en samen te vatten. Inmiddels zijn er zo’n 7 miljoen gesprekken samengevat.
Agressie
Een groep onderzoekers aan onder meer de Cornell University en de University of Washington constateert dat de audiotranscripties zeer nauwkeurig zijn. In 1 procent van de transcripties hallucineert Whisper echter. Daarbij bedenkt het systeem compleet nieuwe zinnen. In 38 procent van die gevallen verzint de tool agressieve emoties, onnauwkeurige associaties of valse autoriteit impliceren.
De verzonnen zinnen worden op de plaats gezet waar in de originele opnames een lange stilte valt. Nabla meldt ABC News aan het probleem te werken.
