Beeld: Olga Rai/SutterStock
Het gaat om de tool Whisper van het bedrijf Nabla. Meer dan dertigduizend artsen en veertig medische groepen in de Verenigde Staten gebruiken het instrument om gesprekken in de spreekkamer op te nemen en samen te vatten. Inmiddels zijn er zo’n zeven miljoen gesprekken samengevat.
Agressie
Een groep onderzoekers aan onder meer de Cornell University en de University of Washington constateert dat de audiotranscripties zeer nauwkeurig zijn. In 1 procent van de transcripties hallucineert Whisper echter. Daarbij bedenkt het systeem compleet nieuwe zinnen. In 38 procent van die gevallen verzint de tool agressieve emoties, onnauwkeurige associaties of valse autoriteit impliceren.
De verzonnen zinnen worden op de plaats gezet waar in de originele opnames een lange stilte valt. Nabla meldt ABC News aan het probleem te werken.
