Spracherkennung ohne Ton 12.04.2016, 10:22 Uhr

Computer lernen das Lippenlesen

Manche Menschen können erstaunlich geschickt von den Lippen lesen. Jetzt arbeiten auch Wissenschaftler an Computern, die das übernehmen sollen. Ideen für Anwendungen gibt es zuhauf.
(Quelle: pathdoc / Shutterstock.com)
Was wäre, wenn die Bilder einer Überwachungskamera ausreichen würden, um die Worte eines Verdächtigen zu verstehen? Wenn Piloten im Rauschen des Cockpits lautlose Befehle geben könnten? Die Technik dafür erhoffen sich Forscher von Computern, die von den Lippen lesen können. Doch trotz großer Fortschritte sind die Maschinen noch nicht praxistauglich.
Wenn Hintergrundrauschen die Spracherkennung behindert, hilft nur noch Lippenlesen. Computer sollen dies nun mit neuen Tools lernen.
Quelle: Franziska Kraufmann
"Ein solches System könnte für eine ganze Reihe von Anwendungen benutzt werden", sagt Helen Bear von der britischen University of East Anglia. Die Informatikerin und ihr Team haben ein Programm entwickelt, das ihrer Studie zufolge deutlich bessere Ergebnisse als bisherige Ansätze liefert - für eine Anwendung unter realen Bedingungen reicht es aber noch lange nicht.
Die Krux: Auf den Lippen sehen viele Töne praktisch gleich aus. Computer müssen lernen, die feinen Unterschiede zu interpretieren, die Menschen verborgen bleiben. Dafür braucht es kluges Training. "Die Sprache sieht bei uns allen unterschiedlich aus, also brauchen wir Modelle, die bei jedem funktionieren", sagt Bear.

Altes Thema, neue Ideen

Schon 1968 beschrieb der Science-Fiction-Klassiker "2001: Odyssee im Weltraum" die Idee: Der Supercomputer HAL 9000 liest im Film heimlich die Lippenbewegungen von Astronauten durch eine Scheibe. Sie hatten sich eingeschlossen, damit er ihre Pläne nicht mitbekommt. "Das zeigt, wie alt das Thema ist", sagt Tanja Schultz, Professorin für Kognitive Systeme an der Universität Bremen.
Das klassische Vorgehen: Der Computer identifiziert auf einem Video den Bereich der Lippen. Während der Sprecher redet, nimmt das Programm Aussehen und Abfolge der Bewegung (Viseme) sowie die geäußerten Laute (Phoneme) auf. Im dritten Schritt wird es mit einem statistischen Modell trainiert: Wie hängen Video und Audio zusammen? Diese Lernstrategien sind ein entscheidender Teil der Forschung. "Menschen können durch gutes Training gut Lippen lesen, aber sie sind nicht perfekt", sagt Schultz.
Die Laute p, b und m etwa sind auf den Lippen fast nicht zu unterscheiden. Daher braucht das Programm mehr Informationen: Die vorhandenen Wörter einer Sprache schränken die möglichen Phonemketten schon ein. Weitere Hinweise geben erlaubte Satzkonstruktion und Sinn der Aussage. Hilfreich, fast schon unerlässlich: eine Datenbank mit Zusammenhängen von Audio und Text. Ein menschlicher Lippenleser kennt Ausdrücke und Redewendungen seiner Sprache und den Kontext einer Unterhaltung - für Computer ist das schwieriger.

Nuschler und andere Hindernisse

Auch von Sprecher zu Sprecher gibt es große Unterschiede. "Salopp gesagt: Manche kriegen die Zähne nicht auseinander", sagt Schultz. Schon so sollte die Aussprache möglichst deutlich, die Sätze grammatikalisch korrekt und nicht umgangssprachlich sein. "Je spontaner Sprache gesprochen wird, umso schwieriger ist sie zu erkennen." Und: Manche Sprachen sind einfacher als andere. Gut ist eine große Zahl an Konsonanten - Vokale ähneln sich stark. Fatal ist es, wenn die Tonhöhe in der Sprache eine Bedeutung ausmacht.
Forscher hoffen: Ein zuverlässiges Programm könnte bei der Aufklärung von Straftaten anhand von Überwachungsvideos helfen, eine bessere Verständigung von sprach- und hörbehinderten Menschen ermöglichen, als digitaler Assistent im Stil von Apples Siri und Microsofts Cortana arbeiten - oder die Identität von Menschen feststellen.
Um Nutzernamen, Geheimwörter und PIN überflüssig zu machen, schlägt Ahmed Hassanat von der jordanischen Mutah-Universität lautlose Passwörter vor: schwer abzufangen und nützlich bei lauter Umgebung. Zur Identifikation am Bankautomaten oder im Online-Shop würde es reichen, allein die Lippen zu bewegen. Nötig wäre nur eine Kamera, kein spezielles Equipment wie etwa für Fingerabdrücke. Experimente zeigten bereits das Potenzial zur praktischen Umsetzung.

Tiefe neuronale Netze

Doch noch erreicht kein Programm eine hohe Trefferquote - erst recht nicht, wenn die getesteten Sprecher einfach drauflosreden. Vielversprechend sei der Einsatz lernfähiger künstlicher Intelligenz, die sich an biologische Vorbilder anlehnt, sagt Schultz. Ein Team um Michael Wand von der Fachhochschule der italienischen Schweiz erreicht mit sogenannten tiefen neuronalen Netzen eine deutlich bessere Worterkennung als mit herkömmlichen Methoden, allerdings bei begrenztem Wortschatz.
Und parallel wird auch an anderen Ansätzen geforscht, die ohne Audio-Signal auskommen: Spracherkennung durch Messung der Muskelaktivität in Gesicht und Hals, Ultraschallbilder der Zunge oder Verfolgung der Hirnaktivität selbst - Schultz zufolge aber eher unpraktisch, da bisher nur am offenen Schädel möglich.



Das könnte Sie auch interessieren