Seite 1 von 1

Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 14:54
von slashCAM

Adobe hat eine weitere Sneak Peek aus seiner internen Forschung veröffentlicht, die auf generativer KI basiert: "Dubbing and Lip Sync".

Bei dieser Technologie handelt...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 17:18
von Jott
Wenn das verläßlich klappt - egal ob innerhalb von Adobe oder als Standalone-Software - wird das ein Knaller. Ich bin großer KI-Freund in Sachen Helferlein im Hintergrund.

Sie müssen nur die Editierbarkeit der Spracherkennung/Übersetzung hinkriegen.

Spannend!

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 17:53
von R S K
Das ist wirklich nichts Neues. hello8.ai macht das schon eine ganze Weile und ich muss sagen, dass mich deren Lippenbewegungen um einiges mehr überzeugen.



Bei Adobe sieht das im Vergleich aus wie ein schlecht geführter Muppet.

Und ja, das ist eine KI-Anwendung, die ich sehr gutheißen kann. Endlich weg von den üblichen synchron Dinger.

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 18:01
von Frank Glencairn
R S K hat geschrieben: Fr 15 Mär, 2024 17:53 Das ist wirklich nichts Neues. hello8.ai macht das schon eine ganze Weile und ich muss sagen, dass mich deren Lippenbewegungen um einiges mehr überzeugen.

Ja das ist viel besser, aber soweit ich sehe ist das auch wieder nur ein Online Service und läuft nicht lokal (schon gar nicht in der NLE) - das macht das ganze natürlich extrem problematisch.

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 18:57
von R S K
Frank Glencairn hat geschrieben: Fr 15 Mär, 2024 18:01das macht das ganze natürlich extrem problematisch.
Womit du wohl meinst, dass das Problem für beide gleich ist. Beide müssen in die Cloud. Auch Resolve ist fröhlich dabei.

Das ist gleichzeitig die Antwort darauf, warum Apple angeblich so „hinterher” ist, was KI Features angeht. Sollen sie von mir aus gerne sein, solange es nicht so ein Cloud-Mist ist, sondern wie bei Apple üblich immer mit einer Voraussetzung: On-Device.

(… und das ist der Moment, in dem die üblichen Verschwörungstheoretiker aus ihren Löchern gekrochen kommen.)

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 19:11
von Frank Glencairn
Ja, genau das habe ich mit "nur ein Online Service" gemeint.
Solange das nicht lokal läuft, nutz es mir nix. Egal ob Adobe oder sonstwas.

Resolve macht alles was mit AI zu tun hat übrigens immer schon on device, du brauchst nicht mal ne aktive Internetverbindung.

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 19:35
von ChristianG
Den "verantwortungsvolle KI-Ansatz" finde ich extrem nervig, egal was man harmloses versucht, dauernd diese Fehlermeldungen und ich frage mich wieso es das gibt. Beispiel: markiert man ein Gesicht und schreibt "Reptiloiden Gesicht" kommt schon so eine Fehlermeldung, Nacktheit und ähnlich wird sicher dreimal nicht gehen. Finde ich künstlerisch komplett unbrauchbar und auch ansonsten lächerlich belehrend.

Re: Adobe Dubbing and Lip Sync - Lippensynchrone Videotranslation mit KI

Verfasst: Fr 15 Mär, 2024 19:47
von Frank Glencairn
ChristianG hat geschrieben: Fr 15 Mär, 2024 19:35 Den "verantwortungsvolle KI-Ansatz" finde ich extrem nervig, egal was man harmloses versucht, dauernd diese Fehlermeldungen und ich frage mich wieso es das gibt. Beispiel: markiert man ein Gesicht und schreibt "Reptiloiden Gesicht" kommt schon so eine Fehlermeldung, Nacktheit und ähnlich wird sicher dreimal nicht gehen. Finde ich künstlerisch komplett unbrauchbar und auch ansonsten lächerlich belehrend.
Du nutzt nur die falschen Modelle, probier mal das hier: https://www.seaart.ai
Da bekommst du mehr Möpse als dir lieb ist ;-)