Ein Hostprovider, der eine Social-Media-Plattform betreibt, ist verpflichtet, nach Hinweis auf einen rechtsverletzenden Inhalt (hier: ein Deep-Fake-Video mit Persönlichkeitsrechtsverletzung) nicht nur diesen konkreten Inhalt zu entfernen, sondern auch sinngleiche Inhalte zu sperren, sofern die spezifischen Merkmale des Ausgangsverstoßes hinreichend konkret bezeichnet wurden und die sinngleichen Inhalte sich in Wort und Bild lediglich marginal unterscheiden. Dies gilt jedenfalls dann, wenn der Plattformbetreiber über technische Möglichkeiten zur Erkennung solcher Inhalte verfügt und eine entsprechende Prüfpflicht bereits durch einen vorherigen Hinweis oder eine Abmahnung ausgelöst wurde.

In dem entschiedenen Fall untersagte das OLG Frankfurt einem Hostprovider, auf seiner Plattform Inhalte Dritter zu verbreiten oder verbreiten zu lassen, die unter Verwendung von Namen, Stimme und Bildnis des Antragstellers den Eindruck erwecken, dieser werbe für Mittel zur Gewichtsabnahme, soweit dies wie in einem konkret benannten Video (Video 2) geschieht. Das Gericht stellte klar, dass eine Prüf- und Handlungspflicht bereits durch die Abmahnung hinsichtlich eines sinngleichen, zuvor entfernten Videos (Video 1) ausgelöst wurde, da beide Videos bei marginalen Unterschieden denselben falschen Eindruck vermittelten.

Zugleich differenziert der Senat im Hinblick auf andere, thematisch ähnliche, aber nicht sinngleiche Inhalte (z.B. andere Werbung, andere Gestaltung oder Thematik), die mangels ausreichender Übereinstimmung nicht unter die Prüfpflicht fallen. Der Senat verweist dabei auf die Kriterien des EuGH zur Sinngleichheit (Urteil „Glawischnig-Piesczek/Facebook Ireland“) und bejaht die Zumutbarkeit solcher Prüfpflichten im konkreten Fall auch im Hinblick auf Art. 6 Abs. 1 DSA.

Das Gericht hebt zudem hervor, dass die bloße Entfernung eines rechtsverletzenden Inhalts nicht die Wiederholungsgefahr entfallen lässt und daher die Dringlichkeit für den Erlass einer einstweiligen Verfügung gegeben ist. Die Entscheidung ist unanfechtbar.

Host-Provider und Deep-Fake-Video

Host-Provider – Begriff und rechtliche Einordnung

Ein Host-Provider (auch: Hosting-Dienstleister oder Hosting-Provider) ist ein Diensteanbieter, der im Rahmen eines Internetdienstes fremde Informationen für Nutzer speichert (§ 2 Satz 1 Nr. 2 TMG a.F.; Art. 3 lit. g) iii) DSA). Er stellt damit lediglich die technische Infrastruktur zur Verfügung, um Inhalte Dritter im Internet zugänglich zu machen – etwa in Foren, sozialen Netzwerken oder auf Videoplattformen. Typische Beispiele sind Betreiber von Webhosting-Diensten, Cloud-Speicher-Anbieter oder soziale Netzwerke.

Rechtlich wird der Host-Provider nach deutschem und europäischem Recht grundsätzlich nicht für fremde Inhalte verantwortlich, solange er keine Kenntnis von der Rechtswidrigkeit hat (vgl. § 10 TMG a.F.; Art. 6 Abs. 1 DSA). Erlangt er jedoch Kenntnis – etwa durch eine Abmahnung oder gerichtliche Entscheidung – so trifft ihn eine Prüf- und Handlungspflicht, um weitere gleichartige oder sinngleiche Rechtsverletzungen zu unterbinden. Wird dieser Pflicht nicht nachgekommen, kann er als mittelbarer Störer gemäß § 1004 BGB analog auf Unterlassung in Anspruch genommen werden.

Deep-Fake-Video – Begriff und rechtliche Relevanz

Ein Deep-Fake-Video ist ein künstlich erzeugtes oder manipuliertes Video, in dem unter Einsatz von künstlicher Intelligenz (KI) einer realen Person Bilder, Stimmen oder Aussagen untergeschoben werden, die diese tatsächlich nie getätigt hat. Dabei werden zumeist audiovisuelle Merkmale wie das Gesicht, die Mimik oder die Stimme mit Hilfe neuronaler Netzwerke so verändert, dass der Eindruck entsteht, die dargestellte Person habe sich in einer bestimmten Weise geäußert oder verhalten.

Rechtlich handelt es sich bei Deep-Fake-Videos regelmäßig um einen schwerwiegenden Eingriff in das allgemeine Persönlichkeitsrecht (Art. 1 Abs. 1, Art. 2 Abs. 1 GG; Art. 8 EMRK), insbesondere wenn Namen, Stimme und Bild einer realen Person zur Verbreitung falscher Tatsachen oder Werbung missbraucht werden. In der Regel liegt zugleich eine Täuschung des Publikums vor, was zivilrechtliche Unterlassungsansprüche auslösen kann. Die Verbreitung solcher Inhalte kann zudem strafrechtlich relevant sein (z.B. § 186 StGB – üble Nachrede, § 187 StGB – Verleumdung, § 201a StGB – Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen).

Im Rahmen der Plattformregulierung sind Plattformbetreiber nach dem Digital Services Act (DSA) verpflichtet, nach Kenntniserlangung geeignete Maßnahmen zur Entfernung solcher Inhalte zu treffen (Art. 6 Abs. 1 lit. b DSA), insbesondere wenn die Persönlichkeitsrechte Betroffener verletzt werden.

Aktuelle Fälle von Deepfake-Opfern in der Öffentlichkeit:

• Pornografische Deepfakes: Studien zeigen, dass ein Großteil der online verfügbaren Deepfake-Videos pornografischer Natur ist und fast ausschließlich Frauen betrifft. ​Bundesministerium für Inneres

• Fall in Spanien: Im vergangenen Jahr wurden in Spanien Deepfake-Bilder von 20 Mädchen erstellt und über WhatsApp verbreitet. Dabei wurden realistische Nacktaufnahmen generiert, obwohl die ursprünglichen Bilder die Mädchen vollständig bekleidet zeigten. Die Täter waren Mitschüler; die jüngste Betroffene war erst 11 Jahre alt. ​Legal Tribune Online

• Missbrauch in sozialen Netzwerken: Prominente und Politiker sind häufig Ziel von Deepfake-Angriffen. Doch theoretisch kann jede Person betroffen sein, was neben Mobbing auch die Gefahr von Erpressung mit sich bringt.