#1

Deepfake

in Dies und Das 06.07.2020 11:10
von Aganto • 2.045 Beiträge

Ich grüße euch, ich bin die letzten Wochen zunehmend über Deepfakes gestolpert und dachte mir, dass man sich daran eigentlich ganz gut vergegenwärtigen kann inwiefern dieser technologische Zweig sich weiterentwickelt. Im Gegensatz zu künstlichen Intelligenzen die Medikamente oder Diagnoseverfahren verbessern, ist das ja ein Thema bei dem jeder von uns die Qualität des Ergebnisses beurteilen kann.










So sah das ganze noch vor 2 Jahren aus:





Wie man sich vorstellen kann gibt es so einige die sich mächtig Sorgen machen, dass Deepfakes politische Manipulation im großen Stil ermöglichen könnten.
Auch wenn ich persönlich glaube, dass sich die Macht von Deepfakes politisch im Rahmen hält, wenn es für jeden offensichtlich ist wie einfach es ist entsprechende Beweise zu fälschen.


Lerne das unbeherrschbare zu vermeiden und das unvermeidbare zu beherrschen.

zuletzt bearbeitet 06.07.2020 11:11 | nach oben springen

#2

RE: Deepfake

in Dies und Das 14.08.2020 11:33
von Qui-Ran Demera (gelöscht)
avatar

Das ist eine sehr realistische Gefahr... je nachdem, wie schnell die das perfektionieren. Und wenn man weiß, wieviele Menschen sich beharrlich dagegen wehren, zu recherchieren und sich dann auch mal zu hinterfragen, ist das Risiko, dass wirc so mal Opfer eines DeepFakes mit politischer Tragweite werden, gar nicht so gering, wie man glauben möchte. Sehr beunruhigend.

nach oben springen

#3

RE: Deepfake

in Dies und Das 01.08.2022 18:42
von Aganto • 2.045 Beiträge

Ich dachte mir nach 2 Jahren kann man in dieses Thema durchaus mal wieder hineinschauen.

Was die Deepfakes selbst anging fielen mir dabei vor allem zu gegebenem Anlass die letzten Star Wars Produktionen ein.
Das folgende Ergebnis des Luke Skywalker Deepfakes das es in das Buch von Boba Fett geschafft hat stammt dabei aus der Feder eines Künstlers der zuvor im Alleingang die vorangegangene Version aus dem Mandalorian verbessert hatte.


Mich beeindruckt dabei vor allem, wie viel eine Einzelperson da mittlerweile im Alleingang erreichen kann:




Ich würde was das Thema angeht aber vermuten, dass sich da ein neuer Fokus ergibt, der schon viele Male angekündigt, aber dann doch nie wirklich den Sprung geschafft hat. Und zwar komplett von Computern generierte fotorealistische Grafik.
Die kürzliche Veröffentlichung der Unreal Engine 5 hat in Fachkreisen durchaus ein Erdbeben ausgelöst.
Menschen, wie hier Keanu Reeves sehen dabei durchaus stellenweise fotorealistisch aus:




Komplett vom Hocker gehauen hat mich aber folgendes Material, das von einer Einzelperson in relativ kurzer Zeit mit der Unreal Engine 5 generiert wurde:


Lerne das unbeherrschbare zu vermeiden und das unvermeidbare zu beherrschen.

nach oben springen

#4

RE: Deepfake

in Dies und Das 16.08.2022 16:26
von Rinam Sewie • 646 Beiträge

Also Keanu Reeves sieht schon verblüffend aus. Selbst die Mimik sieht so natürlich und geschmeidig aus! Nur an so ganz ganz feinen Konturen wie den Haaren erkennt man noch den Fake.

Okay. Ist es verwerflich, dass ich fast nicht glaube, dass der Bahnhof digital ist? ich meine das Einzige, was es einem vermuten lässt. ist der plötzliche Wechsel von Tag und Nacht und die Tatsache, dass der Bahnhof komisch beleuchtet ist aber selbst dann glaube ich fast, dass es sich hier um zwei Aufnahmen handelt, didie mit etwas CGI gut geschnitten worden ^^"


"Wer auch nur ein einziges Leben rettet, rettet die ganze Welt"

nach oben springen

#5

RE: Deepfake

in Dies und Das 16.08.2022 18:24
von Aganto • 2.045 Beiträge

Das nimmt dir definitiv keiner übel!
Ich hab zwar nur mal 4 Minuten in der Unreal Engine 5 rumgefuddelt, die übrigens jeder frei runterladen und verwenden kann, aber so ziemlich jeder der vom Fach ist überschlägt sich regelrecht mit Superlativen wie unfassbar mächtig, simpel und gleichzeitig effizient diese neue Engine ist.

Eine Technologie die dabei beispielsweise verwendet wird und die in absehbarer Zeit große Auswirkungen auf Spiele haben wird ist "Nanite".
Dabei handelt es sich grob gesagt um den Trick, dass die Engine Dinge quasi nur detailliert darstellt, wenn du auch nah genug dran bist sie detailliert zu sehen.
Normalerweise sind dir als Entwickler starke Grenzen gesetzt wie detailliert du etwas aussehen lassen kannst. Hat die Holzwand HD-Auflösung, der Steinkamin auch und der Schlamm hinter dem Haus auch, dann gerät die Technik traditionell schnell an ihre Grenzen wie viel sie davon wirklich gleichzeitig verarbeiten kann. Die Technik muss dabei teilweise auch Dinge verarbeiten, die man als Spieler gar nicht sehen kann. Man konnte in Witcher 3 beispielsweise nicht einfach eine Hütte von innen so krass ausgestalten, dass der Rechner das gerade so packt, weil das muss das Gerät auch dann noch laden können, wenn du nur an der Hütte vorbei rennst ohne hineinzugehen.
Die Unreal Engine 5 skaliert dir mit Nanite die Texturen und co aber einfach knallhart runter.
Du kannst 3 Kilometer Küste mit HD-Auflösung in dein Spiel ballern, aber es wird nur der Teil auch in HD dargestellt auf dem du stehst.
Oder du kannst eine Stadt mit 50.000 Räumen in die man durch Fenster reinsehen kann, gleichzeitig berechnen.
Dein Rechner kämpft aber immer nur gerade mit denen Details die du auch sehen kannst.

Hier ist beispielsweise ein sehr grobes Proof of Concept für ein Superman Spiel, das wieder ein einzelner Entwickler mit der UE 5 gebaut hat und wo man sehr gut erkennt wie groß und dicht man Welten plötzlich mit Nanite machen kann:



Ich will mich nicht zu sehr in Spekulationen verrennen, aber es kann gut sein, dass Spiele von der Grafikqualität eines Red Dead Redemption 2 in ein paar Jahren auf Smartphones laufen, nicht nur weil Smartphones besser geworden sind, sondern weil die UE5 so ressourcenschonend arbeiten kann.


Etwas das weniger bahnbrechend klingt, aber auch heftige Auswirkungen hat ist "Lumen".
Das ist die neue Technik von der UE5 Lichtpfade in Echtzeit zu verfolgen. Lichtberechnungen machen Spiele zwar schon seit Ewigkeiten, aber Lumen sieht einfach viel glaubwürdiger aus und ist auch wieder viel ressourcensparender als bisherige Lösungen.



Das ist in meinen Augen das was das Bahnhofsvideo so glaubwürdig macht.
HD-Texturen hier und photometrische Oberflächen da sind hübsch.
Aber sie sahen einfach trotzdem nie richtig "echt" aus, weil die Beleuchtung immer noch nicht richtig natürlich aussah.
Das sieht mit UE5 nun scheinbar anders aus.


Lerne das unbeherrschbare zu vermeiden und das unvermeidbare zu beherrschen.

nach oben springen

#6

RE: Deepfake

in Dies und Das 04.12.2022 15:21
von Akanah • 16 Beiträge

DeepFake ist ein sehr wichtiges Thema. Ich selbst als Mediengestalterin habe noch gelernt wie man Personen in Photoshop verändert. Bei DeepFake passiert aber schon mehr als nur Veränderungen in der 2D-Grafik. Ich bin seit der Kenntnis über DeepFake vorsichtiger mit Bildern in Zeitungen oder Videos in Fernsehen die gezeigt werden. Manchmal kann man sogar erkennen wenn etwas manipuliert worden ist. Ich selbst als Mediengestalterin sehe sofort wenn eine Person im Video irgendwie aufgesetzt wirkt mit unscharfen Konturen. Aber alle anderen Menschen haben weniger einen Blick für so etwas. Wenn man sich aber Zeit nimmt sich Bilder und Videos genau an zu sehen kann man auch lernen zu erkennen was möglicherweise manipuliert worden ist und was nicht.


Der Drache steht für das Bewusstsein der Wahrheit und des Wissens welches wie ein Schwert die Lügen und Illusionen zerschlagen kann.

Der Phönix steht für das Feuer im Herzen welches mit seinen Flügelschlägen die Liebe und Heilung bringen kann.
nach oben springen

#7

RE: Deepfake

in Dies und Das 06.12.2022 00:33
von Aganto • 2.045 Beiträge

Letztlich ist das ja ein gegenseitiges Wettrüsten.
Die Manipulationen werden geschickter, die Details auf die der Fachmann achtet um die Manipulation zu erkennen werden feiner.
Irgendwann wird wohl der Punkt kommen, an dem selbst der Experte sprichwörtlich mit ner Lupe vor dem Bildschirm sitzt und Pixel abzählt um überhaupt noch herauszufinden was echt ist und was nicht.
Bei den Fortschritten die da gemacht werden, scheints dafür so lange nicht mehr zu dauern.


Lerne das unbeherrschbare zu vermeiden und das unvermeidbare zu beherrschen.

nach oben springen

#8

RE: Deepfake

in Dies und Das 06.12.2022 14:55
von Akanah • 16 Beiträge

Da wünscht man sich schon ein wenig die Zeit ohne Internet und Fernsehen zurück, aber Manipulationen gab es früher auch schon über das Medium der Zeitung.
Früher konnte man verschiedene Negativ-Filme übereinander legen und dadurch Fake-Fotos entwickeln lassen die dann auf Zeitungen abgedruckt wurden.
Man könnte annehmen, dass es solche Manipulationen schon immer gab. Vielleicht wurden in der Steinzeit sogar Petroglyphen an Höhlenwänden gefälscht.


Der Drache steht für das Bewusstsein der Wahrheit und des Wissens welches wie ein Schwert die Lügen und Illusionen zerschlagen kann.

Der Phönix steht für das Feuer im Herzen welches mit seinen Flügelschlägen die Liebe und Heilung bringen kann.
zuletzt bearbeitet 06.12.2022 14:55 | nach oben springen

#9

RE: Deepfake

in Dies und Das 06.12.2022 17:45
von Aganto • 2.045 Beiträge

Man könnte auch argumentieren, dass es früher viel einfacher war zu manipulieren.
Gewissermaßen ist es ja historisch außergewöhnlich, dass wir längere Zeit Informationsquellen hatten die schwer zu fälschen waren.

Es ist nicht lange her, dass die Österreichische Politik durch kompromittierende Videoaufnahmen in der Ibiza-Affäre völlig erschüttert wurde.
Videoaufnahmen sind nach wie vor schwer genug perfekt zu fälschen, dass so etwas Beweiskraft hat.
Vor 500 Jahren hätte Karl der V einfach in die Zeitung schreiben lassen was er will und "Beweise" in der heutigen Form, ob dafür oder dagegen hätte es halt schlichtweg nicht gegeben.

Und um auf die Höhlenmalereien zurückzukommen, wenn man es so will ist ja jedes dieser Bilder ne "Fälschung", auf dem sich der Künstler ein bisschen mehr Fantasie gegönnt und infolge dessen ausgetobt hat ^^


Lerne das unbeherrschbare zu vermeiden und das unvermeidbare zu beherrschen.

nach oben springen

Legende - Initiant, Novize, Varlet, Ritter, Precept, Meister
Besucher
1 Mitglied und 1 Gast sind Online:
Ryia

Wir begrüßen unser neuestes Mitglied: Leito
Forum Statistiken
Das Forum hat 579 Themen und 4957 Beiträge.