Zunehmende "Verschmutzung" des Geschichtswissens durch KI-Fakes

R

rrttdd

Mitglied
-Der Papst im Luxus-Daunenmantel...
-Der Vorfall mit der blauen Pest in der UdSSR der 1970er Jahre...
-Der Super-Sonnensturm mit Stromausfall 2012 in den USA und auf der Nordhalbkugel...

...haben nie existiert! Die Stories wurden mit KI-Bildgeneratoren erstellt.

Das Papst-Bild dürfte bekannt sein.

Aber die Bilderserie mit der blauen Pest ist echt gut gemacht:
Reddit - Dive into anything

Klickt euch mal durch die 17 Bilder.

Hier ist die Bilder-Story vom Super-Sonnensturm:
Reddit - Dive into anything

Hier noch Bilder von dem schrecklichen Erdbeben an der amerikanischen Nordwestküste mit Tsunami im Jahr 2001:
Reddit - Dive into anything

Hats natürlich auch nicht gegeben.

Viele Leute haben offenbar Spaß daran, mit KI-Bildgeneratoren solche alternativen historischen Begebenheiten zu erfinden... Aus meiner Sicht ist das eine Form der "Verschmutzung" der Geschichte. In einigen 100 Jahren werden Historiker vielleicht nicht mehr in der Lage sein, die Geschichte korrekt zu erfassen, weil die letzten Jahrhunderte mit Fakenews überschwemmt wurden. Das (frühe) Mittelalter wird auch aufgrund der Quellenlage manchmal als "finster" bezeichnet. Was haben wir dann ab 2100? Vielleicht keine Finsternis, aber grelles weißes Rauschen, sodass wir spätestens ab 2500 nicht mehr wissen, wie wir dahin gekommen sind und im Extremfall, ob wir überhaupt das Jahr 2500 haben?

Derzeit stehen wir noch am Anfang der Entwicklung. Die Werkzeuge lernen gerade das Laufen und werden erst langsam von normalen Leuten genutzt. Ich gehe davon aus, dass sowohl die Nutzerzahlen noch deutlich steigen werden, als auch die Tools sich technisch verbessern werden. Derzeit gibt es für Texte Tools, die KI-Texte erkennen können:
KI-Text erkennen in 2023: 14 Detektoren ausführlich getestet

Und Bilder sind oft auf den zweiten Blick auch noch zu erkennen, wenn z.B. Menschen 6 Finger haben. Aber was bringt die Zukunft?

Wie sehr ihr das? Wird die Zukunft der Geschichtswissenschaft in weiten Teilen aus Diskussionen bestehen, ob ein Bild oder ein Text nun echt oder fake ist?

Hier noch der Artikel, aus dem ich die Reddit-Links habe:
People Are Creating Records of Fake Historical Events Using AI
 
Es ist überfällig, dass die Politik endlich regulierend eingreift. Die Fehler, die gemacht wurden, als sich das Internet und später die sozialen Medien etablierten, dürfen nicht wiederholt werden.
 
rrttdd schrieb:
Wird die Zukunft der Geschichtswissenschaft in weiten Teilen aus Diskussionen bestehen, ob ein Bild oder ein Text nun echt oder fake ist?
Zum Vergrößern anklicken....
Ich denke, das haben wir schon seit langem. In der Geschichtswissenschaft wird diskutiert, welche Texte authentisch sind, nur eine Meinung oder Auffassung widerspiegeln, sie tendenziös sind etc. pp. Allein zu den knapp 200 Jahren römischer Geschichtsschreibung zur Varus Schlacht haben wir über hunderte GF-Seiten diskutiert, welche Geschichtsschreiber inwiefern glaubwürdig sind - nur dass es sich dabei um Menschen handelt.
Die Frage wird in Zukunft eher sein, welche Bilder und Texte von Menschen stammen und welche KI generiert sind - und bei KI generierten Quellen stellt sich die Frage: Welche Menschen hatten eine Intention, eine KI so zu generieren, dass die entsprechenden Aussagen dabei herauskommen.
 
Du wirst es nicht verbieten können. Und dennoch lässt es sich eindämmen. Indem Du mit Deinem Namen und Deiner ID einstehst für den Wahrheitsgehalt Deiner Aussagen.
Allein schon Verifizierungsverfahren wie in einer Blockchain (Bitcoin kann man ja auch nicht fälschen) bieten Möglichkeiten.
 
Ugh Valencia schrieb:
Die Frage wird in Zukunft eher sein, welche Bilder und Texte von Menschen stammen und welche KI generiert sind - und bei KI generierten Quellen stellt sich die Frage: Welche Menschen hatten eine Intention, eine KI so zu generieren, dass die entsprechenden Aussagen dabei herauskommen.
Zum Vergrößern anklicken....

-Welche Intention hatte der Ersteller der Bilder mit der blauen Pest?
-Und warum haben uns diese Außerirdischen in ihrer Bodenstation in Gizeh den Bären von einem angeblichen römischen Weltreich aufgebunden, inklusive der Story von einer schweren Niederlage im Teutoburger Wald? ;-)

Fragen über Fragen...
 
rrttdd schrieb:
Wie sehr ihr das? Wird die Zukunft der Geschichtswissenschaft in weiten Teilen aus Diskussionen bestehen, ob ein Bild oder ein Text nun echt oder fake ist?
Zum Vergrößern anklicken....
Das ist noch das geringere Problem. Es zeichnet sich ja jetzt schon ab, dass es zunehmend schwierig wird zu beurteilen, was Politiker aktuell wirklich gesagt haben oder nicht. Auch manipulierte Bilder und Videos über angebliche Ereignisse sind jetzt schon ein Problem.

muck schrieb:
Es ist überfällig, dass die Politik endlich regulierend eingreift.
Zum Vergrößern anklicken....
Wie? Ein "Wahrheitsministerium" kann nicht die Lösung sein. Jeder Regulierungsversuch bietet auch Missbrauchspotential, vor allem wenn es um die "Deutungshoheit" über aktuelle oder auch historische Ereignisse geht.
 
Moin

Ja, die Frage ist auch, ob man tatsächlich Programme entwickeln kann/ schon entwickelt hat die wirklich zuverlässig solche Fakes entlarven können!?
 
Hallo

@Mittelalterlager
Ja, die Frage ist auch, ob man tatsächlich Programme entwickeln kann/ schon entwickelt hat die wirklich zuverlässig solche Fakes entlarven können!?
Zum Vergrößern anklicken....


Zumindest gibt es Bestrebungen das der KI das manipulieren von Bildern zu erschweren,was aber im Grunde auf ein Katz und Mausspiel hinausläuft.
PhotoGuard: Dieses neue Tool könnte Ihre Bilder vor KI-Manipulationen schützen

Gleichzeitig haben jetzt Forscher gezeigt,das man die implementieren Sicherheitsmechanismen bei chatGPT und Co die die Erstellung von Hassreden,etc unterbinden sollen,gezielt umgehen kann.

Sicherheitsregeln umgangen: Simple Zeichenfolgen entlocken KI-Bots Verbotenes

der Geist ist aus der Flasche,ob man ihn jetzt noch beherrschen kann,daran hab ich meineZweifel.

mfg
schwedenmann
 
Zuletzt bearbeitet:
Ravenik schrieb:
Wie? Ein "Wahrheitsministerium" kann nicht die Lösung sein. Jeder Regulierungsversuch bietet auch Missbrauchspotential, vor allem wenn es um die "Deutungshoheit" über aktuelle oder auch historische Ereignisse geht.
Zum Vergrößern anklicken....

Von einem "Wahrheitsministerium" hat niemand gesprochen, @Ravenik. :rolleyes:

Einen Hebel könnte z.B. das Urheberrecht bieten. In den USA sind Klagen von Künstlern gegen die Macher von ChatGPT anhängig, da das Programm en masse und ohne Lizenz Inhalte Dritter verwurstet und damit wahrscheinlich gegen amerikanisches Recht verstößt. Nach deutschem Recht ist es jedoch – zum Schaden des geistigen Eigentums – durchaus denkbar, dass ChatGPT eine "geistige" Eigenleistung "erbringt", wenn Du den Bot bittest, Dir ein Gedicht zu schreiben, und am Ende steht da ein halber Ron Winkler.

Davon mal abgesehen: Es kann doch nicht sein, dass eine bahnbrechende neue Entwicklung gesetzgeberisch überhaupt nicht begleitet wird. Jede neue Technik birgt zwangsläufig Risiken, auf die man reagieren muss. Wir haben Kennzeichen an unseren Autos, weil man um 1900 feststellte, dass die Zahl der Fahrerfluchten in die Höhe schnellte. Wir haben Grenzwerte für Chemikalien in unserem Trinkwasser, weil wir mit der Zeit herausfanden, dass man Blei besser nicht in hohen Dosen zu sich nimmt.

Nur im Internet soll aus irgendeinem Grund alles unreguliert sein? Die sogenannte Netzfreiheit ist aber nicht in der Erfindung angelegt, sondern lediglich eine Folge des unkontrollierten Wildwuchses dieser Technik. Die Diskussion um den Klarnamenzwang ist das beste Beispiel. Niemand findet irgendetwas dabei, dass man anonym keinen Brief verschicken kann, und jeder von uns würde auflegen, wenn ein Anrufer seinen Namen nicht nennen will. Aber im Internet muss die Kommunikation anonym ablaufen?

Angela Merkel hat es unbewusst in ein Wort gefasst: Das Internet ist für den deutschen Gesetzgeber Neuland. Deswegen hinkt er hinterher, was seine Regulierung angeht. Er versteht es einfach nicht.
 
Hallo

@muck
Die Diskussion um den Klarnamenzwang ist das beste Beispiel. Niemand findet irgendetwas dabei, dass man anonym keinen Brief verschicken kann, und jeder von uns würde auflegen, wenn ein Anrufer seinen Namen nicht nennen will. Aber im Internet muss die Kommunikation anonym ablaufen?
Zum Vergrößern anklicken....

das ist zuplakativ und trifft den kern leider nicht.


Man stellesich jetzt mal klarnamen in einem Selbsthilfeforum fürpsychisch Kranke vor.

Anonymität hat durch aus seine Berechtigung,ähnlich wie verschlüsselte Kommunikation.

mfg
schwedenmann
 
Ich bin da weniger ängstlich. Fälschungen hat es schon immer gegeben - auch mit Folgen, die den Lauf der Geschichte entscheidend beeinflussten (Beispiel: Konstantinische Schenkung).

Auch in 100 Jahren werden die Menschen wissen, wann Chat-GPT erfunden wurde – entsprechend kritischer werden bildliche und schriftliche Quellen aus der Zeit danach untersucht.

Innovationen lassen sich nicht unterdrücken und auch nicht kontrollieren. Es sei denn, man geht hin und ordnet an, dass so erzeugten Bilder oder Texte nicht löschbaren Erzeugerstempel tragen müssen. Aber dann sind wir bei den Methoden der DDR, wo (fast) alle Schreibmaschinen registriert wurden, um so Anhand des Schriftbildes erkennen zu können, woher das („staatsgefährdende“) Schriftstück kommt.

Außerdem lassen sich auch mit bisherigen analoger Technik manipulierte Bilder und Texte erstellen, die nicht als Fälschungen zu erkennen sind.
 
muck schrieb:
Davon mal abgesehen: Es kann doch nicht sein, dass eine bahnbrechende neue Entwicklung gesetzgeberisch überhaupt nicht begleitet wird. Jede neue Technik birgt zwangsläufig Risiken, auf die man reagieren muss. Wir haben Kennzeichen an unseren Autos, weil man um 1900 feststellte, dass die Zahl der Fahrerfluchten in die Höhe schnellte. Wir haben Grenzwerte für Chemikalien in unserem Trinkwasser, weil wir mit der Zeit herausfanden, dass man Blei besser nicht in hohen Dosen zu sich nimmt.

Nur im Internet soll aus irgendeinem Grund alles unreguliert sein?
Zum Vergrößern anklicken....
Im Gegensatz zu Autos und (meist) Trinkwasser ist das Internet allerdings international. Außerdem haben verschiedene Staaten und Regierungen verschiedene Vorstellungen, was im Internet aus ihrer Sicht "falsch" läuft.

muck schrieb:
Die Diskussion um den Klarnamenzwang ist das beste Beispiel. Niemand findet irgendetwas dabei, dass man anonym keinen Brief verschicken kann, und jeder von uns würde auflegen, wenn ein Anrufer seinen Namen nicht nennen will. Aber im Internet muss die Kommunikation anonym ablaufen?
Zum Vergrößern anklicken....
Ein Brief und ein Anruf haben aber nur einen Adressaten. Man weiß, an wen man sich richtet, und entscheidet bewusst, wie weit man ihm vertraut, was man ihm schreiben/sagen möchte. Was im Internet geschrieben wird, kann meist von vielen gelesen werden, auch von Leuten, die der Autor nicht kennt und berücksichtigt. Ein besserer Vergleich als mit Brief und Telefon wäre eine Wahl: Wenn ein Klarnamenzwang für Äußerungen vor der Masse der Internetnutzer eingeführt würde, könnte man ebenso verlangen, dass man bei Wahlen den Stimmzettel unterschreiben oder überhaupt vor den Augen der Wahlbeisitzer sein Kreuzchen machen muss, denn wieso müssen eigentlich Wahlen anonym ablaufen? In beiden Fällen geht es darum, seinem Willen Ausdruck verleihen zu können, ohne sich bloßstellen und Repressionen fürchten zu müssen.
 
@schwedenmann

Nichts für ungut, aber ich würde erwidern, dass Du zu plakativ argumentierst. Es ging mir um den Normalfall, nicht um begründbare Spezialfälle. Du kannst ja auch anonym Briefe an bestimmte Adressaten verschicken (z.B. Ombudsleute) oder anonym Selbsthilfehotlines anrufen.

Das ist nicht das Problem.

Das Problem ist die Verweigerungshaltung v.a. der Digital Natives, die jede Regulierung des Internets und sozialer Medien ablehnen. Bzw. es ist v.a. ein deutsches Phänomen. Kaum ein Land in Europa hat sich so sehr gegen die Sperre von Websites mit kinderpornographischen Inhalten gesperrt wie Deutschland.

Ironischerweise kommt der geringste Widerstand gegen eine Regulierung des Internets aus Staaten, die viel weiter vernetzt sind als Deutschland, z.B. Estland. In Estland ist die komplette Verwaltung digitalisiert, der Staat kommuniziert mit dem Bürger über WhatsApp. Trotzdem wird kein solches Bohei um "Netzfreiheit" und informationelle Selbstbestimmung gemacht.
 
Dion schrieb:
Auch in 100 Jahren werden die Menschen wissen, wann Chat-GPT erfunden wurde
Zum Vergrößern anklicken....
Nein das wird nicht der Fall sein.
Denn dann hat sich ein Konkurrenzprodukt durchgesetzt und dieses verschweigt natürlich den Chat-GPT gänzlich. Und es schreibt natürlich auch die Wiki-Artikel.
Und die Menschen werden "wissen", dass die KI eine Art Gott ist, den man zu allem befragen kann.

..kann genauso gut sein.
 
muck schrieb:
Ironischerweise kommt der geringste Widerstand gegen eine Regulierung des Internets aus Staaten, die viel weiter vernetzt sind als Deutschland, z.B. Estland.
Zum Vergrößern anklicken....
USA sind weitaus besser vernetzt als Deutschland – trotz der Weite des Landes. Und dort gibt es im Internet keine Kontrolle – Ausnahme: Kinderpornografische Bilder und Filme, weil diese ohne einer kriminellen Tat (mit echten Kindern) nicht entstehen können. Alles andere ist aber dort erlaubt. Das im Gegensatz zu Deutschland, das nach China und Brasilien die meisten Löschungen verlangt, wobei gemessen pro Einwohner wir jetzt schon an der Spitze stehen.
 
Dion schrieb:
Alles andere ist aber dort erlaubt.
Zum Vergrößern anklicken....
Wegen vermeintlicher Urheberrechtsverletzungen ließ das US-Unternehmen youtube schon viele Videos löschen. Wehe man veröffentlicht auf der Seite des US-Unternehemens facebook das Foto der nackten Brust einer erwachsenen Frau.
In Deutschland hat man als Kunde die Wahl mit welchem Internetanbieter ins Netz geht. In den größten Teilen der USA herrscht hingegen bei den ISPs (Internet Service Provider) ein regionales Oligopol. Entweder man nutzt den einen Anbieter in der Region oder hat eben kein Internet.
 
Wenn man hier Forum Zeilen schreibt gibt es eine leichte Grammatik-unterstützung,bei Groß/kleinschreibung und Fremdwörten etc.;das wird durch eine rote geschlängelte Line angezeigt das da ein Fehler unterlaufen ist.

So in der Art wird es auch auf diese Fakes dann angewendet denke ich;also eine "Kontextautokorrektur" die z.b. Wikepedia als Quelle nutzt zum Beispiel.
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
Zurück
Oben