KI-Zwischenfälle 2025 weltweit

Sicherheitsforscher von OX Security entdeckten zwei bösartige Chrome-Erweiterungen, die private Unterhaltungen aus ChatGPT und DeepSeek abgreifen und an einen Server der Angreifer senden. Die Erweiterungen gaben sich als bekannte legitime Tools aus und hatten zusammen über 900.000 Downloads im Chrome Web Store. Eine davon war sogar mit dem offiziellen Featured-Badge von Google versehen.

Ein Flugzeug der Fluggesellschaft Swiss wurde auf dem finnischen Flughafen Kittilä durch starken Wind in eine Schneewehe gedrückt. Im Internet tauchen realistisch wirkende Bilder des Zwischenfalls auf.

Über Weihnachten kam es in mehreren Orten in Cornwall (England) zu 15 Graffiti-Sachbeschädigungen. Unbekannte sprühten Parolen wie „AI will replace us all“ und „AI will take our jobs“.

Ein neuseeländisches Medienunternehmen veröffentlichte in regionalen Zeitungen eine Weihnachtsbuchliste für Kinder, die mehrere Buchtitel enthielt, die nicht existierten. Autoren waren mit Büchern genannt, die sie nicht geschrieben hatten. Es wurde spekuliert, ob die falschen Titel mit künstlicher Intelligenz erzeugt sein könnten. Das Medienunternehmen gab an, dass die Liste von einer externen Quelle bezogen wurde. Es zog die Liste zurück und entschuldigte sich für den Fehler.

Nach Druckverlust in der Kabine einer Beechcraft King Air B200 aktivierten die Piloten das Notlandesystem Garmin Autoland. Das System übernahm die Steuerung des Flugzeugs, wählte einen geeigneten Flughafen aus, kommunizierte an die Flugsicherung und brachte das Flugzeug sicher auf die Landebahn. Kein echtes KI-System, aber hochgradig autonomes Verhalten.

Der KI-Bildgenerator Grok auf der Plattform X wurde verstärkt genutzt, um sexualisierte Bilder von realen Personen ohne deren Zustimmung zu erzeugen.

Die Polizei der Stadt Heber, Utah, testete zwei KI-Systeme, um schriftliche Berichte aus Body-Cam-Aufnahmen zu generieren. In einem Bericht wurde behauptet, dass sich ein Polizist in einen Frosch verwandelt habe. Es stellte sich heraus, dass im Hintergrund der Disney-Film 'The Princess and the Frog' (Deutscher Titel: Küss den Frosch) lief und die Inhalte des Films ebenfalls in den Bericht eingingen. Man erkenne daraus die Notwendigkeit, die KI-generierten Berichte zu überprüfen. Aufgrund der immensen Zeitersparnis will man jedoch an der KI-Nutzung festhalten.

Vor dem Sozialgerichtszweig des Tribunal judiciaire de Périgueux stritt ein Leistungsempfänger mit der Sozialbehöre CAF (Caisse d’Allocations Familiales( über eine Rückforderung (indu) von rund 3.777 € zur Behindertengrundsicherung AAH (Allocation adulte handicapé) wegen angeblich fehlender gewöhnlicher Aufenthaltsnahme in Frankreich. Das Gericht erklärte den zugrunde liegenden Kontrollvorgang für nichtig und hob die Rückforderung auf. Dabei wies es ausdrücklich darauf hin, dass die vom Kläger genannten Rechtsprechungsnachweise offenbar nicht zu veröffentlichten Entscheidungen passten und forderte Kläger und Anwalt auf, künftig zu prüfen, dass über Suchmaschinen oder generative KI gefundene Fundstellen keine Halluzinationen sind.

In einem Insolvenzverfahren bei der Unternehmensgerichtbank Gent beantragte die Gesellschaft die Wiedereröffnung der Debatten. Das Gericht stellte fest, dass der Antrag auf nicht existente Rechtsprechung Bezug nahm, die mutmaßlich aus unkontrollierter KI-Nutzung stammte, und wertete dieses Vorgehen als unredlich und prozessstörend.

Die Familie einer seit Juni 2025 vermissten Frau erhielt ein angebliches Foto, das die Frau gefesselt in einem Lieferwagen zeige, um Geld für die vorgebliche Freilassung zu erpressen. Vermutlich wurden Vermissten-Poster für die Generierung genutzt.

Das Verwaltungsgericht Hamburg lehnte den Eilantrag eines Schülers der 9. Klasse ab, der gegen die Bewertung seines Reading Log ('Lesetagebuch') geklagt hatte. Er wollte erreichen, dass der Täuschungsvorwurf wegen Nutzung von ChatGPT bis zur Hauptsacheentscheidung zurückgenommen oder nicht weiter kommuniziert wird. Das Gericht hielt die Bewertung als Täuschungsversuch und die Note 'ungenügend' für rechtmäßig und lehnte den einstweiligen Rechtsschutz ab.

In einem interdiktalen Verfahren vor einem Gericht in der argentinischen Provinz Salta hatte ein Beklagter Berufung eingelegt, diese aber nicht fristgerecht begründet. Daraufhin erklärte das Gericht die Berufung für verfallen (desierta). Gleichzeitig stellte die Richterin fest, dass der Schriftsatz schwerwiegende Unstimmigkeiten hat und vermutet Erstellung mit KI. Sie ermahnt den Anwalt: Die Nutzung Künstlicher Intelligenz ist nicht verboten, aber der Anwalt bleibt inhaltlich voll verantwortlich.

Auf Facebook wird von Unbekannten ein Video über einen angeblichen Staatsstreich in Frankreich veröffentlicht. Ein Staatsführer aus Afrika zeigt sich darauf hin besorgt über die Situation in Frankreich.

In einem Verfahren vor der Arbeitskammer (Cámara del Trabajo) der 1. Gerichtsbarkeit in Viedma stritt eine langjährige Angestellte einer Bäckerei u. a. über indirekte Kündigung (Eigenkündigung aus wichtigem Grund), fehlerhafte Anmeldung des Arbeitsbeginns, ausstehende Lohnbestandteile und Sozialabgaben. Das Gericht wies die Klage überwiegend ab, verurteilte die Arbeitgeberin aber zur Zahlung von Lohndifferenzen, und lehnte eine persönliche/solidarische Haftung der mitverklagten Angehörigen/Mitarbeiter ab. Am Ende thematisierte das Gericht den mutmaßlichen Einsatz generativer KI: Die Klägerseite habe Zitate angeführt, die nicht nicht auffindbar gewesen seien, was auf KI-generierte bzw. halluzinierte Fundstellen hindeute. Das Gericht verhängte aber keine Sanktionen, da der Vorgang zeitlich vor einer einschlägigen Regelung lag.

Ein Kläger reichte vor dem Bezirksgericht Wrocław (Sąd Okręgowy we Wrocławiu) eine Schadensersatzklage ein, deren Klageschrift vollständig mithilfe von ChatGPT erstellt worden war. Die KI verwendete dabei unzutreffende bzw. nicht existierende Rechtsgrundlagen und verfälschte gesetzliche Vorschriften. Das Gericht wies die Klage als unbegründet ab und stellte klar, dass die Verantwortung für den Inhalt der Klageschrift beim Kläger liegt.

Bei einer Tesla-Präsentation in Miami stürzte der humanoide Roboter 'Optimus' zu Boden. Eine auffällige Handbewegung kurz vor dem Fall weckte Spekulationen, dass der Roboter möglicherweise nicht autonom, sondern per Fernsteuerung bewegt wurde.

Vor dem Verwaltungsgericht Grenoble griff ein Bürger eine kommunale Entscheidung im Zusammenhang mit einer Geldbuße zu einer Abfallentsorgung an. Das Gericht verwarf den Antrag als offensichtlich unzulässig, u. a. weil der angegriffene Bescheid nicht vorgelegt wurde und der Vortrag unklar blieb. In den Entscheidungsgründen hielt das Gericht fest, dass die Klageschrift offenkundig mit einem generativen KI-Tool erstellt worden sei.

In dem Verfahren ging es um eine Verfassungsbeschwerde gegen eine Entscheidung des obersten Verwaltungsgerichts. Bei der ersten Prüfung stellte das Verfassungsgericht fest, dass die Beschwerde zahlreiche schwerwiegende Mängel aufwies: Es wurden nicht existierende Gerichtsentscheidungen angeführt oder bestehende Entscheidungen inhaltlich falsch wiedergegeben. Damit wies die Beschwerde typische Anzeichen ungeprüfter KI-generierter Inhalte auf. Nach Auffassung des Gerichts wurde es dadurch in die Irre geführt und der ordnungsgemäße Ablauf des Verfahrens erheblich erschwert. Das Verfassungsgericht verhängte deshalb gegen den Anwalt eine Ordnungsstrafe in Höhe von 25.000 CZK (ca. 1.030 EUR).

Eine gehobene Modemarke hat ein KI-generiertes Video veröffentlicht. Es führt zu breiter Kritik, weil es unnatürlich und wenig hochwertig wirkt.

In einem familienrechtlichen Berufungsverfahren vor dem Federal Circuit and Family Court of Australia (Division 1), Appellate Jurisdiction ging es im Kern um eine Kostenentscheidung, nachdem die Berufung kurz vor der Verhandlung zurückgezogen wurde. Das Gericht stellte fest, dass in den eingereichten Schriftsätzen Künstliche Intelligenz eingesetzt worden war und dabei unrichtige bzw. nicht verlässliche Rechtsprechungsnachweise auftauchten. Weil Umfang und Art der KI-Nutzung unklar blieben und berufsrechtliche Pflichten berührt waren, ordnete das Gericht u. a. Schritte zur Weiterleitung an zuständige Aufsichts- bzw. Beschwerdestellen an und traf kostenbezogene Anordnungen. Zudem thematisierte das Gericht Risiken wie Vertraulichkeit/Geheimhaltung beim Einstellen von Prozessmaterial in KI-Tools.

Der Supreme Court of Victoria befasste sich in einem nachlassrechtlichen Verfahren auch mit der Qualität eingereichter schriftlicher Unterlagen. Eine Rechtsvertreterin hatte KI-Tools entgegen gerichtlicher Leitlinien zur Erstellung von Teilen der Schriftsätze genutzt und dabei wurden nicht existente Fundstellen. Das Gericht stellte klar, dass der Einsatz von KI eine verlässliche Kontrolle der Quellen erfordert.

Mehrere KI-erstellte Videos wurden auf Facebook viral verbreitet und erhielten innerhalb weniger Tage Millionen von Aufrufen und zehntausende Shares. Die Clips enthalten manipulierte Inhalte, die soziale Spannungen verstärken und in einigen Fällen russische politische Rhetorik wiedergeben.

In einem Beitrag der Sendung 'Agenda' zur US-Einwanderungspolitik wird ein kurzes Video gezeigt, in dem ein New Yorker Polizist einen Mitarbeiter der Einwanderungsbehörde ICE anschreit. Das Video war jedoch KI-generiert.

Beim wichtigsten Literaturpreis Neuseelands, den Ockham New Zealand Book Awards, wurden zwei Bücher bekannter neuseeländischer Autorinnen ausgeschlossen, weil ihre Buchcover mithilfe von Künstlicher Intelligenz erstellt wurden. Grund dafür ist eine neue Regel, die jeglichen Einsatz von KI im gesamten Buchprojekt verbietet, einschließlich Covergestaltung. Der Ausschluss erfolgte unabhängig vom literarischen Inhalt, der vollständig von Menschen verfasst wurde. Die Entscheidung wurde kritisiert, weil Autoren meist keinen Einfluss auf das Cover haben und die Regel erst nach Einreichung der Bücher eingeführt wurde. Nach dieser öffentlichen Kritik und nach weiteren Gesprächen entschieden die Veranstalter schließlich, die betroffenen Titel zum Wettbewerb 2026 zuzulassen.

In einem Eilverfahren vor dem Verwaltungsgericht Köln beantragte ein Beteiligter vorläufige Akteneinsicht in einem kommunalrechtlichen Zusammenhang; der Antrag wurde abgelehnt. Das Gericht stellte dabei fest, dass das Vorbringen mehrfach fehlerhafte und unzutreffende Zitate enthielt. Diese Fehler legten nach Auffassung des Gerichts nahe, dass die Antragsschrift möglicherweise unter Einsatz eines KI-Werkzeugs erstellt und dessen Ergebnisse ungeprüft übernommen wurden. Eine eigenständige rechtliche Bewertung oder Sanktion des KI-Einsatzes nahm das Gericht nicht vor.

In einem Strafverfahren wegen schwerwiegenden sexuellen Missbrauchs in der Provinz Salta legte die Verteidigung ein Rechtsmittel gegen die Entscheidung über die Zulassung zur Hauptverhandlung ein. Das Gericht wies das Rechtsmittel als unzulässig zurück, da diese Entscheidung nach geltendem Recht nicht anfechtbar ist. Zugleich beanstandete der Richter den eingereichten Schriftsatz, weil er deutliche Hinweise auf ungeprüfte KI-Nutzung aufwies, darunter falsche oder nicht einschlägige Gesetzesverweise, fehlerhafte Inhalte sowie nicht ausgefüllte Platzhalter. Der Richter betonte, dass die Nutzung Künstlicher Intelligenz zulässig sei, aber der Anwalt in der Verantwortung bleibe. Der Anwalt wurde aufgefordert, die zitierte Rechtsprechung nachzuweisen, andernfalls werde das Ethiktribunal der Anwaltskammer eingeschaltet.

In einem Verfahren vor dem Landgericht Darmstadt ging es um die Vergütung eines gerichtlich bestellten Sachverständigen nach dem JVEG. Das Gericht hielt das eingereichte 'Gutachten' zur Beurteilung eines körperlichen Schadens für nicht verwertbar und setzte die Vergütung auf 0,00 € fest. Ausschlaggebend war neben der fehlenden Untersuchung der Person auch, dass der Sachverständige offenbar in erheblichem Umfang künstliche Intelligenz eingesetzt hatte, dies aber gegenüber dem Gericht nicht transparent machte. Damit fehlte es an der erforderlichen persönlichen Erstellung/Verantwortung für das Gutachten.

Im Rahmen einer arbeitsrechtlichen Klage einer ehemaligen Angestellten gegen ihren früheren Arbeitgeber, ein US-amerikanisches Gesundheitssystem, reichte die Anwältin der Klägerin einen Schriftsatz ein, der zahlreiche unzutreffende bzw. nicht existente Gerichtsentscheidungen zitierte. Das Gericht prüfte das Verhalten der Anwältin unter dem Gesichtspunkt anwaltlicher Sorgfalts- und Wahrheitspflichten sowie der Einhaltung lokaler Verfahrensregeln zur Offenlegung eines möglichen KI-Einsatzes. Es kam zu dem Ergebnis, dass die Anwältin gegen ihre beruflichen Sorgfalts- und Prüfpflichten verstoßen hatte. Die ursprüngliche Klage wurde durch Vergleich beigelegt.

Das KI-generierte Bild tauchte auf, nachdem an der Schule fälschlicherweise ein Feueralarm ausgelöst wurde, der durch ein Freon-Gasleck eines Kühlschranks hervorgerufen wurde.

Bei einer Ausschreibung für die Wartung von Straßen reichte das Unternehmen mit € 3,7 Mio das niedrigste Angebot ein. Bei der Begründung des niedrigen Preises verwies es auf KI-generierte Steuerrechtsprechungen, die nicht existierten. Darauf hin wurde das Unternehmen durch die nationale Berufungskammer (Krajowa Izba Odwoławcza, KIO) von der Ausschreibung ausgeschlossen.

Bei der Risikobewertung eines Fußballspiels zwischen Maccabi Tel Aviv und Aston Villa im November 2025 berief sich die Polizei auf einen Lagebericht, der ein angebliches früheres Spiel zwischen Maccabi Tel Aviv und West Ham United als Beleg für ein erhöhtes Sicherheitsrisiko anführte. Diese Partie hatte jedoch nie stattgefunden, sondern war das Ergebnis von KI-Halluzinationen. Der Bericht floss in die Entscheidung ein, Maccabi-Fans vom Spiel auszuschließen.

Zwei Männer wollten bei Niedrigwasser über einen Damm zur Insel Sully Island (Bristolkanal) gelangen und anschließend wieder zurücklaufen. Dabei verließen sie sich auf von ChatGPT genannte Tidezeiten. Die KI nannte jedoch eine um ca. zwei Stunden falsche Zeit für die Ebbe, sodass der Damm bei der geplanten Rückkehr bereits überflutet wurde und die beiden Männer auf der Insel festsaßen. Sie wurden von der Küstenwache gerettet.

Die Polizei von Salem, Massachusetts, untersucht drei Fälle von angeblichen Eindringlingen aus dem 'AI Homeless Man Prank'.

Ein 15jähriges Mädchen schrieb seiner Mutter, dass ein unbekannter Mann an der Tür geklingelt habe. Das Mädchen schickte der Mutter ein Bild, das den Mann zeigt, wie er auf dem heimischen Sofa liegt. Die Mutter rief darauf hin die Polizei. Es stellte sich heraus, dass das Bild mit KI generiert wurde. - Vermutlich war es Teil des Tiktop-Trends 'AI Homeless Man Prank'.

In Fountain, Colorado wurde die Polizei von einer Frau alarmiert, weil sie von ihrer Tochter ein Bild erhielt, das scheinbar einen Fremden im Haus zeigt.

In Yonkers, New York, gab es mehrere Polizeieinsätze wegen des 'AI Homeless Man Pranks'.

Vor dem Verwaltungsgericht Montreuil klagte eine Studentin gegen eine universitäre Disziplinarmaßnahme (Ausschluss für sechs Monate) der Université Sorbonne Paris Nord. Hintergrund war der Vorwurf einer Prüfungs-/Studienbetrugshandlung, nämlich der Einsatz von KI zur Erstellung ihres Master-Mémoire (Masterarbeit/Abschlussarbeit). Das Gericht stellte u. a. auf einen KI-Detektionsbericht (u. a. sehr hohe Wahrscheinlichkeit für KI-Generierung des Abstracts) sowie inhaltliche Indizien ab und hielt den KI-Einsatz als Betrug für hinreichend belegt. Die Klage wurde abgewiesen; die Sanktion sei nicht unverhältnismäßig.

Eine Frau wird beschuldigt, eine Straftat vorgetäuscht zu haben, indem sie der Polizei ein mit ChatGPT erzeugtes Bild als Beweis zeigte. Sie behauptete, ein unbekannter Mann sei in ihr Haus eingebrochen und habe sie angegriffen, doch die Polizei fand keine echten Spuren einer Straftat. Sie erkannte vielmehr das Bild als Teil des TikTok-Trends 'AI Homeless Man Prank' wieder. Ermittler entdeckten, dass das Bild bereits Tage zuvor erstellt und später gelöscht worden war, was den Verdacht erhärtete. Die Frau muss sich nun wegen falscher Anzeige eines Verbrechens verantworten.

Die zwei Fälle im Brown County, Ohio, gehörten vermutlich zum Tiktok-Trend 'AI Homeless Man Prank.'

Von einem Mietwagen-Kunden wurden fälschlicherweise $2.200 für bereits vorhandene Schäden verlangt. Offenbar registrierten die KI-Scanner an der Mietwagenstation die Schäden bei der Abholung nicht.

Anthropic, US-Anbieter von KI-Systemen und Entwickler des Modells Claude, hat eine neuartige Cyber-Spionagekampagne aufgedeckt und unterbunden. Dabei wurde mit hoher Wahrscheinlichkeit eine staatlich unterstützte chinesische Gruppe identifiziert. Die Angreifer nutzten das KI-Tool Claude Code, um nahezu autonom Ziele auszuspähen, Schwachstellen zu analysieren und Daten zu stehlen. Sicherheitsmechanismen wurden durch gezielte Manipulationen ('Jailbreaks') umgangen. Der technische Angriff wurde überwiegend von der KI durchgeführt und erforderte nur wenige menschliche Eingriffe. Anthropic sperrte die betroffenen Konten, warnte mögliche Opfer und kooperierte mit den Behörden. Der Vorfall verdeutlicht die Skalierungsmöglichkeiten von KI-basierten Cyberangriffen, aber auch die Wichtigkeit von KI-basierter Abwehr.

In einem Berufungsverfahren aus dem Wohnungseigentumsrecht zur Streitwertfestsetzung einer Beseitigungsklage wurde die Berufung nach einem gerichtlichen Hinweisbeschluss zurückgenommen. Der Klägervertreter hatte zur Stützung seiner Rechtsauffassung mehrere angebliche BGH-Entscheidungen mit wörtlichen Zitaten, Aktenzeichen und Fundstellen angeführt. Das Gericht stellte fest, dass diese Entscheidungen vollständig erfunden waren, und äußerte die Hoffnung, dass es sich um ungeprüft übernommene KI-Halluzinationen gehandelt habe und nicht um bewusst vom Klägervertreter vorgenommene Fälschungen. Zur Überprüfung führten Kammermitglieder eigene Abfragen bei gängigen, auch juristischen, Chatbots durch, die sämtlich die zutreffende Rechtsauffassung wiedergaben. Die ungeprüfte Übernahme halluzinierter Inhalte wertete das Gericht als schweren Verstoß gegen anwaltliche Grundpflichten und als Gefährdung der Rechtspflege.

Bei einer Rede zum Beginn des akademischen Jahres an der Universität von Ghent nutzte die Rektorin halluzinierte Zitate. Der Vorfall wurde später aufgedeckt, in der Folge verzichtete die Rektorin im Januar 2026 auf die Ehrendoktorwürde der Universität Amsterdam.

In dem Fall ging es um einen arbeitsgerichtlichen Rechtsstreit vor dem Gericht in Turin, in dem die Klägerin mehrere Zahlungs- und Abgabenbescheide angriff. Das Gericht stellte fest, dass der Schriftsatz offenbar unter Einsatz von KI erstellt worden war und zahlreiche unzutreffende, zusammenhanglose und fallfremde juristische Zitate enthielt. Diese unkontrollierte KI-Nutzung führte zu einem unsystematischen und rechtlich unbehelflichen Vortrag, der als schwerwiegender Mangel der Prozessführung gewertet wurde. Infolge dessen wurde der Antrag vollständig abgewiesen, der Klägerin die Verfahrenskosten auferlegt und zusätzlich eine Sanktion wegen missbräuchlicher Prozessführung verhängt.

Ein Professor für Pflanzenwissenschaften an der Universität Köln verlor zwei Jahre an akademischen Arbeiten, u.a. darunter Entwürfe für Förderanträge, Lehrmaterialien und Publikationen, nachdem er in ChatGPT die 'Data-Consent'-Option deaktiviert hatte. Dadurch verschwanden alle gespeicherten Chats und Projektordner ohne Warnung oder Wiederherstellungsmöglichkeit. OpenAI bestätigte, dass diese Daten nicht wiederhergestellt werden können.

Eine Recherche von BBC deckt ein internationales Netzwerk von Spam-Accounts auf, die mithilfe von KI gefälschte Bilder angeblicher Holocaust-Opfer auf Facebook verbreiten. Die KI-generierten Inhalte stellen frei erfundene Szenen aus Konzentrationslagern dar und erzielen hohe Reichweiten sowie Werbeeinnahmen über Metas Monetarisierungsprogramme.

In einem Verfahren vor dem neuseeländischen Employment Court (ein höheres Arbeitsgericht) stellte der sich selbst vertretende Kläger den Antrag, bestimmte Teile des Verfahrens abzutrennen. Der Antrag wurde mangels stichhaltiger Gründe abgelehnt. Zudem stellte Gericht fest, dass der Kläger sich in seinem Antrag auf Gerichtsentscheidungen berief, die nicht existieren. Das Gericht hielt es für wahrscheinlich, dass diese Verweise aus generativer KI stammten. Es betonte, dass auch bei KI-Nutzung die Verantwortung für die Richtigkeit bei der einreichenden Partei liegt.

Kein großer Zwischenfall, sondern Erkenntnisse aus Tausenden Seiten Konversationen: Wie wurde ChatGPT und GenAI in 2 Stadtverwaltungen im US-Bundesstaat Washington genutzt? Wofür und wie wurde es genutzt? Was waren Frustrationen? Wie entwickelten sich die Regeln zur Nutzung?

In einem Schadensersatzprozess hat ein Anwalt Berufung mit nicht auffindbaren Zitaten eingelegt. Er wurde gebeten, die Quellen zu nennen, worauf hin er die gutgläubige Nutzung von KI-Chatbots einräumte. Der Richter betonte, dass die Nutzung von KI den Anwalt nicht von seiner Pflicht entbindet, die Quellen zu prüfen. Er fordert die Anwaltskammer auf, sich mit der Problematik auseinanderzusetzen, die durch unüberlegte Nutzung generativer künstlicher Intelligenz entstanden ist.

In einer simulierten Gerichtsverhandlung in Neuseeland wurde untersucht, wie künstliche Intelligenz als Grundlage für strafrechtliche Beweise funktionieren könnte. Es waren ein reales Gericht und reale Anwälte beteiligt. Die fiktive Anklage basierte auf KI-Analyse von Online-Daten, die Verteidigung kritisierte dabei die undurchsichtige 'Black Box'-Technologie und das Fehlen wissenschaftlicher Überprüfung. Die Staatsanwaltschaft argumentierte, dass Polizei und Justiz moderne Technologien nutzen müssten. Jedoch zeigten sowohl der Richter als auch das Publikum deutliche Zweifel an der Zuverlässigkeit der KI-basierten Analyse. Letztlich hinterließ der Prozess mehr Fragen über die Verwertbarkeit von KI-Beweismitteln als Antworten.

Der Fußballverein FC Carl Zeiss geht mit einem 73-seitigen Schreiben gegen das Urteil eines Sportgerichts in Berufung. Das Schreiben ist offenbar KI-generiert und verweist auf frei erfundene Entscheidungen.

Der kommissarische Leiter der US-Cyberabwehrbehörde CISA hat im Sommer 2025 Regierungsunterlagen mit der Kennzeichnung 'For Official Use Only' in die öffentliche Version von ChatGPT eingegeben, obwohl dieses Tool für die meisten Mitarbeiter gesperrt war. Die Dateien lösten automatische Sicherheitswarnungen aus und führten zu einer internen Prüfung durch das Department of Homeland Security.

Bei einem Test der US Navy kam es zu einem Zwischenfall mit autonomen Drohnenbooten. Nachdem eines der Fahrzeuge wegen eines Software-Fehlers liegenblieb, kollidierte ein weiteres Drohnenboot mit ihm.

Ein Jurastudent der Universität Amsterdam gab bei einer Gruppenarbeit nicht existente Quellen an, die nach Auffassung des Prüfungsausschusses durch unzulässige KI-Nutzung entstanden waren. Die Arbeit wurde für ungültig erklärt und der Student von Erstprüfungen ausgeschlossen. Der Student wandte sich gegen diese Entscheidung. Der Staatsrat stellte fest, dass der Betrug hinreichend nachgewiesen sei und die Sanktionen rechtmäßig und verhältnismäßig seien. Die Berufung wurde zurückgewiesen, wenngleich formale Begründungsmängel festgestellt wurden.

Ein mexikanisches Bundesgericht hatte die Höhe einer Sicherheitsleistung zu überprüfen, die von einem Bezirksgericht für eine bestimmte Klage festgelegt wurde. Es ging um die Frage, wie der Betrag objektiv und sachgerecht bestimmt werden kann. Zur Unterstützung seiner Entscheidung nutzte das Bundesgericht eine KI-gestützte Berechnung auf nachvollziehbaren Daten wie Immobilienwerten, Inflationsraten und Zinssätzen. Die endgültige Entscheidung blieb jedoch in der Hand des Richters. Aus diesem Fall wurden zwei Thesen abgeleitet: Zum einen wird der Einsatz von KI als unterstützendes Werkzeug in gerichtlichen Verfahren für zulässig erklärt, zum anderen werden grundlegende ethische Standards für eine solche Nutzung festgelegt.

Ein ehemaliger Mitarbeiter der Stadt Santana de Parnaíba legte im Rahmen einer Klage auf Wiedereinstellung ein Rechtsmittel ein. Das Oberlandesgericht des Bundesstaates São Paulo (Tribunal de Justiça do Estado de São Paulo) nahm das Rechtsmittel nicht an, da die erforderliche Gebühr nicht entrichtet wurde. Zusätzlich stellte das Gericht bösgläubige Prozessführung fest und verhängte eine Geldstrafe, weil der Beschwerdeführer nicht existente Gerichtsentscheidungen zitierte, was auf den missbräuchlichen Einsatz künstlicher Intelligenz zurückzuführen sei.

Ein KI-basiertes Vibe-Coding-Tool von Replit hat laut einem Nutzerbericht ohne Erlaubnis seine Produktionsdatenbank gelöscht. Replit reagierte auf den Vorfall und kündigte Sicherheitsverbesserungen an.

Potenziell betroffen waren mehr als 3 Millionen Datensätze mit personenbezogenen Daten.

Eine Studentin legte am Berufsbildungszentrum ROC/MBO College Noord eine Abschlussprüfung ab, die später wegen angeblichen Einsatzes von ChatGPT für ungültig erklärt wurde. Der Vorwurf beruhte auf einer nicht belegten Beobachtung eines Aufsehers, ohne dass die Studentin zeitnah angehört wurde, sie erfuhr erst Wochen später von dem Vorwurf. Das Verwaltungsgericht Raad van State (Staatsrat der Niederlande) setzte die Entscheidung wegen schwerer Verfahrensmängel vorläufig außer Kraft.

Das Amtsgericht Köln rügte in einem familiengerichtlichen Umgangsverfahren die Verwendung von offenbar mit Künstlicher Intelligenz generierten, frei erfundenen Fundstellen und Zitaten in einem anwaltlichen Schriftsatz. Es wies darauf hin, dass es einen Verstoß gegen die Bundesrechtsanwaltsordnung (BRAO) darstellen könne.

Die Suprema Corte de Justicia de la Nación (SCJN) entschied, dass ein ausschließlich durch künstliche Intelligenz erzeugtes Werk nicht urheberrechtlich geschützt werden kann. Anlass war die Ablehnung der Registrierung eines KI-erstellten Avatars wegen fehlender menschlicher Schöpfung. Das Gericht stellte klar, dass das mexikanische Urheberrecht Autorenschaft an menschliche Kreativität knüpft und KI nicht als Urheberin anerkennt. Das Urteil gilt formal nur für den konkreten Fall, hat aber grundsätzliche Bedeutung für die Einordnung KI-generierter Werke in Mexiko.

Beim Test eines autonomen maritimen Drohnenfahrzeugs der US Navy kam es zu einem Unfall, als das aus dem Hafen geschleppte Drohnenfahrzeug unerwartet startete und ein Begleitboot zum Kentern brachte. Der Kapitän des Begleitboots musste aus dem Wasser gerettet werden.

Ein Unbekannter hatte sich auf dem Messenger Signal als US-Außenminister Marco Rubio angemeldet und mehrere hochrangige Personen kontaktiert. Um Vertrauen zu gewinnen, nutzte der Täter KI-generierte Sprachnachrichten.

Das Ministerium für Gesundheit und Soziales der kanadischen Provinz Newfoundland and Labrador beauftragte für $ 1,6 Mio das Unternehmen Deloitte mit der Erstellung eines Plans zur Stärkung der Arbeitskräfte im Gesundheitswesen. Der Plan verweist auf 4 Quellen, die nicht existieren und die KI-Generierung vermuten lassen.

Die Social-Media-Kanäle der Stadt Mailand verbreiten eine Stellenausschreibung des Italienischen Nationalen Olympischen Komitees. In der Anzeige wird ein KI-generiertes Bild verwendet, das rund 20 Menschen zeigt, deren Erscheinung leicht monströs verfremdet ist.

In einem Beitrag über den dänischen Schriftsteller Harald Voetmann veröffentlichte die Zeitung Politiken eine KI-generierte Faktenbox, die mehrere Fehler enthielt. Die Zeitung bedauerte das Versehen und gab als Ursache das Testen neuer KI-basierter redaktioneller Werkzeuge an, ohne die Ergebnisse zu überprüfen.

Der MAHA-Bericht der US-Regierung enthält Quellen, die nicht existieren. Es gibt Vermutungen, dass sie von KI generiert wurden. Später wurden die Quellen entfernt.

Eine Zeitung aus Chicago hat eine Liste mit 15 Buchempfehlungen herausgegeben, von denen mindestens 10 durch die KI erfunden waren.

Ein Anwalt beantragte beim Gericht, ein von der Polizei beschlagnahmtes Mobiltelefon an den Angeklagten zurückzugeben. Die Polizei legte unter Berufung auf zwei Präzedenzfälle Widerspruch ein. Später stellte sich heraus, dass keiner dieser Fälle existierte; beide waren von einem KI-System erfunden worden.

In einem Verfahren vor dem OLG Celle ging es um Zahlungsansprüche aus einem langfristigen Coaching- bzw. Beratungsvertrag und um die Frage, ob dieser als Dienst höherer Art (§ 627 BGB) einzuordnen ist. Im Berufungsverfahren spielten unzutreffende bzw. unscharfe rechtliche Zitate und Einordnungen eine Rolle, die in Struktur und Inhalt auf KI-generierte Fehlzitate hindeuteten. Trotz dieser Fehlzitate entschied das Gericht zugunsten der Beklagten, da der klägerische Vortrag prozessual nicht schlüssig war.

Bei der Vertretung eines Obdachlosen zitiert eine Junior-Anwältin halluzinierte Rechtsfälle.

Das neuseeländische Employment Court, ein höheres Arbeitsgericht, behandelte eine prozessuale Anfrage einer Klägerin zur Verlängerung einer Zahlungsfrist sowie zur Zulassung weiterer Unterlagen. Dabei wies das Gericht darauf hin, dass eine von der Klägerin zitierte frühere Gerichtsentscheidung nicht existierte. Es stellte klar, dass dies offenbar auf die unkritische Nutzung generativer KI zurückzuführen war, und mahnte, KI-generierte Inhalte vor der Verwendung in Gerichtsverfahren sorgfältig zu überprüfen.

Der Vorschlag für eine neue Kindergarten- und Schulstruktur enthielt 7 Quellen, die von ChatGPT frei erfunden waren. Eine große Wirtschaftsprüfungsagentur wurde beauftragt, den Vorfall zu untersuchen, Kosten 1,2 Millionen norwegische Kronen, ca. € 101.000. Der Ergebnisbericht wurde veröffentlicht und nennt mehrere Ursachen, u.a. dass die Verwaltung nicht auf den Einsatz von KI vorbereitet war. Die halluzinierten Quellen haben jedoch keinen Einfluss auf das Ergebnis der Strukturreform gehabt, da die Grundzüge bereits 2021 beschlossen wurden.

Die KI von Google hat in Neuseeland wiederholt die gerichtliche Unterdrückung von Namen verletzt. In Such- und KI-Antwortfunktionen wurden die Namen von Personen genannt, für die ein Identitätsverbot galt.

Betrüger locken Führungskräfte des größten norwegischen Finanzdienstleister-Gruppe in eine Videokonferenz. Dort gibt ein Deepfake der Chefin die Anweisung, fast 24 Millionen Norwegische Kronen auf ein Konto von Betrügern zu leisten. Der Betrugsversuch wurde jedoch bemerkt.

Der Chatbot Lucie musste nach 3 Tagen abgeschaltet werden. Die im Vergleich zu Systemen wie ChatGPT engen Systemgrenzen wurden nicht ausreichend kommuniziert, was zu zahlreichen belustigten Kommentaren über falsche Antworten führte.

Der Betreiber eines Webshops für Körperscans berichtet über aggressives Webcrawling durch OpenAI, bei dem in kurzer Zeit umfangreiche Daten heruntergeladen wurden. Dadurch wurde der Webshop zeitweise lahmgelegt und die Betriebskosten stiegen deutlich an.