KI-Zwischenfälle Neuseeland

Ein neuseeländisches Medienunternehmen veröffentlichte in regionalen Zeitungen eine Weihnachtsbuchliste für Kinder, die mehrere Buchtitel enthielt, die nicht existierten. Autoren waren mit Büchern genannt, die sie nicht geschrieben hatten. Es wurde spekuliert, ob die falschen Titel mit künstlicher Intelligenz erzeugt sein könnten. Das Medienunternehmen gab an, dass die Liste von einer externen Quelle bezogen wurde. Es zog die Liste zurück und entschuldigte sich für den Fehler.

Beim wichtigsten Literaturpreis Neuseelands, den Ockham New Zealand Book Awards, wurden zwei Bücher bekannter neuseeländischer Autorinnen ausgeschlossen, weil ihre Buchcover mithilfe von Künstlicher Intelligenz erstellt wurden. Grund dafür ist eine neue Regel, die jeglichen Einsatz von KI im gesamten Buchprojekt verbietet, einschließlich Covergestaltung. Der Ausschluss erfolgte unabhängig vom literarischen Inhalt, der vollständig von Menschen verfasst wurde. Die Entscheidung wurde kritisiert, weil Autoren meist keinen Einfluss auf das Cover haben und die Regel erst nach Einreichung der Bücher eingeführt wurde. Nach dieser öffentlichen Kritik und nach weiteren Gesprächen entschieden die Veranstalter schließlich, die betroffenen Titel zum Wettbewerb 2026 zuzulassen.

In einer simulierten Gerichtsverhandlung in Neuseeland wurde untersucht, wie künstliche Intelligenz als Grundlage für strafrechtliche Beweise funktionieren könnte. Es waren ein reales Gericht und reale Anwälte beteiligt. Die fiktive Anklage basierte auf KI-Analyse von Online-Daten, die Verteidigung kritisierte dabei die undurchsichtige 'Black Box'-Technologie und das Fehlen wissenschaftlicher Überprüfung. Die Staatsanwaltschaft argumentierte, dass Polizei und Justiz moderne Technologien nutzen müssten. Jedoch zeigten sowohl der Richter als auch das Publikum deutliche Zweifel an der Zuverlässigkeit der KI-basierten Analyse. Letztlich hinterließ der Prozess mehr Fragen über die Verwertbarkeit von KI-Beweismitteln als Antworten.

Das neuseeländische Employment Court, ein höheres Arbeitsgericht, behandelte eine prozessuale Anfrage einer Klägerin zur Verlängerung einer Zahlungsfrist sowie zur Zulassung weiterer Unterlagen. Dabei wies das Gericht darauf hin, dass eine von der Klägerin zitierte frühere Gerichtsentscheidung nicht existierte. Es stellte klar, dass dies offenbar auf die unkritische Nutzung generativer KI zurückzuführen war, und mahnte, KI-generierte Inhalte vor der Verwendung in Gerichtsverfahren sorgfältig zu überprüfen.

Die KI von Google hat in Neuseeland wiederholt die gerichtliche Unterdrückung von Namen verletzt. In Such- und KI-Antwortfunktionen wurden die Namen von Personen genannt, für die ein Identitätsverbot galt.

Das neuseeländische Berufungsgericht behandelte einen komplexen internationalen Zivilstreit über Betrugsvorwürfe sowie die Anerkennung und Durchsetzung ausländischer Gerichtsurteile. Dabei reichte der sich selbst vertretende Kläger Schriftsätze ein, die offenbar mit KI erstellt wurden und die auf fiktive Gerichtsentscheidungen zitierten. Das Gericht betonte, dass auch beim Einsatz von KI die Pflicht zu einer sorgfältigen rechtlichen Prüfung fortbesteht und fehlerhafte KI-Inhalte die Glaubwürdigkeit der Partei erheblich beeinträchtigen können.

In einem Supermarkt wurde eine Māori-Frau fälschlicherweise des Geschäfts verwiesen, sie fühlte sich deshalb diskriminiert. Die Supermarktkette testete in 25 Geschäften ein Gesichtserkennungssystem, um Personen zu identifizieren, die nach vorherigen Diebstählen mit einem Hausverbot belegt sind. Der Supermarkt entschuldigte sich für den Fehler und kündigte an, den Vorfall der Datenschutzbehörde zu melden.

Ein Bot der neuseeländischen Supermarktkette Pak'nSave generiert Rezepte für Chlorgas und andere giftige Mahlzeiten.

Bei einem Terroranschlag auf zwei Moscheen in Neuseeland mit 51 Toten übertrug der Täter seine Tat per Livestream auf Facebook. Facebook gab später an, KI zu nutzen, um gewalttätige Videos zu erkennen, jedoch schlug die KI in diesem Fall nicht an. Es sei schwierig, die KI zu trainieren, weil es zum Glück an Trainingsdaten mangelt. Außerdem sei es schwierig, echte Vorfälle von Videospielen zu unterscheiden. Deshalb bleiben auch künftig Menschen wichtig, die solche Vorfälle melden und Menschen, die sie sichten.