Symposium neue Technologien

KI in der Polizeiarbeit

Bei einem Symposium in Fürstenfeldbruck wurden Forschungsprojekte zum Einsatz von KI in der Polizeiarbeit vorgestellt.

Unter dem Titel „Künstliche Intelligenz – Polizeiarbeit und Gesellschaft der Zukunft – Chancen und Herausforderungen“ fand am 6. und 7. November 2024 in Fürstenfeldbruck, in der Hochschule für den öffentlichen Dienst in Bayern (HföD), das 11. „Internationale Symposium neue Technologien“ statt. Träger der Veranstaltung waren neben dem österreichischen Innenministerium die Landeskriminalämter von Bayern und Baden-Württemberg sowie das schweizerische Bundesamt für Polizei (Fedpol).
Guido Limmer vom bayerischen LKA wies auf die Bedeutung der KI für die Polizeiarbeit hin, die die Durchsuchung und Auswertung großer Datenmengen ermögliche. Die ethischen und rechtlichen Grenzen seien den Behörden bewusst.
Wilfried Honekamp, Leiter des polizeitechnischen Instituts der Deutschen Hochschule der Polizei in Münster, nannte als Gründe für den Einsatz von KI die Analyse von Datensätzen, die Generierung von Texten und Bildern sowie die Fähigkeit, Prognosen zu erstellen. Die KI könne 4,75 TB an Bilddaten in weniger als drei Tagen analysieren. Ein Mensch würde dafür ein Jahr brauchen. Auch mit automatisierter Transkription und Übersetzung würden sich Einsparpotenziale auftun. Gefahren würden sich durch systembedingte Voreingenommenheit oder Erfindung von Zusammenhängen ergeben. Dies erfordere eine Verifikation von KI-Systemen.

KI-Verordnung (KI-VO).

Sophie Tschorr von der „Zentralen Stelle für Informationstechnik im Sicherheitsbereich“ (ZITIS) in München betonte, dass der Bereich Law-Enforcement in der KI-VO explizit und ohne Ausnahme reguliert sei. Der Art. 3 der VO samt dem Erwägungsgrund 12 definieren die KI.
Unter verbotene Systeme (Art. 5) fallen unter anderem Vorhersagen des Risikos, dass eine Person eine Straftat begehen wird, basierend auf Profiling oder der Auswertung von Persönlichkeitsmerkmalen oder -charakteristiken (Predictive Policing) sowie biometrische Echtzeit-Fernidentifizierungssysteme an öffentlichen Orten für Sicherheitsbehörden. Die Ausnahmen davon sind reglementiert. Unter Hochrisiko-Systeme (Annex III) fallen unter anderem KI-Systeme zur Bewertung des Risikos eines Menschen, (erneut) straffällig zu werden oder dessen Profiling bei der Aufdeckung, Untersuchung oder Verfolgung von Straftaten.
Ferner fallen darunter als Lügendetektoren eingesetzte KI-Systeme oder solche, die im Zusammenhang mit Migration, Asyl oder Grenzkontrolle gegenüber natürlichen Personen verwendet werden, mit Ausnahme der Überprüfung von Reisedokumenten. Die Einhaltung der KI-VO ist Pflicht für Anbieter und Betreiber.

Einsatzplanung.

Wie man KI für den polizeilichen Alltag brauchbar machen und dabei Aktionismus vermeiden kann, schilderte Michael Köbeli von der Kantonspolizei St. Gallen. Es seien Themenkomplexe zu erarbeiten, wie etwa „Ermittlungen“, „Notrufzentrale“, „Straßenverkehr“. Dabei gelte es, gleiche Begriffe zu verwenden – wobei die Erfahrung gemacht werde, dass Arbeiten im System, im Rahmen eines Plan-Do-Check-Act (PDCA)-Zyklus, auch ein Arbeiten am System sei. Ziel der KI-Architektur müsse sein, dass die KI-Anwendungen wie etwa Whisper, NLLB-200 oder LlaMA mit maximal drei Klicks erreicht werden könnten; der Zweck verständlich sei und kein technisches Verständnis erfordere und dass die Ergebnisse zeitnah verfügbar seien. Die Anwendung der KI solle in eigenen Rechenzentren – on Premise – erfolgen, bei denen keine Leaks möglich seien.

Audiovisuelle Vernehmungen.

In der Schweiz ist, wie Andreas Kind von der kantonalen Staatsanwaltschaft Wirtschaftsdelikte in Bern ausführte, seit 2024 eine novellierte Strafprozessordnung in Kraft. Nach deren Art. 78a lit. a kann für den Fall, dass eine Einvernahme mit technischen Hilfsmitteln aufgezeichnet wird, anstelle einer laufenden Protokollierung während der Einvernahme das Protokoll auch erst danach, gestützt auf die Aufzeichnung, erstellt werden, grundsätzlich jedoch innerhalb von sieben Tagen nach der Einvernahme.
Gegenüber einer parallel laufenden Protokollierung kann die Dauer der Einvernahme deutlich um mehr als die Hälfte gekürzt werden. Außerdem wird die Bereitschaft zu einem detaillierten freien Bericht erhöht. Es entfallen Unterbrechungen, das Vorlesen, Rück­übersetzen, Weglassungen und Zusammenfassungen sowie allfällige kognitive Überforderungen. Allerdings ist der zeitliche Aufwand für die Nachbearbeitung, wenn sie manuell vorgenommen wird, um das acht- bis zwölffache höher als die Aufnahmedauer.
Wird KI, etwa Voscriba, zur Spracherkennung eingesetzt, verkürzt sich, wie David Imseng von Recapp IT AG berichtete, die Nachbearbeitungszeit auf das Drei- bis Sechsfache der Aufnahmezeit, wozu noch sämtliche Vorteile einer audiovisuellen Einvernahme kommen.
Der Raum, in dem eine solche Einvernahme stattfindet, muss mit Akustikpaneelen an den Wänden und an der Decke ausgekleidet werden. Das Mikrofon wird an der Decke montiert. Herausforderungen sind schlechte Formulierungen, ein Durcheinander-Sprechen, schnelle Sprecherwechsel, oder sehr leise beziehungsweise emotionale Äußerungen, ebenso junge Sprecher oder Kinder. Eine zu große Distanz zum Mikrofon bringt schlechte Audioqualität.

Bewältigung von Krisen. Virtual Reality erlaubt empirische Untersuchungen, welche Variablen menschlichen Verhaltens eskalierend oder deeskalierend wirken, berichtete Birgit Nierula vom Fraunhofer Heinrich-Hertz-Institut. KI-basiert werden Kommunikationsmarker untersucht, die vom Gegenüber „gelesen“ werden können, wie etwa Gestik, Mimik oder die Art, wie jemand spricht (Prosodie). In einer über eine VR-Brille eingespielten virtuellen Umgebung wird ein Szenario geschaffen, in dem aus einem sich nach unten hin in verschiedene Stränge ausbreitenden narrativen „Entscheidungsbaum“ ersehen werden kann, ab welchem Entscheidungsknoten sich das Verhalten eines Probanden eskalierend oder deeskalierend entwickelt. Das Szenario kann zur Schulung deeskalierenden Verhaltens eingesetzt werden.
Die Gestik betreffende De- oder Eskalationsmarker wurden aus der Literatur und in Gesprächen mit der Polizei gewonnen und es wurde ein Algorithmus zur Gestenerkennung entwickelt. Daten zum Eskalationsmarker Distanz, also der Entfernung zum Gegenüber, wurden aus der Veränderung des Hautleitwiderstandes und der Hirnaktivität des Probanden gewonnen. Die Rolle von Differenzmarkern bei einer Personenkontrolle wurde untersucht, indem Personen, bei deren Auswahl auf Geschlecht und Migrationshintergrund Bedacht genommen wurde, ein Polizist als Avatar gegenüber gestellt wurde.

Virtual Kids.

Die Vernehmung von Kindern stellt oftmals das alleinige Beweismittel dar, was, wie Susanna Niehaus und Teresa Schneider von der Hochschule Luzern ausführten, hohe Anforderungen an die Qualität der Befragung und die Qualifikation der Befragenden stellt. Die Verwertbarkeit der Aussagen ist von der Vernehmungsqualität abhängig; suggestive Befragung macht die Aussagen unbrauchbar. Sowohl im Alltag als auch in der Ausbildung fehlt es allerdings an Übungsmöglichkeiten.
Die Vortragenden stellten das Projekt eines an interaktive Adventurespiele angeglichenen, KI-basierten Systems virtueller Charaktere von Kindern vor, das Fragen automatisch codiert und die Charaktere ebenso automatisiert antworten lässt. Die virtuellen Kinder werden in einem Vernehmungszimmer dargestellt und reagieren auch körpersprachlich gemäß Alter und Besonderheiten. Die Charaktere haben ein immer zugängliches semantisches Gedächtnis („wer bin ich“ – Alter, Familie, Hobbys, Interessen/Abneigungen) und ein episodisches Gedächtnis („Was ist wo, wann, durch wen geschehen“). Dieses Gedächtnis wird zugänglich, wenn geeignete Fragen gestellt werden. In der Auswertung verringern ungeeignete Fragen den erzielbaren Score; geeignete Fragen erhöhen ihn. Die gestellten Fragen werden dabei auch dem Inhalt nach prozentuell gewichtet, etwa nach dem Anteil von Versprechungen, Erzählaufforderungen, suggestiven Bewertungen, Ja/ Nein-Fragen.

Gewaltdarstellungen automatisch mit Deep-Learning-Methoden zu detektieren, war ein Forschungsprojekt, über das Dr. Raphael Meier vom Eidgenössischen Department VBS, Thun, berichtete. Das Bild- und Videomaterial stammte vorwiegend aus dem syrischen Bürgerkrieg, das manuell bestimmten Kategorien (Person, Explosion, Fahrzeug, Gewehr, Pistole, Messer oder ähnliches) zugeordnet wurde. Es hat sich gezeigt, dass Bildkategorien relativ gut eingeordnet werden konnten, weniger gut hingegen Handlungen.
Michael Fila vom österreichischen Bundesamt für Korruptionsbekämpfung, und Katja Kraus vom Austrian Institute oft Technology in Wien zeigten auf, welche Fülle an Einzelheiten sich mit dem Einsatz von Large Language Models (LLMs) bei der Auswertung eines Lichtbildes von einem Tatort ergeben können. Die KI würde dabei als „digitaler Spürhund“ eingesetzt werden.
An Programmen dazu wurden Dalle-3, ChatGPT oder LlaMa 3.2 genannt. Die Verfahren können auf Daten von Texten, Bildern sowie Audio- und Videodateien angewendet werden. Die kaum noch überschaubare Menge von Daten kann allerdings zu Mehrdeutigkeiten (Ambiguität) beziehungsweise zu bloß vermeintlicher Aufdeckung von Zusammenhängen (Halluzinationen) führen. Um die Nachvollziehbarkeit beziehungsweise Gerichtsfestigkeit der Ergebnisse zu gewährleisten, sind die einzelnen Ermittlungsschritte zu protokollieren und bei Bedarf digital zu signieren.

Dokumentenprüfung.

Kleinste Unterschiede festzustellen, ist eine weitere Stärke der KI. Johannes Maucher vom Institut for Applied Artificial Intelligence der Hochschule der Medien in Stuttgart stellte DOKIQ vor, ein KI-basiertes Assistenzsystem für die Echtheitsprüfung von Identitäts- und Personenstandsdokumenten. In diesem seit April 2020 laufenden Projekt, das aktuell von den Landeskriminalämtern Baden-Württemberg, Hessen und Nordrhein-Westfalen genutzt wird, ermöglicht die KI unter anderem die Erkennung, welcher Drucker (Inkjet, Laser) bei Fälschungen verwendet wurde, das Erkennen und die Dekodierung von Barcodes, das Erkennen von Stempeln und deren Abgleich mit vorhandenen Mus­tern, das Erkennen von Fälschungsserien sowie eine effiziente bildbasierte Suche. Vergleichbare Dokumente mit gleichem Ausstellungsort und gleichem Drucker können festgestellt werden. Formularnummer und Ausstellungsort können auf Plausibilität überprüft und Fälschungs-Hotspots auf einer Landkarte lokalisiert und visualisiert werden.

Bekämpfung von Cybercrime.

Mit generativer KI können Texte in jeglicher Form erstellt, in Bilder und Videos umgewandelt sowie Fotos, Videos oder Stimmen täuschend echt manipuliert oder generiert (Deepfake) und letztlich für Straftaten verwendet werden (GenAIFraud). Über diese Art von Kriminalität und die zu ihrer Bekämpfung eingerichtete European Multidisciplinary Platform Against Criminal Threat (EMPACT) referierten Rieke Labutina und Jan Jost auf der Stroth vom deutschen Bundeskriminalamt, Abteilung Cybercrime. An der derzeit laufenden Operation Action 1.3 „Cybercrime in die Age of AI“ beteiligen sich, neben der Europäischen Kommission, Interpol und dem US Secret Service, eine Vielzahl europäischer Staaten.

Desinformationskampagnen sind ein wesentlicher Bestandteil hybrider Bedrohungen, die, in einer Kombination von staatlichen und nichtstaatlichen Akteuren, häufig darauf abzielen, Ängste in der Bevölkerung zu schüren (beispielsweise bevorstehende Benzinknappheit), politische Entscheidungen zu beeinflussen oder Personengruppen zu diffamieren.
Koordiniert vom Austrian Institut of Technology (AIT) lief von Jänner 2023 bis Ende 2024 das Forschungsprojekt Hybris, über das Mina Schütz vom AIT berichtete. Ziel ist es, mit Hilfe von KI und Machine-Learning Desinformation und Narrative automatisch zu erkennen und Bedrohungsanalysen zu erstellen sowie Gegenstrategien zu entwickeln. Eine Herausforderung ist dabei, die Balance zwischen Meinungsfreiheit und Schutz der Öffentlichkeit zu wahren.
Die anhaltende Manipulation des Informationsumfelds durch staatliche und nichtstaatliche Akteure, mit Auswirkungen auf das gesellschaftliche Verhalten, hat zur Entwicklung des EU-Projekts Foreign Information Manipulation and Interference (FIMI). geführt, über das Susanna Fontana und Sandra Balbierz von der Hochschule für den öffentlichen Dienst Bayern berichteten. Auf evidenzbasierter Forschung sollen Tools zur Analyse und Testszenarien entwickelt sowie die Auswirkungen auf Diaspora-Gesellschaften analysiert werden, samt Entwurf eines Toolkits zur Verringerung der Verwundbarkeit.

Hatespeech und Cybermobbing führen zu psychischen Belastungen der Opfer, zu sozialer Isolation und Beeinträchtigung der Lebensqualität. Bei Jugendlichen und Heranwachsenden kann die Entwicklung des Selbstbildes negativ beeinflusst werden und bis zum Suizid führen.
Um Betroffene zu sensibilisieren und zu schützen, wurde, gefördert vom Landesprogramm für Demokratie und Menschenrechte Niedersachsen, der „digitale Schutzengel für Niedersachsen“ entwickelt. Mit Hilfe von KI wird überprüft, ob eine eingelangte Nachricht als Hatespeech einzustufen ist. Zutreffendenfalls wird das Posting archiviert und wird erst mit dem Klicken eines Buttons angezeigt.

Cyber-Angriffe.

KI hilft zwar, Cyber-Angriffe zu erkennen, hilft aber auch den Angreifern, Sicherheitsmaßnahmen zu umgehen. Es gelte, die menschliche Firewall zu stärken, führte Mrudula Arunkumat vom Fraunhofer Institut für Arbeitswirtschaft und Organisation IAO, Stuttgart, aus. Security-Awareness-Trainings, die zur Vorsicht mahnen und auf aktuelle Betrugsfälle hinweisen, seien nicht mehr ausreichend. Erfahrungsbasiertes Lernen solle an die Stelle bloßen Predigens treten. Dazu werden am Bildungscampus der Hochschule Heilbronn Online/Offline-Schulungen mit dem Fokus auf den menschlichen Faktor der Cyber-Sicherheit angeboten.

Kurt Hickisch

---

Öffentliche Sicherheit, Ausgabe 3-4/2025

 Druckversion des Artikels (pdf, 445 kB)