219. Newsletter - sicherheitskultur.at - 30.04.2025
von Philipp Schaumann
Hier die aktuellen Meldungen:
1. Predictive Policing macht Fortschritte. - "Lösung": Psychische Probleme in Polizei-Datenbanken ?!?!
Aus Großbritannien und Deutschland wird berichtet, dass die Digitalisierung der Polizeiarbeit durch Predictive Policing - siehe der frühere Artikel) nun auf Gesundheitsdaten erweitert werden soll (oder bereits wird). Ziel von Predictive Policing ist ja, Verbrechen zu 'entdecken' bevor sie begangen werden (siehe 'Predictive'). Im Film Minority Report ist dies bereits umgesetzt, wird aber im Film letztendlich in Frage gestellt.
CDU-Generalsekretär Carsten Linnemann forderte bereits Ende 2024 ein Register für psychisch Kranke das auch der Polizei zugänglich ist: "Wir haben große Raster angelegt für Rechtsextremisten, für Islamisten, aber offenkundig nicht für psychisch kranke Gewalttäter. Und das ist einfach ein großes Defizit in Deutschland."
Gefordert wird von der CDU "eine bundesweite Vernetzung der Erkenntnisse zwischen Sicherheits-, Gesundheits-, Waffen- und gegebenenfalls Ausländerbehörden". Die berechtigen Sicherheitsbelange seien mit datenschutzrechtlichen Anforderungen abzugleichen. Der Bundesrat fordert dazu neue gesetzliche Grundlagen für den Datenaustausch und deren Auswertung.
Gleichzeitig hat in Deutschland der Bundesrat beschossen, dass die Analysesoftware Vera des US-Anbieters Palantir ("der große Gewinner des US-Überwachungsstaates") nun für die Polizei auch Gesundheitsdaten auswerten soll. CDU-Generalsekretär Linnemann forderte: "Und da braucht es einfach einen Austausch der Behörden untereinander, der Sicherheitsbehörden, auch mit der Psychiatrie, mit Psychotherapeuten und vielem mehr." Bestimmt fließen da auch Herkunftsland, Religion, Bildung und ethnischer Hintergrund ein.
Anlass für diese Forderungen sind wohl die aktuellen Verbrechen, die von Menschen mit psychischen Problemen begangen wurden. M.E. ist aber zu bezweifeln, ob eine polizeiliche Erfassung von Menschen mit psychischen Problemen dem leichteren Zugang zu Behandlungsoptionen und damit der allgemeinen Sicherheit dient.
Hintergrund zu den bisherigen Einsatzmöglichkeiten von Predictive Policing nach EU-Recht: Bisher ist/war in der EU Predictive Policing nur ortsbezogen erlaubt, nicht-personenbezogen wie in den USA. D.h., die Systeme versuchen vorherzusagen, wo zB morgen Abend vermehrt Einbruchsdiebstähle zu erwarten sind, nicht jedoch, welche Täter dafür in Betracht kommen.
Ein ähnliches Beispiel für personenbezogene Kriminalitätssysteme stammt aus Essex in Großbritannien: Hier soll ein System im Einsatz sein, das Menschen aufgrund ihrer psychischen Gesundheit oder ihres Umfelds mit kriminellen Strukturen in Verbindung bringt. Für die Speicherung im System ist eine tatsächliche vorherige Straftat nicht nötig – es reicht, als "assoziiert" zu gelten, zB als Opfer oder als jemand, der eine Straftat gemeldet hat.
Und für ganz Großbritannien wird an einem "Homicide Prediction Project" gearbeitet (nachdem öffentliche Kritik geäußert wurde, bekommt es nun einen anderen Namen). Auch dabei sollen die Daten von Straftätern, Verdächtigen, aber auch Menschen ohne kriminellen Hintergrund mit ihren Gesundheitsdaten zusammengeführt werden. Eine große Frage für mich ist: was machen wir, wenn so ein System einen zukünftigen möglichen Täter benennt, gegen diesen Menschen aber derzeit nichts vorliegt?
Die im vorigen Abschnitt bereits erwähnte Firma Palantir ist der große Gewinner des US-Überwachungsstaates. Ziel der US-Kooperation der Einwanderungsbehörde ICE mit Palantir ist unter anderem die schnellere "Identifizierung, Verhaftung und Abschiebung von Ausländern".
Dabei nutzen die Behörden auch die KI-Bots Overwatch als Undercover-Agenten. Virtuelle 'KI-Personas' sollen mit potenziellen Verdächtigen chatten und Informationen sammeln. Auf diese Weise sollen wohl auch Trump-Gegner in eine Falle gelockt werden.
Die Software Overwatch von Firma Massive Blue erschafft "lebensechte virtuelle Agenten, diese sollen kriminelle Netzwerke über verschiedene Kanäle im Internet infiltrieren und ansprechen", zB werden Discord, Telegram oder Signal genannt. Overwatch kann in diversen Social-Media-Kanälen nach potenziellen Verdächtigen suchen, um sich dann als Ansprechperson anzubieten. Laut einem Bericht von 404media geht es um mutmaßliche Drogen- und Menschenhändler und "College-Demonstranten" und "radikalisierte" politische Aktivisten. Die virtuellen Agenten sollen als Köder fungieren, um "Gleichgesinnte" in Gespräche zu verwickeln.
Auch Russland versucht wohl, generative AI-Systeme für seine Propaganda einzusetzen. So scheint es dem Desinformationsnetzwerk Pravda (wiki) gelungen zu sein, westliche KI-Systeme (z.B. ChatGPT-4o von OpenAI, Claude von Anthropic sowie Gemini von Google) mit russischer Propaganda zu infizieren. Die Details in: Pravda-Netzwerk: Chatbots von russischer Propaganda verseucht.
An den US-Grenzen wacht der US-Grenzschutz (Customs and Border Protection - CBP). Auch dort werden nun vermehrt AI-Systeme eingesetzt: Wer in die USA einreist, muss sich einer Gefühlserkennung durch KI stellen (es geht wohl darum, die Gefühle der Besucher gegenüber Trump zu erkennen: Nachrichten eines französischen Forschers wurden als mutmaßlich „hasserfüllt“ und „verschwörerisch“ eingestuft und ihm die Einreise verweigert). Der US-Grenzschutz veröffentlichte eine lange Liste der im Einsatz befindlichen KI-Systeme, 31 KI-Anwendungen sind bei der CBP bereits im Einsatz, 28 weitere befinden sich aktuell in der Entwicklung oder im Teststadium.
Ziel ist die Erkennung von "Personen von Interesse" ('person of interest'). Eine KI scannt die Social-Media-Feeds der betreffenden Person und analysiert die politische Position. Natürlich kann man behaupten, man hätte keine Präsenz in Social Networks, aber die Einreise kann jederzeit verweigert werden. Auch ein Zugang zu mitgeführten elektronischen Geräten kann verlangt werden.
Eines der Systeme ist Fivecast Onyx. Es ist angeblich in der Lage, öffentlich zugängliche Inhalte über eine Person binnen weniger Augenblicke auszuwerten. Vom öffentlich geposteten Foto auf Instagram bis zum längst vergessenen Blogbeitrag von vor 15 Jahren. Und: Die Software kann die Inhalte rasch sortieren und für die Grenzbeamten so aufbereiten, dass diese entscheiden können, ob die Person bei der Einreise "von Interesse" ist.
Das US-Heimatschutzministerium hat angekündigt, dass damit begonnen wird, die Onlineaktivitäten von Ausländern auf Antisemitismus zu überprüfen (gemeint ist wohl eine Pro-Palästina-Position). So wurde zuletzt Studenten das Visum entzogen, weil sie gegen Bombardements im Gazastreifen protestiert hatten.
Es gibt online eine ganze Reihe von Tipps für Grenzübertritte. Hier ein Artikel: Datenschutz an der Grenze: Wer alles löscht, macht sich verdächtig. Oder: Fit für die US-Grenzkontrolle mit 6 Tipps der US-Bürgerrechtsorganisation EFF ('electronic frontiers foundation' (wiki). EFF publiziert viele Tipps zur digitalen Selbstverteidigung.
Kurze Zusammenfassung zu Grenzübertritten (nicht nur in die USA): Im 'Niemandsland' zwischen Staaten, zB in Flughäfen, sind viele Gesetze die innerhalb von Ländern gelten, nicht gültig. Außerdem gibt es kein 'Recht auf Einreise', auch wenn ein Visum vorliegt - Passwörter müssen nicht zwingend offengelegt werden - aber einem Ausländer muss auch keine Einreise bewilligt werden. Hier ein früherer Artikel von mir dazu: Reisen mit Laptop und Smartphone - Grenzübertritte mit Daten.
Ich bin sehr froh, dass ich nicht mehr beruflich in die USA einreisen muss. :-)
Der Artikel Ausgelöscht? Welche Berufe die KI-Revolution nicht überleben werden listet sehr gut die Jobs auf, die (rein theoretisch) durch AI ersetzt werden können.
Der Artikel zeigt m.E. recht gut, welche Potentiale theoretisch in AI-Systemen stecken. Ich persönlich bin jedoch in Bezug auf kosten-effektive reale Lösungen in den nächsten Jahren/Jahrzehnt noch recht skeptisch.
Gründe für meine Skepsis:
Dh für mich: Ja, theoretisch großes Potential, aber nicht mit den derzeitigen fehlerhaften und energie-hungrigen Systemen - wenn diese beiden Probleme gelöst sind, werden bestimmt viele der besprochenen Arbeitsplatzverdrängungen eintreten.
Noch ein aktuelles Negativ-Beispiel: der aktuelle Koalitionsvertrag in Deutschland hat an vielen Stellen AI/KI als 'Lösung' der Verwaltungsprobleme: Hauptsache KI. Hier eine Übersicht über den deutschen Koalitionsvertrag aus netzpolitischer Sicht: Koalitionsvertrag: The Good, the Bad and the Ugly.
Hier noch ein Artikel der recht ausführlich ist und ähnliche und weitere Bedenken aufzeigt:
Gefahren von KI im Alltag: Dringende Empfehlung: Selbst denken!
Hier dann noch ein Artikel über die Idee, die Personalkosten im Flugverkehr zu senken indem die Kopiloten durch AI-Systeme ersetzt werden. Nicht nur die Sprecher der Piloten haben dabei kein wirklich gutes Gefühl. Dann nutze ich aber lieber einen virtuellen Assistenten nur beim Einkauf, das Risiko-Potential erscheint mir irgendwie geringer.
Auf Grund einer aktuellen Studie wird vor der Spieleplattform Roblox gewarnt (für alle, die keine Kinder haben und das nicht kennen, hier der Wiki-Eintrag): "Zutiefst verstörend": Forschende warnen davor, Kinder auf Plattform Roblox spielen zu lassen.
Eine zentrale Schwachstelle liegt in der Altersverifikation: Roblox verlangt bei der Anmeldung lediglich eine Selbstauskunft über das Alter – eine tatsächliche Prüfung erfolgt nicht. Im Rahmen eines Experiments registrierten Forschende verschiedene Testkonten mit Altersangaben zwischen fünf und über vierzig Jahren. Bereits nach kurzer Zeit zeigten sich gravierende Mängel im System. So konnte ein als 42 Jahre alt registrierter Avatar nicht nur mit dem "Fünfjährigen"-Konto kommunizieren, sondern das Kind auch in private virtuelle Räume einladen. Oder ein fiktiver 10-jähriger konnte Hotelräume für sexuelle Rollenspiele betreten.
Um ganz unbeschränkt mit Kindern kommunizieren zu können versuchen 'Menschen mit schlechten Absichten' die Kinder auf Instagram oder Snapchat umzuleiten, wo ganz ungestört und ohne irgendeine Aufsicht Bilder und Video getauscht werden können. (Siehe das Thema Nacktfoto-Erpressungen im vorigen Newsletter.)
Daher empfehlen Jugendschutzexperten im Zusammenhang mit solchen Plattformen, "die Spielwelten gemeinsam mit dem Kind zu erkunden". Das beginne bereits bei der Registrierung und der Erstellung des Nutzerkontos. Gerade angesichts des unüberschaubaren Angebots und der schwer einschätzbaren Risiken sei aktive Begleitung durch die Eltern unverzichtbar. Auch saferinternet.at berichtet über verstörende Inhalte.
Bei den von mir regelmäßig beworbenen Online-Schulungen des ÖIAT (siehe weiter unten) sind auch immer wieder Schulungen für Eltern zu diesen Themen, zB
Im vorigen Newsletter war das Foto von der Phalanx der Silicon Valley-Oligarchen bei der Inauguration von Trump. Sie beziehen einen guten Teil ihrer Einfuhren aus China, nun mit 3-stelligen Zöllen belegt.
Paul Krugman beschreibt, dass den Herrn auf diesem Foto gerade Gutes widerfahren sei: Trump hatte zwar 145% Zoll auf Waren aus China verhängt, aber das wäre nicht gut für die Geschäfte z.B. von Apple. Daher ist für Computer und Smartphone der Zollsatz auf 20% reduziert worden, Apple wird sich bestimmt dankbar zeigen. Krugman schreibt: "The stench of corruption around these policies keeps getting stronger."
Anderseits laufen in den USA aktuell sechs Kartellverfahren gegen große Tech-Konzerne und die wurden, trotz akuten Anbiederungen und finanziellen Zahlungen bisher (noch) nicht eingestellt.
Noch ein Beispiel wie Trump mit den Oligarchen derzeit umspringt: Amazon wollte in den USA bei den Preisen ihrer Produkte separat den Zollanteil ausweisen. Das hätte aber der Trump-Behauptung widersprochen, dass die Zölle von den Lieferanten und nicht den US-Verbrauchern gezahlt würden. Die Pressesprecherin bezeichnete den Amazon-Plan als einen 'feindlichen Akt' und Amazon-Chef Jeff Bezos erklärte flink, dass das ein Missverständnis sein müsste.
Auf Grund eines UN-Bericht zu den Scam-Syndikaten, die mit Menschenhandel, Kryptobetrug und Pig-Butchering eine milliardenschwere Industrie darstellen gibt es nun eine Reihe von erschreckenden Artikel dazu. Diese wurden ergänzt in meinem vormonatigen Beitrag zu Kryptobetrug und Love-Scams. Außerdem gibt es dort einen Link zu Interviews mit Menschen, die in diesen Lagern gefangen gehalten werden, über ihre Rekrutierung, ihre Arbeit und das Verhindern von Ausbruchsversuchen - gruselig.
Aktualisierung Mai 2025:
In meinem früheren Artikel zu Longtermismus habe ich einen guten ausführlichen Artikel zu dieser eigenartigen 'Philosophie' ergänzt. Außerdem findet sich dort nun ein Artikel über die Auswirkungen über die derzeitigen politischen Entwicklungen auf Grund der Aktionen der Longtermisten rund um Trump: "Der Aufstieg des Cyberfaschismus".
In meinem früheren Artikel zum Digital Markets Act habe ich nun die ersten konkreten Strafen verlinkt: Apple soll 500 Mio. Euro zahlen und Meta 200 Mio. Euro. Beide wehren sich dagegen und haben Unterstützung durch die Trump-Regierung. Die Details und Hintergründe, zB warum die beiden Konzerne da noch gut weggekommen sind, beim vorigen Link.
Aktualisierung Mai 2025:
In früheren Newslettern hatte ich bereits über die Gefahren von virtuellen 'Freunden' berichtet. Dort habe ich nun einen weiteren ausführlichen Artikel zum Thema verlinkt. Tenor dieses Artikels ist, dass diese 'virtuellen Beziehungen' die ultimative 'Digital-Sucht' erzeugen können. 'Virtual friends' gehen auf die Interaktionen des jeweiligen Nutzers ein und haben so ein viel größeres Suchtpotential als Tiktok, Instagram und die Messaging Apps je bieten können. Einer der Anbieter, Character.AI, berichtet, dass sie bereits 20 000 Anfragen pro Sekunde bearbeiten, das wäre ein Fünftel des Suchverkehrs von Google. Und da diese 'Interaktionen' viel persönlicher sind als alle anderen Internet-Interaktionen dauern sie auch deutlich länger, das ist das Ziel der Betreiber. Das ist ideal um personalisierte Werbung zu platzieren. Die Details werden beim vorigen Link verknüpft.
Eine der in der IT-Industrie schon älteren Bedrohungen ist, dass IT-Spezialisten aus Nordkorea sich mit falschen Identitäten von westlichen Unternehmen als Remote-Software-Entwickler anstellen lassen. Ziel ist es, durch eine tolle Arbeitsleistung (oft arbeiten mehrere Menschen mehr oder weniger rund um die Uhr) möglichst viele "Rechte" in den Unternehmenssystemen zu bekommen. Dadurch kann Schadsoftware (wie Ransomware) platziert werden oder Daten extrahiert. Beides bietet dann Erpressungspotential. Details in DPRK worker scheme expands to Europe after US crackdown.
Die englische Zeitung The Register berichtet über die RSA Conference, bei der die Rekrutierungen von Nordkoreanern ein Thema waren. Der Artikel berichtet, wie das so abläuft und wie man solche Bewerbungen erkennen kann: FBI and others list how to spot NK infiltrators, but AI will make it harder.
Früher hatte ich bereits berichtet, dass illegale IT-Aktivitäten für Nordkorea eine essentielle Einnahmequelle darstellen.
Europol berichtet, dass ein riesiges Netzwerk mit Missbrauchsdarstellungen Minderjähriger zerschlagen wurde, mit 1,8 Millionen Nutzern weltweit. Nach Durchsuchungen in 31 Staaten wurden weltweit 1400 Verdächtige ausfindig gemacht, elf davon in Österreich, ein 'Tropfen auf den heißen Stein'. Der Artikel berichtet über die Hintergründe, hier noch die offizielle Meldung von Europol.
Kostenlose Online Schulungen beim Österreichischen Institut für angewandte Telekommunikation (ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon teil).
Die Termine und Themen der Kurse ab März: (Abends, entweder 18:30 - 20:00 oder 17:00 - 20.00)
Anmeldung auf academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.
2. AI zur Überwachung von potentiellen Gegnern der Trump-Politik
3. Einreisen in die USA
4. Werden AI-Systeme in nächster Zeit unsere Jobs übernehmen?
5. Roblox ist nicht harmlos
3. Juni | Zwischen Glücksspiel und Computerspiel - Jugendliche und Mobile Games
6. Ergänzungen früherer Beiträge
Wie geht es den Oligarchen, die sich bei Trump 'eingeschleimt' haben?
Asiatische Scam-Syndikate expandieren weltweit
Auch der FBI Internet Crime Report 2024 hat die Scam-Zwangsarbeitslager zum Thema. 2024 ist das dritte Jahr, in dem Investment Scams vor BEC (business email compromise), dh CEO-Fraud bei der Internet-Kriminaliltät auf Platz 1 liegt. Grund ist das boomende Geschäft mit Krypto-Investment-Betrug, manchmal in Verbindung mit Love-Scams.
Longtermismus: Warten auf den KI-Gott
DMA: EU verhängt 700 Millionen Euro Strafen gegen Apple und Meta
Jetzt bekommt Apple auch in den USA etwas Stress: Ein US-Richter ordnet an, dass die App-Store regeln entspannt werden sollen.
Virtuelle AI-Freunde
Nordkoreanische IT-Mitarbeiter
Kidflix-Netzwerk zerschlagen
Kostenlos: ÖIAT-Online-Schulungen