216. Newsletter - sicherheitskultur.at - 31.01.2025
von Philipp Schaumann
Hier die aktuellen Meldungen:
1. Transhumanismus, Longtermismus, Kosmismus und andere bizarre Ideen im Silicon Valley
Der Transhumanismus ist eine Denkschule, die Philosophie, Neurowissenschaft und Informatik zusammenführen will. Popularisiert wurde sie Anfang der 2000er im Silicon Valley in den USA. Zu verwandten Theorien zählen Longtermismus, Singularitarismus und Kosmismus. Zwei Themen des Transhumanismus sind ewiges Leben durch Bio-Technologie und Verschmelzung der Menschen mit den intelligenten Maschinen.
Bekannte Transhumanisten sind Sam Altman, Chef des KI-Konzerns OpenAI, Investor Peter Thiel, Elon Musk, der Oxford-Philosoph Nick Bostrom, Ray Kurzweil von Google und viele andere aus diesem Umfeld.
Problematisch ist beim Longtermismus vor allem, dass alle ethischen Entscheidungen ohne Berücksichtigung der aktuell lebenden Menschen getroffen werden, weil die Zahl der in den nächsten Millionen Jahren noch folgenden Generationen die derzeit lebenden Menschen einfach überstimmmt (daher auch der Name). Das bedeutet z.B. für den Energiehunger der generativen AI-Systeme, dass wir den Energieverbrauch und die Klimakrise ignorieren müssen, denn die Hoffnung darauf, dass künftige AI-Systeme alle Probleme der Menschheit lösen, erschlägt, multipliziert mit der Zahl aller zukünftigen Menschen die Sorgen der derzeit lebenden Generationen und ihrer direkten Nachkommen.
Was bedeutet der Hitzetod von 1-2 Milliarden Menschen in den nächsten 100 Jahren, verglichen mit Milliarden von zukünftigen Generationen denen die AI-Systeme ein sorgenfreies Leben ohne Arbeit und Mühen bescheren könnten, teilweise verschmolzen mit intelligenten Maschinen. Das klingt extrem bizarr - ist aber leider das Denken von Musk, Thiel, Altman und ihren Geschäftskollegen. Hier ein Artikel dazu: Die KI-Religion der Tech-Barone. Dieser Artikel verweist wiederum auf einen Vortrag beim 2024 Congress des Chaos Computer Clubs: Longtermismus – der „Geist“ des digitalen Kapitalismus - Die stark gruselige KI-Religion der Tech-Barone wie Elon Musk und anderer Silicon Valley Oligarchen.
Aktualisierung Februar 2025:
Eine Ergänzung zum Artikel zu Transhumanismus und Longtermismus als Philosophie der Silicon Vally Herrscher: Ganz in diesem Sinne ist Musks Entscheidung, die US Entwicklungshilfe USAID komplett und ersatzlos einzustellen. Hier noch ein guter Artikel zu Longtermismus: Longtermism: Die Moral der Milliardäre.
An anderer Stelle hatte ich bereits früher über Konzepte wie Longtermism und das "Eulenbuch" von Nick Bostrom berichtet.
Aktualisierung April 2025:
Hier ein guter ausführlicher Artikel zu diesen Themen: Longtermismus: Warten auf den KI-Gott . Ebenfalls lesenswert ist Der Aufstieg des Cyberfaschismus. Viele Entwicklungsländer spüren bereits die Wirkungen des Longtermismus, zB über die Einstellung der US-Entwicklungshilfezahlungen für Ernährung, Verhütung und Impfungen in Afrika. Aber die Pläne der Tech-Milliardäre wollen auch in den USA und in Europa ihre undemokratischen Konzepte schrittweise umsetzen.
2. Zum Selbst-Testen: Wie gut kann eine AI Fotos analysieren
Ein indischer Ex-Google-Mitarbeiter und Softwareentwickler hat ein Tool entwickelt, das uns zeigt, was Google alles aus unseren Fotos herauslesen kann: they see your photos. Das Tool verbindet sich zur Google Vision API, Nutzer laden Photos mit Menschen hoch und das Google-System liefert eine Analyse der abgebildeten Menschen, z.B. eine Schätzung von Alter, Emotionen, Einkommen und mögliche politische Ausrichtung (auf USA bezogen). Außerdem schlägt die AI noch vor, welche Produkte man bei diesen Menschen bewerben könnte.
Wer ganz vorsichtig sein will, der/die verwendet die Beispielfotos der Website. Hier ein Hintergrundartikel dazu: Dieses Tool zeigt, was Googles KI aus euren Fotos herausliest.
Ein Mann und Frau stehen am Fluss, der Mann hat ein Boot, wie können beide auf die andere Seite kommen? - Die Generative AI ist verwirrt durch die bekannte Aufgabenstellung: Mann, Wolf, Ziege, Kohlkopf. Die AI erkennt nicht, dass in diesem Fall keinerlei Problem vorliegt.
3. Schon wieder AI, 2x (unfreiwilliger) AI-Humor
Das alte Problem der generativen AI: es fehlt ein grundlegendes Verständnis der Welt und logisches Denken.
Hier hat sich jemand eine Variation des Schachspiels ausgedacht und er fragt ChatGPT, welche neuen Strategien sich daraus ergeben. Die Aufgabenstellung:
Läufer und Springer vertauschen ihre Anfangspositionen und sie vertauschen auch die Art, wie sie sich bewegen. Dh der Läufer 'springt' nun und der Springer zieht in den Diagonalen. ChatGPT hält das für eine neue interessante Schachvariante.
Dann wird weiter verkompliziert: Springer und Läufer tauschen nun gegenseitig zusätzlich noch ihr Aussehen. ChatGPT erklärt:
". . . it’s a great way to break out of standard chess patterns and see how adaptable your board vision truly is!" Nun ja, . . .
4. Trump und Silicon Valley - die Selbst-Unterwerfung der Oligarchen
Die augenblicklichen Entwicklungen rund um die Wahl von Trump zum Präsidenten haben leider auch viel mit Themen rund um das Internet und Social Media zu tun. Die reichsten Firmenchefs im Silicon Valley, d.h. die reichsten Menschen der Welt, scharen sich derzeit um den neuen Präsidenten, spenden für die Feier der Amtseinführung und passen in vorauseilendem Gehorsam ihre Produkte an.
In 2024 wurde Zuckerberg von Trump wegen angeblicher Zensur mit Gefängnis bedroht (wegen Moderation und Vorgehen gegen Beschimpfungen und Drohungen gegen LGBT-Menschen, 'Linke' und Ausländer). Januar 2025 schaffte Zuckerberg dann Moderation in den USA komplett ab, er bereut öffentlich in Trump-orientierten Sendern die frühere Moderation als Zensur und erlaubt Hetze auf Facebook und Instagram, derzeit erst mal nur in den USA. Viele der Meta-Angestellten sind in erheblicher Panik: "Totales Chaos" intern bei Meta, Angestellte erzürnt wegen Anti-LGBT-Änderungen. Zuckerbergs Reaktion: Wer nicht spurt, fliegt: Meta will "Low Performer" aussortieren.
Nun wird auch bekannt, dass bereits seit einiger Zeit ein guter Anteil der Profile auf Facebook AI-bots sind, zum Teil recht 'diverse' Profile, z.B. lesbisch und afro-american. Ob diese Profile bleiben werden ist sehr fraglich, einige sind bereits verschwunden. Denn Zuckerberg hat auf Facebook für mehr "maskuline Energie", weniger Diversität und eine Firmenkultur, "die Aggression ein wenig mehr feiert", geworben. Zuckerberg ist aber nicht der einzige der Silicon Valley-Firmenchefs, der sich Trump komplett unterwirft.
Auf der Website des Chaos Computer Clubs Wien habe ich übrigens eine ganz kurze Geschichte des Internets in Tabellenform mit weiteren "Sündenfällen des Internets".
Hier mein voriger Artikel zu Social Media Sündenfälle.
5. Einige Videos vom Chaos Computer Congress
Hier folgt nun die recht lange Liste der Videos, die ich sehenswert fand, zum Teil mit Link auf meine früheren Beiträge dazu:
6. Neues zu Standortdaten
Vor 2 Monaten hatte ich über den Handel mit Standortdaten berichtet. Der von mir geschilderte Handel mit unseren Ortsdaten war eigentlich schrecklich genug. Aber es kommt nun noch eine ganze Stufe gruseliger und hinterhältiger.
Eine Hackergruppe hat den US-Datenhändler namens Gravy Analytics gehackt, eine große Menge Daten entführt und analysiert. Dabei fanden sie Ortsdaten, zusammen mit den Namen der rund 40.000 unterschiedlichen Apps, die diese geliefert hatten. Die Daten stammen aus USA, Russland und Europa.
Die Überraschung:
Die Apps gliedern sich in 2 Gruppen. In der ersten Gruppe sind Apps, die ganz offen den Standort mittels GPS abfragen, dazu gehören z.B. Flightradar 24, Wetter Online, Kleinanzeigen, Messenger Kik, die queere Dating-App Hornet. Diese Apps liefern exakte Standortinformationen und die Nutzer haben die Standort-Abfrage explizit frei gegeben.
Die 2. (größere) Gruppe der Apps sammelt gar keine Ortsdaten und die Entwickler schwören, dass sie keine Ortsdaten haben und daher auch nicht verkaufen können. Und in den allermeisten Fällen stimmt das sogar.
Was alle diese Apps aber gemeinsam haben, das ist, dass sie, zumindest in der kostenlosen Version, Werbung schalten. Um diese Werbung abzurufen (im Rahmen des sog. real-time biddings (RTB)) melden sich die Apps bei einem Werbenetzwerk, natürlich mit der IP-Adresse des Smartphones. Dieses Werbenetzwerk verkauft die IP-Adressen und möglicherweise weitere demografische Daten, die die App weitergegeben hat, an Datenhändler weiter. Die Datenhändler bestimmen aus der IP-Adresse den ungefähren Standort, dafür gibt es weltweite Tabellen. Der Standort ist zwar oft recht fehlerhaft, aber die ungefähre Gegend kommt üblicherweise schon hin. Das ist zumindest ausreichend, um ein gewisses Bewegungsmuster festzuhalten.
Die App-Entwickler wissen/wussten von diesem Handel mit den Ortsdaten ihrer Nutzer wirklich nichts, sie dachten, dass sie einfach Werbung schalten, aber nicht, dass sie Ortsdaten weitergeben.
Zu dieser Grupppe von Apps, bei denen der Standort aus der IP-Adresse bestimmt wird, gehören z.B. Candy Crush, Vinted, Tinder, Grindr, Temple Run, Subway Surfers, Harry Potter: Puzzles&Spells; Moovit, My Period Calendar&Tracker, MyFitnessPal, Tumblr, Yahoo Email client, Microsoft 365 office app, Muslim Prayer Apps und christliche Bibel Apps, unterschiedliche Schwangerschaftstracker und sogar VPN-Apps (das ist extra ironisch, denn die werden benutzt um den Standort zu verschleiern). Hier eine Liste mit über 12000 Apps auf Google Docs.
Es wird extrem schwierig sein, diesen Datenhandel abzustellen. Denn zu den Kunden, die diese Daten kaufen, gehören US Immigration and Customs Enforcement, US Customs and Border Protection, die US-Steuerbehörde IRS, das FBI und Drug Enforcement Administration. Diese Überwachung kann bei den geplanten Aktionen von Trump noch stark zum Einsatz kommen und wird sicher nicht abgestellt.
Netzpolitik.org zeigt 7 Wege, um den Standort vor Databrokern zu schützen - aber so richtig klappt das nur mit Apps, die den realen Standort kommunizieren möchten, nicht die Apps, die den Standort über die IP-Adresse weitergeben.
Zum vorigen Beitrag der Analyse der deutschen Bewegungsdaten hier die illustrierte Version vom Chaos Computer Congress im Dezember: Databroker Files: Wie uns Apps und Datenhändler der Massenüberwachung ausliefern.
Ebenfalls Standortdaten sammeln alle Hersteller von PKWs und LKWs. Dazu gibt es ausführliche Recherchen an anderer Stelle.
7. Ergänzungen früherer Beiträge
 |
Nun kostenlos: Ross Anderson, Security Engineering
DER Klassiker zu technischer Sicherheit in allen Aspekten - schon das Inhaltsverzeichnis zeigt, wie umfassend sein Zugang zu Sicherheit ist. Ross Anderson, Security Engineering - A Guide to Building Dependable Distributed Systems.
Das Hardcover-Buch hat stolze 1232 Seiten, nachdem er leider recht früh gestorben ist, gibt es nun das gesamte Buch kostenlos als PDF auf seiner Website: Ross Anderson, Security Engineering. Als Bonus noch 15 1-stündige Videos von seinem Unterricht an der Uni.
Als Pendant zum EU Resilience Act: U.S. Cyber Trust Mark
Einige Aktualisierungen und Präzisierungen zum U.S. Cyber Trust Mark. Es ist gut, dass nicht nur die EU eine Sicherheitsverbesserung bei Internet of Things-Geräten belohnt.
Medien-Monitor von Saferinternet.at
Ich hatte im vorigen Newsletter über Medien-Konsum der Jugend berichtet. saferinternet.at bringt nun aktuelle Zahlen: Der aktualisierte Medien-Monitor von Saferinternet.at.
Die Grafik zeigt: WhatsApp auf Platz 1, auf Platz 2 folgt YouTube, dahinter liegen Snapchat und Instagram, sowie TikTok. Danach folgt überraschenderweise MS Teams. Microsoft hat das wohl über seine Präsenz in den Schulen zur Covid-Zeit geschafft.
Krypto und Love Scams - es geht immer weiter
Ergänzung zu meinem Bericht über die Krypto und Love Scams. Aktuell wird über einen chinesischen Schauspieler berichtet, der einen Wechat-Post mit einem Job-Angebot gesehen hatte, nach Thailand flog und dann in ein Camp der Scammer in Myanmar gebracht wurde, wo er Love- und Kryptoscams hätte durchführen müssen. Auf Intervention seiner Partnerin konnte er befreit werden. Schauspieler aus Scamcenter-Hölle in Myanmar befreit.
Ergänzung Feb. 2025:
Was alles geht: Thailand, das bisher die Myanmar-Provinzen in denen sich die Scam-Lager in Myawaddy, Payathonzu und Tachileik befinden mit Energie versorgt hat, hat nun den Strom abgedreht. Das trifft aber natürlich die ganze Bevölkerung, ist also keine wirkliche Lösung. Ohne Energie gibt es auch kein sauberes Trinkwasser, das ist wirklich eine brutale Intervention.
Ergänzung März 2025:
Das ist leider aber nicht das Ende dieser Zwangsarbeitslager - mit Hilfe von Starlink sind die Lager wieder online. Die Details im März.
Das hatte gefehlt: Watchlist-internet.at: Geswiped, geflirted, getäuscht? Vorsicht vor Love Scams auf Dating-Portalen. Wie kann man so etwas erkennen, speziell bei Freunden und Freundinnen erkennen und wie kann man ihnen helfen.
Digitalzwang revisited
Zum vorigen Artikel zu Digitalzwang gibt es leider Aktualisierungen, die BVG-App (Berliner Verkehrsbetriebe) ist noch ein gutes Stück problematischer, sie funktioniert nämlich sehr oft und für viele einfach gar nicht - die Details beim vorigen Link.
UN-Cybercrime-Konvention
Zum vorigen Artikel zur UN-Cybercrime-Konvention: Trotz starker Kritik: Umstrittene UN-Cybercrime-Konventionverabschiedet. Netzaktivisten haben vergeblich vor der Verabschiedung der Konvention gewarnt. Denn Initiator dieser Konvention ist Russland. 'Cybercrime' kann nun beliebig weit verstanden werden, solange ein Computer involviert ist. Es droht daher die Verpflichtung, digitale Beweismittel über oppositionelle Aktivitäten an alle Staaten zu liefern, die solche Aktivitäten unter 'Cybercrime' fassen.
AI Act + AI Code of Practice
Nun eine Ergänzung zum AI Act. Die Arbeit am Text des AI Acts wurde ja bereits 2021 begonnen, zu einer Zeit, als generative AI-Systeme wie Large Language Models (LLM) und andere nicht-fachspezifischen AI Systeme noch kein großes Thema waren. Dann kam ChatGPT und ähnliche 'generelle' AI Systeme, die im ersten Entwurf gar nicht enthalten waren, die aber durchaus spezifische Risiken darstellen können.
Um die Arbeit am AI Act nicht zu verzögern wurde entschieden, die Regeln für general-purpose AI in ein separates Dokument auszulagern, dem AI Code of Practice. Die Arbeit am AI Code of Practice wurde September 2024 begonnen. Hier 2 Texte dazu: On the EU AI Code of Practice und Feedback on the Second Draft of the General-Purpose AI Code of Practice.
Und hier eine ganz frische positive Bewertung des AI Acts (so positiv wie ich das auch sehe): AI Act: Ab Sonntag sind hochgefährliche KI-Anwendungen in der EU verboten.
"Markets in Crypto-Assets" (Mica) + "Digital Operational Resilience Act" (Dora)
Noch mal die EU: Die MiCA-Verordnung ist seit Dezember in Kraft und dazu kommt noch Dora. Hier die Mica- und Dora-Details.
"Sexting"
Im Zusammenhang mit dem Vorgehen gegen "bildliche sexualbezogene Darstellungen minderjähriger Personen" ist die Hälte der 'erwischten' Personen minderjährige, meist beim Austausch von sexualisierten Fotos mit Gleichaltrigen. Die Details an anderer Stelle.
Anmeldung auf academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.