245. Newsletter - sicherheitskultur.at - 23. Juni 2026

von Philipp Schaumann

Letzte Ergänzungen 21.06.2026

Themen-Überblick aller Newsletter

Hier die aktuellen Meldungen:

1. Marktanteile AI-Chatbots

Hier Links findet sich eine Aktualisierung der Marktanteile der AI-Chatbots (hier die Version vom März). Die Grafik stammt aus dem Artikel von Brad DeLong und Dan Davies: ↑(opens in a new tab)Meet the New Economy, Same as the Old Economy. Der Kampf um die Vorherrschaft unter den US-Anbietern der Sprachmodelle spitzt sich zu auf die Auseindersetzung zwischen den Startups Anthropic und OpenAI gegen die etablierten IT-Giganten Google, Meta und Microsoft. Parallel dazu entwickeln sich in China diverse starke Konkurrenten auf der Basis von 'offenen Modellen', die sehr wohl als fast gleichwertig betrachtet werden (bzw., die in Zukunft sogar die besseren Modelle haben könnten).

Spezialfall Anthropic

Anthropic könnte ein Spezialfall sein. Ihre AI-Systeme haben den Ruf, die besten Systeme sowohl für das Schreiben von Computerprogrammen ("vibe coding") wie auch für die Fehlersuche in Programmen, die besten Lösungen anzubieten. Es wird vermutet, dass das daran liegen könnte, dass sie keine reine neuronalen Netze nutzen, sondern die Hybridlösung "neurosymbolic AI". Die Grafik links zeigt wachsende Anteile von Anthropic trotz der Abnahme bei ChatGPT und dem Wachsen von Gemini.

Anthropic hat sich aber auf Grund der eigenen ständigen öffentlichen Warnungen vor der Gefährlichkeit ihrer Modelle in die Situation gebracht, dass Trump, nach Hinweisen von Amazon, die Nutzung ihrer ↑(opens in a new tab)KI-Modelle Fable 5 und Mythos 5 für alle Nicht-US-Bürger verboten hat.

Dieses selektive Verbot auf Grund der Staatsbürgerschaft des jeweiligen Nutzers gilt sogar für ausländische Angestellte von Anthropic selbst. Anthropic kann das aber technisch weltweit gar nicht umsetzen (Anthropic weiß nicht, welchen Pass jeder Kunde hat) und hat daher sein neues (angeblich so gefährliches Modell) wieder durch das Vormodell ersetzt. Ob dieses Verbot dem Erfolg von Anthropic schaden wird, bleibt offen. Auf jeden Fall zeigt dieses kurzfristige Verbot, dass europäische Firmen sich auf die Angebote der US-Firmen nicht verlassen können, der ↑(opens in a new tab)heise.de Kommentar: Die beste Werbung für europäische KI-Anbieter. Anderseits gibt es Berichte, dass die Sperre löcherig sei: ↑(opens in a new tab)Trotz US-Sperre: Anthropic gewährt ausgewählten Firmen weiter Zugriff auf Mythos-KI. Hier ein ausführlicher Text zur Problematik von 'gefährlichen' AI-Systemen und Regierungseingriffen: ↑(opens in a new tab)Anthropic Lacks Emotional Intelligence.

Die unterschiedlichen ökonomischen Überlegungen der AI-Anbieter

Für Anthropic und OpenAI geht es um das Überleben als Firma. Für Google, Meta und Microsoft geht es 'nur' darum, nicht abgehängt zu werden, bzw. vielleicht von den beiden kleineren Marktanteile zu 'stiebizen'. Die derzeitigen 'Großen' können von ihren traditionellen Umsätzen sehr gut leben und auch ziemlich große Investitionen in Rechenzentren stemmen. Apple hält sich, seit ihre eigenen Experimente mit Siri ziemlich schief gegangen sind, aus dem Rennen heraus (siehe Abschnitt etwas tiefer).

Die Integration ihrer AI Gemini in die Google-Suche, sowohl für AI-Zusammenfassungen, wie auch als Chatbot, ändert für Google ökonomisch nicht viel. Das Ziel ist, Abwanderungen der Kunden zu anderen Chatbot-Anbietern zu verhindern. Google kann für die integrierten AI-Dienste nur schwer Geld verlangen, sonst wandern die Nutzer zu anderen Such-Angeboten wie Qwant, Duckduckgo oder Ecosia.

Die treuen Suchmaschinen-Nutzer erlauben Google das Schalten von Werbung rund um die Suchergebnisse oder AI-Zusammenfassungen (und bringen dadurch Geld). Aber selbst wenn die Nutzer mit den AI-Zusammenfassungen nicht zufrieden sind und zu den Originalseiten (zB unseren Zeitungen) gehen, so verdient Google durch das Platzieren von Werbung auf den Zeitungsseiten (das ist sehr bequem, ein Quasi-Monopolist für Werbung im Internet zu sein 😀). Google kann aber die Werbung auch nicht teurer machen, denn Google hat als Quasi-Monopolist den Preisspielraum eh bereits ausgenutzt.

Nutzer sparen durch die AI-Zusammenfassungen bei der Suche möglicherweise Zeit, sie kommen (evt.) schneller an (mögliche) relevante Informationen (die sie dann selbst verifizieren müssen). Aber sie müssen 'nur' die zitierten Quellen verifizieren). Für Google bietet die Gemini-AI einen sog. "moat", einen "Wallgraben" zum Schutz vor möglicher Konkurrenz durch Startups wie OpenAI und Anthropic. Google, FaceBook, und evt. auch Amazon investieren in KI-Rechenzentren, um ihr jeweiliges Monopol nicht zu gefährden. Dh sie investieren defensiv und nicht unbedingt, um neue Märkte zu erschließen.

Dh für die Gesamt-Ökonomie zwischen den großen IT-Anbietern ändert sich fast nichts: Google muss investieren um sein Quasi-Monopol zu behalten, aber die Umsätze steigen nicht. Evt. gewinnen die Nutzer etwas Effektivität in ihren Such-Anfragen. Google muss aber aufpassen, dass nicht eine Haftung für die AI-Antworten beschlossen wird, siehe der Text im vorigen Newsletter zur einstweiligen Verfügung in Deutschland.

Noch ein Spezialfall: Apple Siri AI

Nachdem Apple mit seiner Sprachsoftware ↑(opens in a new tab)Siri [wiki] sich gegen die Smartphone Assistenz-Programme auf AI-Basis nicht durchsetzen konnte, entschied sich Apple, aus dem AI-Investitionsrennen gegen Facebook, Google und Microsoft ganz auszusteigen, abzuwarten welches Software sich durchsetzt und dann auf der Basis dieser Software, ein "neues Siri" anzubieten: ↑(opens in a new tab)HORACE DEDIU: The Most Brilliant Move in Corporate History?

Die neue ↑(opens in a new tab)"Siri AI" [wiki] wird nun auf der Basis von Google Gemini für alle Apple Betriebssysteme ausgerollt ('Siri für iOS' erst mal nicht in der EU, es gibt da noch Diskussionen bzgl. Datenschutz, bzw. ob Apple anderen AI-Assistenten den gleichen Zugang zu den Daten der Nutzer geben muss).

Bei der Implementierung von 'Siri AI' möchte Apple viele der üblichen AI-Probleme vermeiden: ↑(opens in a new tab)Siri warnt vor Suchtfaktoren, zB bei zu langer Nutzung und betont ausdrücklich, dass es kein Mensch ist und nicht als Partnerersatz dienen kann. Versuche, Siri zur Freundin zu machen, werden von der Software explizit abgelehnt.

2. 70 Jahre "Artificial Intelligence"

Vor ziemlich exakt 70 Jahren wurde der (im Nachhinein sehr clevere) Begriff der "künstlichen Intelligenz" kreiert. Das war die ↑(opens in a new tab)"Dartmouth workshop on AI” [wiki]. Eingeladen hatten die Universitätsforscher John McCarthy, Marvin Minsky, Claude Shannon und Nathaniel Rochester von IBM.

Für den Finanzierungsantrag dieses Zwei-Monats-Arbeitsworkshops wurde als Ziel definiert: "Maschinen dazu zu bringen, Sprache zu benutzen; Abstraktionen vorzunehmen und Konzepte zu entwickeln; Probleme der Art, die zurzeit dem Menschen vorbehalten sind, zu lösen; und sich selbst weiter zu verbessern". All dies wurde unter dem Schlagwort Artificial Intelligence zusammengefasst.

Die geplanten 2 Monate haben dann für die Lösung der gesteckten Ziele doch nicht ausgereicht, aber nach 70 Jahren gibt es auf vielen dieser Gebiete durchaus deutliche Fortschritte. Auch wenn der Begriff "künstliche Intelligenz" als Ziel der 2 Monate viel zu hoch gesteckt war, so ist (marketing-technisch) Artificial Intelligence ziemlich genial. Trotz (oder auch wegen) all den Missverständnissen, die sich aus dem sehr weit gefassten (und sehr unscharfen) Begriff 'Intelligenz' ergeben.

Zur Feier des 70. Geburtstags veranstaltete die Digital Humanism Initiative (gegründet in Wien) ein 1-stündiges Gespräch: ↑(opens in a new tab)Video: 70th anniversary of Dartmouth workshop on AI.

Einige der Bemerkungen aus dem Video: Der Begriff AI suggeriert, dass überragende Intelligenz eine Lösung für fast alles sein könnte. Toby Walsh wiedersprach: Wir wissen schon lange, was getan werden müsste, um die Klimakatastrophe zumindest zu lindern, da reicht die menschliche Intelligenz vollkommen aus. Aber die Interessen einflussreicher Menschen wollen genau diese intelligenten Lösungen verhindern.

Eine weitere Beobachtung: Wir neigen dazu, die kurzfristigen (positiven) Effekte einer neuen Technologie zu überschätzen (siehe Kernenergie, Raumfahrt, fliegende Autos). So wurde bis ca. 2010 die gerade aufkommende künstliche Intelligenz als schnelle positive Lösung für viele unserer Probleme gesehen. Aber da wir nun konkrete Implementierungen in unseren Alltag integrieren, werden auch die negativen Aspekte deutlich (Verlust der gemeinsamen Realität durch deep fakes (und ihre tolle Effektivität für Kriminalität jeglicher Art), hässliche Nudify-Services, Überschwemmung mit AI-Schrott bei Büchern und Musik und vieles anderes).

Hier mein früherer Beitrag zur Geschichte und Entwicklung der unterschiedlichen Ausprägungen von AI.

3. Automatische AI-Waffen im Krieg

Der Einsatz von AI, auch von ↑(opens in a new tab)AI-Chatbots, wird immer mehr zum Normalfall bei den Staaten, die Zugang zu dieser Technologie haben. Sehr ausführlich ist die Dokumentation des Einsatzes von AI im Gaza-Krieg, aber auch im aktuellen Iran-Krieg. Die generativen AI-Systeme werden hauptsächlich für die Zielauswahl genutzt, rein formal gibt es immer einen ↑(opens in a new tab)"Human-in-the-Loop" [wiki], dh einen Soldaten, der die Freigabe der Angriffe auf die von der AI ausgewählten Ziele erteilt. Wie effektiv diese Entscheidung dann wirklich ist, bleibt umstritten: ↑(opens in a new tab)Why having “humans in the loop” in an AI war is an illusion. Der Artikel: ↑(opens in a new tab)The new war room argumentiert, dass AI-Chatbots nun auf allen Ebenen für Entscheidungen in Kriegen eingesetzt werden (so wie in den Büros auch - an die Fehler und Halluzinationen wird man sich gewöhnen müssen, siehe die Bombardierung der Mädchenschule im Iran 😢).

Nun wird aus der Ukraine ein erstes Beispiel für den Einsatz von Drohnen ohne menschliche Aufsicht berichtet, das heißt, ohne Einzelentscheidung bzgl. der Tötung einzelner Soldaten: ↑(opens in a new tab)Fully autonomous drones have killed human soldiers for the first time. Der Test wurde wohl bereits vor 2 Jahren in der Ukraine durchgeführt. In einem bestimmten Gebiet wurde ein vollautomatischer Angriff getestet, 10 ukrainische Drohnen ohne menschliche Steuerung waren im Einsatz, russische Soldaten wurden dabei getötet.

Das Problem bei solchen autonomen Angriffen ist, dass es ohne "Human-in-the-Loop" durch AI-Fehler zu Verletzungen des ↑(opens in a new tab)Kriegsvölkerrechts kommen kann. Das wäre zB das Töten von Zivilisten oder von Soldaten, die sich bereits ergeben haben. Auch könnte die AI des Waffensystems eigene Soldaten für Gegner halten und angreifen.

Deshalb finden auch in der Ukraine (eigentlich) keine rein auonomen Angriffe statt, alle Waffen müssen immer von Menschen gesteuert werden. Anderseits verteidigen teil-autonome Roboter teilweise über viele Wochen ↑(opens in a new tab)ukrainische Stellungen gegen russische Angriffe, ohne dass ein ukrainischer Soldat in der Nähe ist (vermutlich gibt es aber Zugriff auf die Kameras der Geräte). Ein UN-Bericht aus 2021 berichtete über den vollautomatischen Einsatz von türkischen Kargu-2 Quadcoptern in Libyen durch das "Government of National Accord" (GNA). Es ging angeblich um die Verfolgung fliehender Haftar Truppen (siehe ↑(opens in a new tab)Drones may have attacked humans fully autonomously for the first time).

Verhandlungen über ein Verbot von autonomen Waffen, die selbständig Töten, finden seit Jahrzehnten auf UN-Ebene statt, aber da geht bisher nichts weiter. Die Länder Indien, Israel, Russland und die USA legen wohl jeweils ein Veto ein. Aktuell warnen über 200 Organisationen ↑(opens in a new tab)vor automatisierter Kriegsführung ohne Kontrolle. New Scientist schreibt: ↑(opens in a new tab)Killer robots are here – we must finally decide whether to accept them. Ihr Punkt: die Waffen sind da, sie funktionieren und wenn sie nicht verboten werden (so wie zB chemische und biologische Waffen, der Einsatz von Lasern zur Blendung und andere Waffen verboten sind), dann werden sie auch eingesetzt werden. Selbst ↑(opens in a new tab)Rheinmetall-Chef plädiert für Regulierung von KI-Waffeneinsatz. Ebenfalls ganz aktuell: ↑(opens in a new tab)Panzer ohne Personal: Firmen bewerben autonome KI-Systeme. Es geht primär um autonome Militärfahrzeuge, die selbständig zB Verwundete transportieren, Minen entschärfen oder Nachschub transportieren. Anderseits haben einige der Fahrzeuge auch eine Bewaffnung. Kritiker dieser Entwicklung sind nicht sicher, ob dies nur "positive Feigenblätter" für die neuen Technologien sind.

Hier der Link zum vorigen Beitrag zu autonomen Waffen.

4. "Chilling Effects" bringen die US-Zivilgesellschaft zum Schweigen

Der ausführliche Artikel ↑(opens in a new tab)Chilling effects of Trump’s war on free speech extend far beyond campus walls – and that’s the point berichtet, dass in der Zivilgesellschaft der USA immer weniger Proteste gegen die Politik von Trump zu beobachten sind, obwohl die Regierung in Umfragen extrem unbeliebt erscheint. Hier zum Begriff ↑(opens in a new tab)Chilling effect [wiki].

Der Grund liegt wohl in den systematischen Racheaktionen der Regierung als Reaktion auf jegliche kritische Handlungen, seien es aktive Proteste auf Universitäten oder politischer Wiederspruch von Politikern, wie dem kalifornischen Gouverneur ↑(opens in a new tab)Gavin Newsom [wiki], in dessen familiären Umkreis Trump nach Möglichkeiten von Klagen suchen lässt.

Der Artikel beschreibt viele Aktionen von Selbstzensur von Verlagen, Professoren, Schulen und Firmen. Der Artikel sieht aber durchaus Änderungsmöglichkeiten. Auch in der ↑(opens in a new tab)McCarthy-Ära herrschte ein vergleichbares Klima der Angst und auch das wurde nach ca. 5 Jahren wieder überwunden.

5. Wer Technologie für die Lösung seiner Probleme hält, . .

Ein schönes Zitat wird seit langer Zeit zwischen verschiedenen (angeblichen) 'Erfindern' variiert und attributiert: "Wer Technologie für die Lösung seiner Probleme hält, der hat die Technologie nicht verstanden und seine Probleme auch nicht". In dieser allgemeinen Version kann ich gut mit der Aussage leben, generative AI ist sicher so eine Scheinlösung.

Frühere Variationen waren: "Wer Kryptographie für die Lösung . . ." oder " . . . Technologie für die Lösung von Sicherheitsproblemen hält . . ." - hier die Diskussion zur Autorenschaft: ↑(opens in a new tab)Laurie Anderson Is Quoting.

Hier nun einige Beispiele für den Versuch, psycho-soziale Probleme durch Technik zu lösen. Da sind zB die Versuche, die Probleme der ungebremsten und kaum moderierten Social Media mit ihren sucht-erzeugenden ↑(opens in a new tab)Dark Pattern [wiki] (zB endloses Scrolling, auto-play der Videos, Belohnungsmuster wie beim Glücksspiel), in unserer gesamten Gesellschaft anrichten. Dieses Problem soll durch die Technik einer Alterskontrollegelöst werden. An anderer Stelle habe ich über die Liste von technischen Herausforderungen dieser Scheinlösung berichtet. Eine gute Lösung würde die Betreiber zu strenger Moderation zwingen.

Oder die schon über Jahre versuchten Bemühungen, Darstellungen zu Kindesmissbrauch durch technische Lösungen wie die Überwachung unserer Kommunikation zu verhindern (CSAM). Ein anderes Beispiel ist, wenn eine theoretische künstliche Super-Intelligenz als Lösung fast aller Probleme der Menschheit gesehen wird, einschließlich der kommenden Klimakatastrophe, die durch die gas-betriebenen US-AI-Rechenzentren noch mal deutlich beschleunigt wird. Oder wenn Kryptowährungen) als Lösung für dezentrale globale Geldflüsse (oder Blockchain-Technologie als Schutz der Kinder vor den Risiken des Vapings) gesehen werden.

Zu Bruce Schneiders Punkt, warum Kryptographie nicht die Lösung aller Internet-Sicherheitsprobleme ist, sein Artikel aus dem Jahr 2000: ↑(opens in a new tab)The Intersection of Encryption and AI (damals waren künstliche neuronale Netze noch ein Experiment ohne große Erfolge). Schneier verweist auf Denial of Service Angriffe, das Verändern von Websites, Kreditkartendiebstahl, Identitätsdiebstahl, Schadsoftware ganz allgemein, einschließlich Viren und Würmer und so weiter.

6. Ergänzungen früherer Beiträge

Moderne "Robber Barons"

Ökonomie Nobelpreisträger Paul Krugman vergleicht die heutigen Tech Oligarchen mit den berüchtigten US "↑(opens in a new tab)Robber Barons" [wiki], den US-Superreichen des 19. und frühen 20. Jahrhunderts. ↑(opens in a new tab)Meet the New Bosses, Worse Than the Old Bosses. Dabei schneiden unsere heutigen Oligarchen nicht gut ab.

Seine Punkte: die Konzentration des Reichtums in den Händen weniger war schon damals dramatisch, aber kein Vergleich zu den gigantischen Vermögen der neuen Tech-Oligarchen (Musk nun der erste Billionär (= 1000 Milliarden)). Viele der damaligen Namen kennt man heute auf Grund ihrer Stiftungen, zB Carnegie Hall, Rockefeller Stiftung, Stanford University, Carnegie Mellon University, Andrew W. Mellon Auditorium, Vanderbilt University, Rockefeller University.

Die heutigen US-Oligarchen sind dafür bekannt, maximal 1% ihrer heute gigantischen Vermögen zu spenden, die letzten größeren Stiftungen der Superreichen waren von Bill Gates und Warren Buffet. Die Tech-Oligarchen verwenden ihren Reichtum ausschließlich zum Beeinflussen der US-Politik zum eigenen Vorteil und zur Verbreitung ihrer anti-demokratischen Ideen - hier der Überblick der Tech-Oligarchen.

In den USA erscheint das Buch ↑(opens in a new tab)"Regime Change" der NY-Times-Autorin Maggie Haberman. Sie beschreibt (unter anderem), wie sich der US-Präsident hinter ihrem Rücken über die schleimenden Tech-Bosse lustig macht, speziell das Verhalten von Zuckerberg und Bezos findet Trump sehr lustig. Hier eine Zusammenfassung: ↑(opens in a new tab)Trump macht sich über unterwürfige Tech-CEOs wie Mark Zuckerberg und Jeff Bezos lustig.

AI, SpaceX und ETF Index-Fonds

In einer früheren Ausgabe habe ich viel mehr Details zur Frage ergänzt, wie der SpaceX-Börsengang sich auf Besitzer von ETF-Index-Fonds auswirkt ('it is complicated').

Im Falter wird die Aktion von Musk analysiert: ↑(opens in a new tab)Elon Musk greift nicht nur nach den Sternen. Sondern auch nach der Macht. Der Punkt ist: Musk (und seine Tech-Buddys) wollen mehr als nur unsagbar reich werden. Sie wollen den Staat nicht abschaffen, sondern ihn in einer vermeintlich souveränen Gestalt erhalten, um ihre Geschäfte abzusichern (zB dadurch, dass SpaceX den Kern der US-Raumfahrt darstellt und die AI-Firmen ihre Software und damit ihren Einfluss in allen staatlichen und nicht-staatlichen Institutionen platzieren, die Palantir-Sofware in allen Polizeibehörden). Sie erkannten, dass sie mit dem Staat verschmelzen müssen.

Die Delegation von staatlichen Aufgaben an Superreiche und Firmen gab es schon öfter: die ↑(opens in a new tab)Fugger [wiki] finanzierten Kriege, Kaiser und einen Papst, die ↑(opens in a new tab)Niederländische Ostindien-Kompanie [wiki] kolonialisierte Südostasien auf brutale Weise und die ↑(opens in a new tab)britische East India Company [wiki] war nicht humaner. Für Staaten war es oft attraktiv, teure oder politisch brisante Aufgaben an Private zu delegieren. Ein weiteres Beispiel (nicht im Artikel erwähnt) war das Delegieren der Piraterie an ↑(opens in a new tab)Freibeuter [wiki].

Meta verdient gut an Betrügereien

ÖIAT-Studie: ↑(opens in a new tab)Über 600.000 betrügerische und problematische Werbeanzeigen auf Facebook und Instagram. Eine „Analyse des Betrugsökosystems Online-Werbung auf Meta-Plattformen“ hat erstaunliche Ergebnisse geliefert. Über einen Zeitraum von drei Monaten entdeckte die Forschungsabteilung des ÖIAT über 600.000 betrügerische bzw. problematische Werbeanzeigen auf Meta-Plattformen. EU-weit wurden diese über 1 Milliarde Mal ausgespielt, davon 123 Millionen Mal allein in Österreich. Hier mein Überblicksartikel zu Meta und Betrug.

Kostenlos: ÖIAT-Online-Seminare

Kostenlose Online-Seminare organisiert das Österreichische Institut für angewandte Telekommunikation (↑(opens in a new tab)ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon Teil).

Die Termine und Themen der neuen Online-Kurse: (zumeist abends, manchmal auch nachmittags oder morgens)

Anmeldung auf ↑(opens in a new tab)academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.