#trilog

"Freiwillige" Chatkontrolle

Seit Jahren versuchen Überwachungsfanatiker aus verschiedenen EU Staaten eine Chatkotrolle - d.h. die Überwachung der Inhalte unserer Kommunikation über as Internet - einzuführen. Diese würde die Provider dazu zwingen unsere Kommunikation zu überwachen. Glücklicherweise gab es bisher keine Mehrheit dafür. Trotzdem hat die EU vor 2 Jahren eine "Freiwillige Chatkontrolle" mittels Verordnung eingeführt, d.h. die Provider dürfen vertrauliche Kommunikation speichern. Dies läuft derzeit aus und deshalb soll es um weitere 2 Jahre verlängert werden.

Aber diese Art der Überwachung ist eigentlich verboten. Die Datenschutzrichtlinie für elektronische Kommunikation von 2002 schützt die Vertraulichkeit der Kommunikation. Ein Artikel verbietet das Überwachen von Nachrichten ohne Einwilligung der betroffenen Nutzer, schreibt netzpolitik.org.Nun wird also weiter "freiwillig" überwacht und die EU Kommission hofft bis 2028 auf eine Mehrheit für den Überwachungshammer, der derzeit, wie schon seit 2021 in den Trilog-Verhandlungen strittig ist. Aktuell geht darum ob auch kleine Provider zur Überwachung gezwungen werden können. Das würde für viele den finaziellen Ruin bedeuten.

EU will Überwachung "perfekt machen"

Happy Birthday Edward Snowden!

Leider haben wir kein gutes Geburtstagsgeschenk für unser Ehrenmitglied. Vor 11 Jahren machte er während seiner Flucht aus den USA öffentlich, wie die NSA den weltweiten Internetverkehr überwacht und alle unsere Bewegungen im Netz registriert. Damals war das "Privileg" der Überwachung bei den Geheimdiensten der USA, noch nicht einmal der "Partnerdienst" BND durfte die Liste der Worte erfahren, die Jedermann zur totalen Überwachung freigab.

Heute ist nichts besser geworden, heute überwachen zusätzlich private Unternehmen, allen voran GAFAM (Google, Amazon, Facebook, Apple und Microsoft) alle Aktivitäten ihrer Nutzer, um daraus erfolgreich Profit zu generieren.

Nun haben sich gestern EU-Kommission und Rat auf eine Form der "Chatkontrolle" geeinigt, die die freie Meinungsäußerung im Netz praktisch abschafft. Lange hatte wenigstens Frankreich mit seiner Sperrminorität gegen das Vorhaben gesprochen, nun hat auch Frankreich Zustimmung signalisiert. Nach dem Rechtsruck nach den EU-Wahlen wird sich vermutlich auch dort eine Mehrheit für die "Chatkontrolle" finden.

Was ist beschlossen worden?

Uploadfilter sollen maßregeln, was wir auf sozialen Medien schreiben und im Internet teilen dürfen. Entsprechend der DSGVO werden wir natürlich dazu gefragt, ob wir dem zustimmen. Bei Nichtzustimmung werden unsere Möglichkeiten, z.B. das Teilen von Bildern oder Videos unterbunden. Außerdem wird die Ende-zu-Ende-Verschlüsselung unserer Nachrichten untergraben. Die Diensteanbieter bekommen die Aufgabe der Überwachung (die wenn schon, eigentlich eine Aufgabe der Polizei wäre). Kommen sie dieser Aufgabe nicht nach, drohen ihnen hohe Bußgelder.

Der Exodos hat begonnen

Seit Jahren warnen Bürgerrechtler und die Netzgemeinde vor dieser Überwachung. Mit dem CCC und anderen Gruppen waren wir auf der Straße. Nun sehen sich auch die vertrauensvollen Provider in Bedrängnis.

Netzpolitik.org berichtet: Der Schweizer Messenger Threema hat sich mit scharfen Worten gegen die in der EU geplante Chatkontrolle gestellt. In einem Blogbeitrag schreibt das Unternehmen, dass mit der Chatkontrolle „ein Massenüberwachungsapparat von orwellschem Ausmaß“ eingerichtet werden solle. Das Projekt müsse gestoppt werden.

Die betreiber des Messengers Threema, der schon seit 2012 verschlüsselte Kommunikationsdienste angebietet, nennt die Folgen einer möglichen Einführung der Chatkontrolle "verheerend": Die massive Verschlechterung der Datensicherheit wäre ein schwerer Schlag für den Standortvorteil des europäischen Marktes, und gewisse Berufsgruppen wie Anwälte, Ärzte und Journalisten könnten ihrer Schweigepflicht bzw. dem Quellenschutz im Internet nicht mehr nachkommen. Und das alles, ohne dass Kinder auch nur ein wenig besser geschützt wären.

Im letzten Satz bezieht sich Threema auf die angebliche Absicht der EU, diese Überwachung zum Schutz von Kindern vor sexuellem Mißbrauch einzuführen. Wir erinnern uns an "Zensursulas" Stopp-Schild, welches vor 14 Jahren genauso sinnlos in Deutschland eingeführt wurde aber wenigstens nach einigen Monaten wieder abgeschafft wurde. Bei technischen "Lösungen" ist man schnell, während der wirkliche Mißbrauch in Kirchen und Sportvereinen nur zögerlich aufgeklärt wird.

Auch Meredith Whittaker, die Chefin des Signal-Messengers, kritisiert das Vorhaben und warnt vor einer "gefährlichen Schwachstelle in der Kerninfrastruktur", die außerdem über Europa hinaus globale Auswirkungen hätte.

Wir müssen die verbleibenden Sommermonate bis zu einer Abstimmung im EU-Parlament nutzen und alle wohlmeinden Abgeordneten mit Briefen, Petitionen und Aktionen auf der Straße aufrütteln, dieser faktischen Abschaffung der Privatsphäre im Internet entgegenzutreten!

Denn, wie Threema richtig anmerkt, ist der Massenüberwachungsapparat erst einmal implementiert, kann er leicht für das Erkennen anderer Inhalte (als CSAM [erkennbares Mißbrauchsmaterial]) erweitert und genutzt werden, ohne dass dies jemand merkt". Jede politisch unerwünschte Äußerung kann damit unterbunden werden ...

Mehr dazu bei https://netzpolitik.org/2024/chatkontrolle-ein-massenueberwachungsapparat-von-orwellschem-ausmass/ und https://chat-kontrolle.eu/

Erste KI Verordnung der Welt

Regelungen zur Einschränkung von Überwachung völlig unzureichend

Die EU hat es nun doch noch geschafft, die KI Verordnung zu beschließen. Bis zuletzt stand ein beschlussfähiges Ergebnis auf der Kippe, denn wie wir berichtet hatten, hatten Deutschland und Frankreich plötzlich Bedenken, die "europäische KI Entwicklung einzuschränken". (KI-Act droht zu scheitern)

Wie bei der EU üblich, sollen wir nun mit einem Kompromiss leben, der vieles anspricht, aber nur wenig regelt. Schauen wir uns die Ergebnisse genauer an.

Verboten wird der Einsatz von KI

bei der Gefühlserkennung,

für Social Credit Systeme.

Eine Kennzeichnung wird vorgeschrieben für KI Anwendungen

die Texte oder

Bilder generieren.

Für sogenannte "Hochrisikotechnologien" werden "Auflagen" gemacht, das sind

die Gesichtserkennung,

das autonome Fahren,

medizinische Diagnosen und

das Personal-Recruiting.

Der Fehler im System

... springt uns direkt ins Gesicht. Warum werden ausgerechnet für "Hochrisikotechnologien" Ausnahmen gemacht. Diese sollte am besten ganz verboten oder zumindest so stark reguliert werden, dass niemand durch sie Schaden erleiden kann - beim autonomen Fahren ist das Lebensgefahr, wie schon einige Vorfälle gezeigt haben. Gerade die Gesichtserkennung war ein grundsätzlicher Diskussionspunkt zwischen Parlament und Komission und die Vertreter des Staates haben sich wieder einmal durchgesetzt. Biometrische Gesichtserkennung soll in "Gefahrenlagen" unter richterlicher Aufsicht möglich sein.

Welche regulatorische "Steuerung" dann künftig verhindern soll, dass KI-Algorithmen unsere Zwangs-ePA (elektronische Patientenakte) aufhübscht steht völlig in den Sternen. Wie man regulieren will, dass nicht eine KI, sondern ein Mensch künftig die Bewerbungsunterlagen von nicht-weißen Männern und Frauen gleich aussortiert, wird auch noch interessant. Fazit bleibt, dass dieser erste Aufschlag der EU eigentlich kein Problem löst, das wir uns mit dem Einsatz von KI  geschaffen haben.

Wie wenig praxistauglich die Verordnung ist, zeigt ja schon der "Skandal" um das Foto der britischen Prinzessin Kate, die ihr Foto wohl mit den (wenigen und harmlosen) KI-Tools von Adobe Photoshop bearbeiten ließ - und es nicht so gekennzeichnet hat. Dazu müsste ja jedes Programm sagen, dass es KI-Software enthält und das würde wieder erfordern, dass der Begriff KI erst einmal eindeutig definiert wird.

Statt die Fehler der Verordnung im Kleinen zu suchen, sind die grundrechtlichen Kritiken ernst zu nehmen. Dazu zitieren wir Marius Tudor, ehemaliger Berater des Europäischen Parlaments, der feststellt: "Dieses Gesetz schränkt den Zugang zum Arbeitsplatz und/oder zu privaten/öffentlichen Räumen durch die Verwendung der Fernidentifizierung von Bürgern ein. Ein Gesetz, das nicht in die europäische Gesetzgebung gehört, zumindest nicht in dieser Form, und das dennoch umgesetzt wird und mehr Schaden als Nutzen anrichtet."

Seine Kritik an der Verordnung über künstliche Intelligenz sieht einen Verstoß gegen Artikel 16 des Vertrags über die Arbeitsweise der Europäischen Union,

in dem das Recht auf Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten verankert ist,

sowie gegen das Grundrecht auf Schutz personenbezogener Daten, das insbesondere durch die Verordnungen (EU) 2016/679 und (EU) 2018/1725

sowie die Richtlinien 2016/680 und 2002/58/EG geschützt wird.

Dieses Gesetz verstößt gegen die Richtlinie 2000/43/EG des Rates zur Anwendung des Gleichbehandlungsgrundsatzes ohne Unterschied der Rasse oder der ethnischen Herkunft und

gegen die Richtlinie 2000/78/EG des Rates zur Festlegung eines allgemeinen Rahmens für die Verwirklichung der Gleichbehandlung in Beschäftigung und Beruf.

Ferner verstößt das Gesetz gegen den Vertrag über die Arbeitsweise der Europäischen Union, der Diskriminierungen aus Gründen der Staatsangehörigkeit, der ethnischen Herkunft, des Geschlechts, des Alters, der sozialen Stellung oder der körperlichen Merkmale verbietet,

sowie gegen die Grundprinzipien der Freiheit und Gleichheit, auf denen die EU beruht.

Nun muss die jetzt beschlossene Verordnung erst einmal in den Mitgliedsstaaten ankommen und dabei ist noch mit weiteren Verwässerungen zu rechnen. Wir werden das Thema weiter verfolgen ...

Mehr dazu bei https://www.ardmediathek.de/video/wirtschaft-vor-acht/wirtschaft-vor-acht/das-erste/Y3JpZDovL2Rhc2Vyc3RlLmRlL3dpcnRzY2hhZnQgdm9yIGFjaHQvMjAyNC0wMy0xNF8xOS01NS1NRVo und https://uncutnews.ch/das-europaeische-parlament-fuehrt-die-totale-kontrolle-der-buerger-durch-die-hintertuer-ein-biometrische-diktatur-nach-chinesischem-vorbild/

Rahmen für KI-Act steht

Grundzüge können noch aufgeweicht werden

Nach 38 Stunden haben sich die Unterhändler von Europaparlament und EU-Staaten nun auf Grundzüge des "AI Act" geeinigt. Würde es in diesem Tempo weitergehen, dann hätte die EU als erste auf der Welt eine Regelung zur künstlichen Intelligenz vorgelegt. Die ebenfalls laufende Diskussion in den USA steckt noch in den Anfängen und ist - wie üblich - viel offener gegenüber den Wünschen der entsprechenden Lobby.

Positiv und negativ

Den vorliegenden Rahmen zu bewerten ist noch nicht endgültig möglich, weil in den weiteren Verhandlungen noch viele erreichte Punkte durch Formulierungen aufgeweicht werden können. Relativ fest stehen bislang folgende Punkte

Die Entwickler müssen die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen.

Die KI-Entwicklung darf keine Urheberrechte verletzen.

Durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne müssen entsprechend markiert werden.

Die Regeln für biometrische Gesichtserkennung durch KI, die eigentlich völlig verboten werden sollte, kann zu Zwecken der nationalen Sicherheit eingesetzt werden. Auch wenn sich dies auf "konkrete Bedrohungen" beschränkt wissen, wir, dass solche Regelungen künftig verallgemeintert werden können.

Für "risikoreiche" Anwendungen, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und öffentlicher Personalverwaltung sollen "verschärfte Regelungen" gelten.

Vor 3 Wochen berichteten wir über die Vorbehalte von Deutschland und Frankreich gegen die Vorschläge zum KI-Act. Beide Länder hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. In den sogenannten Basismodelle, wie z.B. Chat-GPT, steckt die Wissensbasis und diese möchten die beiden Länder nicht aus Europa vertreiben. Auch Digital- und Verkehrsminister Volker Wissing appelliert, wie tagesschau.de schreibt, an die EU, international abgestimmt vorzugehen und "keinen Alleingang" zu wagen. So gibt es Befürchtungen, Start-Up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.

Bei diesen Randgefechten verschwinden oft die für die Privatsphäre des Einzelnen wichtigen Punkte, wie die nun doch erlaubte Nutzung biometrischer Gesichtserkennung oder die Verwendung von KI bei Ermittlungen in Sicherheitsbehörden. Wir werden die Diskussion weiter beobachten ...

Mehr dazu bei https://www.spiegel.de/netzwelt/netzpolitik/ai-act-eu-erzielt-einigung-auf-regeln-fuer-kuenstliche-intelligenz-a-54d0ff03-d275-4c3a-b1b9-c491a0a258cd und https://www.tagesschau.de/ausland/europa/eu-kuenstliche-intelligenz-regulierung-100.html

Eigentlich war man sich einig, dass die Regulierung künstlicher Intelligenz (KI) durch eine EU Verordnung (KI-Act) noch vor den Europawahlen im nächsten Jahr verabschiedet werden sollte. Nun stecken die Vorgespräche, die sogeannten Trilog Verhandlungen zwischen Rat, Parlament und Komission in einer Sackgasse. Heise.de schreibt: Hauptstreitpunkt ist die Regulierung von "General Purpose AI Models" – also großen Sprachmodellen wie Llama 2 oder GPT-4, weil sich Frankreich und Deutschland dagegen ausprechen. Das ursprüngliche Ziel war hochgefährliche Anwendungen, wie zum Beispiel Echtzeit-Biometrie, werden komplett verboten, Hochrisiko-Anwendungen, wo die KI in medizinische Bereiche, in die Justiz oder Strafverfolgung eingreifen, werden streng reguliert, andere nur ab und an kontrolliert. Nun sprechen sich Frankreich und Deutschland dagegen aus die besonders "mächtigen" Sprachmodelle mit Audits durch eine noch zu schaffende EU-Behörde zu überwachen und zu regulieren. Die Befürchtung ist, dass solche Regulierungen innovative Start-ups abwürgen könnten. Dabei ging es bisher eher um die "Großen" - und bei den Großen ist eher zu befürchten, dass die "zu schaffende neue Behörde" von der Macht dieser Großen einfach eingewickelt und die Kontrolle zu einem bloßen Schaulaufen wird. Wenn es nun bis zur Europawahl nichts wird, sollte man die Zeit nutzen, um die Risiken genauer zu spezifizieren. Dazu gehören neben Datenschutz, rechtlichen, Haftungs- und Copyright Fragen auch die unerträglichen Arbeitsbedingungen der Menschen die die KI trainieren, der immense Stromverbrauch der KI. Fragen der Diskriminierung von Frauen und Menschen, die nicht weiß sind, sind bekannt aber noch längst ist nicht klar, wie sie gelöst werden können. Mehr dazu bei https://www.heise.de/hintergrund/AI-Act-KI-Gesetz-der-EU-droht-zu-kippen-9531914.html

KI-Act droht zu scheitern

Frankreich und Deutschland gegen strikte Regulierung

Eigentlich war man sich einig, dass die Regulierung künstlicher Intelligenz (KI) durch eine EU Verordnung (KI-Act) noch vor den Europawahlen im nächsten Jahr verabschiedet werden sollte. Nun stecken die Vorgespräche, die sogeannten Trilog Verhandlungen zwischen Rat, Parlament und Komission in einer Sackgasse.

Heise.de schreibt: Hauptstreitpunkt ist die Regulierung von "General Purpose AI Models" – also großen Sprachmodellen wie Llama 2 oder GPT-4, weil sich Frankreich und Deutschland dagegen ausprechen. Das ursprüngliche Ziel war

hochgefährliche Anwendungen, wie zum Beispiel Echtzeit-Biometrie, werden komplett verboten,

Hochrisiko-Anwendungen, wo die KI in medizinische Bereiche, in die Justiz oder Strafverfolgung eingreifen, werden streng reguliert,

andere nur ab und an kontrolliert.

Nun sprechen sich Frankreich und Deutschland dagegen aus die besonders "mächtigen" Sprachmodelle mit Audits durch eine noch zu schaffende EU-Behörde zu überwachen und zu regulieren. Die Befürchtung ist, dass solche Regulierungen innovative Start-ups abwürgen könnten. Dabei ging es bisher eher um die "Großen" - und bei den Großen ist eher zu befürchten, dass die "zu schaffende neue Behörde" von der Macht dieser Großen einfach eingewickelt und die Kontrolle zu einem bloßen Schaulaufen wird.

Wenn es nun bis zur Europawahl nichts wird, sollte man die Zeit nutzen, um die Risiken genauer zu spezifizieren. Dazu gehören neben Datenschutz, rechtlichen, Haftungs- und Copyright Fragen auch die unerträglichen Arbeitsbedingungen der Menschen die die KI trainieren, der immense Stromverbrauch der KI. Fragen der Diskriminierung von Frauen und Menschen, die nicht weiß sind, sind bekannt aber noch längst ist nicht klar, wie sie gelöst werden können.

Mehr dazu bei https://www.heise.de/hintergrund/AI-Act-KI-Gesetz-der-EU-droht-zu-kippen-9531914.html

EU-Gesetz zum Schutz der Medienfreiheit

The Media Freedom Act

Letzten Dienstag, 13. September hat die EU-Kommission ihren Vorschlag für ein neues Gesetz zum Schutz der Medienfreiheit in der EU vorgelegt. Im Innenausschuss (LIBE) werde ich diesen Bericht im Namen der Grünen Fraktion verhandeln. Was ist von dem "European Media Freedom Act" zu erwarten?

Das Wichtigste auf einen Blick: Was wird enthalten sein?

Überwachung der Medienkonzentration: Die Konzentration von Medienbesitz ist eine der größten Bedrohungen für die Medienvielfalt. Die Kommission will deshalb einen Medienpluralismus-Test einführen, der bei Fusionen von Medienunternehmen angewendet werden soll. Dieser Test soll jedoch von der zuständigen nationalen Behörde des betreffenden Mitgliedstaates durchgeführt werden. Ein neu geschaffener "Europäischer Rat für Mediendienste" soll lediglich eine nicht bindende Stellungnahme abgeben können.

Transparenz der Medieneigentümerschaft: Medienunternehmen haben einen erheblichen Einfluss auf die öffentliche Meinung. Aus diesem Grund möchte die Kommission die Medienunternehmen verpflichten, Informationen darüber zu veröffentlichen, wem sie direkt oder indirekt gehören.

Transparenz der staatlichen Werbung: Öffentlich finanzierte Medienwerbung darf nicht zu einer staatlichen Beihilfe für regierungsnahe Medien werden. Die Kommission will für mehr Transparenz bei der Verteilung öffentlicher (EU-)Mittel an die Medien sorgen. Die nationalen Behörden müssen jährlich veröffentlichen, wie viel Geld sie für Werbung in welchen Mediendiensten ausgegeben haben.

Rechenschaftspflicht der großen Online-Plattformanbieter: Sehr große Online-Plattformen (Facebook usw.) sind für viele Nutzer das Tor zu Mediendiensten. Sie sollen ausführlich begründen, wenn sie bestimmte Inhalte von Mediendiensteanbietern auf ihrer Plattform einschränken oder löschen wollen.

Schutz vor Überwachung: Nach dem jüngsten Pegasus-Spionageskandal in mehreren Mitgliedstaaten würde das neue Gesetz den nationalen Behörden ausdrücklich verbieten, Journalisten auszuspionieren, was Anwälten in vielen Mitgliedstaaten zum ersten Mal eine gute Grundlage für rechtliche Schritte bietet.

Sind Orbans und Babis' Medienimperien jetzt in Schwierigkeiten?

Bislang hat die Kommission immer behauptet, sie habe keine Handhabe gegen das ungarische Medienkonglomerat KESMA, das von Orbans Kumpanen kontrolliert wird. Mit dem Vorschlag eines Medienpluralismus-Tests will die Kommission sicherstellen, dass ein Konglomerat wie KESMA in Zukunft nicht mehr entstehen kann. Es ist fraglich, ob dies gelingen kann, wenn dieser Test von den nationalen Behörden durchgeführt wird, die möglicherweise bereits unter der Kontrolle der Regierungspartei stehen. Noch wichtiger ist, dass der Test nicht dazu beitragen wird, die bestehenden Probleme der Medienkonzentration zu verringern. Bislang war es auch für Staatschefs wie Andrej Babis in der Tschechischen Republik oder Silvio Berlusconi in Italien problemlos möglich, gleichzeitig Regierungschef und Anteilseigner zahlreicher Medienunternehmen im Land zu sein. Die Kommission möchte nun, dass Medienunternehmen in Zukunft Informationen über etwaige Interessenkonflikte möglicher Anteilseigner veröffentlichen. Dies wäre zwar eine positive Entwicklung, aber es ist unklar, wie sichergestellt werden soll, dass diese Interessenkonflikte anschließend gelöst werden.

Wie geht es weiter?

Sobald der Kommissionsvorschlag vorliegt, wird das Dossier an die zuständigen EP-Ausschüsse weitergeleitet. Je nach Schwerpunkt des Kommissionsvorschlags werden wahrscheinlich die Ausschüsse für Binnenmarkt (IMCO), Inneres (LIBE) und/oder Kultur (CULT) federführend sein. Auf der Grundlage der Arbeit der zuständigen Ausschüsse wird dann ein parlamentarischer Standpunkt festgelegt. Sobald auch der Rat seinen Standpunkt festgelegt hat, werden die Trilogverhandlungen zwischen Rat und Parlament beginnen.

Es kann also bis zu einer möglichen wirklichen Freiheit der Medien noch dauern ...

Mehr dazu bei https://www.europarl.europa.eu/meps/de/106936/DANIEL_FREUND/home und https://www.greens-efa.eu/de/person/freund-daniel