Heikler Umgang mit Daten

Von Claudia Eberle-Fröhlich ‒ 27. September 2024

Einwohner und Einwohnerinnen von Zollikon können ab dem 1. November 2024 dank eines neuen, verbesserten Verzeichnisses auf der Website einfacher auf Informationen der Gemeinde zugreifen.

Eine Teilrevision des Reglements über den Vollzug des Öffentlichkeitsprinzips, das im November in Kraft tritt, hat der Gemeinderat geändert und in der amtlichen Publikation am 20. September 2024 im Zolliker Zumiker Boten sowie auf der gemeindeeigenen Website publiziert. Konkret geht es um eine Änderung von Artikel 6, der das Verzeichnis der Informationsbestände betrifft. Per 1. Juli 2006 ist das Bundesgesetz über das Öffentlichkeitsprinzip der Verwaltung (Öffentlichkeitsgesetz, BGÖ) in Kraft getreten.

Bisher wurde der sogenannte Aktenplan oder Registraturplan als Verzeichnis der Informationsbestände verwendet, der über die Dokumente und Informationen der Gemeinde Auskunft gibt. Nun wird ein neues Verzeichnis eingeführt, das mit ­zusätzlichen Informationen detailliertere Auskünfte liefert. Was ist davon zu halten? Wir befragten ­Pascal Kaufmann aus Meilen, Experte für Künstliche Intelligenz, zu diesem Öffentlichkeitsgesetz auf Gemeindeebene. Seine Antworten sind teils mit SwissGPT generiert und mit Spezialisten für Datenschutz abgestimmt worden.

Die heutige KI-Anwendung oder Algorithmen sind bereits in der Lage, Informationen trotz Datenschutz zu eruieren und zu kombinieren. Vereinfacht das Öffentlichkeitsgesetz diese Möglichkeit?

KI-Algorithmen beschleunigen das Verknüpfen und Verarbeiten von Daten, sie können Neues hervorbringen, sogar menschliche Kreativität in den Schatten stellen oder eben auch negative Seiten potenzieren. Wenn die Verarbeitung ­gewisser Daten potenzielle Gefahren für Personen birgt, erhöht der Einsatz von KI diese Risiken. Informationen dürfen nur für einen bestimmten Zweck auf Grundlage einer entsprechenden Rechtsbasis zugänglich gemacht werden. Informationen nur für einen bestimmten Zweck öffentlich zu publizieren ist allerdings illusorisch. Wenn Informationen erst einmal öffentlich sind, ist ihr Schutz aus praktischer Sicht kaum noch möglich. Deshalb sollten nur Daten von Personen und Institutionen veröffentlicht werden, die nach einer sorgfältigen Risikoanalyse keine Gefahr für betroffene Personen darstellen.

Sind Informationen der Gemeinden, die indirekt auch Daten der Einwohnerschaft enthalten, aus Ihrer Sicht mit der aktuellen Freigabe ausreichend gegen Bots aus aller Welt geschützt?

Falls Dokumente der Gemeinde Informationen enthalten, die einem Einwohner schaden könnten, ist es nur eine Frage der Zeit, bis diese Informationen durch KI-Bots oder andere automatisierte Systeme missbraucht werden. Deshalb sollten keine Dokumente veröffentlicht werden, die potenzielle Risiken für Einwohner bergen. Eine Risiko­analyse wäre ein nützliches Mittel, um solche Gefahren abzuschätzen. Man könnte auch prüfen, ob der ­Zugang zu den Dokumenten über ein Login für Einwohner beschränkt wird. Das würde das Risiko etwas verringern, es aber nicht vollständig eliminieren, da die Informa­tionen dennoch durch Hackerangriffe oder gestohlene Zugangsdaten abgefragt werden könnten.

Gibt es Beispiele, in denen trotz Datenschutz persönliche Informationen durch KI und Algorithmen für kriminelle Machenschaften aus Schweizer Quellen genutzt wurden?

Das berühmteste Beispiel aus dem Ausland ist der Cambridge Analytica-­Skandal. Die betroffenen Facebook-Daten waren durch Logins und Facebooks Sicherheitsmassnahmen geschützt. Dennoch wurden sie an Dritte weitergegeben, die sie mittels Machine-Learning-Algorithmen für Wahlbeeinflussung nutzten. In der Schweiz werden KI-Algorithmen und automatisierte Angriffe am häufigsten für Betrugsversuche eingesetzt (siehe www.ncsc.admin.ch/ncsc/de/home/aktuell/aktuelle-vorfaelle.html). Die wirklichen Zahlen dürften allerdings deutlich höher liegen – viele Informationen über Hackerangriffe werden von Firmen nicht veröffentlicht, um dem Image der Firma nicht zu schaden.

Kann eine KI-Anwendung diese Daten auch schützen?

Der Kampf von KI gegen KI hat bereits begonnen. Spezialisierte Firmen, auch aus der Schweiz, setzen KI-Algorithmen ein, um online-­Angriffe und andere automatisierte Attacken abzuwehren. Es wäre für einen Menschen unmöglich, manuell so viele Daten zu verarbeiten. Auch im Bereich Deepfakes (manipulierte Videos) werden Algorithmen verwendet, um Fälschungen automatisch zu identifizieren. Ein Ende dieses Kampfes ist nicht absehbar. Wir müssen allerdings ­sicherstellen, im richtigen Team zu arbeiten: nämlich auf der Seite des Menschen für den Menschen.

Pascal Kaufmann studierte Neurowissenschaften und Wirtschaft an der ETH Zürich und der Northwestern University in Evanston (USA). Als Gründer der Mindfire Gruppe, des KI-Zentrums Lab42 und als Präsident der Swiss Al Awards prägte und prägt er die Entwicklung von KI-Technologien in der Schweiz massgeblich. Als Antwort auf die Lancierung von ChatGPT durch OpenAl hat er 2023 das Schweizer KI-Start-up AlpineAl mitgegründet, das er seither als CEO leitet.