Während gerade vielerorts in Belgien Hacker-Angriffe gestartet werden, musste sich das IDP eines solchen Angriffs schon im Frühjahr diesen Jahres erwehren, worüber auch die örtlichen Medien berichtet hatten. Nun steht das Team des IDP vor einer neuen Herausforderung: dem Umgang mit Entscheidungen, die von einer KI getroffen wurden.
Vielleicht ist es einigen unserer Follower*innen schon aufgefallen. In den Sozialen Medien des IDPs bzw. von Speak Up! war es in letzter Zeit ziemlich ruhig. Sporadische Beiträge auf Instagram gab es, allerdings haben die beiden IDP-Mitarbeiterinnen dazu Collab-Posts über ihre eigenen Accounts genutzt. Auf Facebook gab es schon längere Zeit gar keinen Post mehr, genauer gesagt seit dem 13. September 2024. Seit diesem Freitag, den 13. September 2024, ist der Facebook-Account des Instituts für Demokratiepädagogik bereits gesperrt, der die Seiten des IDPs und von Speak Up! verwaltet. Kurzfristig war es der Instagram-Account auch, doch dieser konnte im Laufe der Folgewoche wieder aktiviert werden.
Etwas kryptisch heißt es zur Sperrung bei Facebook dazu, dass der Account gegen die Community-Richtlinien verstoßen hätte. „Was genau passiert ist, haben wir leider nicht erfahren“, so Sabrina Kirschner, die am Institut für Demokratiepädagogik für den Bereich der politischen (Medien-)Bildung und die Vernetzungsstelle Speak Up! zuständig ist. Nach einem kurzen Krisengipfel war recht schnell klar, dass das IDP-Team Einspruch gegen die Entscheidung Facebooks einlegen wollte. „Das Knöpfchen war recht schnell gedrückt, allerdings wollte Facebook dann einen Ausweis sehen“, so Sabrina Kirschner. Auf dem Login-Bildschirm steht seitdem die folgende Fehlermeldung „Bevor wir dir wieder sicheren Zugriff auf dein Facebook-Konto ermöglichen können, müssen wir sicherstellen, dass es deins ist. Als Beweis kannst du uns ein Foto deines Ausweises senden.“
Und hier liegt dann auch das Problem, wie Sabrina Kirschner erklärt: „Natürlich haben wir unseren Facebook Account nicht an einen unserer privaten Accounts geknüpft, sondern haben aus verschiedenen Gründen einen Funktions-Account auf den Namen Institut für Demokratiepädagogik erstellt, um die IDP-Seite bei Facebook zu verwalten und diese mit einer eigenen @idp-dg.be E-Mail Adresse verknüpft, die wir zu diesem Zweck erstellt haben. Wir sind davon ausgegangen, dass dies so passt, denn wenn etwas dagegen gesprochen hätte, den Account auf den Namen Institut für Demokratiepädagogik zu registrieren, wäre das Wort Institut ja in jedem Fall eines gewesen, auf das die Facebook-KI hätte anspringen müssen und infolge dessen die Registrierung hätte verhindern müssen. Das war allerdings nicht der Fall und in den vergangenen Jahren gab es da auch keine Probleme mit der Account-Verwaltung“.
Das IDP-Team dazu: „Da es sich beim IDP nicht um eine Person handelt, haben wir natürlich auch kein Ausweisdokument, das auf den Namen Institut für Demokratiepädagogik ausgestellt ist. Wohl aber haben wir eine Steuernummer und wollten diese dann zur Authentifizierung nutzen. Das hätte ausreichen müssen, zumal die Steuernummer ja in der Facebookbox, die angezeigt wurde, aufgelistet wurde. Leider hat das nicht geklappt, denn ein Foto von der Nummer hochzuladen hat Facebook nicht gereicht. Es wurde explizit ein Dokument mit einem Foto oder Geburtsdatum gefordert, und zwar im Ausweisformat. Da wir natürlich keinen Ausweis fälschen wollten, haben wir eine Graphik im Ausweisformat erstellt, dort die E-Mail-Adresse und Steuernummer vermerkt. Aber auch hier fehlte ein Bild – wir haben ja kein Geburtsdatum –, so dass wir in die KI-Trickkiste gegriffen haben und die KI quasi mit ihren eigenen Mitteln schlagen wollten. Im Internet gibt es verschiedene KI-Seiten, die ein Foto von einer nicht-existierenden Person schaffen. Das war uns wichtig, denn wir wollten ja keine reale Person in Bedrängnis bringen, wenn wir ihr Foto hochladen. Ein solches Foto haben wir dann genutzt, um ein entsprechendes Dokument hochzuladen. Das hat einmal geklappt, allerdings gab es dann wohl ein internes Problem bei Facebook, so dass wir erneut zum Upload aufgefordert wurden. Seit knapp einem Monat versuchen wir dies, bekommen dabei aber wechselnde Fehlermeldungen, die von zu häufigen Upload Versuchen bis zu technischen Problemen bei Facebook reichen.“
Nach intensiver Diskussion hat das IDP-Team dann die Entscheidung getroffen, ein neues Profil anzulegen. „schweren Herzens, denn alle Follower*innen des alten Profils und alle dort gespeicherten Fotos und Pinnwandeinträge wären dann weg gewesen“, so IDP-Leiterin Tomke Lask. Für das neue Profil wurde extra im E-Mail-Postfach ein neuer Funktionsaccount angelegt, ebenfalls mit einer @idp-dg.be Adresse. Allerdings scheiterte die Einrichtung, da die Facebook-KI eine Verbindung zum derzeit gesperrten Profil detektiert hat. Der Einspruch gegen eine Sperrung des neuen Kontos wurde binnen weniger Sekunden von der Facebook-KI abgeblockt, ohne weitere direkte Interventionsmöglichkeiten.
Sabrina Kirschner dazu: „Das Problem liegt eigentlich daran, dass Facebook hier eine KI nutzt, die sehr undurchsichtig ist, quasi eine Blackbox. Es ist leider überhaupt nicht ersichtlich, welche Entscheidungen bei Facebook auf welcher Grundlage getroffen werden oder welche Beispiele für das Maschinelle Lernen zum Training der Algorithmen genutzt wurden. Das ist auch das Gefährliche an der KI, sie trifft Entscheidungen, ohne diese weiter zu begründen und verhindert dann, dass es eine Möglichkeit gibt, mit richtigen Personen über ein entsprechend angekoppeltes Kommentarfeld oder einen Chat in Kontakt zu treten, um begründete Zweifel anzumelden.“
Es gibt zwar einige Hinweise auf Facebookseiten, die mögliche Gründe für eine Sperrung auflisten, diese sind jedoch sehr unspezifisch, wie das IDP-Team verdeutlicht. „Ein weiteres Problem liegt darin, dass es keine Möglichkeit gibt, direkt Kontakt mit Facebook aufzunehmen, sei es telefonisch oder per Chat, um genauere Erkundigen dazu anzustellen, was genau Facebook denn an unserem Account und letztlich ja auch an der politischen Bildungsarbeit, die unser Account dokumentiert hat, stört.“ Auch ein Kontaktformular sei sehr umständlich zu finden und könne nur für bestimmte thematische Anfragen genutzt werden, so Sabrina Kirschner. „Unser Fall gehörte nicht dazu. Eine schriftliche an die gut versteckte zu Impressums-E-Mail-Adresse von Facebook führte nur einer sehr allgemeinen Standard-Antwort und bis dato ist unklar, ob wir überhaupt eine Antwort erhalten werden, die auf unser Problem eingeht.“
Sabrina Kirschner dazu: „Hier zeigen sich dann auch die Grenzen der KI, denn der eingesetzte Algorithmus kann hier nicht flexibel darauf eingehen, dass ein institutioneller Account eben keinen eigenen Personalausweis hat und dass es hier sinnvoll wäre, andere Parameter zu prüfen. Außerdem wissen wir ja nach wie vor immer noch nicht, warum wir nun wirklich gesperrt wurden. Das kann auch etwas ganz Banales sein, wenn wir vielleicht ein Wort in einem unserer Posts genutzt haben, das auf der roten Liste steht. Bei der Arbeit in der politischen (Medien-)Bildung lässt sich das aber nicht immer vermeiden. Das Problem bei der KI ist dann, dass sie nicht unterscheiden kann, ob wir Fake News verbreiten oder uns eben für die Bekämpfung von Fake News einsetzen und dazu auch verschiedene präventive Veranstaltungen durchführen. Ich befürchte, dass zukünftig auch weitere Institutionen, VoGs etc. in Ostbelgien mit ähnlichen Problemen konfrontiert sein könnten.“
Auch beim Einreichen eines eigenen Ausweisdokuments hätten Sabrina Kirschner und Tomke Lask ein eher mulmiges Gefühl: „Ehrlich gesagt sind wir auch froh, dass der Account nicht auf unsere Namen läuft, denn wir würden unseren Ausweis nicht auf Facebook uploaden. Einerseits ist nicht klar, was mit den Daten genau passiert und wie sie verarbeitet werden und andererseits kann gerade mit solch sensiblen Dokumenten, wenn sie in die falschen Hände geraten, Missbrauch betrieben werden. Die Informationen auf den Seiten von Facebook sind dazu sehr schwammig und wirklich weiß man nach dem Lesen auch nicht, wie lange und wo entsprechende Fotos der Dokumente gespeichert werden.“
Auch IDP-Leiterin Dr. Tomke Lask hat schlechte Erinnerungen an Facebook. Sie erinnerte daran, dass man vor einigen Jahren erfolglos versucht habe, eines der begehrten blauen Häkchen zu erhalten, wie es auch viele der deutschen Landeszentralen für politische Bildung haben, die eine ähnliche Funktion in Deutschland ausfüllen, wie das IDP in Ostbelgien. Auch hier sei der Vergabeprozess sehr intransparent gewesen, so die IDP-Leiterin. Damals habe man über Umwege eine E-Mail-Adresse einer Person erhalten, die in Belgien für Facebook arbeitete, allerdings blieben dortige Anfragen unbeantwortet. Aber ob so in blaues Häkchen eine Sperrung verhindert hätte, wissen die beiden IDP-Mitarbeiterinnen auch nicht.
Fest steht: bis auf Weiteres werden das Eupener Institut für Demokratiepädagogik und Speak Up! nicht mehr bei Facebook erreichbar sein. Das IDP-Team will nun andere Formen ausloten, wie man Interessierte über die Sozialen Medien erreichen kann. „Vor einiger Zeit haben wir schon einen LinkedIn Account für das IDP eingerichtet. Vielleicht werden wir in Zukunft dort mehr posten, schließlich ist es auch dort möglich, Inhalte zu teilen, die über andere Accounts erstellt werden,“ so die IDP-Mitarbeiterinnen. Beide haben auch eigene Accounts und erste Erfahrungen in diesem Netzwerk sammeln können.
Das könnte Sie auch interessieren
Vermittlung kritischer Medien- und Informationskompetenz in informellen Bildungskontexten: Das Beispiel der ‘Speak Up! Tagung’ aus Ostbelgien
Tomke LaskPolitische (Medien-)Bildung heute – Sabrina Kirschner zu Gast beim Beirat für Mediendienste der DG im BRF
Speak Up! Buch erschienen!
Arbeitsheft zu (S)innfluence your World erschienen
Offener Brief
Jahresbericht 2023
