Vorarlberger Landes-KI verweigerte Antworten zu Tiananmen-Massaker wegen chinesischem Sprachmodell

Hinweis: Dieses Beitragsbild wurde mit künstlicher Intelligenz erstellt und dient der symbolischen Illustration. Es zeigt keine authentische Aufnahme des beschriebenen Ereignisses.

Dieses Thema Freunden empfehlen

„`html

Die Landesverwaltung Vorarlberg setzt bei ihrer internen Künstlichen Intelligenz namens VOKI (Vorarlberg KI) auf ein Sprachmodell aus der chinesischen Qwen-Familie. Das Programm beantwortete dabei zuletzt Fragen zum Massaker auf dem Platz des Himmlischen Friedens mit dem Hinweis, es könne keine Informationen bereitstellen, die in China als sensibel eingestuft werden. Auch beim Thema Taiwan zeigte sich das System laut Vorarlberger Nachrichten zurückhaltend. Das Land Vorarlberg erklärte dazu, man nehme mögliche Verzerrungen oder Einschränkungen eines Sprachmodells ernst, und teilte mit, das Problem mittlerweile behoben zu haben.

Chinesisches Sprachmodell als technische Basis

VOKI basiert technisch auf einer Lösung der Firma headwAI aus Linz. Diese arbeitet mit einem frei verfügbaren Sprachmodell aus der chinesischen Qwen-Familie. Betrieben wird das Programm auf der eigenen Infrastruktur des Landes Vorarlberg, wodurch die Daten laut Land im Haus bleiben. Leistungsfähigkeit, Datenschutz und Informationssicherheit seien ausschlaggebend für die Auswahl dieses KI-Modells gewesen.

Bei Fragen zum Massaker auf dem Platz des Himmlischen Friedens antwortete VOKI zuletzt, es könne dazu keine Informationen liefern, die in China als sensibel gelten. Die chinesische Führung hatte die Demokratiebewegung auf dem Tiananmen-Platz 1989 blutig niedergeschlagen. In China wird bereits die bloße Erwähnung des Massakers bestraft und unterliegt der Zensur. Auch beim Thema Taiwan zeigte sich VOKI laut Vorarlberger Nachrichten zugeknöpft. Taiwan wird als Republik China international nur von wenigen Staaten anerkannt, während die Volksrepublik China die Insel als abtrünnig betrachtet.

Das Land Vorarlberg erklärte gegenüber dem ORF, man nehme mögliche Verzerrungen oder Einschränkungen eines Sprachmodells ernst. Gleichzeitig betonte die Landesverwaltung, VOKI sei bewusst nicht als Suchmaschine oder verbindliche Faktenquelle konzipiert worden. Vor der erstmaligen Nutzung müssen Landesbedienstete einen Onlinekurs absolvieren. Die Landes-KI soll vor allem zum Zusammenfassen, Übersetzen und Durchsuchen interner Dokumente eingesetzt werden. Nach eigenen Angaben hat das Land das aufgetretene Problem mittlerweile behoben. Zudem sei man nicht an ein bestimmtes Modell gebunden.

Sprachmodelle und ihre Trainingsdaten

Große Sprachmodelle wie jene der Qwen-Familie werden mit umfangreichen Textmengen trainiert, aus denen sie statistische Muster für Formulierungen und Antworten ableiten. Welche Inhalte dabei berücksichtigt oder ausgeschlossen werden, hängt unter anderem von den Vorgaben der Entwicklerunternehmen und den gesetzlichen Rahmenbedingungen im jeweiligen Herkunftsland ab. Bei chinesischen Modellen gelten grundsätzlich strengere Vorgaben zur Darstellung politisch sensibler Themen, da entsprechende Inhalte in China selbst der Zensur unterliegen können.

Öffentliche Verwaltungen, die auf solche Modelle zurückgreifen, stehen üblicherweise vor der Herausforderung, die Funktionsweise und mögliche inhaltliche Einschränkungen der eingesetzten Systeme nachzuvollziehen. Da viele Sprachmodelle als sogenannte Black Box gelten, lassen sich die genauen Mechanismen hinter bestimmten Antwortverweigerungen oft nicht vollständig offenlegen. In der Praxis setzen Behörden deshalb häufig auf zusätzliche Schulungen für Nutzerinnen und Nutzer sowie auf klare Vorgaben, wofür ein KI-System eingesetzt werden darf und wofür nicht. Eine Einstufung als reines Hilfsmittel für interne Aufgaben, etwa zur Textzusammenfassung oder Dokumentenrecherche, soll dabei verhindern, dass ein Sprachmodell als alleinige oder verbindliche Informationsquelle missverstanden wird.

Technisch besteht bei vielen KI-Anwendungen grundsätzlich die Möglichkeit, das zugrundeliegende Sprachmodell auszutauschen, ohne die gesamte Softwareumgebung neu aufzubauen. Dadurch können Betreiber bei Bedarf auf alternative Modelle umsteigen, etwa wenn sich inhaltliche Einschränkungen oder andere Schwachstellen zeigen. Diese Flexibilität gilt in der IT-Branche allgemein als Vorteil modularer KI-Architekturen, da sie eine Anpassung an neue Anforderungen erleichtert, ohne dass bestehende Systeme komplett ersetzt werden müssen.

„`