Ukrainische NGO im Kampf gegen Desinformation

Executive Summary 

Ziel: Datenerhebung aus russischen Open-Source-Medien, die für staatlich gelenkte Propaganda bekannt sind, sowie die Zusammenfassung und Kategorisierung von Beweismaterial zu Kriegsverbrechen. 

Lösung: Konzeption, Design und Implementierung eines Webportals zur Analyse von Desinformation, mit schneller Suchfunktion und benutzerfreundlicher Oberfläche für Medienmonitoring. 

Nutzen: Die NGO verbesserte ihre Dienste zur Unterstützung ukrainischer Ermittlungsbehörden durch präzise Daten über russische Medien, die Desinformation verbreiten. 

Erbrachte Leistungen: Design, Umsetzung und Wartung eines Systems zur Überwachung von Medien mit manipulativen Inhalten sowie zur Identifikation von Moderator:innen mit Verbindungen zu Desinformation und ideologischer Propaganda 

Über den Kunden 

Die NGO „Change Together“ wurde 2016 von einer Initiativgruppe von Mitarbeitenden des ukrainischen Fernsehsenders STB gegründet. Die Organisation konzentriert sich auf medienbezogene Projekte und humanitäre Initiativen mit einem starken Fokus auf den Schutz von Menschenrechten. Ihre zentrale Mission besteht darin, grundlegende Menschenrechte zu verteidigen und zu fördern; insbesondere im Kontext der Bekämpfung von Desinformation sowie dem Schutz digitaler und informationeller Rechte ukrainischer Bürger:innen. Durch ihre Arbeit spielt die Organisation eine entscheidende Rolle bei der Stärkung der Medienkompetenz, der Förderung eines informierten öffentlichen Diskurses und der Unterstützung der Resilienz der Ukraine im digitalen Informationsraum. 

• Kunde: Die NGO “Change Together” 
• Ort: Ukraine 
• Branche: NGO 
• Website: https://changetogether.org.ua/ 

Herausforderung  

Die Eigentümer:innen und Propagandist:innen von Radio-Télévision Libre des Mille Collines (RTLM) wurden erst 25 Jahre nach dem Völkermord in Ruanda in Den Haag verurteilt, ein Beleg für die Komplexität der Beweissicherung. Heute ist russische Desinformation deutlich ausgefeilter und nutzt zahlreiche Medienkanäle, die der Staat seit über einem Jahrzehnt zur Stärkung seiner Narrative einsetzt. 

Expert:innen von Tietoevry Create schlossen sich mit der lokalen NGO „Change Together“ zusammen, um eine Lösung zu entwickeln, die vorhandene Beweise für Desinformation automatisch sammelt und verarbeitet. Ziel war es, Forscher:innen, Staatsanwält:innen, Jurist:innen und Richter:innen strukturierte, verlässliche Daten zu liefern, die Verstöße gegen das humanitäre Völkerrecht vor und während des Krieges auf ukrainischem Staatsgebiet dokumentieren. 

Eine zentrale Herausforderung bestand darin, ein System zu konzipieren, das bis zu 200 Videodateien gleichzeitig verarbeiten kann. Um diese Anforderung zu erfüllen, wurde die Systemarchitektur gezielt auf hohe Leistung bei minimaler Latenz ausgelegt. Zudem wurde das System horizontal skalierbar entwickelt, um bei entsprechendem Budget eine problemlose Erweiterung zu ermöglichen.  

Ein weiteres entscheidendes Kriterium war die Implementierung einer ultraschnellen Suchfunktion. Das System musste Suchergebnisse innerhalb von Millisekunden liefern, damit Nutzer:innen in einem umfangreichen Datensatz schnell auf relevante Daten zugreifen können. Die erfolgreiche Umsetzung dieser Anforderungen gelang vor allem dank unserer Erfahrung mit ähnlichen Systemen, etwa der Entwicklung einer IoT-Plattform für ein großes ukrainisches Agrarunternehmen, mit der Tausende Maschinen in Echtzeit überwacht werden konnten. 

Lösung & geschäftlicher Mehrwert 

Dank unserer umfassenden Erfahrung in der Entwicklung KI-basierter Produkte und Systeme war uns von Beginn an bewusst, dass die Auswahl geeigneter Modelle entscheidend für den Projekterfolg sein würde, insbesondere im Hinblick auf Kosteneffizienz. Selbst grundlegende Funktionen, wie Sprach-zu-Text oder Übersetzung, erfordern eine Vielzahl an Tools und Modellen mit unterschiedlichen Fähigkeiten und Preismodellen. 

Vor Entwicklungsstart investierte unser Team drei Monate in umfassende Recherchen und Marktanalysen, um die besten und wirtschaftlich sinnvollsten Lösungen zu identifizieren. Eine falsche Tool-Auswahl in dieser frühen Phase hätte zu erheblichen Budgetverlusten und technischen Rückschlägen führen können. 

Auf Basis dieser Vorarbeit entschieden wir uns für einen hybriden Ansatz, bei dem Microsoft-Lösungen mit Drittanbieter-Tools kombiniert wurden, um sowohl Leistung als auch Kosten zu optimieren. Diese Grundlagenphase war entscheidend für das Projekt und erforderte eine sorgfältige Evaluierung sowie das Testen zahlreicher Modelle durch unser Data-Science-Team. 

Dank dieser gründlichen Vorbereitung konnten wir die finale Plattform „War of Words“ in nur vier Monaten liefern und die Gesamtkosten auf einem äußerst wettbewerbsfähigen Niveau halten. Das Projekt gilt heute als Vorzeigeinitiative dafür, wie sorgfältige Planung, technische Sorgfalt und kluge Ressourcenauswahl zu effizienten, skalierbaren KI-Lösungen führen können, insbesondere bei Projekten mit großvolumiger Datenverarbeitung. 

Unser Team profitierte in mehrfacher Hinsicht von der Unterstützung und dem Entgegenkommen der Microsoft Corporation, die folgende Azure-Cloud-Funktionen bereitstellte: 

• Hochwertige Cognitive Search 
• Hochwertige Cognitive Services für Textverarbeitung 
• Benutzerfreundliche und effektive MLOps-Plattform (Azure ML) 
• Hohe Qualität und Leistung von OpenAI 
• Verfügbarkeit von ChatGPT 4.0 mit 32k Token 
• Verfügbarkeit einer großen Menge an GPU-Rechenressourcen (über 120 Nvidia T4 GPU-VMs) 
• Unbegrenzte Größe für Cosmos DB 

Zusätzlich stellte Microsoft rechtliche und geschäftliche Expertise bereit, speziell im Hinblick auf Prinzipien und Ansätze für verantwortungsvolle KI. Darüber hinaus erhielten wir technische Beratungsunterstützung durch interne Architekt:innen sowie bedarfsgerechte Unterstützung beim Hosting und der Systementwicklung. 

Durch die Kooperation entstand ein System, das heute vermutlich das umfangreichste seiner Art im Bereich russischer Desinformation ist. Es enthält Open-Source-Mediendaten bis ins Jahr 2012, wobei ein Teil des Systems öffentlich zugänglich gehostet wird. Das System dient als zentrales Werkzeug für das Büro der ukrainischen Generalstaatsanwaltschaft sowie für ukrainische und internationale Medien. Aktuell wird daran gearbeitet, die Nutzung des Tools auch in weiteren ukrainischen Regierungsstellen zu etablieren. 

Ursprünglich für den Verteidigungssektor konzipiert, ist das System von Tietoevry Create äußerst anpassungsfähig und kann auch die Anforderungen von Zollbehörden, Grenzschutz und anderen nationalen Sicherheitsbehörden unterstützen. Seine robuste Architektur und die langfristige Datenabdeckung machen es zu einem wertvollen Instrument zur Identifikation, Analyse und Reaktion auf Desinformation sowie die Manipulation der öffentlichen Meinung. 

Technische Details  

Ein siebenmonatiges Pro-bono-Projekt für die NGO „Change Together“ brachte unsere Expert:innen dazu, an einem maßgeschneiderten System zu arbeiten, das über umfangreiche Funktionalitäten verfügt und folgende Bereiche abdeckt: 

• Spracherkennung und Transkription (Technologie unter NDA) 
• Sprechersegmentierung und -erkennung (Technologie unter NDA) 
• Sprecheridentifikation (Technologie unter NDA) 
• Automatisierte Qualitätsprüfung der Transkription (Technologie unter NDA) 
• Schlüsselbegriffserkennung und Named Entity Recognition (Technologie unter NDA) 
• Erkennung und Klassifizierung von Anzeichen für Straftaten (Technologie unter NDA) 
• Erkennung und Klassifizierung von Narrativen (Technologie unter NDA) 
• Suchfunktion (Technologie unter NDA) 
• Übersetzung ins Englische (Technologie unter NDA) 
• Erkennung von Textähnlichkeiten, Trends und Abhängigkeiten (Technologie unter NDA) 

Wir orchestrierten das Projekt mit Unterstützung von 

• Projektmanager:in / Lösungsarchitekt:in 
• 3 Data Scientists 
• 1 Frontend- und 2 Backend-Entwickler:innen 
• UX / UI Designer:in 

Die Entwickler:innen und die:der Designer:in setzten zahlreiche Funktionen spontan um und schafften es, das Endprodukt ohne jeglichen Bedarf an Qualitätssicherung zu veröffentlichen. 

Technologien & Tools 

Aufgrund der sensiblen Natur des Projektes wenden Sie sich bitte an unsere Expert:innen, um eine genaue Beschreibung des verwendeten Technologie-Stacks zu erhalten.