Digitale Plattformen sind im letzten Jahrzehnt wichtige Instrumente zur gemeinsamen Entwicklung von Ideen und Orte des politischen Meinungsaustausches geworden. Allerdings bedarf es erheblicher personeller Ressourcen, um die vielen Beiträge zu moderieren und zu evaluieren. Ziel des Vorhabens KOSMO ist deshalb die Entwicklung eines Prototypen eines KI-gestützten Assistenz-Systems, das Moderator*innen und Organisator*innen bei der Sicherstellung der Diskussionsqualität und der Synthese von Online-Diskussionen proaktiv unterstützt. Der Prototyp soll möglichst praxisnah konzipiert und entwickelt werden und wird unter Open-Source-Lizenz veröffentlicht. Folgende Schwerpunkte sollen bei der Entwicklung und Erprobung gesetzt werden:
Die Besonderheit von KOSMO ist die Nutzung von Algorithmen (Künstlicher Intelligenz – KI) im Rahmen der Moderation von Online-Diskussuionen. Die KI ist dabei als unterstützendes Element konzipiert: Sie nimmt der Moderation Arbeit ab wo sie kann und markiert dafür die eingehenden Beiträge nach erlernten Kriterien. Dafür wird sie anhand von umfangreichen Trainingsdaten aus Verschiedenen Online-Diskussionen trainiert. Diese wurden direkt durch unsere Praxispartner:innen bereitgestellt und per Hand für das Training annotiert. Dadurch erkennt sie:
a) toxische Kommentare
b) für die Diskussion wertvolle Kommentare
c) Tatsachenbehauptungen
Die markierten Beiträge werden in der Moderation immer von menschlichen Moderator:innen gelesen und weiter bearbeitet. KOSMO trifft niemals selbstständig Entscheidungen, sondern unterbreitet Vorschläge für eine effiziente und wertschätzende Moderation.
Die Moderation kann effizient in einem eigens für KOSMO entwickelten Moderatations-Dashboard erfolgen. Dort werden alle Beiträge mit ihrer Klassifizierung durch die KI angezeigt und die Moderation hat neben den üblichen Reaktionen auf Kommentare (löschen, verbergen) auch die Möglichkeit direkt mit den Urheber:innen der Beiträge in Kontakt zu treten.
Das Projekt KOSMO ist die Entwicklung und Erprobung eines KI-gestützten Assistenz-Systems, das Moderator*innen und Organisator*innen bei der Sicherstellung einer hohen Diskussionsqualität und der Synthese von Online-Diskussionen unterstützt.
Für Betreiber:innen und Moderator:innen von Diskussionsplattformen, die Interesse daran haben, die Diskussionsqualität ihrer Onlinediskussion zu fördern und gleichzeitig die Moderation der Diskussionen vereinfachen möchten. Dies können beispielsweise Nachrichtenseiten oder Online-Beteiligungen sein.
Die KI von KOSMO wird auf Basis umfangreicher Trainingsdaten aus Beständen unserer Praxispartner:innen trainiert. Diese wurden aus Diskussionen auf Facebook und eigenen Diskussionsplattformen der Partner:innen aggregiert und durch Mitarbeitende der Heinrich Heine Universität aufbereitet. Die Algorithmen der KI sind Open Source und können auf Anfrage eingesehen werden.
Neben der KI-Unterstützung wurde in der Entwicklung von Beginn an großer Wert auf die partizipative Erarbeitung der Softwaregrundlagen mit Hilfe unserer Praxispartner:innen gelegt. Dadurch konnten wir die Entwicklung optimal an den Bedürfnissen der späteren Nutzer:innengruppe ausrichten.
Zusätzlich liegt der Bedienung von KOSMO für Nutzer:innen und Moderator:innen ein umfangreiches Konzept zur Gamifizierung zugrunde. Dieses ermöglicht ein gutes »Onboarding« und hält die Motivation in der Nutzung aufrecht.
