Desinformationskampagnen und Hass im Netz. Möglichkeiten der Risikominimierung durch Künstliche Intelligenz am Beispiel der Detektion von Hass im Netz und Desinformation.

Publikation: Beitrag in FachzeitschriftArtikel

Abstract

ie jüngsten Ereignisse zeigen, wie virtuell geführte Hasskampagnen reale, demokratiegefährdende Ereignisse nach sich ziehen können. Geschwindigkeit und Ausmaß dieser
Eskalation zeigen uns deutlich, dass „Desinformation“, „Hass im Netz“ und „Radikalisierung“ nicht nur virtuell latente Bedrohungen demokratischer Einrichtungen und der
Demokratie selbst darstellen, sondern dass diese durch direkte Angriffe auf Institutionen und Individuen realisiert werden. Ähnliche Phänomene und Entwicklungen, wie die gezielte Vermischung radikaler Gruppierungen mit anfänglich gemäßigten Protestbewegungen, werden auch in Europa und Österreich beobachtet. Diese Vermischung findet nicht nur im öffentlichen, sondern auch im virtuellen Raum statt. Neue digitale
Plattformen werden in diesem Kontext in zunehmendem Maße zur Verbreitung demokratiegefährdender Meinungen missbraucht und Hassreden und Hassverbrechen werden zu einem akuten Problem. Ein zentrales Problem stellen die fehlenden Hilfsmittel dar, das Ausmaß dieses Phänomens messbar zu machen. Konkret können somit keine Rückschlüsse über die Reichweite bestimmter Hass- und Desinformationskampagnen sowie keine Einschätzung des Problems im Generellen getroffen werden. In weiterer Folge besteht auch kein Überblick, ob Gegenmaßnahmen zu Kampagnen Wirkung zeigen. Der Artikel beschäftigt sich mit Ansätzen zur automatischen Erkennung von Hassrede, Radikalisierung und Desinformation mithilfe Künstlicher Intelligenz (KI). Hierbei werden Definitionen, Datenakquisition, Methodik und Forschungsprojekte vorgestellt.
OriginalspracheDeutsch
Seiten (von - bis)17-27
Seitenumfang10
FachzeitschriftSIAK-Journal - Zeitschrift für Polizeiwissenschaft und polizeiliche Praxis
Volume21
Issue03/2024
PublikationsstatusVeröffentlicht - Okt. 2024

Research Field

  • Multimodal Analytics

Diese Publikation zitieren