Software für die automatisierte Erkennung von Fake News

[Roboternetz-News]

Bild hier  Erfundene Nachrichten, verdrehte Fakten – Fake News verbreiten sich rasant im Netz und werden oft unbedacht geteilt, vor allem in den Sozialen Medien. Fraunhofer-Forscherinnen und -Forscher haben ein System entwickelt, das Social Media-Daten automatisiert auswertet und bewusst gestreute Falschmeldungen und Desinformationen gezielt herausfiltert. Das Tool nutzt dafür sowohl inhalt-liche als auch Metadaten, wobei es die Klassifikation mit Machine Learning erworben hat und diese in Interaktion mit dem Nutzer während der Anwen-dung verbessert.



Weiterlesen...

Sag deine Meinung zu der Meldung und diskutiere im Roboternetz.

News Quelle: Fraunhofer Forschungsorganisation
Diese Nachricht wurde automatisiert vom Roboternetz-Bot gepostet. Verantwortlich für den Inhalt ist daher allein der Herausgeber, nicht das Roboternetz.de oder deren Verantwortliche.


Anzeige

[White_Fox]

Warum nur drängt sich mir da die Bezeichnung "Zensurmaschine" auf? Und warum traue ich diesem Ding einfach nicht?

Wieso sind Fake-News erst seit dem Wahlkampf von Trump ein Problem? Zeitungsenten gibt es, seit es Zeitungen gibt. Falschmeldungen (darunter zähle ich auch Meldungen, in denen die politisch unerwünschte Hälfte der Wahrheit ausgelassen wird) sind in den Medien nicht ungewöhnlich, um nicht zu sagen normal. Was soll dieses Stück Software da besser machen?

Zugegeben: Es war noch nie so schwer, echte Politmeldungen z.B. von Satire zu unterscheiden. Das liegt aber eher an der Politik selber...

[White_Fox]

Jetzt schreibt der Danisch auch noch darüber.
http://www.danisch.de/blog/2019/02/0...von-fake-news/

Haben denn die bei Fraunhofer gar keinen Verstand mehr? Oder wie lautete das interne Aufgabenziel sonst?

[Ceos]

ich war mal bei Fraunhofer ... deine Vorstellung ist etwas zu schwarz/weiss ... es sind vom Prinzip unabhängige Institute die unter dem namen Fraunhofer zusammengefasst sind und wenn man sog. "Grundlagenforschung" betreibt (also gerade kein Forschungsauftrag da ist und dir langweilig ist) landen schon sehr merkwürdige Dinge in der Schublade die dann igrendwann von jemandem ohne Feingefühl entdeckt und publiziert werden ... also schimpf auf den FKIE ... *brille aufsetz* ... hm witzig .. ich hab im Nachbarinstitut gearbeitet XD

[White_Fox]

Die Organisationsstruktur ist mir in etwa klar. Ich arbeite aktuell bei einem Institut, daß im Begriff ist, dem Fraunhoferverbund beizutreten. Ich hätte das vllt anders formulieren sollen.

Sind es eigentlich schon Fake News, wenn berichtet wird daß die eine Fake News-Erkennungsmaschine bauen, das Ding aber nur prüft ob es anderswo schonmal von ausgewählten Medien publiziert wurde?

Ich meine, die Meldung ist schlicht nicht wahr, und bösartige Manipulation (nicht zu verwechseln mit Manipulationsabsicht) ist auch dabei.

[Manf]

Auch Hate Speech lässt sich automatisiert erkennen. ...
Dies sind beispielsweise Ausdrücke wie ›Politischer Abschaum‹ oder ›Nigger‹«, sagt der Linguist und Mathematiker.

Die Wissenschaftlerinnen und Wissenschaftler können ihr System an unterschiedliche Arten von Texten anpassen, um diese zu klassifizieren. Sowohl Behörden als auch Unternehmen nutzen das Tool, um gezielt Desinformation aufzudecken und umfassend zu bekämpfen. »Unsere Software lässt sich für jeden Kunden individuell anpassen und trainieren. Behörden kann es als Frühwarnsystem dienen«, sagt Schade.

Bei den Hate Speech Ausdrücken fängt es ja recht eindeutig an, bei Mathematiker habe ich gestutzt und bemerkt, dass auch schon Linguist nicht mehr dazu gehört. Man sollte halt gründlich lesen. Bei geschickten Mehrdeutigkeiten andererseits wird jedes System an seine Grenzen kommen.

Man meint hoffentlich nicht, dass sich nicht auch die Fake News Autoren sich solcher Methoden bedienen könnnen um die Tools zu unterlaufen.

[Ceos]

der klassiker ... ein chatfilter um unerwünschte werbung und schimpfwörter in einem online game zu filtern ...

nach einer betriebszeit von 2 jahren und dem verschleiß von 4 moderatoren die sich darum gekümmert haben war die regeldatei schon wegen der kreativität der spinner auf über 400 Zeilen angewachsen und filterte wirklich fast jeden ungeübten spammer/bot ... und trotzdem findet sich immer der eine hartnäckige neue idiot der dem filter (über die hand des moderator) doch wieder was beibringen kann

das system als werkzeug ist ne feine sache, wenn es so universell anlernbar ist gehört sowas open source und auch in viele viele online games hinein ... dann könnte man sog. goldspammern und einer sehr realen mafia mal endlich den hahn abdrehen

das ganze zu politisieren(über nachrichten zu richten) finde ich schon echt gewagt ... denn am ende ist es genau das problem das wir bei der warnehmung von ereignissen schon heute beobachten können ...

misinformation und falsche warnehmung sind ein bekanntes problem und gleichzeitig ein exploit um uns zu manipulieren ... betrachtet es einfach als einen sozialen hack unserer psychologischen festplatte und das tool als virenscanner .... es kommt ganz auf die wertevorstellung der empfangenden person an ob etwas als richtig oder falsch (gut/böse) interpretiert wird ... verändert man geschickt die informationen (manipulierter code in form eines virus/trojaners) so wollen wir also in zukunft ein tool (virenscanner) benutzen das uns aufzeigt dass die information (datei) gut ist oder böse/gefälscht

und wenn sich jetzt jeder der ein spiel schonmal "gepatcht" hat damit man es ohne CD spielen kann mal zurückerinnert

ich downloade den patch, von dem ich weis dass er virenfrei ist und nichts weiter macht als eine dll oder so zu ersetzen -> norton/kaspersky/etc. *honkbrüllschreigeräuschmach* virus virus virus .. böse datei .. böse reputation ... nur weil die AV Hersteller es dritten Firmen (Rechteinhabern) erlaubt Dateisample hoch zu laden um die entsprechende Patch Files diskreditieren (das ist eine gängige methode um gamecracks einen riegel vorzuschieben)

Ich möchte an dieser Stelle darauf hinweisen dass es der eigenen persönlichen Wertevorstellung entspricht die Verwendung von Gamecracks zu verteufeln oder nicht. In meinen Augen jedenfalls sind cracks nichts schlimmes, solange man sich am Ende doch entscheidet den Titel zu kaufen.

Ich betrachte Cracks als "Testversion" und habe in 90% der Fälle eh nichts davon diese Spiele am Ende nicht doch zu kaufen wegen irgendwelcher patches, contents oder online funktionen ...


Was ich ausdrücken will, wir schaffen hier ein gefühl falscher sicherheit mit werkzeugen die hinreichend komplex sind um von otto normal als magisch und unfehlbar betrachtet zu werden
und unterwerfen uns doch nur der gnade des wesens dass die konfiguration des tool in der hand hat

hatte nicht irgendwer anderes als ich schon irgendwo mal idiocracy in den letzten tagen als referenz verwendet?! oder psycho pass ... obwohl das wohl von der story her schon die krasseste ausdehnung eines von dritten gesteuerten zensursystems ist

[Vitis]

der klassiker ... ein chatfilter um unerwünschte werbung und schimpfwörter in einem online game zu filtern ...

nach einer betriebszeit von 2 jahren und dem verschleiß von 4 moderatoren die sich darum gekümmert haben war die regeldatei schon wegen der kreativität der spinner auf über 400 Zeilen angewachsen und filterte wirklich fast jeden ungeübten spammer/bot ... und trotzdem findet sich immer der eine hartnäckige neue idiot der dem filter (über die hand des moderator) doch wieder was beibringen kann

das system als werkzeug ist ne feine sache, wenn es so universell anlernbar ist gehört sowas open source und auch in viele viele online games hinein ... dann könnte man sog. goldspammern und einer sehr realen mafia mal endlich den hahn abdrehen

das ganze zu politisieren(über nachrichten zu richten) finde ich schon echt gewagt ... denn am ende ist es genau das problem das wir bei der warnehmung von ereignissen schon heute beobachten können ...

misinformation und falsche warnehmung sind ein bekanntes problem und gleichzeitig ein exploit um uns zu manipulieren ... betrachtet es einfach als einen sozialen hack unserer psychologischen festplatte und das tool als virenscanner .... es kommt ganz auf die wertevorstellung der empfangenden person an ob etwas als richtig oder falsch (gut/böse) interpretiert wird ... verändert man geschickt die informationen (manipulierter code in form eines virus/trojaners) so wollen wir also in zukunft ein tool (virenscanner) benutzen das uns aufzeigt dass die information (datei) gut ist oder böse/gefälscht

und wenn sich jetzt jeder der ein spiel schonmal "gepatcht" hat damit man es ohne CD spielen kann mal zurückerinnert

ich downloade den patch, von dem ich weis dass er virenfrei ist und nichts weiter macht als eine dll oder so zu ersetzen -> norton/kaspersky/etc. *honkbrüllschreigeräuschmach* virus virus virus .. böse datei .. böse reputation ... nur weil die AV Hersteller es dritten Firmen (Rechteinhabern) erlaubt Dateisample hoch zu laden um die entsprechende Patch Files diskreditieren (das ist eine gängige methode um gamecracks einen riegel vorzuschieben)

Ich möchte an dieser Stelle darauf hinweisen dass es der eigenen persönlichen Wertevorstellung entspricht die Verwendung von Gamecracks zu verteufeln oder nicht. In meinen Augen jedenfalls sind cracks nichts schlimmes, solange man sich am Ende doch entscheidet den Titel zu kaufen.

Ich betrachte Cracks als "Testversion" und habe in 90% der Fälle eh nichts davon diese Spiele am Ende nicht doch zu kaufen wegen irgendwelcher patches, contents oder online funktionen ...


Was ich ausdrücken will, wir schaffen hier ein gefühl falscher sicherheit mit werkzeugen die hinreichend komplex sind um von otto normal als magisch und unfehlbar betrachtet zu werden
und unterwerfen uns doch nur der gnade des wesens dass die konfiguration des tool in der hand hat

hatte nicht irgendwer anderes als ich schon irgendwo mal idiocracy in den letzten tagen als referenz verwendet?! oder psycho pass ... obwohl das wohl von der story her schon die krasseste ausdehnung eines von dritten gesteuerten zensursystems ist

1984 führ eich da als Klassiker und Lektüreempfehlung an.

Es ist ein Spagat ... hab nen Heranwachsenden, der nun schrittweise ans Web herangeführt werden soll, youtube verwendet er schon für Kurzweil Zeichentrickfilme etc., doch das Übel ist nur einen Klick entfernt. Früher waren auf den Videokassetten die FSK Bildchen drauf und das war ok. Im Web ist das weit schwieriger.
Die Frage ist, gibt es einen gesellschaftlichen Konsens was an Inhalten gewollt ist und was nicht.
Wo fängt Presse- oder Meinungsfreiheit an und wo enden sie, was sind Fakenews und was nicht.

[Ceos]

Mein Geburtsjahr klassisch

---

schon klar, du meinst das Buch :P