Das Internet sollte die Menschheit mit Informationen befreien – so der fromme Wunsch. Doch es zeigte mit seiner grenzenlosen Freiheit auch die Abgründe der Menschen. Dazu gehört auch der jahrelange Kampf gegen sexuelle Darstellungen von Kindern. Doch die abstoßenden Bilder und Videos gibt es nicht – wie man vermuten würde – nur in dunklen Winkeln des Darknets zu sehen. Bis vor kurzem konnte man sie auch direkt in Microsofts Suchmaschine Bing finden.
Das berichtet “Techcrunch”. Nach einem anonymen Tipp beauftragte das angesehene Branchenmagazin Ende Dezember die israelische Firma AntiToxin, bei Microsofts Suchmaschine Bing entsprechendes Material zu suchen- und die hatte erschreckend schnell Erfolg. Wer plump “Child porn” eingab, erhielt zwar keine Ergebnisse. Schon bei kleinen Abweichungen mit einschlägigen Schlagworten für Kinderpornos erschienen aber schon entsprechende Ergebnisse.
Harmlose Suche, illegales Ergebnis
Wie drastisch die Darstellungen sind, ist nicht vollständig nachvollziehbar. Techcruch und Antitoxin haben die Suchergebnisse aus verständlichen Gründen zensiert – sonst würden sie schließlich illegale Inhalte verbreiten. In einer Beschreibung heißt es allerdings, die Kinder und Jugendlichen wären in klar sexuellen Posen zu sehen gewesen und hätten teilweise alleine oder mit anderen Kinder, aber auch mit Erwachsenen “verschiedene Sex-Akte vollzogen”.
Auch aus Versehen hätte man nach dem Bericht über die Bilder stolpern können. Bei der Suche nach einer bei Kindern beliebten Netzwerk-App und dem Zusatz “kids” landeten in Microsofts Bildersuche gleich reihenweise un- und leichtbekleidete Kinder und Jugendliche auf dem Bildschirm. Noch schlimmer: Die Suchmaschine empfahl gleich noch “girls 13” und ähnliche Begriffe als Erweiterung der Suche. Auch wenn man ein Bild öffnete, wurden weitere sexuelle Darstellungen als Empfehlungen angezeigt. Das gleiche Ergebnis ergab sich bei weiteren, scheinbar harmlosen Begriffen.
Für die Suche hatte man bei Bing die “Safe Search” ausgeschaltet. So nennt Microsoft den Inhaltefilter, der in der Standardeinstellung (“Mittel”) allzu anstößige Inhalte wie Pornografie aus den Ergebnissen entfernt. Beim Konkurrenten Google hatte Antitoxin mit den gleichen Einstellungen und Suchbegriffen keine kinderpornografischen Inhalte gefunden.
Das sagt Microsoft zu dem Vorfall
Das klare Versagen, die Bildersuche in Bing von illegalen Inhalten frei zu halten, erkennt auch Microsoft. Von “Techcrunch” mit den Erkenntnissen konfrontiert sagte ein Sprecher des Unternehmens: “Diese Art von Suchergebnissen sind natürlich nicht akzeptabel und wir schätzen es, von “Techcrunch” darauf aufmerksam gemacht worden zu sein. Wir haben sofort die Ergebnisse entfernt und werden in Zukunft verstärkt versuchen, solche Verstöße im Vorfeld zu vermeiden.”
Nach Angaben des Konzerns sei ein Entwicklerteam dabei, die Such- und Vorschlagsalgorithmen mit entsprechenden Filtern auszustatten. Allerdings scheinen die noch nicht zu funktionieren: Einige der geprüften Begriffe sollen laut Antitoxin immer noch illegale Inhalte zeigen.
Software alleine reicht nicht
Der Fall zeigt ein grundlegendes Problem der Suchmaschinen-Betreiber. Auf der einen Seite ist die Masse der Inhalte zu groß, um alles händisch zu prüfen, auf der anderen Seite können sie sich aber nicht alleine auf die künstliche Intelligenz hinter den Suchmaschinen verlassen. Nach Angaben von Microsoft setze man deshalb auf eine Mischung aus maschineller und menschlicher Prüfung. Wie groß das Team zur Prüfung ist und ob es erweitert werden soll, wollte der Konzern aber nicht verraten.
Tatsächlich hat Microsoft bereits früh begonnen, bestimmte Bilder erkennen und ausfiltern zu können. Gemeinsam mit der Universität Dartmouth wurde dazu die Technologie PhotoDNA entwickelt, die Bilder anhand eines digitalen Fingerabdrucks erkennt. Die Software wird gegen Gebühr auch an andere Firmen lizenziert. In diesem Fall reichte sie aber wohl nicht aus.
Credit: Source link
