Grafik: AntiToxin

Microsofts Bing half bei Suche nach Kinderpornografie

11. Jänner 2019, 11:11

Studie zeigt Versagen der Microsoft-Filter, die Suche wurde mit Keywords weiter unterstützt

Ungefilterte Ergebnisse gibt es bei Suchmaschinen schon lange nicht mehr: Ob Google, Bing oder auch Yahoo – alle sind sie dazu verpflichtet, gewisse Inhalte auszublenden. Nun stellt sich aber heraus, dass einer der großen Anbieter ordentlich gepatzt hat – und das noch dazu in einem besonders sensiblen Bereich.

Bildersuche

Microsofts Bing hat seinen Nutzern nicht nur die Suche nach Kinderpornografie ermöglicht, zum Teil wurden solche Ergebnisse sogar vorgeschlagen. Das zeigt eine Untersuchung, die die Sicherheitsfirma Antitoxin Technologies im Auftrag von "Techcrunch" vorgenommen hat.

Eine Suche bei Bing, die ausgeblendeten Inhalte zeigten allesamt Fotos von teilweise oder komplett nackten Kindern. Anmerkung: Bei Omegle handelt es sich um eine gerade bei Jugendlichen beliebte Videochatplattform.
grafik: antitoxin

User, die nach entsprechenden Begriffen rund um Kinderpornografie suchten, bekamen dabei von Bing also gleich entsprechende Bilder geliefert. Doch nicht nur das, die automatische Beschlagwortung jeder Aufnahme führte dazu, dass die Nutzer auch gleich neue Begriffe geliefert bekamen, über die sie weiter nach solchen Fotos suchen konnten.

Reaktion

In einer Stellungnahme gegenüber "Techcrunch" betont Jordi Ribas, Microsoft-Vizepräsident für die Bereiche Bing und künstliche Intelligenz, dass dieser Vorfall komplett inakzeptabel sei. Man habe die problematischen Ergebnisse mittlerweile entfernt, zudem wolle man die Situation weiter analysieren, um sicherzustellen, dass so etwas nicht noch einmal vorkommt.

Die Autosuggest-Funktion von Bing lieferte äußerst problematische Ergebnisse.
grafik: antitoxin

Hintergrund

Microsoft ist nicht das einzige Tech-Unternehmen, das Probleme mit solchen Inhalten hat. So sorgte erst vor einigen Wochen ein Bericht für Aufsehen, dass mittlerweile in Whatsapp-Gruppen massiv solche Bilder getauscht werden – und diese durch Dritt-Apps einfach aufzuspüren sind. Dass nun gerade Microsoft über dieses Thema stolpert, überrascht trotzdem. Immerhin ist das Unternehmen an einigen Initiativen beteiligt, die die Verbreitung von Kinderpornografie im Internet unterbinden sollen. (red, 11.1.2019)