Η διανομή ανεπιθύμητου περιεχομένου που απεικονίζει παιδική πορνογραφία και σεξουαλική κακοποίηση έχει καταστεί θέμα συζήτησης, μεταξύ των εταιρειών WhatsApp, Tumblr και Telegram, οι οποίες προσέλκυσαν πρόσφατα τα φώτα πάνω τους σχετικά με τη διάδοση τέτοιου υλικού στις πλατφόρμες τους.

Το τελευταίο όνομα που προστέθηκε στην συζήτηση είναι το Bing της Microsoft. Το Bing πιάστηκε να εμφανίζει εικόνες που απεικονίζουν παιδική πορνογραφία στα αποτελέσματα αναζήτησης και μάλιστα προτείνει λέξεις-κλειδιά που θα μπορούσαν να χρησιμοποιηθούν για να βρουν ακόμη πιο ενοχλητικό περιεχόμενο των οποίων η κατοχή ή η διανομή θεωρείται ποινικό αδίκημα.

Bing

Τα ευρήματα αναφέρθηκαν από την AntiToxin, μια οργάνωση που αναπτύσσει λύσεις για την καταπολέμηση της online ύβρις, μετά από μια ανώνυμη καταγγελία που έλαβε από το TechCrunch, τονίζοντας πόσο εύκολο ήταν να βρεθούν οι εικόνες – οι οποίες απαγορεύονται σε πολλαπλές πλατφόρμες – στο Bing. Σύμφωνα με την αναφορά, το Bing όχι μόνο φέρνει αποτελέσματα για λέξεις-κλειδιά απλά όπως τα «porn kids» στην αναζήτηση εικόνων, αλλά παρέχει επίσης προτάσεις αυτόματης αναζήτησης, οι οποίες επαναφέρουν μια πληθώρα περιεχομένων που απεικονίζουν ανήλικα άτομα σε διαφορετικά σενάρια. Όλες αυτές οι φωτογραφίες εμφανίστηκαν στην ενότητα αναζήτησης εικόνων του Bing όταν το φίλτρο «ασφαλούς αναζήτησης» είναι απενεργοποιημένο.

Και όταν επιλεγεί μια εικόνα, η μηχανή αναζήτησης της Microsoft παρουσιάζει επίσης προτάσεις στην ενότητα «similar images» των οποίων το περιεχόμενο και η λέξη-κλειδί είναι σύμφωνες με το αρχικό ερώτημα αναζήτησης και την περιγραφή της επιλεγμένης εικόνας. Στην έρευνα, η AntiToxin διαπίστωσε ότι λέξεις-κλειδιά όπως ‘porn kids’ και ‘nude family kids’ εμφανίστηκαν σε μια εκτεταμένη συλλογή εικόνων που απεικονίζουν ανήλικα γυμνά παιδιά και τους ενήλικους να προβαίνουν σε σεξουαλικές πράξεις. Αλλά αυτά δεν είναι όλα. Όταν οι ερευνητές αναζητούσαν όρους όπως τα «Omegle Kids» και «Omegle for 12 years old», η αυτόματη συμπλήρωση του Bing πρότεινε «Omegle Kids Girls 13» και «Kids On Omegle Show» αντίστοιχα, τα οποία και πάλι άνοιξαν μια θάλασσα τέτοιου περιεχομένου.

«Είναι σαφές ότι αυτά τα αποτελέσματα είναι απαράδεκτα και δεν είναι σύμφωνα με τα πρότυπα και τις πολιτικές μας και εκτιμούμε ότι το TechCrunch μας έχει κατανοήσει. Ενεργήσαμε αμέσως για να τα καταργήσουμε, αλλά θέλουμε να αποτρέψουμε και άλλες παρόμοιες καταστάσεις στο μέλλον «, δήλωσε ο επικεφαλής της Microsoft, Bing & AI Products, Jordi Ribas, στο TechCrunch αφού ενημερώθηκε για τα ευρήματα. Πρόσθεσε ότι η ομάδα της Microsoft προσπαθεί τώρα να αποκλείσει τέτοιου είδους ευρήματα και να περιορίσει τις προτάσεις. Φαίνεται ότι μέχρι στιγμής δεν έχει διορθωθεί το θέμα και το Bing  εξακολουθεί να φέρνει έναν τόνο εικόνων που απεικονίζουν παιδική πορνογραφία για ορισμένες από τις λέξεις-κλειδιά που αναφέρθηκαν παραπάνω.