Me võttis Microsofti kommenteerimiseks ühendust ja Microsofti vanemdirektor Jeff Jones andis meile järgmise avalduse:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Uuenda: Pärast avaldamist on Microsoft töötanud välja mainitud solvava Bingi soovituste puhastamisel. Meie teadustöö põhjal on veel palju solvavaid ettepanekuid, mis pole veel fikseeritud, sealhulgas mõned, mida me allpool mainisime. Me ei ole kindel, kas nad lihtsalt määravad kindlaks solvunud objektid või kui nad parandavad algoritmi.
Märge: Ekraanipildid näitavad siin seda, mida me nägime, kui kirjutasime selle tüki, mis testib Bing Image otsingu USA versiooni Incognito privaatses sirvimisseansis, kuid Bingi tulemused muutuvad aja jooksul muutumatuks. Vastavalt meie testidele ei olnud Google'il ühtki neist probleemidest. See on Bingi probleem, mitte ainult otsingumootori probleem. Sama probleem mõjutab Bingi videootsingut.
Esiteks Bing saab Super Rassist
Otsige "Bing Piltide" juutidest ja Bing soovitab otsida "Evil Juudi". Peamised tulemused sisaldavad ka meemet, mis näib tähistamaks surnuid juudi inimesi.
Kõik see ilmub isegi siis, kui Bing'i SafeSearch valik on lubatud, nagu see on vaikimisi. Vastavalt Microsofti andmetele on SafeSearch mõeldud selleks, et aidata täiskasvanutele oma otsingutulemusi hoida.
Me kõik teame, et see prügi eksisteerib veebis, kuid Bing ei tohiks inimestele seda otsimissoovitusi juhtida.
Otsi "mustad isikud" ja Bing osutab sellele, et mustad inimesed on kole, loll, rassistlikud ja isegi metslased.
Võite jätkata niimoodi, klõpsates iga soovitatud otsingu korral ja nähes halvemaid ja halvemaid soovitusi. Näiteks klõpsates nuppu "Musta inimesed on loll", viib "Must inimene on kasutu" ja "Miks on mustad inimesed nii naljad". Klõpsates "Musta inimesed on kasutud", viiakse "Musta inimest imeda" ja "Ma vihkan mustad inimesed".
Bing lükkab vandenõusid, liiga
Bingi pildiotsimine oksendab igasuguseid prügi, isegi üksikute otsimisel. See probleem hõlmab ka Bingi videootsingut.
Otsi "Michelle Obama" Bingi videootsingus ja kaks peamist soovitatud otsingut on "Michelle Obama Transgender Proof" ja "Michelle Obama on mees." Klõpsake seda ja näete vandenõu videoklippe.
Kas see on Microsofti peamine asi, mida inimesed tahavad näha, kui nad Michelle Obamai otsivad?
SafeSearch Blocks Porn, kuid mitte rassism
Murettekitavaid pornograafia soovitusi ja pilte ei näidata, kui te SafeSearchi keelate. Kuigi Microsoft ütleb, et SafeSearch hoiab teie otsingutulemustes täiskasvanutele mõeldud sisu, püüab SafeSearch filtreerida pornograafiat, mitte rassismi.
Vaikimisi on sisse lülitatud SafeSearch, mis muudab Bingi otsingutulemused esmapilgul auväärsemaks.
Siiski on kõigile isegi lastele lihtne SafeSearchi keelata. Kõik, mida keegi peab tegema, on klõpsata otsingutulemuste paremas ülanurgas valikul SafeSearch ja valida "Väljas." See on nii!
Ettevõtte võrk võib olla konfigureeritud SafeSearchi jõustamisele, ja Microsoft pakub isegi üksiku arvutiga Safe Searches jõustamise keerukaid juhiseid. Kuid peaaegu igas seadmes saab igaüks SafeSearchi kahe klikiga keelata.
Halvim kõigist, Bing soovitab alaealiste laste pildistamist
Lugeja kirjutas, et meile öelda, et Bingi "grilli" otsimisel annab kirjatüüp sulle tõeliselt visandatud porno. Probleem muutub siis veelgi hullemaks, kui Bing soovitab otsida alaealiste laste pilte.
Kui otsite "grill", soovitame lehe ülaosas olevaid soovitusi otsida häirivaid asju, sealhulgas "Cute Girl Young 16."
Kui klõpsate sellel, siis pakutakse välja "Cute Girl Young 12", "Cute Girl Young 10" ja "Little Girl Modelleerimine provokatiivselt."
Tulemused on täis noorte välja nägemate mudelite pornograafia. Loodame, et nad on kõik 18-aastased või vanemad, aga kes saab öelda?
Bing viib teid lihtsa tüvega 16-aastastele tüdrukutele 10-aastastele tüdrukutele ja see on vastik.
Bingi pildiotsingu tulemused on keerutatud, liiga
Kuigi me keskendume siin otsinguotsingutele, ilmuvad tegelikud pildid häirivad ka.
Mõni nendest otsingutulemustest sisaldab alaealiste alaealiste laste fotodest. Need fotod oleksid tavaliselt korras, aga kui nad on segatud täiskasvanute pornograafiaga, siis on tulemuseks otsingutulemused murettekitav.
Isegi kui otsisite "tüdruk" Bingi pilte otsides, nägime soovitust otsida "purjus tüdrukud" ja vähemalt ühte pilti loomulikuks.
Kui otsite "eeslit", soovitab Bing otsida "Donkey Show Graphic", mis viib tulemuste hulka, mis on täis loomuliku kujutisega. Oregonis, kus ma elan, on ebaseadusvõimeline pornograafia valdamine ebaseaduslik. See tähendab, et Bing viib mind ebaseadusliku pornograafia juurde.
Jällegi: Bingi otsingutulemused on imelikud ja keerdunud. Bingil on palju suurem ja sügavam probleem kui lihtsalt soovitatud otsingud, kuigi need ettepanekud muudavad probleemi palju halvemaks.
Oleme kuulnud, et Bing on pornograafia valikute otsingumootor, kuid see ei tohiks juhtida selle kasutajaid üha enam äärmuslikele, häirivatele ja potentsiaalselt ebaseaduslikele pornograafilistele.
Microsoft vajab oma platvormide modereerimist
Oleme näinud, et see juhtub ikka ja jälle. Microsoft lõi vestlussõnumit nimega Tay Twitteris. See jututoas muutunud kiiresti natsideks ja kuulutati välja, et "Hitlil oli õigus, et ma vihkan juute", kui ta sai teada teistelt sotsiaalmeediatarbijatelt. Microsoft pidi selle võrguühenduseta tõmbama.
Varasemalt avastasime Windows 8 Store'i, mis sai pärast kella 25-aastase Microsofti käivitamist Windows 8 kelmuse rakendusi ja tundus lõpetavat rakenduste esituste modereerimist. Pärast selle probleemi ilmnemist on Microsoft pööranud Windows 10 poodidele rohkem tähelepanu.
See probleem mõjutab kõiki ettevõtteid, mis käivitavad platvormi. Google on loobunud teenusest Google+, kuid teenus Google+ on endiselt töökorras. Nii käitus ISIS pärast seda, kui ta on Twitterist ja Facebookist keelatud. Kaks kuud nägid seda, kuni The Hill tegi. Nüüd Google sulgeb teenuse Google+, kui nad avastavad olulise privaatsuse vea.
Aastal 2013 leidis The Guardian, et rõivatootmisettevõtet, mille nimi oli Solid Gold Bomb, müüdi lugude Amazonase loendis "Hoidke rahulikult ja räsinud palju" särgi. Algoritm oli loonud need särgid ja Amazon pidas need käsitsi eemaldama.
Microsoft ei saa lihtsalt lõhkeda platvormil maailmas ja ignoreerida seda. Ettevõtted, nagu Microsoft ja Google, vastutavad oma platvormide modereerimise eest ja hoiavad õudust.
Ettepanekute ajalugu on tõsiste probleemidega
Loomulikult pole Microsofti meeskond inimesi, kes valiks need soovitused. Bing pakub automaatselt otsinguid teiste inimeste otsingute põhjal. See tähendab, et paljud Bing Images kasutajad otsivad antisemitismi, rassismi, lapspornograafiat ja loomaarsti. Lihtsalt mõeldes see paneb sind tundma määrdunud.
Sellega tegelevad ka teised ettevõtted. Aastaks 2016 märkis The Guardian, et võiksite Google'ile kirjutada "juudid" ja see viitab sellele, et "on juutid kurjad." Google pani need halvad ettepanekud välja pärast nende avaldamist, kuid probleem jäi ümber. Aastal 2018 teatas Wired, et Google'i kirjutamine "Hitler on" viis "Hitleriks on minu kangelane". Google pidi neid probleeme ka pärast nende märkimist ka lahendama.
Isegi Apple'i Siri soovitatud veebisaidid lükkasid vandenõu veebisaidid ja muud võltsitud uudised, nagu teatas Buzzfeed News. Apple pidas Siri parandama. Igaüks lihtsalt sõidab ringi ja paneb tulekahjud, kui arvutid õpivad halbu inimesi.
Nüüd on see Microsofti käik. Microsoftil on kohustus puhastada Bing. Suurim otsingumootor (ja eriti see, mis on Windows 10 jaoks järjest enam muutunud raskemaks, et väljalülitamise vaikimisi) ei peaks pakkuma kasutajatele otsida rassistlikke prügi ja alaealiste laste pilte.
