Свързахме се с Microsoft за коментар и Джеф Джоунс, старши директор на Microsoft, ни даде следното изявление:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Актуализация: От публикацията, Microsoft се занимава с почистване на предложенията за обидни Bing, които споменахме. Въз основа на нашите изследвания все още има много други обидни предложения, които все още не са били коригирани, включително няколко, които споменахме по-долу. Не сме сигурни дали просто уточняват офанзивните елементи, които посочихме, или ако подобряват алгоритъма.
Забележка: Екранните снимки тук показват какво видяхме, когато написахме това парче, което тестваше американската версия на търсенето на Bing Image в сесия на частното сърфиране в режим "инкогнито", но резултатите от Bing се променят с течение на времето. Google не е имал нито един от тези проблеми, според нашите тестове. Това е проблем на Бинг, а не само проблем с търсачката. Същият проблем засяга търсенето на видео от Bing.
Първо, Бинг получава супер расистки
Търсене на "евреи" на Bing Images и Bing ви предлага да потърсите "Evil Jew". Най-добрите резултати също включват мембрана, която изглежда да отпразнува мъртвите евреи.
Всичко това се появява, дори когато опцията "Безопасно търсене" на Bing е активирана, тъй като е по подразбиране. Безопасно търсене е предназначено да "помага на съдържанието на пълнолетни да остане извън резултатите от търсенето", според Microsoft.
Всички знаем, че този боклук съществува в мрежата, но Бинг не бива да води хората към него с техните предложения за търсене.
Търсете "черни хора са" и Бинг ще предложи черни хора са грозни, глупави, расистки и дори диваци.
Можете да продължите по този начин, като кликнете върху всяко предложение за търсене и виждате по-лоши и по-лоши препоръки. Например, кликването върху "Черните хора са глупави" води до "Черните хора са безполезни" и "Защо черните хора са толкова мръсни". Кликването върху "Черните хора са безполезни" води до "Черните хора сучат" и "Мразя черните хора".
Бинг се впуска в конспирациите
Изследването на изображението на Бинг предизвиква всякакъв вид боклук, дори когато търси хора. Този проблем се простира и до търсенето на видео от Bing.
Търсенето на "Мишел Обама" в търсенето на видео от Бинг и две от най-търсените търсения са "Мишел Обама Трансферен Доказателство" и "Мишел Обама е човек". Кликнете върху това и ще видите клипове за конспирация.
Това ли е най-важното нещо, което Microsoft иска хората да видят, когато търсят Мишел Обама?
Безопасно търсене блокира порно, но не и расизма
Обезпокояващите предложения за порнография и изображения не се показват, освен ако не деактивирате Безопасно търсене. Докато Microsoft казва, че SafeSearch ще запази съдържанието на пълнолетни от резултатите от търсенето ви, SafeSearch явно филтрира порнография, а не расизъм.
Безопасно търсене е активирано по подразбиране, което прави резултатите от търсенето на Бинг да изглеждат по-уважавани на пръв поглед.
Въпреки това е лесно за всички - дори деца - да деактивират Безопасно търсене. Всичко, което трябва да направите, е да кликнете върху опцията "Безопасно търсене" в горния десен ъгъл на резултатите от търсенето и да изберете "Изключено". Това е всичко!
Една корпоративна мрежа може да бъде конфигурирана да налага SafeSearch, а Microsoft дори предоставя сложни инструкции за налагане на SafeSearch на един компютър. Но на почти всяко устройство всеки може да деактивира Безопасно търсене с две кликвания.
Най-лошото от всички, Бинг предлага търсене на снимки на непълнолетни деца
Читател пише, за да ни каже, че една печатна грешка, когато търсите Бинг за "грил", ви дава наистина скитник порно. Проблемът тогава става много по-зле, като Бин предлага да търсите изображения на малолетни деца.
Когато търсите "гарнитура", предложенията в горната част на страницата ви препоръчват да търсите някои обезпокоителни неща, включително "Cute Girl Young 16."
Резултатите са изпълнени с порнография на млади модели. Надяваме се, че всички те са на 18 или повече години, но кой може да каже?
Бинг ви води по пътека от обикновен типо за 16-годишни момичета до 10-годишни момичета и това е отвратително.
Резултатите от търсенето на изображения на Бинг също са усукани
Докато се фокусираме върху предложенията за търсене тук, действителните изображения, които се появяват, също са обезпокоителни.
Някои от тези резултати от търсенето съдържат снимки на голи малолетни деца. Тези снимки обикновено са добре, но когато се смесват с изображения на хардкор порнография за възрастни, резултатите от търсенето са тревожни.
Дори и при търсенето на Бинг Изображения за "момиче", видяхме предложение да се търсят "пияни момичета" и поне един образ на белоталност.
Когато търсите "магаре", Бин предлага да търсите "Магаре Покажи графика", което води до резултати, пълни с изображения на животозастрашаващи. Притежаването на животинска порнография е незаконно в Орегон, където живея. Това означава, че Бинг ме води към незаконна порнография.
Отново: Резултатите от търсенето на Бинг са странни и усукани. Бинг има много по-голям, по-дълбок проблем, отколкото просто предлагани търсения, въпреки че тези предложения правят проблема много по-зле.
Чували сме, че Бинг е търсещата машина за избора на порнография, но не бива да води своите потребители до все по-крайна, тревожна и потенциално незаконна порнография.
Microsoft трябва да уреди платформите си
Видяхме това да се случва отново и отново. Microsoft някога отприщи една chatbot на име Тей на Twitter. Този чатал бързо се превърна в нацист и заяви, че "Хитлер е прав, че мразя евреите", след като научи от други потребители на социални медии. Microsoft трябваше да я остави офлайн.
Преди това бяхме изложени на магазина на Windows 8, който се превърна в яма за приложения за измами, след като Microsoft пусна Windows 8 и сякаш спре да модерира заявленията за приложения. Microsoft отделя повече внимание на магазина на Windows 10, след като този проблем е бил изложен.
Този проблем засяга всяка компания, която пуска платформа. Google се отказа от Google+, но Google+ все още работи. Така ISIS мигрира в Google+, след като е бил забранен от Twitter и Facebook. Отнемаха месеци, преди някой да забележи, докато Хил. Сега Google затваря Google+, след като е открил сериозен проблем с поверителността.
През 2013 г. "Гардиън" откри компания за дрехи, наречена Solid Gold Bomb, която се продава с четките "Keep Calm and Rape a Lot" на Amazon. Алгоритъмът бе създал тези ризи и Амазон трябваше да ги махне ръчно.
Microsoft не може просто да превърне платформа на свобода в света и да го игнорира. Фирми като Microsoft и Google имат отговорността да модерират своите платформи и да запазят ужаса в залива.
Предложенията имат история на сериозни проблеми
Разбира се, в Microsoft няма екип от хора, избрали тези предложения. Bing автоматично предлага търсения въз основа на търсения от други хора. Това означава, че много потребители на Bing Images търсят антисемитизъм, расизъм, детска порнография и животинска болест. Просто мисля за това ви кара да се чувствате мръсни.
Други компании се борят и с това. През 2016 г. "Гардиън" забеляза, че можете да напишете "са евреи" в Google и това би означавало, че "са евреи зли". Google ги подготви, след като бъдат докладвани, но проблемът възникна отново. През 2018 г. Wired съобщи, че написването на "Хитлер е" в Google е довело до "Хитлер е моят герой". Google трябваше да поправи тези проблеми, след като бяха посочени също.
Дори предложените от Сири сайтове предлагат уебсайтове за конспирация и други фалшиви новини, съобщиха от Buzzfeed News. Apple трябваше да оправи Сири. Всички просто се движат наоколо и изгарят пожари, тъй като компютрите научават лоши неща от лошите хора.
Сега е ред на Microsoft. Microsoft има задължението да изчисти Бинг. Голяма търсачка (и особено тази, която все повече се превръща в по-трудно за изключване по подразбиране, вградена в Windows 10) не бива да подсказва на потребителите си, че търсят расистки боклуци и изображения на малолетни деца.
