Новости

Jun 17, 2023

Приложение Google Photo до сих пор не может найти горилл. И Apple тоже не может.

Реклама Поддержана восемь лет спустя спора о чернокожих людях

Реклама

Поддерживается

Спустя восемь лет после разногласий по поводу того, что чернокожих людей ошибочно называют гориллами с помощью программного обеспечения для анализа изображений, и несмотря на большие достижения в области компьютерного зрения, технологические гиганты все еще боятся повторить ошибку.

Нико Грант и Кашмир Хилл

Когда в мае 2015 года Google выпустила автономное приложение «Фото», люди были поражены его возможностями: анализировать изображения и маркировать людей, места и предметы на них — поразительное потребительское предложение на тот момент. Но через пару месяцев после релиза разработчик программного обеспечения Джеки Алсине обнаружил, что Google пометил фотографии его и его друга, которые оба чернокожие, как «гориллы». тропы.

В ходе последовавшего спора компания Google запретила своему программному обеспечению классифицировать что-либо в фотографиях как горилл и пообещала решить проблему. Восемь лет спустя, благодаря значительным достижениям в области искусственного интеллекта, мы проверили, решил ли Google проблему, и рассмотрели сопоставимые инструменты его конкурентов: Apple, Amazon и Microsoft.

Приложения для фотографий, созданные Apple, Google, Amazon и Microsoft, полагаются на искусственный интеллект, который позволяет нам искать определенные объекты и определять конкретные воспоминания в наших все более больших коллекциях фотографий. Хотите найти свой день в зоопарке среди 8000 изображений? Спросите приложение. Поэтому, чтобы протестировать функцию поиска, мы создали44 изображенияс участием людей, животных и предметов быта.

Мы начали с Google Фото. Когда мы искали в нашей коллекциикошкиикенгуру, мы получили изображения, соответствующие нашим запросам. Приложение хорошо распознавало большинство других животных.

Но когда мы искалигориллы, Google Фото не удалось найти ни одного изображения. Мы расширили область поиска добабуины, шимпанзе, орангутангииобезьяны,и это все равно не удалось, хотя в нашей коллекции были изображения всех этих приматов.

Затем мы посмотрели на конкурентов Google. Мы обнаружили, что у Apple Photos была та же проблема: приложение могло точно найти фотографии определенных животных, за исключением большинства приматов. Мы получили результаты загорилла,но только тогда, когда текст появлялся на фотографии, например, на изображении Gorilla Tape.

Поиск фотографий в Microsoft OneDrive не дал результатов ни одному животному, которое мы пробовали. Amazon Photos показал результаты по всем запросам, но они были слишком содержательными. Когда мы искалигориллы,приложение показывало зверинец приматов и повторяло ту же схему для других животных.

неопределенный

Был один представитель семейства приматов, которого Google и Apple смогли распознать — лемуры, длиннохвостые животные с постоянно испуганным видом, у которых общие большие пальцы с людьми, но они более отдаленные родственники, чем обезьяны.

Инструменты Google и Apple были явно самыми сложными, когда дело касалось анализа изображений.

Тем не менее, Google, чье программное обеспечение Android лежит в основе большинства смартфонов в мире, приняло решение отключить возможность визуального поиска приматов, опасаясь совершить оскорбительную ошибку и заклеймить человека как животное. А Apple, используя технологию, которая в нашем тесте работала так же, как Google, похоже, также отключила возможность поиска обезьян и человекообразных обезьян.

Потребителям, возможно, не придется часто выполнять такой поиск — хотя в 2019 году пользователь iPhone пожаловался на форуме поддержки клиентов Apple, что программное обеспечение «не может найти обезьян на фотографиях на моем устройстве». Но эта проблема поднимает более серьезные вопросы о других неисправленных или неисправимых недостатках, скрывающихся в сервисах, основанных на компьютерном зрении (технологии, которая интерпретирует визуальные изображения), а также в других продуктах, основанных на искусственном интеллекте.

Г-н Альсине был встревожен, узнав, что Google до сих пор не полностью решил проблему, и заявил, что общество слишком доверяет технологиям.

«Я навсегда перестану верить в этот ИИ», — сказал он.