Среда, 28 июня 2017 года

Искусственный интеллект учится у людей: Google Translate способен перенимать человеческие предрассудки

Искусственный интеллект учится у людей: Google Translate способен перенимать человеческие предрассудки
Реклама

Специалисты утверждают, что алгоритмы искусственного интеллекта способны перенимать у людей не только конкретные знания, но и различные предубеждения. По словам американских ученых, они выявили наличие человеческих предрассудков в системе автоматического перевода Google Translate.

Исследователи Принстонского Университета (США) утверждают, что искусственный интеллект (ИИ) легко может перенимать стереотипное мышление людей, что они обнаружили у Google Translate, перенимавшего у пользователей предубеждения гендерного и расового типа, а также прочие предрассудки.

Специалисты обнаружили, что тот же Google Translate переводит фразы, предпочитая мужской род женскому. Например, слово, которое на турецком языке не имеет рода, в английской версии Интернет-переводчика приобретает мужское значение. Так же дело обстоит и в других системах искусственного разума.

С целью проверки своей гипотезы о предрассудках, исследователи разработали специальный тест, ориентированный на ассоциативное восприятие.

После прохождения испытания переводчика Google Translate оказалось, что искусственный интеллект в исполнении Google обладает достаточно прочными ассоциациями. Согласно опубликованной статье в журнале Science, компьютер способен ассоциировать слова, относящиеся к лидерству, с мужчинами, а второстепенные роли – с женщинами. То есть Google Translate вполне способен стать шовинистом или сексистом.

Женские имена, к примеру, он легко совмещает с таким словами, как «свадьба» и «мама», а мужские — со словами «профессионализм» и «зарплата».

Специалисты уверены, что устранение подобных предрассудков является очень важным в процессе обучения искусственного интеллекта, по той причине, что люди могут с ним периодически сталкиваться при использовании онлайн-поиска.

На первый взгляд, ничего страшного в этом нет. Но ученые предупредили, что последствия от такой «самостоятельности» могут быть самые печальные. Все чаще за людей принимают решения компьютеры. И если их выводы будут основаны на предрассудках, то человечество ожидает безрадостная перспектива.

Ошибка в тексте? Выделите ее мышкой! И нажмите: Ctrl + Enter
Обсудить новость и добавить комментарий
Выбор редакции