«У каждого есть роль в преодолении предвзятости искусственного интеллекта»

Date: 16 April 2021
Other languages: English |
По мере того, как все больше стран продвигаются вверх по линии цифровой трансформации и искусственного интеллекта (ИИ), люди должны обращать внимание «на то, что они видят и чего не видят, чтобы можно устранить любые скрытые предубеждения», - сказал Стив Краун, вице-президент и заместитель генерального юрисконсульта в компании Майкрософт.

«ИИ – это творение человека, и люди определяют, какие данные в него вводятся, что может выдать за истину, и что нет», - сказал Краун, чья онлайн-лекция, организованная УЦА 16 марта 2021 года, была посвящена ИИ и человеку.
Эта предвзятость возникает не обязательно из-за умышленных проступков со стороны IT-ученых, которые их разрабатывают, но часто из-за количества и качества данных, с которыми они работают, сказал Краун. Он привел пример технологии распознавания лиц, многие из которых ориентированы на людей со светлой кожей, особенно мужчин. 


«Технология распознавания лиц часто передает информацию о людях с более светлой кожей, особенно мужчин, из-за большого количества доступных данных для изучения людей со светлой кожей в СМИ», - пояснил Стив Краун во время своей лекции.

В средствах массовой информации (СМИ) появляется больше данных в виде изображений людей со светлой кожей, «которые затем отражаются на сборе данных для ИИ», - сказал Краун, и что обучающий сбор данных также искажает изображения, зависящих от хорошей фокусировки и освещения.

По словам Крауна, при каждом использовании ИИ важно знать, какие перспективы, предположения и предубеждения влияют на производительность. ИИ может играть скрытые роли в таких вопросах, как распределение и отказ от ресурсов и возможностей, в анализе рисков при принятии таких решений как выдача кредитных займов, найм людей на работу и другие вопросы. «ИИ - это самая мощная технология, созданная людьми», - сказал он, добавив, что это «воодушевляет, но также заставляет задуматься», потому что остается много вопросов, на которые нет ответа. «Это вызов для всего человечества, и все мы должны сыграть свою роль».

По словам Крауна, Майкрософт решает проблему предвзятости «с более широкой этической точки зрения и прав человека», уделяя особое внимание ответственному и «ориентированному на человека ИИ». Основными составляющими ИИ являются справедливость, надежность, безопасность, конфиденциальность, инклюзивность, прозрачность и подотчетность.


Шейх, один из ведущих инженеров Microsoft, стоящих у истоков разработки Seeing AI, сам пользуется приложением, поскольку он слепой.

Сравнивая смещение гравитации, которая может быть как полезной, так и разрушительной, Краун сказал, что ее можно использовать с помощью ИИ для решения мировых проблем. Он привел пример о бесплатном приложении Microsoft Seeing AI, которое помогает сообществу слепых и слабовидящих ориентироваться в своем мире, описывая людей, предметы и вещи, которые их окружают. Приложение использует камеру смартфона, фиксирующих происходящие вещи вокруг пользователя, и передающих это с помощью голоса. Сакиб Шейх, один из ведущих инженеров Майкрософт, участвовавший в разработке Seeing AI, пользуется таким приложением, поскольку он слепой.

Полная запись на нашем Youtube канале.
This website uses cookies
Cookies are small text files held on your computer. They allow us to give you the best browsing experience possible and mean we can understand how you use our site.
Some cookies have already been set. You can delete and block cookies but parts of our site won't work without them.
By using our website you accept our use of cookies.
Yes, I agree No, I want to find out more