Microsoft представила принципы по внедрению ИИ в повседневную жизнь | STROKA.info

Microsoft представила принципы по внедрению ИИ в повседневную жизнь

В корпоративном блоге Microsoft Azure представили «Десять рекомендаций для руководителей по внедрению ответственного ИИ». Документ включает в себя основные требования, которых компания рекомендует придерживаться при внедрении проектов на базе искусственного интеллекта. Рекомендации были разработаны вместе с Boston Consulting Group.

Представители Microsoft обратили внимание, что многие компании переоценивают ответственное поведении единоличных продуктов на базе ИИ. Причина — незнание того, как должен выглядеть подобный искусственный интеллект и каким требованиям отвечать. Также директор по этике ИИ Boston Consulting Group Стив Майлс обратил внимание, что недостаточно только лишь соблюдение этических принципов. 

Рекомендации объединили в три группы:

  • Оценка и подготовка: на этом этапе следует оценить преимущества продукта, технологии материализации и потенциальные опасности;

  • Проектирование: этап выделен для изучения воздействия, уникальных особенностей и формирования документации;

  • Тестирование и поддержка: тут от компаний надо выбрать способы тестирования и дальнейшей поддержк

Сами рекомендации включают в себя следующие пункты:

  1. Оценка достоинств разработки продукта с учетом бизнес модели — следует сперва выяснить варианты использования и преимущества итогового продукта и оценить бизнес-результат, а также исследовать проблемы влияния на бизнес, не только компании-разработчика, но и всей индустрии;

  2. Формирование разнообразной команды профессионалов с явно определенными обязанностями — на этом этапе от компаний надо убедиться в том, что команда разработчиков разнообразна и включает в себя представителей разных полов, возрастных и этнических групп. Также следует обратить внимание на широкий спектр навыков и знаний членов команды;

  3.  Оценка влияния на общество — компании обязаны оценить социальные, экономические и экологические последствия использования продукта, притом, обязателен этап оценки сценариев использования ИИ в незапланированных сценариях, в том числе и неправомерных;

  4. Обеспечить справедливость для всех групп населения — на этом этапе от разработчиков надо оценить какие данные будут использоваться для обучения моделей и на сколько эти данные затрагивают всех представителей общества, а также предусмотреть системы постоянного надзора за соблюдением справедливости;

  5. Разработать продукт с учетом минимального вреда на общество и экологию — как можно минимизировать вредное воздействие на экологию и общество в случаях отказа системы или неправомерного использования, а также обеспечить прозрачность данных и уважение к пользовательским данных;

  6. Обеспечить функции, позволяющие человеку полностью контролировать работу продукта — тут следует разработать систему таким образом, чтобы пользователь мог настраивать работу ИИ и полностью осознавать принципы его деятельности, а также обеспечить инклюзивный опыт использования для людей с ограниченными возможностями;

  7. Обеспечить меры защиты данных — разработчики обязаны спроектировать систему с учетом сохранения данных юзеров, притом, предотвратить потенциальные опасности раскрытия данных;

  8. Документирование процесса создания продукта на всем этапе деятельности — следует выбрать способы постоянного документирования, инструменты и методы;

  9. Тестирование итогового продукта на факт возникновения сбоев и использование ИИ в непредусмотренных сценариях — от компании надо выбрать способы тестирования и произвести сами тесты, как в корпоративной среде, так и на узкой группе юзеров и обеспечить системы постоянного мониторинга работоспособности;

  10. Предоставить пользователям правила деятельности с продуктом и потенциальные опасности — пользователям следует разъяснить о принципах деятельности ИИ и рисках для юзеров, которые имеют возможность возникнуть в процессе деятельности, а также дать инструкции для минимизации потенциального ущерба.

Источник Хабр

Previous post Экс-председателя думы Чукотки задержали в Анадыре
Next post Türkiye: раскрыт неожиданный секрет похудения. Присмотритесь к своим тарелкам