Этика ИИ: актуальность вопроса

30/10/2023

Российский ИТ-вендор «Инферит» подписал Кодекс этики в сфере искусственного интеллекта и присоединился к основным акторам в области ИИ в России. Альянс в сфере искусственного интеллекта объединяет ведущие технологические компании для совместного развития их компетенций и ускоренного внедрения искусственного интеллекта в образовании, научных исследованиях и в практической деятельности бизнеса.

Кодекс ИИ

Кодекс этики в сфере ИИ, разработанный Альянсом, представляет собой единую систему рекомендательных принципов и правил, предназначенных для создания среды доверенного развития технологий искусственного интеллекта в России. Он адресован государству, представителям науки, разработчикам, бизнесу и пользователям. В числе задач кодекса – снизить риски неэтичного использования ИИ, нарушающего права и интересы человека, и создать инструмент взаимодействия по вопросам этики ИИ для всех, кто создает, внедряет или использует технологии искусственного интеллекта.

Василий Гурьев, директор «Инферит ИТМен»: «Присоединение "Инферит" к Альянсу в сфере искусственного интеллекта открывает для нас возможность активно участвовать в формировании будущего ИИ в России. Сотрудничество и обмен опытом между участниками сообщества станут катализатором для разработки востребованных инновационных ИТ-продуктов в России».
Дмитрий Баранов, директор «Инферит ОС»: «Инициатива Альянса – это важный шаг для укрепления доверия и создания основ для взаимовыгодного сотрудничества между участниками рынка. Мы рады присоединиться к инициативе Альянса, это позволит нам быть в эпицентре отраслевых изменений, слушать, учиться и делиться своими разработками с коллегами. Подписывая Кодекс этики Альянса в сфере ИИ, мы подчеркиваем свою приверженность прозрачным и этичным практикам в разработке и применении технологий искусственного интеллекта».

Вопросы этики

Когда мы говорим об этике ИИ, важно говорить и о безопасности его применения. Некоторые исследователи, эксперты, представители корпораций со всего мира считают, что ИИ несёт риски. Созданную ИИ информацию стало сложно отличать от реальных фотографий – и даже жюри престижных фотоконкурсов на это не способны. Видео и тексты также сложно отличить от подделок. Джеффри Хинтон, «крёстный отец» нейросетей, заявил, что со временем подобный контент наводнит интернет. ИИ-технологии, как и любые другие технологии в принципе, повлияют на рынок труда. Поэтому дизайнерам, видеографам и копирайтерам уже сейчас важно осваивать новые инструменты – нейросети могут стать их соавторами, а не заменой.

Изображение выглядит как природа, вода, жара, на открытом воздухеАвтоматически созданное описание
«Снимок с дрона», сгенерированный компанией Absolutely Ai – победитель фотоконкурса

Один из главных вопросов, связанных с ИИ, касается работы беспилотного транспорта.

Эта отрасль развивается быстрыми темпами. Если в технологическом конкурсе DARPA Grand Challenge в 2004 году ни один робот-автомобиль не преодолел трассу в 230 км (лучший результат – 11 км), то уже в 2005 году беспилотный автомобиль прошёл 211,8 км по пустыне Мохаве и забрал приз в 2 млн долларов. Сейчас в Ясенево работают беспилотные такси от «Яндекс», а X5 Group производит коммерческие перевозки с помощью беспилотных грузовиков по трассе М-11 между Москвой и Санкт-Петербургом.

Если говорить о трассе М-11, то важно отметить, что до неё и после за рулём – водитель. Технологии позволяют свести риски к минимуму при отсутствии пешеходов и других неожиданностей, хотя и в зимнем городе могут вполне успешно «вести» автомобиль без участия водителя.

Тем не менее, дорожно-транспортные происшествия с участием беспилотных автомобилей уже не раз случались – и даже смертельные. В 2016 году энтузиаст электрокаров Джошуа Браун погиб в аварии, когда ехал на автопилоте в Tesla: машина не увидела белый фургон в солнечный день.

В 2018  году автомобиль Uber сбил 49-летнюю женщину, переходившую дорогу с велосипедом в неположенном месте. Расследование показало, что автомобиль определил препятствие и должен был использовать аварийный тормоз – но этот тормоз был отключен. В 2018 году случилось сразу две аварии Tesla за один месяц – во время одной из них машина была на автопилоте, и водитель скончался в больнице в результате столкновения.

ИИ в автомобиле может ошибаться. Но кто будет виноват? Кто будет нести ответственность – компания-производитель авто, разработчик системы автономного управления, водитель? В случае с Элейн Херцберг вина была на женщине – всё-таки, не стоило так неаккуратно переходить дорогу ночью в неположенном месте.

Если пока отложить вопрос ответственности, возникает следующая дилемма – «дилемма вагонетки». Как автопилот должен выбрать, кем жертвовать в случае аварии, а кого спасать в первую очередь – водителя или пассажира, пешехода или людей на остановке и так далее. Массачусетский технологический институт предлагает пройти тест, в котором каждое новое задание даёт всё более сложный выбор. Например, в машине может быть ребёнок, а на дороге – беременная женщина.

И это всего два из множества этических вопросов, решить которые требуется для запуска беспилотного транспорта по всему миру.

Дилемма теста: убить пассажиров или совершить смертельный наезд на пешеходов

Вернёмся к искусственному интеллекту, который не управляет транспортом или роботами, а выполняет роль инструмента в различных системах. Например, ИИ подбирает кандидатов на работу, опознаёт людей по лицу и отслеживает их передвижение по камерам, следит за безопасностью на дорогах. И здесь важно избежать предвзятости.

Amazon несколько лет назад запустила ИИ для поиска сотрудников. Компании пришлось отказаться от системы, потому что она подбирает специалистов-женщин реже, чем мужчин. Причина в том, что тренировали её по выборке сотрудников Amazon за 10 лет – и мужчин там было больше.

А в 2018 году выяснилось, что алгоритм системы судейства определял для афроамериканцев большую сумму залога, чем в случае с другими подозреваемыми.

Изображение выглядит как графический дизайн, Графика, одежда, искусствоАвтоматически созданное описание

Правительства стран внедряют стратегии развития ИИ, новые нормативные акты для регулирования вопросов, связанных с этой технологией. В России действует «Национальная стратегия развития искусственного интеллекта на период до 2030 года» и «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года».

Крупнейшие корпорации, а также разработчики в области ИИ, объединились в Альянс в сфере искусственного интеллекта. Альянс разработал Кодекс, в числе подписантов которого – Сбер, Яндекс, ВКонтакте, МТС, Ростелеком, Росатом, РФПИ, Газпромнефть, Университет Иннополис, Сколтех, Фонд Сколково, Softline Digital.

В октябре 2023 года российский IT-вендор «Инферит» присоединился к профессиональному сообществу акторов ИИ, приняв этот Кодекс.

Рекомендуем

Вызовы, инновации и клиентский опыт

Вызовы, инновации и клиентский опыт

Вызовы, инновации и клиентский опыт

В область ответственности продакт-менеджеров входит абсолютно все, что связано с клиентским опытом: от первых взаимодействий с рекламой или первого звонка продавца до многолетнего партнерства с заказчиком. СРО «Инферит Облако» Виталий Ранн рассказал о том, каким должен быть современный продакт-менеджмент в мире облачных технологий, и какими принципами стоит руководствоваться в работе.

Читать
Подробнее
Василий Гурьев: «Как наша система предиктивной аналитики станет спасательным кругом для российских производителей “железа”»

Инферит ИТМен

Василий Гурьев: «Как наша система предиктивной аналитики станет спасательным кругом для российских производителей “железа”»

Инферит ИТМен

Василий Гурьев: «Как наша система предиктивной аналитики станет спасательным кругом для российских производителей “железа”»

В интервью Геннадию Белашу, главному редактору издания IT News, Василий Гурьев, директор «Инферит ИТМен», объясняет, как решение по предиктивной аналитике, разработанное на базе платформы «Инферит ИТМен», помогает российским производителям техники предлагать услуги и продукты того же уровня, к которому привыкли их клиенты.

Читать
Подробнее
"Знание ценностей, потребностей и целей российских компаний — одно из наших преимуществ"

Инферит Техника

"Знание ценностей, потребностей и целей российских компаний — одно из наших преимуществ"

Инферит Техника

"Знание ценностей, потребностей и целей российских компаний — одно из наших преимуществ"

Мы в «Инферит» создаём экосистему продуктов, позволяющих создавать и развивать надёжную, устойчивую и при этом гибкую ИТ-инфраструктуру. О «железной» составляющей нашей линейки продуктов, о важности технической поддержки и о других услугах рассказал Евгений Козлов, директор «Инферит Техника».

Читать
Подробнее