Выбор за человеком. Этический кодекс для искусственного интеллекта

26 октября 2021 года в Москве на Международном форуме «Этика искусственного интеллекта: начало доверия» крупнейшие технологические компании России приняли Кодекс этики в сфере искусственного интеллекта. Технологии искусственного интеллекта делают жизнь человека проще, но из-за новизны и быстрого распространения этих технологий, многие начинают сомневаться, в действительности ли машины на нашей стороне? Предполагается, что Кодекс повысит доверие общества к решениям искусственного интеллекта.

Многое в мире человек создал по подсмотренным в природе механизмам. Так произошло и с искусственным интеллектом. В то время как человеку необходимо время на изучение задачи, ему мешают эмоции или просто нужно автоматизировать какие-то процессы в целях экономии личного времени, искусственный интеллект может взять принятие решения на себя. С чем может быть связано недоверие к искусственному интеллекту?

Вопросы этики

Если машина может обучиться каким-то алгоритмам по выполнению простейших действий, то в вопросах этики всё намного сложнее, особенно в критических ситуациях, когда действие зависит от результата быстрого анализа сразу нескольких сложившихся обстоятельств.

Один из ярких и наиболее известных примеров этичного выбора – проблема вагонетки. Философ Филиппа Фут в 1967 году сформулировала мысленный эксперимент о том, какой выбор сделает человек, если у него всего два доступных варианта. На примере трамвая на ходу, какую колею выберет человек, если на пути трамвая с одной стороны один человек, а с другой пять. Будет ли жизнь одного человека менее ценна, чем жизнь пятерых? Далее многие философы продумывали всё более невероятные сценарии, где человеку требуется сделать выбор. Например, по рельсам едет быстро несущаяся вагонетка с привязанными пятью людьми. Единственный способ остановить её – преградить путь чем-то большим, а рядом только вы и человек большой комплекции. Столкнёте ли вы его на пути, чтобы спасти пятерых? А если вы знаете, что этот человек – злодей, который и привязал несчастных?

Теперь «проблему вагонетки» предстоит решить искусственному интеллекту, только уже на примерах, более близких к реальной жизни. Несколько лет назад исследователи Массачусетского технологического института (MIT) представили тест, в котором любой желающий может поставить себя перед сложным моральным выбором, ощутить себя на месте искусственного интеллекта – беспилотной машины. Кто погибнет при внезапно вышедшей из строя тормозной системы машины: пожилые люди, которые переходят дорогу на красный цвет светофора на пути машины,  или она свернёт на другую сторону, где в положенное время переходят дорогу мужчина и маленький мальчик? Искусственный интеллект предпочтёт врезаться во внезапно возникшее ограждение на пути, тогда погибнут пассажиры самой машины: трое  мужчин и одна девочка, или свернёт на дорогу, где в неположенное время переходят дорогу трое пожилых мужчин и пожилая женщина? А далее задачи идут на усложнение и с добавлением социального статуса и видовой принадлежности. Например: выживут собаки или кошки, беременная женщина, женщина-врач или другие? После которых человек может задуматься, а действительно ли он захочет садиться в машину, когда в экстренной ситуации, вероятно, машина выберет не его жизнь, а жизнь другого?

Эти ситуации только кажутся невероятными, но настоящими «вагонетками» современности в действительности могут оказаться беспилотные автомобили. Так большую огласку по всему миру получила ситуация, когда беспилотный автомобиль Uber в 2019 году насмерть сбил женщину, которая переходила дорогу в неположенном месте. Это ДТП стало первым в истории, когда человек умер при наезде беспилотного автомобиля.

Доверять или не доверять?

Человечеству не впервой с опасением относиться к технологическим новшествам. Как минимум потому, что сейчас время четвертой промышленной революции. Напомним, ранее человек уже прошёл через переход от ручного труда к машинному, освоил электричество, сделал возможным повсеместное использование компьютеров, мобильных телефонов, создал роботов. Невозможно утверждать, в каких именно промежутках времени происходили эти промышленные революции, ведь страны развиваются разными темпами, но сейчас почти перед всем миром стоят вопросы четвертой промышленной революции. В повестке автоматизация систем, большие данные, облачные технологии и использование технологий искусственного интеллекта.

Технологии искусственного интеллекта уже сегодня позволяют распознавать автомобильные номера, помогают в поимке преступников, распознают сомнительные операции банковских карт, доставляют обеды и посылки, помогают найти наилучший подход к лечению пациентов.

Искусственный интеллект активно встраивается в нашу жизнь, а иногда и спасает. Голосовой помощник Siri, который способен распознавать речь человека, помог спасти своего владельца от переохлаждения. В 2019 году США мужчина потерял управление автомобилем во время пересечения пустыни. Получил травму, в результате чего не мог пошевелиться, но вовремя вспомнил, что может голосом обратиться к мобильному приложению Siri на его смартфоне. Так пострадавший смог вызвать спасателей.

Ранее делегирование машинам каких-то задач было лишь чем-то фантастическим и невероятным, но сейчас всё больше задач человек может передать своим цифровым помощникам, предполагая, что они справятся с этим даже лучше, особенно, когда дело касается больших данных.

Совсем недавно в Москве на каждой станции метрополитена стало возможным оплачивать проезд с помощью Face Pay, предварительно прикрепив свои данные к банковской карте и карте «Тройка». Трудно представить человека, который мог бы «сканировать» взглядом большой пассажиропоток и безошибочно определять баланс карт. Для человека эта задача была бы явно невыполнимой. К тому же, для проезда жителям российской столицы не обязательно контактировать с турникетами, что становится потенциально хорошим решением для пользователей метро во время пандемии. С другой стороны, многие начинают задаваться вопросами безопасности их личных данных, хотя разработчики и уверяют в надёжности шифра.

С искусственным интеллектом связывают и опасения людей в том, что многие профессии могут стать невостребованными. Так произошло в корпорации Microsoft. Как пишет Афиша Daily, компания уволила 77 журналистов после того, как решила заменить их искусственным интеллектом.  А ранее Сбербанк (теперь Сбер) после внедрения ИИ сократил 70% менеджеров среднего звена.

Но есть два аспекта, которые вселяют надежду на востребованность человека в мире будущего. Первый: по-прежнему трудно создать настолько "сильный" искусственный интеллект, который повторил бы интеллект человека, был способен решать разноплановые задачи, которые не вписываются в рамки каких-то определённых навыков одной профессии, решить такую задачу, которую ранее не удавалось. Если это и станет возможным, то, вероятно, у нас есть в запасе год-другой, чтобы адаптироваться к изменениям, пока все эти алгоритмы будут пытаться уместить в мощный суперкомпьютер. Второй: искусственный интеллект создают люди с той целью, чтобы он помогал нам, а значит, то, как далеко мы зайдём в области развития искусственного интеллекта, зависит только от нас, и именно мы регулируем деятельность искусственного интеллекта и его зону ответственности в соответствии с наилучшими для нас самих вариантами.

Этический кодекс

Этический кодекс в России появился по предложению президента страны. В декабре 2020 года он призвал сообщество по развитию искусственного интеллекта разработать внутренний морально-нравственный кодекс. Почти через год такой кодекс предоставили.  Его разработал Альянс в сфере Искусственного интеллекта при поддержке аналитического центра при Правительстве РФ, Минэкономразвития России в соответствии с положениями Национальной стратегии развития искусственного интеллекта до 2030 года. Перед публикацией кодекс прошёл широкое экспертное и публичное обсуждение с участием разработчиков, представителей бизнеса и органов государственной власти.

Этический кодекс могут подписать желающие компании по принципу добровольности. На сегодняшний день его уже подписали Сбер, Яндекс, VK, Росатом, Газпром-нефть и другие крупные бизнес и образовательные организации. Предполагается, что кодекс будет ориентиром для развития технологий искусственного интеллекта, что поможет обеспечить доверие к нему со стороны общества, так как искусственный интеллект в соответствии с кодексом – на стороне человека.

Во время презентации кодекса в ТАСС Дмитрий Чернышенко, заместитель председателя Правительства РФ, привёл пример, что по результатам опроса жителей США, Германии, Австралии, Канады и Великобритании – искусственному интеллекту не доверяют 72% опрошенных; по данным ВЦИОМ, среди жителей России процент тех, кто опасается искусственного интеллекта значительно ниже.

«Ключевой вопрос, который мы видим: как сделать технологию полностью надёжной и подконтрольной. В России достаточно высокий уровень доверия к искусственному интеллекту. По данным ВЦИОМ, 48% россиян доверяют искусственному интеллекту. Конечно, мы будем работать над тем, чтобы уровень доверия рос. Но, конечно, есть и те, кто ни за что не будут доверять искусственному интеллекту. Такие люди будут оставаться всегда и задача государства сделать так, чтобы у граждан всегда была возможность обходиться без «навязываемых» услуг», – говорит Дмитрий Чернышенко.

Кодекс распространяется на аспекты создания, внедрения и использования технологий искусственного интеллекта на всех этапах его жизненного цикла, которые в настоящее время не урегулированы законодательством Российской Федерации и/или актами технического регулирования. Главное в нём: гуманистический подход.

Как сообщает Российская газета, Россия одна из первых в мире сформулировала пять рисков и угроз, которые сопровождают внедрение "цифры" в жизнь, - дискриминация, потеря приватности, потеря контроля над ИИ, причинение вреда человеку ошибками алгоритма, применение в неприемлемых целях. Все они включены в принятый "Кодекс этики искусственного интеллекта" как угрозы правам и свободам человека.

«В ответ на риски кодекс утвердил основные принципы внедрения ИИ – прозрачность, правдивость, ответственность, надежность, инклюзивность, беспристрастность, безопасность и конфиденциальность. Принципы трансграничны и наднациональны, поскольку Россия играет активную роль в развитии наднационального этического регулирования ЮНЕСКО. Другое дело, что, приняв российский кодекс этики ИИ, мы будем требовать от иностранных IT-платформ и соцсетей соблюдения российского законодательства. У нас есть инструменты для работы с иностранными сервисами, хотя надеемся найти точки этического согласия. Поиску их алгоритмов кодекс этики ИИ, верю, поможет», – приводит цитату Дмитрия Чернышенко РГ.

Компании, которые «подписались» на кодекс, должны осознавать ответственность при создании искусственного интеллекта и не использовать технологии ИИ для причинения вреда жизни и здоровью человека. Ответственность за последствия применения искусственного интеллекта, согласно кодексу – всегда за человеком.

Источники:

1. В России подписан кодекс этики ИИ. Российская газета
2. Кодекс этики в сфере ИИ. Альянс в сфере искусственного интеллекта
3. Международный форум "Этика искусственного интеллекта: начало доверия". ТАСС
4. Области практического применения искусственных нейронных сетей. NeuroPro
5. Проблема вагонетки. Википедия
6. Раскрыта тайна смертельного наезда беспилотника Uber. Российская газета
7. Эксперты работают над Кодексом этики искусственного интеллекта. Аналитический центр при Правительстве РФ
8. Этические и правовые вопросы искусственного интеллекта. Российский совет по международным делам
9. Siri и "Алиса" — искусственный интеллект? А чат-бот на сайте? Что входит в это понятие? ТАСС
10. Siri спасла жизнь пользователю iPhonе.  belnaviny.by
11. Microsoft уволила почти 80 журналистов и заменила их искусственным интеллектом. Афиша Daily
12. Perkins, Kate. (2020-06-06) Incident Number 127. in McGregor, S. (ed.) Artificial Intelligence Incident Database. Partnership on AI. Retrieved on October 28, 2021. incidentdatabase.ai  
13. Источник фото на главной странице: habrastorage.org