Что такое этика ИИ?
Искусственный интеллект (ИИ) это программа, которая находит закономерности в данных и использует их, чтобы предсказывать или принимать решения. Этика изучает, что хорошо и что плохо. Значит, этика ИИ спрашивает: справедлив ли этот ИИ? Безопасен ли он? Уважает ли людей?
У ИИ нет собственных ценностей. Он повторяет закономерности из данных и следует цели, которую поставили создатели. Поэтому люди, которые создают, обучают и используют ИИ, отвечают за то, что он делает.
Пять главных принципов
- Справедливость: к разным группам людей относятся одинаково.
- Ответственность: за вред отвечает конкретный человек или организация.
- Прозрачность: люди знают, что используется ИИ, и могут узнать, почему он так решил.
- Приватность: личные данные защищены.
- Безопасность: ИИ работает надёжно, и им нелегко злоупотребить.
Предвзятость в данных и алгоритмах
Предвзятость значит, что система несправедливо склоняется в пользу какой-то группы или против неё. Она может появиться тремя путями:
- Предвзятость данных: в обучающих данных мало примеров какой-то группы или они повторяют несправедливые решения прошлого.
- Предвзятость замысла: создатели выбирают цель или признак, который вредит группе (например, почтовый индекс дома как замена способностям).
- Предвзятость применения: инструмент, сделанный для одного места, используют в совсем другом.
Пример: ИИ для найма, обученный на данных о приёме за десять лет, где в основном были мужчины, может научиться ставить женщин ниже. Что делать: собирать сбалансированные данные, проверять результаты для каждой группы, убирать несправедливые признаки и продолжать проверки после запуска.
Приватность и этика данных для ИИ
ИИ нужно огромное количество данных, и многие из них касаются людей: фотографии, голоса, местоположение, здоровье и история покупок. Хорошие правила такие:
- Согласие: чётко спросить, прежде чем собирать данные.
- Минимум данных: собирать только то, что действительно нужно.
- Ограничение цели: использовать данные только для заявленной цели.
- Безопасность: хранить надёжно и удалять, когда они больше не нужны.
Во многих странах есть законы о защите данных, например GDPR в ЕС и закон DPDP 2023 в Индии. Есть и вопрос авторских прав: если ИИ учили на работах художников или писателей без их разрешения, возникают вопросы справедливости и права собственности.
Прозрачность, ответственность и безопасность
Некоторые модели ИИ это чёрный ящик: даже создатели не могут легко сказать, почему получился такой ответ. Объяснимый ИИ показывает главные причины решения, чтобы люди могли его проверить и обжаловать.
Ответственность значит, что отвечает человек. Для важных решений (в медицине, праве, кредитах, экзаменах) предложение ИИ должен проверять человек. Это называется человек в контуре (human in the loop).
Безопасность и злоупотребления: ИИ может уверенно ошибаться («галлюцинации»), с его помощью можно делать дипфейки и ложные новости, и его можно обмануть. Безопасный ИИ тестируют, за ним наблюдают после выпуска, и у него есть ограничения на вредное использование.
ИИ и перемены в обществе
ИИ помогает в медицине (читает снимки), в сельском хозяйстве (предупреждает о болезнях растений), в переводе и доступности (голос для тех, кто не видит). Но он создаёт и проблемы:
- Работа: часть рутинных задач автоматизируется, появляются новые профессии, людям нужно переучиваться.
- Цифровое неравенство: у кого нет устройств, интернета или навыков, те отстают ещё сильнее.
- Природа: обучение больших моделей требует много электричества и воды.
- Слишком большое доверие: люди могут перестать думать самостоятельно.
Оценка влияния на общество для проекта с ИИ: перечислить, кого это касается, что может пойти не так для каждой группы, как измерять справедливость и как люди могут пожаловаться. Лучше всего люди и ИИ работают вместе: ИИ даёт скорость и масштаб, а люди приносят рассудительность, заботу и ценности.
Попробуйте: станьте проверяющим справедливости
На последнем шаге 3D-модели поставьте число оранжевых примеров 2, потом 5, потом 8. Запишите долю ДА для каждой группы. При какой смеси разрыв самый маленький? Дома: откройте любое приложение на телефоне и найдите его настройки приватности. Какие данные оно собирает? Согласились бы вы отдать всё это?
Главные формулы и определения
- Предвзятость: несправедливые данные или замысел дают несправедливые результаты
- Разрыв справедливости = доля ДА у группы A − доля ДА у группы B
- Согласие: разрешение, чётко данное до сбора данных
- Объяснимый ИИ: ИИ, который показывает причины своего решения
- Человек в контуре: человек проверяет решения ИИ
- Дипфейк: поддельное видео, изображение или голос, созданные ИИ
Разобранные примеры
1. ИИ для разблокировки по лицу работает у 99 из 100 светлокожих пользователей, но только у 90 из 100 темнокожих. В чём проблема и как её исправить?
Шаг 1: доли ошибок 1% и 10%, значит, для одной группы система менее точна. Шаг 2: это предвзятость, скорее всего из-за обучающих данных, где слишком мало тёмных лиц. Шаг 3: исправление: добавить гораздо больше разных лиц в обучающие данные и перед выпуском проверять точность отдельно для каждой группы.
2. ИИ для найма говорит ДА 60 из 100 мужчин и 30 из 100 женщин с одинаковыми оценками. Найдите разрыв справедливости.
Доля ДА у мужчин = 60%. Доля ДА у женщин = 30%. Разрыв = 60 − 30 = 30 процентных пунктов. Большой разрыв при одинаковых оценках показывает, что ИИ несправедлив, и его надо исправить до использования.
3. Школа хочет использовать камеры с ИИ, чтобы отмечать посещаемость по лицу. Назовите две этические проверки.
1. Приватность и согласие: сообщить ученикам и родителям, получить разрешение, надёжно хранить данные о лицах и потом удалить их. 2. Справедливость и ответственность: проверить, что система работает для каждого ученика, и дать учителю исправлять ошибки, а не доверять ИИ полностью.
Частые ошибки
- Думать, что ИИ нейтрален, потому что он машина. Он копирует закономерности из данных, в том числе несправедливые.
- Верить, что больше данных всегда убирает предвзятость. Больше таких же несбалансированных данных сохраняет предвзятость.
- Обвинять сам ИИ. Ответственность лежит на людях и компаниях, которые его создают и используют.
- Считать, что уверенный ответ ИИ верен. ИИ может уверенно ошибаться, поэтому важные факты надо проверять.