Представьте, что вы отправляете резюме на вакансию мечты, а ваша заявка отклоняется ещё до того, как её увидит живой человек. Или пытаетесь взять кредит, а компьютер говорит «нет»… без объяснений, просто на основе каких-то цифр в базе данных.

Искусственный интеллект ежедневно принимает решения, влияющие на нашу жизнь: анализирует резюме, одобряет кредиты, формирует то, что мы видим в соцсетях, и даже помогает судам. На первый взгляд кажется логичным, что алгоритмы объективны — у них нет эмоций и личных симпатий. Но вот парадокс: AI не только копирует наши ошибки, он усиливает их во много раз.

Откуда AI знает, что делать

Чтобы научить искусственный интеллект работать, ему показывают огромное количество примеров: тексты, фотографии, истории принятых решений, записи разговоров. Проблема одна: все эти данные созданы людьми. А люди, как мы знаем, не идеальны.

Подумайте сами: если модель учится на резюме успешных сотрудников компании, где на протяжении 20 лет преимущественно нанимали мужчин, что она запомнит? Правильно: что мужчины «подходят» лучше. AI не понимает, что это была несправедливость или исторические обстоятельства. Он просто видит: «О, в этих данных больше мужчин в руководстве. Значит, так должно быть».

То же самое с судебными делами. Если определённые группы людей исторически чаще получали более строгие приговоры, алгоритм будет считать это нормой. Он не ощущает несправедливости, он просто считает.

Как мы «учим» AI дискриминации

Предвзятость проникает в AI на каждом шаге:

• История нас подставляет. Если раньше женщинам реже давали руководящие должности (а это так и было), для AI это выглядит закономерностью: «женщины редко становятся руководителями = женщины плохие руководители».
• Данные могут быть однобокими. Система распознавания лиц, обученная преимущественно на фотографиях европейцев, просто хуже будет распознавать азиатов или африканцев. Не из-за злого умысла, а потому что ей не показали достаточно разнообразных примеров.
• Люди тоже ошибаются. Разработчики выбирают данные, маркируют их, решают, что считать «успехом». На каждом из этих этапов могут прокрасться их собственные бессознательные предубеждения.

Какие предубеждения «ловит» AI

Искусственный интеллект может быть несправедливым по-разному:

• Гендерные стереотипы: для AI «программист» чаще мужчина, а «медсестра» — женщина, просто потому, что в данных такая статистика преобладает.
• Расовые предубеждения: системы оценки кредитных рисков могут давать худший рейтинг людям определённых национальностей, даже если их финансовые показатели одинаковы.
• Дискриминация по возрасту: рекрутинговые AI могут «не любить» старших кандидатов, хотя возраст прямо нигде не указан. Просто алгоритм увидел закономерность: тот, кто окончил университет раньше, якобы менее «успешен».
• Классовые предубеждения: где вы живёте, где учились, ваш почтовый индекс — всё это может повлиять на то, как AI оценивает ваши шансы.

Когда всё идёт не так: реальные истории

Amazon искал сотрудников… но только мужчин

В Amazon решили автоматизировать найм персонала. Задача казалась простой: загрузить в систему резюме всех успешных сотрудников за последние 10 лет и попросить AI найти похожих кандидатов. Проблема? Среди успешных сотрудников было значительно больше мужчин.

Что сделал AI? Он начал автоматически снижать рейтинг резюме, где встречалось слово «женщина» или названия женских колледжей. Система фактически научилась дискриминировать женщин, хотя никто её этому специально не учил.

Amazon разобрался с проблемой и закрыл проект. Но история показала: даже технологические гиганты могут случайно создать дискриминационный AI.

Чат-бот, который стал расистом за сутки

В 2016 году Microsoft запустила в Twitter чат-бота по имени Tay. Идея была проста: пусть общается с людьми и учится на живых диалогах. Звучит невинно, правда?

За 24 часа Tay превратился в расиста и сексиста. Он начал публиковать отвратительные сообщения, которые даже страшно цитировать. Microsoft отключила бота через 48 часов, но урок был усвоен: если AI обучается на необработанном контенте из интернета, он быстро научится худшему, что там есть.

Суды, доверяющие предвзятым алгоритмам

В американских судах использовали системы, которые должны были прогнозировать, совершит ли человек преступление снова. Это казалось полезным инструментом для судей, принимающих решения о досрочном освобождении.

Но исследование ProPublica выявило ужасающую закономерность: алгоритм систематически завышал риски для афроамериканцев и занижал для белых подсудимых. Ошибался по отношению к чернокожим почти вдвое чаще. Почему? Потому что обучался на данных системы, которая сама была расово предвзятой.

AI не был программно расистским. Он просто воспроизводил то, что видел в данных.

Uber повышает цены, когда вам хуже всего

Система Uber использует AI для динамического ценообразования: когда спрос растёт, цены автоматически повышаются. С точки зрения бизнеса это логично.

Но что произошло во время теракта в Сиднее? Люди массово вызывали такси, спасаясь от опасности. Алгоритм увидел: «О, спрос резко вырос!» и поднял цены в 4 раза.

Uber добавил исключения для экстренных ситуаций. Но проблема глубже: динамическое ценообразование делает услугу недоступной для бедных людей именно тогда, когда она наиболее нужна. Это тоже разновидность дискриминации.

Почему нельзя просто «выключить» предвзятость

Кажется очевидным решением: давайте просто удалим из данных информацию о поле, расе, возрасте — и проблема исчезнет! Если бы всё было так просто.

• AI видит скрытые признаки. Даже если алгоритм не знает вашего пола, он может догадаться по имени, университету, хобби в резюме или стилю написания.
• История остаётся в данных. Предположим, женщинам платили меньше за ту же работу, и алгоритм прогнозирования зарплат воспроизведёт эту несправедливость, даже не зная пола кандидата. Он просто увидит: «Люди с такими характеристиками исторически получали меньшую зарплату» и продолжит тренд.
• Объективности не существует. Даже выбор того, что считать «хорошим результатом», — это человеческое решение, полное ценностей. Что важнее: чтобы система была максимально точной или чтобы она была справедливой для всех групп? Разные ответы дают совершенно разные алгоритмы.

Кто теперь отвечает за AI?

После запуска AI Act 1 августа 2024 года ответственность за искусственный интеллект в ЕС распределена на несколько уровней. На уровне ЕС главную роль играет European AI Office — специальный орган при Европейской комиссии, который контролирует и внедряет AI Act, особенно для общих моделей AI. Он работает вместе с European Artificial Intelligence Board (координационный консультативный орган), а также Scientific Panel и Advisory Forum, предоставляющими технические и экспертные рекомендации. Национальные «competent authorities» в каждой стране отвечают за контроль и исполнение правил в своей юрисдикции. Полное применение закона ожидается к 2 августа 2026 года с отдельными этапами и требованиями, уже действующими.

Три роли: кто за что отвечает

Закон делит всех на три категории:

• Поставщики — те, кто создал AI. Они несут основную ответственность за безопасность продукта.
• Развертыватели — компании, которые берут готовый AI и внедряют его в свои продукты. Например, добавляют чат-бота на сайт. Даже если вы сами не писали этот AI, у вас есть обязанности:
  • оценить риски перед внедрением
  • задокументировать, как вы минимизируете эти риски
  • следовать инструкциям разработчика
  • уведомлять клиентов, что они общаются с AI
• Обычные пользователи не несут ответственность за проблемы AI. Если что-то идёт не так, вопрос к поставщику и развертывателю.

Четыре уровня риска

Закон делит весь AI на четыре категории в зависимости от потенциального вреда:

• Минимальный риск: AI, который ничего особенно не решает — генерирует презентации без конфиденциальной информации, добавляет фильтры к фото. Ограничений почти нет.
• Ограниченный риск: различные ассистенты, чат-боты поддержки. Могут влиять на пользовательский опыт, но не принимают важных решений. Главное требование: сообщить пользователям, что они общаются с роботом, а не с живым человеком.
• Высокий риск: AI в медицине, правосудии, образовании, подборе персонала, одобрении кредитов. Такие системы требуют полной проверки перед запуском и постоянного контроля.
• Неприемлемый риск: технологии манипуляции сознанием, социальный рейтинг граждан, массовое наблюдение за людьми. Использовать запрещено.

Если ваш AI «высокого риска»: что делать

• Оценка перед запуском: выявить все возможные риски, задокументировать, как их минимизировать (анонимизация, шифрование), убедиться, что следуете инструкциям разработчика, и только потом запускать.
• Прозрачность: люди должны знать, когда общаются с AI. Можно написать под полем ввода: «Наш чат-бот использует AI для быстрой помощи» или бот может представиться сам в начале диалога.
• Право знать «почему»: если AI принял решение, которое вас касается, вы можете спросить: «Почему меня не идентифицировали? Какие данные проверялись? Что не совпало?»
• Право на человека: если решение AI вам не нравится, вы можете попросить живого оператора. Это критически важно. AI может ошибаться, и человек должен иметь возможность оспорить его вердикт.
• Постоянный мониторинг: настроить один раз и забыть — не вариант. Нужно регулярно проверять работу системы, нет ли сбоев и изменений в поведении алгоритма.
• Обучение команды: люди, работающие с AI, должны понимать, как правильно его использовать, какие ограничения у системы, когда выходят обновления и как их устанавливать, периодически обучаться новому.

NovaTalks: как избежать ошибок AI в контакт-центрах

Несмотря на все вызовы, искусственный интеллект остаётся мощным и эффективным инструментом для контакт-центров, если его правильно внедрять и контролировать. Платформа NovaTalks имеет многолетний опыт внедрения AI-решений для обслуживания клиентов и знает, как избежать типичных ловушек.

Почему AI в NovaTalks работает надёжно:

• Контролируемая среда. В отличие от случаев Amazon или Microsoft Tay, где AI обучался на неконтролируемых данных, инструменты AI NovaTalks работают в чётко определённых рамках. Мы не позволяем системе самостоятельно формировать предубеждения из случайных источников.
• Постоянный человеческий контроль. AI-ассистент помогает операторам в реальном времени: исправляет ошибки, переводит, меняет тон, обобщает разговор. Но окончательное решение всегда остаётся за человеком.
• Прозрачная автоматическая оценка качества. Система анализирует 100% диалогов (в отличие от 5%, которые может охватить менеджер вручную), но не используется для автоматических увольнений или наказаний — это инструмент для выявления проблемных мест, требующих внимания человека.
• Сертифицированная безопасность. NovaTalks подтверждена стандартом ISO/IEC 27001:2022, что гарантирует надёжную защиту всех данных, обрабатываемых через платформу.

Наш опыт показывает: AI может быть справедливым

• Разнообразные данные для обучения: датасеты охватывают разные группы клиентов, регионы, языки и стили общения.
• Регулярный аудит: AI-системы проходят периодическую проверку на наличие предубеждений, анализируется, насколько одинаково хорошо они работают для всех сегментов пользователей.
• Соответствие AI Act: компания соблюдает требования AI Act и несёт полную ответственность за качество и справедливость решений.
• Обучение команды: клиенты и их команды учатся правильно использовать AI-инструменты, понимать ограничения и вовремя вмешиваться.

В NovaTalks AI не заменяет человека, а расширяет его возможности. Чат-боты и автоматические ответы обеспечивают поддержку 24/7, но сложные вопросы всегда передаются живым операторам. Система хранит всю историю обращений и данные клиентов, позволяя предоставлять персонализированный сервис без предубеждений.

BI-система и текстовая аналитика дают объективные инсайты о работе контакт-центра, помогая принимать обоснованные решения.

AI в контакт-центрах может и должен быть эффективным и справедливым. NovaTalks ежедневно это подтверждает, помогая компаниям автоматизировать рутину без риска дискриминации и потери контроля над качеством обслуживания.

Что делать всем нам

Проблема предубеждений в AI — это не баг, который можно быстро исправить. Это вызов, требующий усилий всех сторон.

• Разработчики должны тщательно работать с данными, регулярно проверять системы на предвзятость и привлекать разнообразные команды к созданию и тестированию AI.
• Компании несут ответственность за то, как используют технологии, должны оценивать риски и быть честными с пользователями.
• Регуляторы обязаны устанавливать чёткие правила, которые защищают людей, но не душат инновации.

Если мы хотим, чтобы искусственный интеллект был справедливее нас, недостаточно просто дать ему больше данных. Нужно научить его нашим ценностям, а не только нашей статистике.

AI не может быть объективным, пока мы сами необъективны. Но признание этой проблемы — уже первый шаг к её решению. И этот шаг мы можем сделать уже сегодня.