На прошлой неделе Vice опубликовал обзор стартапов, предлагающих сборщикам долгов инструменты на основе искусственного интеллекта. Журналисты издания обнаружили, что коллекторская индустрия уже активно продвигает GPT-4 как «антиутопический новый способ заставить заёмщиков платить».
Все разработчики ПО для коллекторов преподносят свои продукты в типично маркетинговом стиле и весьма оптимистично. Например, Skit.ai пишет на своём сайте, что ИИ «изменит сбор долгов навсегда» и перенесёт отрасль в «новую эру взыскания долгов». Стартап продвигает своего цифрового голосового агента, который способен совершать миллион звонков в неделю и вести с должниками «динамичные отзывчивые разговоры».
SmartAction, ещё один диалоговый продукт ИИ, похожий на Skit, предлагает сбор долгов, помогающий «смягчить негативные чувства, которые клиенты могут испытывать по отношению к человеку во время неудобной ситуации». Latitude от стартапа Genesys «устраняет пробелы в функциональности, снижая нагрузку на агентов». Katabat обеспечивает «полную многоканальную оркестровку, настоящее машинное обучение» и «мощный механизм стратегии сбора». TrueAccord использует «ведущую в отрасли платформу для восстановления и сбора данных, основанную на машинном обучении и удобном цифровом интерфейсе», и даже способен проявлять признаки сострадания. Arrears.com, платформа цифрового сбора долгов, интегрирует GPT-3 и планирует внедрять GPT-4, считая, что с ним процесс будет «более персонализированным, эффективным и эмоционально интеллигентным».
В Vice опасаются, что поспешное и необдуманное использование алгоритмических систем и искусственного интеллекта в таких «чувствительных областях», как финансы и кредит, может привести к непреднамеренным предвзятости и ошибкам, у которых могут быть серьёзные последствия. Журналисты напоминают о скандале, которые разразился в 2016 году в Австралии. Тогда правительство автоматизировало систему взыскания долгов и попыталось вернуть мнимую переплату социальных пособий за несколько лет. В результате почти 400 тыс. наиболее уязвимых граждан оказались должны государству 721 млн австралийских долларов. После социального взрыва и вмешательства правозащитных организаций, средств массовой информации и юристов правительству Австралии пришлось выплатить 1,2 млрд австралийских долларов по коллективному иску от пострадавших. Кризису Robodebt (так называлась программа, используемая для взыскания долгов) посвящена большая статья в Википедии и множество публикаций в массмедиа.
Vice приводит мнение эксперта, старшего юриста Национального центра права потребителей Одетт Уильямсон, которая убеждена, что «прежде чем внедрять подобные ИИ-инструменты, необходимо убедиться, что эти модели статистически обоснованы, тестируются на каждом этапе разработки, а также когда они развернуты… но если они демонстрируют дискриминационные или предвзятые результаты, и это невозможно исправить, то их просто не следует использовать».
Издание напомнило, что в конце апреля Бюро финансовой защиты потребителей (CFPB) выпустило совместное заявление с Министерством юстиции США, Федеральной торговой комиссией и Комиссией по равным возможностям в сфере занятости и пообещало бороться с дискриминационной практикой, возникающей в результате использования автоматизированных систем и угрожающей финансовой стабильности граждан. Во время подготовки статьи журналисты Vice связались с представителем CFPB, но он уже не смог подтвердить, что системы взыскания долгов на базе ИИ вызывают особую озабоченность его ведомства.
