В США представили правила регулирования дискриминационного ИИ

Американские конгрессмены возобновили усилия по привлечению технологических компаний к ответственности за предвзятость в алгоритмах. Они представили обновленную версию законопроекта, требующего аудита ИИ-систем в таких областях, как финансы, здравоохранение, снабжение жилищем и образование.

Proud to be introducing this much-needed legislation with @SenBooker and @RepYvetteClarke to hold companies accountable for reliance on flawed systems that discriminate against Americans based on age, gender, and race. https://t.co/GKJt5FpMPI

По словам одного из авторов документа сенатора Рона Уайдена, законопроект должен приоткрыть занавес над секретными алгоритмами, которые решают, смогут ли американцы обратиться к врачу, арендовать дом или поступить в школу.

«Если кто-то не сдает вам дом из-за цвета кожи, это абсолютная незаконная дискриминация. Использование ошибочного алгоритма или программного обеспечения, которое приводит к дискриминации и предвзятости, также плохо», — говорится в пресс-релизе.

Законопроект потребует от компаний провести аудит систем искусственного интеллекта и сообщить о результатах в Федеральную торговую комиссию (FTC). Сюда относятся любые решения предприятий, среди которых:

• стоимость, условия и доступность образования;
• трудоустройство;
• основные коммунальные услуги;
• планирование семьи;
• здравоохранение;
• обеспечение жилищем;
• юридические услуги;
• любые другие услуги, программы или возможности, влияющие на жизнь потребителя.

Согласно документу, FTC обязуется обнародовать громкие дела, связанные с алгоритмической предвзятостью. Комиссия также должна создать общедоступную базу данных, где потребители смогут просматривать, какие решения принимаются автоматизированными системами в той или иной компании.

Законопроект поддержали ряд правозащитных групп. Вице-президент организации Color Of Change Ариша Хэтч выразила надежду, что Конгресс примет документ в ближайшем будущем.

Впервые законопроект об алгоритмической ответственности Уайден представил в 2019 году, однако он не проходил слушаний в комитетах ни в Палате представителей, ни в Сенате.

Напомним, в апреле 2021 года Уайден предложил законодательно запретить системы распознавания лиц вроде Clearview AI.

В ноябре конгрессмены представили правила регулирования рекомендательных алгоритмов.

В январе 2022 года в США предложили законодательно запретить таргетинг цифровой рекламы на платформах вроде Facebook и Google.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!